Góra Oliwna znajduje się tuż za doliną Cedronu, przez którą jej stok graniczy ze Starym Miastem Jerozolimy. W Starym Testamencie, w Księdze Ezechiela (11:23) czytamy: „I uniosła się chwała Jahwe ze środka miasta, i zatrzymała się na górze, która jest na wschód od miasta”; zaś u Zachariasza (14:4): „Jego nogi staną w owym dniu na Górze Oliwnej, która leży naprzeciwko Jeruzalem od wschodu, tak że Góra Oliwna rozpadnie się w środku na wschód i na zachód, tworząc wielką dolinę. Połowa góry cofnie się na północ, a druga połowa na południe”.
Na Górze Oliwnej znajduje się olbrzymi cmentarz żydowski. Tam także rozegrało się wiele wydarzeń w ostatnim tygodniu życia Jezusa. Na szczycie Góry Oliwnej stoi kaplica upamiętniająca miejsce wniebowstąpienia, czterdzieści dni po zmartwychwstaniu. Nie opodal, w miejscu, gdzie Jezus nauczał swych uczniów, jest kościół Paternoster. Na Górze Oliwnej znajdowała się również wioska Betfage, gdzie Jezus czynił przygotowania przed przybyciem do Jerozolimy i gdzie Jego uczniowie znaleźli oślicę i oślę. Miejsce, w którym Jezus płakał nad Jerozolimą, upamiętnia franciszkański kościół Dominus Flevit. Najbardziej malowniczym kościołem na Górze Oliwnej jest cerkiew Świętej Marii Magdaleny z siedmioma złotymi kopułami. Na Górze Oliwnej leży również ogród zwany Getsemani, gdzie Jezus został wydany oprawcom przez Judasza. Nie opodal Ogrójca (Getsemani) stoi kościół Grobu Marii; miał tam być grób Marii, jej rodziców Anny i Joachima oraz Józefa. Na północ od miasta wznosi się góra Skopus, gdzie znajduje się założony w 1925 roku Uniwersytet Hebrajski oraz inne budynki pochodzące z tamtego okresu, a także wybudowany w roku 1981 kampus. W latach 1948-1967, kiedy góra Skopus przeszła w ręce wojsk jordańskich, uniwersytet działał na kampusie Giwat Ram, na zachód od Jerozolimy.