Dla Żydów Jerozolima jest nie tylko stolicą Izraela, lecz także domem wszystkich Żydów rozproszonych po świecie. Jakże pamiętny jest ustęp z Psalmu 137:5: „Jeśli zapomnę cię,Jeruzalem, niech uschnie moja prawica”. Każdy paschalny sederrównież kończy się nakazem, iżby nie zapominać o Jerozolimie. W trakcie modlitwy Żyd winien zwracać się ku tej stronie świata, gdzie leży Jerozolima, powinien też odbyć pielgrzymkę do Świętego Miasta, zwłaszcza w okresie święta Namiotów, Paschy i Szewu’ot. Dziewiąty dzień hebrajskiego miesiąca aw jest dniem postu i żałoby po zniszczeniu Świątyni.
Jerozolimscy Żydzi reprezentują wszystkie grupy etniczne i odgałęzienia wiary. Ci Żydzi jednak różnią się od innych tym, iż zdecydowali się zamieszkać w najświętszym mieście judaizmu. Powrót do Syjonu dla wielu Żydów jest nie tylko powrotem do Izraela, lecz także do Jerozolimy. Religijni Żydzi zdobyli w Jerozolimie olbrzymie wpływy. Nie można jednak postrzegać ich jako jednorodnej społeczności, nawet pomimo ich wyglądu: bród oraz czarnych płaszczy i kapeluszy. Także bowiem i ortodoksyjni Żydzi należą do wielu różnych grup, które powstały w Europie w XVI wieku. Ultraortodoksyjna Naturie Karta nie uznaje nawet państwa Izrael. Jednakże pozostałe ortodoksyjne grupy czynnie uczestniczą w życiu politycznym współczesnego Izraela i mają swych przedstawicieli w Knesecie.
Sprawy rodzinne podlegają jurysdykcji sądów rabinackich, natomiast codzienne sprawy religijne podlegają jurysdykcji Religijnej Rady Jerozolimy. W szkołach religijnych wykłada się przedmioty świeckie, ale ortodoksi uczą się na ogół w szkołach prywatnych. Odłamy reformowany i konserwatywny nadal nie zostały zaakceptowane przez religijne autorytety, aczkolwiek ich liczebność stale wzrasta. Żydzi świeccy stanowili niegdyś większość w żydowskiej Jerozolimie, ale ich udział stopniowo maleje, albowiem rodziny religijnych Żydów bywają na ogół bardzo liczne.
Dzielnica żydowska rozciąga się na obszarze przylegającym do Ściany Zachodniej. Kamienne bloki tej ściany licowały zachodni skraj platformy, na której wznosiła się Świątynia. Od dawien dawna dziewiątego dnia hebrajskiego miesiąca aw pod Ścianą Płaczu odbywa się święto upamiętniające zburzenie Drugiej Świątyni. Podczas szabasu w piątkowe wieczory i w soboty przy Ścianie Płaczu gromadzą się tłumy wiernych. Po lewej od Ściany Płaczu znajduje się Łuk Wilsona, fragment rampy, która wiodła z obszaru Świątyni na drugą stronę doliny Tyropeonu. Z drugiej strony do dziedzińca przed Ścianą Płaczu przylega rampa prowadząca do Bramy Maurów, która otwiera się na obszar Świątyni. Ortodoksyjnym Żydom nie wolno wchodzić na obszar Świątyni, aby przypadkiem nie zbezcześcić debiru (Miejsca Świętego Świętych).
Rozpoczęta w 1967 roku odbudowa żydowskiej dzielnicy umożliwiła przeprowadzenie zakrojonych na wielką skalę wykopalisk archeologicznych.
To, co dzisiaj zwane jest Szerokim Murem, odkryto w 1969 roku. Został on wzniesiony prawdopodobnie w 701 roku p.n.e. przez Ezechiasza z obawy przed inwazją asyryjskiej armii Sennacheryba. I rzeczywiście w 701 roku p.n.e. Sennacheryb, spacyfikowawszy Babilon, przystąpił do uderzenia i zmusił Ezechiasza do uiszczenia wielkiej daniny, skutkiem czego musiał on opróżnić skarbiec Świątyni. Nieco dalej na północ odkryto wieżę obronną, wzniesioną prawdopodobnie w II wieku p.n.e. przez królów hasmonejskich, przyłączoną do starszej, izraelickiej wieży, która przypuszczalnie została zniszczona przez Babilończyków w VI wieku p.n.e.
Znaleziska archeologiczne przechowywane w Spalonym Domu są świadectwem zniszczenia Jerozolimy przez Rzymian w roku 70, podczas pierwszego powstania żydowskiego. Możliwe, że dom ten należał do rodu Kathros, ponieważ wśród ruin znaleziono ceramiczną wagę z tym imieniem. W dzielnicy herodiańskiej odnaleziono wiele zabytków, na podstawie których możemy wyrobić sobie pogląd, jak wyglądało życie bogatych mieszkańców Jerozolimy. Znaleziska te stanowią trzon ekspozycji Muzeum Archeologicznego Wohla. Domy były urządzone z wielkim przepychem: wiele ścian udekorowano wspaniałymi malowidłami, a podłogi ozdobiono wyszukanymi mozaikami. Wiele przedmiotów nie uległo zniszczeniu. W piwnicach zasobniejszych domostw mieściły się łaźnie oraz mykwy. Bogaty wystrój i urządzenia łaźni pozwalają przypuszczać, iż mieszkał tu arcykapłan Świątyni.
W trakcie prac wykopaliskowych przeprowadzonych po 1967 roku odkryto bizantyjski cardo maximus. Został on częściowo odrestaurowany, by mógł pełnić funkcję swego rodzaju muzeum na świeżym powietrzu. Obecnie można podziwiać to piękne miejskie założenie architektoniczne: arkada wsparta na potężnych kolumnach chroniła wschodnią stronę szerokiego chodnika. W czasach bizantyjskich cardo maximus ciągnął się na południe aż do kościoła Nea, wówczas największej świątyni chrześcijańskiej w Jerozolimie, a wybudowanej za panowania cesarza Justyniana i poświęconej w roku 543.
Ruiny XII-wiecznego kościoła Najświętszej Marii Panny Łacinników są główną atrakcją ogrodu archeologicznego. Odsłonięte również ruiny synagogi Hurwa i synagogi Rambana, pochodzących z XIII wieku, kiedy Jerozolima miała zaledwie 2000 mieszkańców. Słynny uczony żydowski, Mojżesz ben Nachman, znany również jako Ramban, wzniósł synagogę, która nosi jego imię. Synagoga ta, kilkakrotnie burzona, obsługiwała garstkę żydowskich mieszkańców i pielgrzymów. W 1948 roku synagoga Hurma została wysadzona w powietrze przez Arabów. Odbudowano ją dopiero w XXI wieku. Żydzi sefardyjscy nadal modlą się w XVII-wiecznym kompleksie czterech synagog, które odbudowano w 1967 roku. Synagogi te zbudowano pod powierzchnią ziemi między innymi zapewne dlatego, aby uniknąć konfliktu z muzułmanami.
