Wspaniały budynek muzeum posiada równie wspaniałą kolekcję antyków. Wszystkie artefakty, będące w posiadaniu Muzeum Rockefellera, odkryte zostały w Ziemi Świętej w czasie okresu mandatu brytyjskiego. Muzeum Archeologiczne Rockefellera jest świadectwem bogactwa cywilizacji, które odegrały dużą rolę w historii (i prehistorii) ziemi.
Muzeum powstało dzięki Jamesowi Henry’emu Breastedowi, założycielowi i dyrektorowi Instytutu Orientalnej Uniwersytetu w Chicago, który podczas podróży do ówczesnej Palestyny w 1925 roku, był przerażony faktem, że Jerozolima nie posiadała własnego muzeum archeologicznego.
Zwrócił się on o pomoc do amerykańskiego filantropa żydowskiego pochodzenia Johna D. Rockefellera, Juniora, który przekazał 2 miliony dolarów na realizację projektu muzeum.
Miejsce wybrane pod siedzibę muzeum mieści się w północno-wschodniej części Starego Miasta przy ulicy Sułtana Sulimana. W momencie otwarcia Muzeum w 1938 roku zostało ono oficjalnie nazwane Muzeum Archeologicznym w Palestynie, ale nawet wtedy było powszechnie znane jako Muzeum Rockefellera.
Podczas sześciodniowej wojny w 1967 roku, gdy izraelscy żołnierze zdobyli wyróżniający się z otoczenia swoją bryłą budynek i przystosowali jego wieże na punkty obserwacyjne. Gdy tylko Izrael zakończył działania wojenne i wzmocnił swoją kontrolę wschodniej Jerozolimy, Muzeum zyskało wspólną administrację ze strony Muzeum Izraela i Urzędu Starożytności Izraela, który utrzymuje również swoje główne biura w budynku.
Najstarszy artefakt w Muzeum Rockefellera liczy sobie ok. 2 milionów lat.
Pośród eksponatów zauważalne są także oryginalne VIII-wieczne drewniane panele z meczetu Al-Aksa i XII-wieczne marmurowe nadproża z kościoła Grobu Świętego, a także znaleziska z miast: Lachish, Aszkelon i Megiddo.
