Јерусалим лежи на висини брда Јудиних (Пс 87,1), тачно на 760m надморске висине и око 25km северозападно од Мртвог мора. Кречњачки плато јужног подручја пада према југу, и пресеца га данас већ потпуно претрпана градска долина (Ел-Вад, код Јосифа Флавија "Долина справљача сира", грч. "Тиропеон") у правцу север-југ. На источној страни лежи брдо Офел (920m) и Храмовно брдо (772m). Унутар града могу се тако опазити разлике у висинама. Од околних брда, у правцу запад-југ Јерусалим раздваја Еномова долина, а од Маслинске горе (изнад 800m) Кидронска долина. Иако Јерусалим има добре саобраћајне везе у свим правцима, пут са севера према југу дуж вододелнице, а и пут од Јерихона преко Вет-Орона за приморску равницу, мимоилазе градско насеље. Значај Јерусалима није у његовом географском положају, него у томе што га је Господ рекао: "Ту ће бити име моје" (1 Цар 8,29; Пс 68,17). Од животног значаја за сваки град је снабдевање водом. Једини непресушни извор код Јерусалима био је Гион у Кидронској долини, данас назван "Маријин извор". Био је повезан с градом Јевусеја (Јерусалимом) тунелом којим се силазило степеништем до извора. Касније је његова вода захватана најпре површински, а још касније цар Језекија ископао је тунел који је одводио воду у јужни део града, у тзв. Силоамску бању. На месту на којем се састају Еномова и Кидронска долина лежи дубински бунар "Рогел" или "Жичани бунар", данас Бир Ајуб (Јовов бунар). До бунара су допирале цистерне, које су скупљале зимску кишницу са падина Маслинске горе источно од града. Још у време пре Римског Царства, саграђена су два водовода, који су воду из извора Етамског из Соломоновог језера, југозападно од Витлејема, спроводили до Храма на удаљености већој од 12km. Најстарији Јерусалим, јевусејски град Јевус или Гора Сион (2 Сам 5,7), који је упркос једном израиљском освојењу остао јевусејски (Суд 1,8,21), лежао је на југоисточном брду над извором Гион. Имао је четири капије (врата) и захватао је подручје од 3 хектара. Од када га је Давид освојио, назван је "Давидов град" (2 Сам 5,9). Цар је обновио кружне зидове (2 Сам 5,9; 1 Дн 11,8). Соломон је проширио Јерусалим према северу, припојивши му подручје Храма и двора (9ha) и Милон. Уз то, он је ојачао још једном зидине северног града (1 Цар 3,1; 9,15,24). У доба царева град се још једном проширио (за 9ha) према северозападу; то је онај "други крај" или "нови град" (2 Дн 22,14; Соф 1,10). Зидине и куле поново су ојачане (2 Дн 26,9; 27,3; 32,5; 33,14), али осим проширења ради заштите бања (извора) на југу, до прогонства и робовања Јевреја у Вавилону, Јерусалим није био прошириван. У ово доба, Јерусалим су освојили и пљачкали (-925) фараон Сисак (1 Цар 14,25) и (-843) Филистејци и Арабљани (2 Цар 12,18; 2 Дн 24,23). Израиљски цар Јоас оборио је зид између капије на југу и Јефремове капије (-792) дужине 400 лаката (2 Цар 14,13). Сенахирим је узалуд опседао Јерусалим (-701)(2 Цар 18-19). Асирци одовде цара Манасију у заробљеништво (после -648) (2 Дн 33,11); Фараон Нехаон (Нехо) заузима град (-609) (2 Дн 36,3). Навуходоносор га је двапут заузимао (-605 и -597) (Дан 1,1; 2 Цар 24,10) пре него што га је после двогодишње опсаде коначно разорио (-587) (2 Цар 25). Поновна изградња града започета је 538. године пре Христа.

Године 63. пре Христа, римски војсковођа Помпеј освојио је Јерусалим, а 40. године пре Христа пао је у руке Парћана, пре него што га је Ирод Велики заузео 37. године пре Христа. Под његовом владавином, град је доживео нови процват. Храм је из темеља обновио, преуредио је макавејску тврђаву Варис (североисточно од Храма) у кули Антонија и подигао дворац на западној страни града. Овај дворац био је касније резиденција римског намесника који би у Јерусалим долазио ο великим празницима, са четом војника да одржавају ред; тако су се, највероватније, овде налазиле Судница (Преторија) и Гавата. Ирод Антипа је био смештен у хасмонејском дворцу, на источној страни. Последње проширење, за око 30 хектара, Јерусалим је доживео под Иродом Агрипом I. Он је озидао предграђе Визету са тзв. "Трећим зидом", али је био присиљен да под римским притиском обустави радове пре него што је зид био готов. Претпоставља се да је то данашњи северни зид или да су то остаци зида, пронађени на 500m даље ка северу. У Јудејском рату град је потпуно разорен (70), но само један део западног зида и три моћне куле при Иродовом дворцу Тит је оставио као знак победе. После другог јудејског устанка (132-135), цар Адријан је на рушевинама подигао пагански град, Колонија Елија Капитолина, у коме је саградио храм паганском богу Јупитеру, који је тамо остао све до времена Константина Великог. 638. године, Арапи освајају Јерусалим.