Город имел четкую планировку, проявившуюся в системе пересекающихся прямых улиц, так называемых «дорог процессий». Однако кварталы между этими улицами были застроены, как правило, беспорядочно. Через весь город с северо-запада на юго-восток проходила главная улица, которая соединяла храм бога Мардука с главными воротами города, посвященными Иштар. Сейчас эти ворота, облицованные синими глазурованными кирпичами, находятся в Пергамон-музее в Берлине.
В Новом Вавилоне было более 50 больших и маленьких храмов. Среди них выделялся семиярусный зиккурат Этеменанки — знаменитая вавилонская башня, «Дом основания неба и земли». Высота этого храма, в последний раз восстановленного при Набопаласаре и Навуходоносоре II, превышала 90 м. Всего вавилонскую башню выстраивали заново не менее 5 раз. До наших дней от этого сооружения сохранился только фундамент.
Другим не менее знаменитым вавилонским зданием были Висячие сады Семирамиды, которые древние греки считали вторым из семи чудес света. Предание гласит, что это строение было возведено по приказу Навуходоносора IIдля его любимой жены-мидянки, скучавшей в непривычной для нее пустынной равнине, окружавшей Вавилон. В начале XX века немецкая археологическая экспедиция раскопала мощный фундамент Висячих садов. По-видимому, наземная часть этого сооружения представляла собой сложную конструкцию из стен или столбов в несколько этажей, на которых были расположены террасы с оранжереями, куда при помощи специальных устройств подавалась вода из Евфрата.