国民政府定都南京以后，开始制订《首都建设计划》。当时有人提出以“大柏林、大伦敦、大纽约、大东京”为蓝本，主张在金陵古城外择地重新建设一个新的都市。1928年，南京国民政府聘请美国著名建筑师墨菲为建筑顾问，由清华留美学生吕彦直为其助手，同时成立首都建设委员会，由孙科负责。1929年12月31日正式公布的《首都建设计划》提出，按照国外的模式，对城市实行功能分区：紫金山南麓为政治区，傅厚岗一带为市级行政区，长江两岸为工业区，主干道两侧和明故宫、新街口一带为商业区，鼓楼一带为文教区，山西路一带为新住宅区。这是南京城市开发建设史上第一部正式的设计文件。

同时，在1928年为迎接孙中山灵柩，开辟了从下关中山码头起，穿过市中心，再向东到中山门的中山大道，全长12公里，沿途的路、桥、城门，都以“中山”命名。这样，又形成了南京市区又一条新的中轴线。民国时期兴建的干道，至今仍是城市道路网的骨架。1929年决定了首都道路命名办法：城南道路，以南京旧称建康、金陵、白下等命名；城中道路，以国内大城市北京、上海、广州等命名；城北道路，以全国各省省名，如山西、湖南、察哈尔等命名。现在，还是使用这些路名。

尽管当时的南京已建成了一些较现代化的城市主次干道，但是在集中全市人口三分之二的城南地区，除少数几条交通干线外，在小街小巷和棚户区，仍旧保留着明清时代的道路。沿路的桥梁也多是明清时代所建造的木桥和石桥，由于年久失修，损坏情况也很严重。位于人口稠密地区的夫子庙文德桥，因为传说中秋节在桥上赏月，能够看到秦淮河中有两个月亮，以致节日期间桥上人群拥挤，曾多次发生倒坍事故，死伤甚众，所以南京有“文德桥的栏杆——靠不住”的民间谚语。

按照《首都建设计划》，国民政府又在新建的干道两侧，陆续修建了一批中西合璧的政府部、院办公楼等豪华的公共建筑，同时将山西路以西，西康路以东，草场门以内辟为新住宅区。所谓新住宅区，里面的住户大都是些达官贵人。到南京解放为止，在这个新住宅区内，建有花园洋房9265幢，宫殿式房屋25幢。

总的来说，1927年至1937年，南京在城市布局、社会风貌等方面都有所改观，突破了自明清以来的城市格局，初步呈现出现代都市的面貌。