在上海南市区小北门大境路一带，可看到一座残庙遗址和城墙颓垣残迹，这里就是今天被保存下来的一段上海古城墙。吊古怀旧，可以知道上海"筑城"和"拆城"的一段历史。

上海设县始于元代至元二十九年（公元1291年），明代中叶，上海商肆发达、人口稠密，沿江一带船舶往来，成为南北货物的集散中心。江浙沿海地方不断出现倭寇偷袭骚扰，仅在嘉靖三十二年四至六两个多月间，连续5次遭到倭寇大洗劫，烧杀掳掠、焚毁民房，县市几将半成焦土，损失极其惨重。

在此紧急时刻，只有建造城墙防御，才能保障县民生命和财产安全。就在这年九月动工，昼夜不停，到十一月仅3个月时间便修筑完成。城周长9里、高2丈4尺，设6处城门，即“朝宗门”（大东门）、“宝带门”（小东门）、“跨龙门”（大南门）、“朝阳门”（小南门）、“仪凤门”（西门）；“晏海门”（北门）。另辟三处水门，分别跨在肇嘉浜和方浜之上。城上开有3600多个雉堞，两座敌楼。环城开掘城壕长150余丈，广6丈，深1丈7尺，外与黄浦江、内与大小河浜全线贯通，通接湖汐。自此以后，倭寇多次来犯，直逼城下，却始终没能侵入城池。可见，明代的城垣维护了上海的安全。