临沂琅琊古城的建设始于公元前492年，这是根据古代文献《春秋》的记载，当时的鲁国为了防御强大的晋国，在16年内修建了8座城池，其中包括启阳（今临沂市兰山区）1。然而，关于琅琊古城的重建和扩展工作，历史上还有多次重要的建设事件。
东汉时期，琅琊国的国王刘京将国都从莒县迁移到开阳城，并将其更名为琅琊12。
在西晋末年，琅琊古城曾是琅琊王司马睿的潜邸2。
到了明代，沂州指挥周德和知州张凤分别主持了对琅琊古城的建筑和增筑工作2。
1587年，知州谢志伊主持对古城的四个城门进行了整修，并在城门上增添了城门楼2。