平谷老城，为金代大约在东汉故城基础上所建。距今已有八百余年历史，老城在城市布局上，呈标准的方形城池，大致东西1里，南北1里城中有东西向大街，东为东门大街，直通东门
西为西门大街，直通西门南部即是南门大街，直通南门北门大街直通北门，没有东西、南北相交的十字主干大街，主要是南北二街东西有些错位所致，现在城区的东部高处，城墙遗址尚存
这些年来，平谷城区一直向西发展，所以老城街道、胡同等格局基本未变，老城作为这个城市最初的，发展起源，成为平谷不容抹掉的记忆原点。
刘秀开创东汉王朝，设渔阳郡，平谷为渔阳郡所辖九县之一。县治迁于今平谷老城处。北魏郦道元《水经注》载：“（泃）水出右北平无终县西山白杨谷。西北流迳平谷县，屈西南流，独乐水入焉。水出北抱犊固，南迳平谷县故城东。后汉建武元年，光武遣十二将追大枪五幡及平谷，大破之于是县也。其水南流入于泃。泃水又东左合盘山水，水出山上，其山峻险，人迹罕交。去山三十里许，望山上水，可高二十余里，素湍皓然，颓波历溪，沿流而下，自西北转注于泃水。泃水又东、南迳平谷县故城，东南与洳河会。……洳水又东南流迳平谷县故城西，而东南流注于泃河。”
晋初省平谷县，后复置，北魏太平真君七年（446），至金时，一直未在复置。唐时平谷地区为大王镇，唐代北边七镇之一。辽时依然称大王镇，镇址已无从查考，不排除利用东汉故城旧址的可能。
辽天显十一年(936)辽太宗耶律德光取燕云十六州。辽重熙十一年（1042）七月八大灵塔在今平谷老城塔儿胡同处营建，至重熙十三年（1044）四月建成。明弘治初年（1488—1494年左右），平谷县人张襘、张禴两都宪髫年时，二人闲步郊外，其兄襘见野花满地，偶成一联云：“野外黄花金钉钉地。”弟禴遥瞩城郭即对曰：“城中白塔玉钻钻天。”工对绝伦，一时传为佳话。清康熙十八年（1679）旧城八大灵塔因地震倒，虽经重葺，据说“因捐资艰窘，未能修复原状”。民国二十三年（1934）《平谷县志》载“平邑县治西北隅现存之塔，其上截曾经颓圮。系因其旧基而重修者，高三丈余，非如其旧。塔高出城头，势凌霄汉，为一邑之杰观也。”1961年9月夏末，八大灵塔因建房而拆去。1984年8月，塔儿胡同施工中发现“大王镇罗汉院建八大灵塔记”碑。
从金大定二十七年（1187），至明成化丁亥年（1467），这280年间，平谷老城为土城。明成化丁亥年始修砖城，自此始，前后共5次修城。为明嘉靖元年（1522）第二次修城。明嘉靖四十三年（1564）第三次修城，清乾隆三十六年（1771）年第四次修城，民国九年（1920年）第五次修城。1945-1946年，平谷老城城墙拆毁。现仅存东南方向城墙的土质基础，作为遗址进行保护。
明嘉靖四十三年（1564）第三次修城，“城旧高二丈二尺，增筑五尺，俾益崇。又于城四门各树以楼匾，其东曰挹盘，西曰拱辰，南曰迎泃，北曰威远，城隅增铺舍四。又浚其隍丈余，沿堑悉植以柳。当四门之冲，置便桥焉。”而今，四门楼匾的北门“威远门”石匾尚存，其余不知下落。
元至元年间（1264～1294），元世祖忽必烈定都北京（元大都）以后，就建北京孔庙。其初衷，是蒙古族统治者入主中原，以此笼络尊崇孔子及儒家学说的汉人学士，进而巩固元朝统治。平谷孔庙与儒学，亦应建于此时。旧志记载，平谷孔庙初建时“浅狭卑陋”，后多倾废，明、清两代多重建修葺：儒学在县治南，建于元至元间。明成化五年，知县郭铭重修。随后，明嘉靖二年(1523)、嘉靖四十年(1561)、万历六年(1578)等又进行重修。至清代，乾隆二十七年(1762)、嘉庆丙子年(1816)、道光三十年(1850)及光绪十六年(1891)等先后重修。民国年间，孔庙大致格局为坐北朝南，以夫子不南面于礼为不称，或非王礼也。平谷文庙经过1976年7月大地震破坏，至20世纪80年代初建筑物已荡然无存，现原址为平谷第二中学校址。
这些年来，平谷城区一直向西发展，所以老城街道、胡同等格局基本未变。其中一条胡同的名字由来传说还被列入北京市非物质文化遗产名录，这就是仁义胡同。相传明朝时，金尚书、倪尚书的亲戚住在这里，两家只一墙之隔。一年夏天下大雨，泡倒了院墙。修墙时两家因墙基发生争执，各不相让，就都想到了京城做官的亲戚，各自修书，请为自己撑腰。两位尚书接到书信，便马上回复，不曾想内容竟然一样：百里捎书为堵墙，让他一墙又何妨？万里长城今犹在，不见当年秦始皇。两家人见信都觉得十分惭愧，主动道歉，握手和好。修墙时，各自主动让出一墙之地，于是形成这条五尺宽的胡同，行走至今。而邻里见状，无不称赞，从此把这条胡同叫仁义胡同，其礼让行为，一直影响着乡里。
平谷八景之一“泃水晚渡”，在今平谷镇东寺渠庄南，旧有寺渠渡，原渡口处建有寺渠桥。民国二十三年（1934）《平谷县志》“卷一·地理志·交通”记载：“渡口，东河渡、杨各庄渡、鹿角庄渡、寺渠渡、周村渡、岳各庄渡，以上各渡口春冬有桥梁以济行人，夏秋山水涨发时则撤去，以便舟楫往来。”民国王兆元所编《平谷县志料》载：“泃水晚渡，在县西南二里，寺渠庄南之泃河航路由此起运，通天津、唐山一带，又为赴北平必须经过之大路。”