汝州城是一座古老的城池，建于何时，现无可靠资料说明。据《汝州市志》“建置章”记述：“汝州公元329年（东晋末）属冉魏，改梁县为南汝原（今县城）”。可知汝州古城池的兴建，应在公元329年之前。初建时为土城，明成化年间方改建成砖城。有当时在京兵礼部作官的汝州人张维新《次易公阅新汝城韵》诗为证：晚楼凭落照，新堞接云平。杯引千山月，槊横五字城。明公倡是雅韵，太守裕贤名。异日甘棠思，兼垂不朽名。
汝州城位于宛洛大道上，东控襄邓，西扼伊洛，地理位置颇为重要。汝州城南临汝水，西靠洗耳河，易守难攻，自古为军事要地。
汝州城基本上是正方形，周长为9里13步，属中等规模。城垣路即是原来的东城墙；洗耳路即为西城内马道，其西侧（今汝州中心汽车站处）即为西城墙；南城墙即今二五跃进渠北岸，二五跃进渠系原来的南城壕；北城墙在今广城路南约50米处，现有北城门遗存。东、南、北三面均有城壕，壕深一丈，围护城池。西城由城下的洗耳河自然围护。东城壕有水，南北城壕为干壕。东城壕的水源于城东北角外石岗村南的沟里。沟底和两岸壁有无数细小如香的小泉，汇聚而成小流，流向城东北角的低洼处，形成水潭，再沿城壕南流入汝河。
城墙高四丈，外沿之上有城堞（即城墙垛）。城四角均有炮楼，为战争需要，北城墙上另又加筑炮楼数个。城内环城均有马道，为向守城军士传递信息和命令之用。
汝州城原来只有东、西、北三门，明弘治年间复修时为便民出入，又辟南门。四门皆筑有瓮城（亦称月城），上复重楼，东、西城楼为三滴檐，南北为两滴檐。四门皆不居中，东、西两门偏南，约为南三分之一处。南门居南城墙的东三分之一地，北门更偏，距西城墙仅约50米。
汝州城只有东、西、南三关。北城门外一直几乎无人居住，只有五六户人家，故而没有形成北关。东关街长约3里，东端有两滴檐阁楼，名为“来青阁”（在现在的东关街与东环路交接处西坡下）。传说新官来汝上任多由东门入，首先进入的自然是东关，其名寓有来者都是清官之意。阁内榜曰“有孚楼”。“孚”者，信用，诚实，使人信服也，可能寓有所来官员都是让人信服，不负众望之仕。阁内北侧建有官厅，供州官迎送来汝官员，或每年立春时州官到关外田里作象征性耕地，并迎春牛入城时休息之用。官厅旁为祖师庙，对面为戏楼。东关街中段（后毛庄口西）也有阁楼一座，也有两滴檐。西关街长约2里许，西端有两滴檐阁楼一座，因上边敬的是关云长，故群众称为“关爷阁”。南关古时为南阳至洛阳的大道，因而居住人多，较为繁华，店铺林立，街道整齐，清同治元年筑寨，有东、西、南三面寨墙，北面为城墙。有寨门3个，东寨门外为东城护城河，向南延伸部分有一石桥，名曰“玉虎桥”，桥的南北两面分别有石刻龙头、龙尾，栩栩如生。西寨门的石刻寨榜曰“宣义”，寨门外是洗耳河，因水不大，故无桥。
汝州城有大小街道72条，有纵有横，经纬交织。东西走向的主要有中大街、南后街、北街、县前街、玉带街、地母庙街、塔寺街、前火神庙街、后火神庙街、节妇寺（祠）街、东关街、西关街、南关东西街等。南北走向的主要有南大街、黉门堂街、仓巷街、城隍庙街、老二门街、青龙街、张公巷街、南关南街、北门里街等。
中大街两端连结东西门，纵贯全城，是城内最重要、最繁华的街道，长近3里，宽约6丈，两边有高出街面2尺许、宽约4尺的人行道，街道两边店铺紧连，鳞次栉比。街道上人来人往，熙熙攘攘，车水马龙，热闹非凡。中大街出东门与东关相接，出西门过洗耳河与西关街相连，人称十里长街。北街亦贯通全城，与中大街等宽，但居住人口较少，北侧北门里街口以西，丹阳观（今中粮宾馆处）以东均无房舍。南侧居住人家更少，只有将台（今汝州镇卫生院处）以东、塔寺（今法华旅社）以西有人居住，其余均为耕地。北街以北，除北门里街沿街两旁有人居住外，均为空地。仓巷街向北，过节妇寺（祠）街、北街，与北门里街衔接，直通北门。黉门堂街与老二门街在中大街交汇，形成十字街，老二门街向北延伸同北街相接。青龙街、张公巷街南与中大街相交，向北延伸与北街连接。南大街北与中大街相交，向南出南门同南关街相连，直通南关南寨门，中间与南关街东西街相交，形成南关的十字街。县前街位于州衙前，东与青龙街、西与老二门街相连，再与其它街道沟通。其它尚有许多小街小巷或胡同（亦称“拐”），纵横交织，如同蛛网。
汝州的治所州署（即政府）建于东大街东段北县前街与玉带街之间（今纺织品公司、城关食品厂处）。州署西侧有花厅（即花园），园内花木扶疏，是州署办公人员休息消遣之处。州署东中大街北侧修建钟鼓楼一座，用以报时报警。向东不远为察院（今外贸公司处），为上级官员来汝办案办公之所。
察院东对过是四县公馆（原工具厂处），系汝州所辖鲁山、宝丰、郏县、伊阳（今汝阳）等4个县的招待所。
汝州历史悠久，城内古建筑较多。十字街西北侧有文庙、学宫（今汝瓷博物馆、文化局处）。文庙亦称孔庙，是州官和士绅祭礼孔子的场所。学宫又叫黉学，是生员和秀才们学习和聚会的地方。汝州的文庙没有开正门（因无状元出现），临中大街的正门（即大成坊）前建一大影壁，出入皆由东侧的学宫大门通过。
文庙西有城隍庙（今望嵩南路城建局处）。城隍是管理城市的神，很受敬重。城隍庙规模颇宏，大门开于中大街（今望嵩南路与中大街接合处），高约两丈余，西阔3间，进深两间，飞檐挑角，两边有“八”字形短墙，上附筒瓦。门中两边有千里眼、顺风耳两神的泥塑，门两旁有大型狮子一对。门内为甬道，直通庙门（即不久前拆除大阅楼）。庙内供有城隍、阎君，还有十八层地狱的泥塑，形象逼真，阴森恐怖，用以教化百姓，再往西是关帝庙。
东门里张公巷口东有青石坊，街口西有红石坊。青石坊为明万历年间进士丁尧相的坊，红石坊为明万历年间进士张维新的坊。地母庙街有地母庙（今市兽医院处）。塔寺街有法华寺和法行寺塔（今法华旅社后）。北街东段北侧有丹阳观、太皋宫、吕祖庙（今中粮宾馆处）；往西有财神庙（今党校处）；再往西是府君庙（今群艺馆处）有南禅寺。火神庙街有火神庙，杏花坛街有点将台（今汝州镇卫生院病房处），传为杨六郎在此点将出征。城东南角上有文峰塔。洗耳河西岸西关街南有许由庙、巢父井。东关有泰山庙。南前有山陕庙（即山陕会馆）等。其它尚有张公祠、滕公祠、二程祠等，不再一一赘述。以上建筑随着时代的变迁，有的毁得早，有的毁得晚，多已不复存在，只有法行寺塔和文庙得以保留下来。
