现如今，在元氏县殷村镇故城村一带，有一座古代城垣的遗址，这里曾经是两汉时期常山国的都城，也称常山郡故城遗址。
公元前年，因为赵惠文王的长子、赵孝成王的长兄公子元管理此地，所以称这里为“元氏”。不过，赵公子元最初居住的地方是封照村，在封龙山的南侧。后来由于交通不便，不利于管理，又搬到了现在故城村的位置。因为故城村南有金水河，取水方便，地势也较为平坦，建起城池来也更为方便。
公元前年，秦国统一了全国，实行郡县制，元氏当时属于恒山郡的管辖范围，恒山郡就是现在石家庄长安区东古城村的位置，历史上东垣古城的所在地，也是今天正定的前身。
汉高祖三年，也就是公元前年，在韩信扫除了赵氏的残余势力后，刘邦将恒山郡郡治从东垣古城迁移到今元氏故城一带，设恒山郡。管辖周边十八县：元氏、石邑(今鹿泉)、灵寿、九门(今藁城九门)、井陉、房子(今高邑、赞皇、邢台临城各一部分)、平棘(今赵县)、鄗(今高邑东部、宁晋、柏乡各一部分)、关(今栾城)等。
汉文帝刘恒元年，即公元前年，为避汉文帝刘恒名讳，改恒山郡为常山郡，简称“常山”。公元前年，立汉景帝刘启之子刘舜为常山王，常山郡升格为常山国。治所仍在故城，但辖区扩大到22个县域。
不过由于刘舜和他的儿子刘勃，生活奢靡挥霍无度，在汉景帝去世以后，新登基的汉武帝派大外交家张骞来到元氏城，查办刘勃。从此，常山国降格为常山郡。翌年，即公元前年，封常山王刘舜另一子刘平为真定王，常山郡又改真定国，不久又改常山国。
公元4年，王莽篡汉，又改常山国为井关亭，治所虽仍在故城，但已是亭治。公元41年，中山王太后之子刘辅封中山王，食常山郡，常山郡遂并入中山国。是年汉鸿儒李躬在封龙山收徒讲学。并上书朝廷称光武帝刘秀的贵妃阴丽华（即光烈皇后）曾在元氏万年村生下皇子刘庄（即汉明帝），应该给予元氏优待于是，朝廷下旨免去了元氏田租更赋六年，并封刘庄子刘眙为常山王，此地仍改常山国，而刘庄出生地，改称万年村，沿用至今。
并且在公元年，朝廷下令修缮常山国多处。公元年，又刻石《祀三公山碑》立于故城西边“八都神庙”处。一直到公元年晋朝的初年，常山郡的治所才由元氏故城北迁真定。故城改为元氏县治。
公元约——年的隋唐初期，元氏治所也由故城南迁至今天的卧牛城。在县治迁移期间，留下了许多动人的传说（如金牛献图等）。
元氏故城的常山郡故城遗址历经秦、汉、晋、隋、唐、宋、元、明、清，至今约有余年的历史，在后来的挖掘中，遗迹内遍布汉代陶器、瓦当、陶鬲、豆颈瓦残片，均以绳纹、蓝纹为多。年又采集到汉代虎纹砖，“常山长贵”瓦，云纹瓦等遗物多件。
年，南水北调工程本来要经过遗址这里的，由于考虑到其珍贵的文物价值和丰厚的汉代文化遗存，工程为之改线。多年的文化遗址得以完整保留。年，国务院正式公布常山郡遗址为国家级重点文物保护单位。
