平遥旧称古陶城,古陶得名于陶唐氏,即唐尧。始建于西周宣王时期,春秋时属晋,战国属赵,秦置平陶县,汉置中都县,是汉朝宗亲代王的都城,于北魏时改名平遥。
明初为抵御北元及鞑靼等少数民族而建城。洪武三年,在旧城基础上进行扩建并包砖。此后的景泰,正德,嘉靖,隆庆,万历等朝均对其有不同程度的修葺并增设敌楼。
清康熙四十三年,因其西巡路径平遥而再次得到扩建,增设了四面大城楼,使得其更加气派。