平遥县衙博物馆始建于元至正六年，也就是公元1346年。除少数是元代建筑外，大部分为明万历年间修建。按传统礼制，县衙是一城的主宰，应建在城市的中心，但平遥县衙却建于城的西南角，因为这里是全城高的地方，居高临下控制全城，也便于防止水淹。

与我们常见的博物馆有所不同，平遥县衙博物馆是以建筑格局的存在形式来演示历史和文化的特征。

县衙坐北朝南，中轴线上六进院落。依次分别是大门、仪门、大堂、二堂、三堂和大仙楼，共占地两万六千平方米，房屋二百余间，是中国现存的明清时期县衙的典型建筑。明清时期，共有149任知县在这里为官。

中国历代以来，土地、赋役、户籍、诉讼等国家的政务，终依托于地方来处理。因此，作为基层行政机构的县衙，无疑是古代中央集权制的缩影。