Музей находится в историческом центре города на Соборной площади, в бывшем доме купцов Алянчиковых – памятнике архитектуры XIX столетия. Исторический центр Касимова – "музей под открытым небом". С древних времен Соборная площадь являлась административным, деловым и торговым центром, сердцем русской части города, именно здесь сосредоточена большая часть купеческих усадебных комплексов. Архитектурное оформление площади было разработано местным архитектором-самоучкой И.С. Гагиным в начале XIX века и сохранилось до наших дней без существенных изменений.
На Соборной площади находятся:
Недалеко от музея, на улице Советской: