Казанский собор был возведен в 1879–1882 годах по проекту московского архитектора Александра Каминского (1829–1897), ученика Константина Тона, который был автором проекта храма Христа Спасителя в Москве. Для постройки было решено изготавливать собственный кирпич, но выступивший подрядчиком купец Василий Китайцев, взявшийся за устройство кирпичного завода, оказался недобросовестным: получив задаток в размере 7 тыс. рублей, он изготовил необожженный кирпич, негодный к постройке. При содействии Путятина этот кирпич был продан с аукциона, а недостающую сумму князь компенсировал общине из собственных средств. 7 июля 1880 года на оконченный снаружи собор были поставлены 19 крестов, самый большой из которых, весом в 320 кг, был установлен на высоте 55 метров.