Гренадеров вскоре перевели в Санкт-Петербург, а их место в казармах в марте 1832 года занял лейб-гвардейский Уланский Его Императорского Высочества Великого Князя Михаила Павловича полк. Как и гродненские гусары, в то же время въехавшие в соседние Селищи, уланы до Муравьев квартировали в Варшаве — и контраст между столицей Царства Польского и новгородской глубинкой не мог быть более разительным. «Новый штаб явился пред уланами в виде нескольких казарменных зданий однообразной и скучно-правильной постройки, брошенных среди голого пустыря, на совершенно диком берегу мутного Волхова… Кругом, ни вблизи ни вдали, не видать было никакого жилья, ни одной избушки, на которой, ради разнообразия, мог бы отдохнуть взор», — напишет позже в своей истории полка Всеволод Крестовский. В «муравьевский» период в полку служил поэт Афанасий Фет и «дедушка русского романса» композитор Николай Титов, а штаб посещали император Николай I и его сын, будущий император Александр II. В Муравьях полк оставался до 1863 года, пока не отправился подавлять очередное восстание в Польше, где так и остался в Варшаве, в своих старых казармах.

После ухода полка Муравьевские казармы пришли в запустение, а в июле 1873 года и вовсе случился пожар, не пожалевший манеж и церковь. Наконец, в 1879 году в казарменный комплекс въехала 1-я запасная артиллерийская бригада, которая восстановила и церковь, и казармы, да и порядок в целом. В 1891 году здесь размещается 2-й батальон 88-го пехотного Петровского полка и 24-й летучий артиллерийский парк. В 1894 году тут квартируют еще и две батареи 4-го мортирного артиллерийского полка. Последние вновь наводят порядок, даже отливают из стреляных гильз новые колокола для отстроенной звонницы. В 1899 году в здании гауптвахты открыли военно-практическую телеграфную станцию «Муравьевские казармы».