При Александре I Новоселицы стали центром 4-го округа военных поселений. Строительство в деревне началось в 1822 году. Корпуса возводились по проектам разных архитекторов, в том числе Василия Петровича Стасова (1769–1848). В центре поселения был устроен большой прямоугольный плац, который окружали корпуса. Одной из самых крупных построек в Новоселицах стал кавалерийский манеж, в проектировании которого участвовал инженер-генерал Лев Львович Карбонье д’Арсит (1770–1836). Это было просторное светлое помещение с аркадами по сторонам и кессонированным потолком. Рядом с манежем была возведена церковь, а по бокам от него располагались казармы, в которых проживал резервный батальон, и госпиталь. Двухэтажные корпуса для офицеров были построены из красного кирпича. Для приезжающего начальства было выстроено отдельное одноэтажное здание с колоннами.

В 1820–1831 годах поселение занимал гренадерский Наследного Принца Прусского полк. А 15 мая 1834 года по указу Николая I в Новоселицах открылся кадетский корпус, в котором могли бы воспитываться сыновья местных дворян. Финансирование таких корпусов предполагалось за счет пожертвований губернского дворянства. В случае Новоселиц главным благодетелем стал владелец усадьбы Грузино, генерал от артиллерии и еще совсем недавно самый могущественный человек в России, граф Алексей Андреевич Аракчеев, который внес в Имперскую сохранную казну 300 тыс. рублей, чтобы на проценты от этих денег воспитывались ученики корпуса. В 1866 году Новгородский графа Аракчеева кадетский корпус был переведен в Нижний Новгород, а его место в Новоселицах занял 87-й пехотный Нейшлотский полк, дислоцировавшийся здесь вплоть до начала Первой Мировой войны. Дальше здания были отданы Аракчеевскому военному госпиталю, который оставался здесь до 1921 года.