Храм задумывался как ковчег для одной из самых почитаемых на Руси икон Богоматери — Смоленской. После перенесения в Смоленск из Чернигова иконы Богоматери Одигитрии
был заложен в 1101 году первый Успенский собор. В XV веке икона ненадолго оказалась в Москве, но в 1456 году ее вернули обратно в Смоленск. Сделанный с нее список остался в столице и был помещен в собор Новодевичьего монастыря, который с тех пор посвящен Смоленской иконе. Когда при Борисе Годунове Смоленск был опоясан грандиозными крепостными стенами (архитектор Федор Конь), царь велел в 1602 году сделать список с иконы и поместить его над главными воротами крепости — Фроловскими, у моста через Днепр.