«Повесть временных лет» упоминает ладожскую крепость под 862 годом. Призванный на княжение Рюрик со своей дружиной построил здесь деревянные укрепления, в которых пробыл около двух лет. В 1970-е годы археологи обнаружили остатки стены из известняковых плит. Некоторые предполагают, что это, возможно, фрагмент крепости, построенной в конце IX — начале X веков, при вещем Олеге.

Ладога издревле была «пригородом» Новгорода, то есть подчиненным ему городом, а Ладожская крепость служила щитом для Новгородской земли со стороны Балтики. В саге об Олаве Трюггвасоне упоминается норвежский ярл Эйрик, который в 997 году захватил и сжег крепость на Ладоге, но ее быстро восстановили. Строительство новых каменных укреплений началось в 1114 году, когда в Новгороде княжил Мстислав Владимирович. Согласно летописи, крепость заложил посадник Павел — назначенный из Новгорода правитель Ладоги.