Невзирая на это досадное происшествие, А. И. Остерман-Толстой сознавал, что его вынужденное бездействие не могло быть продолжительным. Военная гроза неумолимо надвигалась на Россию. «Кто не жил в ту эпоху, тот знать не может, как душно было жить в это время», — писал П. А. Вяземский. По дорогам Западной Европы двигались к границе России «большие батальоны», которые до сих пор были «всегда правы». В предстоявшей борьбе не на жизнь, а на смерть, мог найти себе место каждый, кому дорого было Отечество.
И вот настал 1812 год, «памятный для каждого русского, славный опасностями, тяжкий трудами».
С началом весны из Петербурга в направлении границы начали выступать по одному гвардейские полки. Когда в поход двинулся Преображенский полк, где в молодости служил и в штатах которого находился до своей отставки А. И. Остерман-Толстой, он выехал в карете к Нарвской заставе, мимо которой проходили гвардейские полки. Здесь отставной генерал увидел издали императора Александра I, который отвечал на приветствия воинов непривычными для их слуха словами: «В добрый путь!» Все были взволнованы, в эту минуту каждый думал о судьбе своего Отечества, над которым уже нависла угроза вторжения несметных полчищ Наполеона. Глядя вслед уходившему полку, Остерман-Толстой ощутил, как никогда, всю остроту своих переживаний, по поводу вынужденной отставки. Его угнетало пребывание в столице, в то время, как большинство его сослуживцев уже находилось в армии, но обращаться к царю с просьбой о возвращении на службу он так и не стал.
В начале апреля Остерман узнал, что Александр I, покинув Петербург, отбыл к армии. Это означало, что близилось военное столкновение. В этих обстоятельствах Остерман недолго размышлял над тем, какое следовало принять решение. Его могли вычеркнуть из списков военных чинов, но кто бы мог запретить ему сражаться за Отечество? Наскоро собравшись, он выехал в сторону западной границы.
В то время, как царь и военный министр находились в Вильно, Остерман-Толстой достиг расположения 1-го пехотного корпуса генерал-лейтенанта П. X. Витгенштейна, находившегося на правом фланге 1-й Западной армии между Россиенами и Кейданами. Явившись в Шавли на квартиру корпусного командира, Александр Иванович отрекомендовался волонтером и выразил готовность служить в любой должности. Очевидно, Витгенштейн с пониманием встретил просьбу самолюбивого Остермана, после чего тот и остался при 1-м пехотном корпусе.
Войска Витгенштейна давно уже пребывали в состоянии боевой готовности. Вторжение неприятеля ожидалось со дня на день. Меры же, принимаемые русским командованием для отражения противника, вызывали скептическое отношение у П. X. Витгенштейна. Он даже рад был неожиданному приезду Остермана, с которым мог поделиться своими сомнениями.
Русские войска находились слишком близко к границе и слишком далеко друг от друга, чтобы в случае вторжения наполеоновских войск успеть беспрепятственно соединиться и не быть отрезанными друг от друга в самом начале войны. В особо опасном положении находился 1-й пехотный корпус П. X. Витгенштейна, занимавший крайнее положение на фланге 1-й Западной армии.
Витгенштейн, Остерман-Толстой и часто наезжавшие в Шавли корпусные командиры Н. А. Тучков и П. А. Шувалов обменивались мнениями, не скрывая друг от друга самых худших опасений, которые вскоре из предположений превратились в реальность.
13 июня офицер, посланный М. Б. Барклаем-де-Толли, привез письменное известие о событиях, происходивших на Немане в ночь с 12 на 13 июня: «Неприятель переправился близ Ковно, и армия сосредоточивается за Вильною; почему предписывается вам начать тотчас отступление по данным вам повелениям», — писал главнокомандующий командиру 1-го пехотного корпуса.
Едва войска Витгенштейна выступили, как он известился о том, что со стороны Ковно наперерез его корпусу двигаются значительные силы французов. 15 июня 1-й пехотный корпус прибыл к Вилькомиру, где почти одновременно с ним появился корпус французского маршала Удино. Войскам Витгенштейна еще предстояло перейти вброд реку Свенту, когда арьергард Кульнева, прикрывавший переправу, был уже атакован многочисленным неприятелем. В течение двух часов трехтысячный русский отряд отражал натиск противника, стремившегося настигнуть корпус Витгенштейна. Во время этого боя среди русских воинов появился высокий генерал в очках, в мундирном сюртуке с орденом св. Георгия III степени. Он подавал советы русским артиллеристам, направлявшим огонь в наступавшие неприятельские колонны, участвовал в отражении атак кавалерии противника, содействовал порядку на переправе через реку. При этом генерал не вмешивался ни в распоряжения командира корпуса, ни начальника арьергарда. «Остерман принимал участие в этом деле как волонтер», — писал в одном из своих писем в Петербург П. X. Витгенштейн.