Как один из лучших командиров, Василевский в мае 1931 года был назначен помощником начальника 2-го отдела в Управление боевой подготовки Красной армии. Здесь он довольно близко сошелся с будущими прославленными военачальниками – П.А. Беловым, Г.К. Жуковым, В.Н. Гордовым и другими.
В ту же пору впервые проявились блестящие штабные способности Василевского. С 1931 по 1936 год Александр Михайлович прошел школу штабной службы в Наркомате обороны и Штабе Приволжского военного округа.
Обладая аналитическим умом, интересуясь военной историей и трудами специалистов по теории военного искусства, Василевский печатал свои статьи в журнале «Военный вестник».
В 1936 году А.М. Василевскому присвоили звание полковника, а осенью он в числе первых 137 слушателей был зачислен в только что созданную Академию Генерального штаба. Армии требовались новые командиры.
Отбор слушателей проводился под непосредственным руководством ЦК партии. Все зачисляемые в Академию обязаны были иметь боевой стаж, отличные аттестации по службе и, как правило, высшее военное образование. Особенное внимание было уделено подбору преподавательского состава.
Несмотря на то что многие слушатели уже имели достаточную подготовку, Академия в значительной мере помогла всем слушателям пополнить знания, расширить военный кругозор и, безусловно, способствовала успешному выполнению в дальнейшем тех ответственных заданий, которые выпали на долю многих из них в годы Великой Отечественной войны.
Политические чистки конца 1930-х годов лишили армию значительной части командно-политического и преподавательского состава.
Напомним, что репрессии в армии начались еще в середине 20-х годов. Сразу после смерти М.В. Фрунзе по инициативе Троцкого Красную армию в первый раз очистили от бывших офицеров. В конце 20-х годов уже по инициативе Тухачевского и Якира всего-то за несовпадение взглядов на военную политику под суд попало более 3 тысяч бывших офицеров и генералов. В их числе выдающиеся военачальники и теоретики. Вскоре их гонителей постигнет та же кара.
В одной из бесед В.М. Молотов жестко высказался: «В отношении этих военных деятелей у меня никаких сомнений не было, я знал их как ставленников Троцкого – это его кадры. Он их насаждал с далеко идущими целями, еще когда сам метил на пост главы государства. Хорошо, что мы успели до войны обезвредить этих заговорщиков, – если бы этого не сделали, во время войны были бы непредсказуемые последствия, а уж потерь было бы больше двадцати миллионов, в этом я не сомневаюсь. Я всегда знал Тухачевского как зловещую фигуру…»
Хотя урон офицерскому корпусу был нанесен сильный, армия избавилась от огромного количества выкормышей Троцкого, с которыми довести Великую войну до победного конца было бы невозможно.
Теперь уже совершенно ясно, что все эти процессы, чистки и ликвидации, которые в свое время казались такими суровыми и так шокировали весь мир, были частью решительного и энергичного усилия сталинского правительства предохранить себя не только от переворота изнутри, но и от нападения извне. Оно основательно взялось за работу по очистке и освобождению страны от изменнических элементов. Все сомнения решились в пользу правительства.
В 1970 году в беседе с писателем Чуевым Молотов утверждал: «1937 год был необходим. Мы обязаны 37-му году тем, что во время войны у нас не было “пятой колонны”». И Гитлер, который отнюдь не был лишен проницательности, в конце войны неоднократно говорил об одной из причин победы СССР, что правильно сделал Сталин, который уничтожил всех своих военачальников – предателей-троцкистов.
Разгром «пятой колонны» подготовил разгром врага под Москвой и под Сталинградом в 1941–1943 годах, победу в Великой Отечественной войне.
Вслед за чистками как вынужденная мера последовала волна быстрых назначений и перемещений. Около 30 слушателей Академии уже в конце первого года обучения были назначены на различные командные и штабные должности либо преподавателями военно-учебных заведений.
4 октября 1937 года Александр Михайлович Василевский начал службу в Генеральном штабе в должности начальника отделения оперативной подготовки. Вскоре он понял, насколько тяжела служба в Генштабе. «Тогда я, конечно, не знал, что в стенах Генштаба мне будет суждено провести ряд лет, заполненных сложной работой, самой трудной в моей жизни», – вспоминал Александр Михайлович. Здесь он проработал более десяти лет: с октября 1937 года по февраль 1945 года и с марта 1946 года по март 1949 года.
Вся работа Генерального штаба протекала под непосредственным руководством Б.М. Шапошникова.