Коммунистическая партия и Советское правительство доверили Б. М. Шапошникову наивысшую в Советских Вооруженных Силах «должность Генерального штаба» — должность его начальника. В мае 1937 года после повторного двухгодичного командования войсками Ленинградского военного округа командарм 1-го ранга Б. М. Шапошников был назначен начальником Генерального штаба Красной Армии и заместителем народного комиссара обороны СССР.
Всей предшествующей своей жизнью Борис Михайлович был подготовлен к этой многотрудной деятельности. Надо сказать, что прекрасной школой для него в этом смысле была и работа в академии имени М. В. Фрунзе в 1932-1935 годах. За три с половиной года, в течение которых он руководил академией, сделано было многое. Существенно улучшился учебный процесс, учебные программы были приведены в соответствие с требованиями технической реконструкции Красной Армии. Значительно повышено качество учебных пособий, усовершенствована методика преподавания. Ведущей дисциплиной стала оперативно-тактическая подготовка слушателей академии. На более высокую ступень была поднята научно-исследовательская работа кафедр. Профессорско-преподавательский состав академии был пополнен людьми, обладающими опытом командования воинскими соединениями и частями в новых условиях.
Выражая свое мнение о задачах военной академии, Шапошников писал:
«Академия должна, с одной стороны, готовить общевойскового и штабного командира, вооруженного знаниями современной теории военного искусства, а с другой — дать армии практика военного дела... Знание военного дела, знание технических родов войск и умение организовать их использование в боевых действиях составляют важнейший отдел обучения в военной академии».
Большое внимание Борис Михайлович уделял оперативно-тактической подготовке профессорско-преподавательского состава академии. Мастерски владея методикой организации военных игр на картах, он проводил эти игры весьма поучительно и с творческим вдохновением. Они содержали актуальные вопросы теории и практики применения крупных мотомеханизированных и воздушно-десантных соединений на различных театрах военных действий. Убедительные разборы игр, которые проводил Борис Михайлович, были весьма поучительны для слушателей и преподавателей.
Отмечая заслуги Шапошникова в преподавательской и научной деятельности, высшая аттестационная комиссия в мае 1935 года присвоила ему ученое звание профессора. В решении комиссии, в частности, отмечалось, что Шапошников — военно-научный работник исключительной эрудиции и больших обобщений. Под его командованием Военная академия имени М. В. Фрунзе достигла новых успехов, она удостоена высокой награды — ордена Ленина.
В теоретических дискуссиях, которые проходили в академии, сформировались его взгляды на характер возможных боевых действий Красной Армии в будущей войне, сложились представления о формах операций, стратегическом взаимодействии фронтов и т. д.
— Штабная работа, — не раз говорил Шапошников, — должна помогать командиру организовывать бой; штаб — первейший орган, с помощью которого командир проводит в жизнь свои решения... В современных условиях без четко сколоченного штаба нельзя думать о хорошем управлении войсками.
Возглавив Генеральный штаб, он с новой энергией стал добиваться постоянного улучшения штабной службы во всех ее звеньях.
Совет Народных Комиссаров СССР 13 марта 1938 года принял постановление об образовании Главного военного совета (до этого существовал Военный совет при Наркомате обороны). В составе Главного военного совета находился и начальник Генерального штаба Б. М. Шапошников, получивший таким образом возможность непосредственно влиять на принятие важнейших решений по вопросам военного строительства. В работе Главного военного совета участие принимал И. В. Сталин, входивший в его состав. Члены Главного военного совета прислушивались к предложениям Шапошникова, высоко оценивали его глубоко научный и деловой подход к сложным проблемам укрепления военной мощи нашего государства.
По инициативе Шапошникова Главный военный совет рассмотрел и утвердил предложенные им мероприятия по реорганизации оперативно-штабной службы и узаконил эти мероприятия специальным постановлением. Суть их сводилась к тому, чтобы повысить внимание командиров всех степеней к организации штабной службы, добиться того, чтобы штаб в целом, так же как командир соединения, части, нес полную ответственность за организацию и исход боя, а его начальник был первым заместителем командира как в мирное, так и в военное время.