Началась новая, еще не изведанная сфера деятельности, и Александр с головой окунается в нее: молодой Советской республике необходимо было завершить создание новых воинских уставов и постановлений. Период 1920-х годов — время непрерывно продолжавшейся военной реформы, и в юридическо-статистическом отделе находилось на изучении множество различных Положений управлений РККА. За короткий срок А.Г. Орлов полностью вошел в курс дела. Работа была вдвойне тяжелой в связи с тем, что на него возлагалась дополнительно большая нагрузка по партийной и общественной работе (в марте 1927 года он вступил в члены ВКП(б)).
В августе 1927 года А.Г. Орлов был назначен юрисконсультом (юристом) Управления делами НКВМ и РВС, а в июле 1928 года — начальником Законодательного отдела Управления делами НКВМ, позднее начальником сектора и помощником секретаря РВС. И на новой работе он продолжал учиться, размышляя над боевым использованием артиллерии, готовя статьи, брошюры, читая лекции. В ноябре 1930 года А.Г. Орлова назначили помощником начальника Управления делами НКВМ и РВС СССР. В июне 1931 года ему присваивается звание военного переводчика 1-го разряда.
Немного позднее Орлова командируют в Германию вместе с другими командирами Красной армии для ознакомления с военной наукой за рубежом. Александр Григорьевич изучал в Германии современные зарубежные приборы управления артиллерийским огнем, один из самых актуальных в то время вопросов для Красной армии. Пробыв в Германии более двух месяцев, он объехал почти всю страну, глубоко и тщательно знакомясь со всем наиболее современным военным оборудованием.
Вернувшись из Германии, 15 ноября 1931 года А.Г. Орлов назначается начальником Управления военных приборов РККА, однако уже в январе он был вынужден временно отойти от руководства Управлением — из-за командировки в Женеву для участия в Международной конференции по разоружению в качестве начальника штаба военной части советской делегации и военного эксперта по сухопутным вооружениям. Следующая командировка на эту конференцию состоялась в мае.
За недолгий срок пребывания на должности начальника Управления военных приборов А.Г. Орлов провел большую работу по оснащению армии новыми приборами управления огнем и оптикой; он глубоко ознакомился с военной промышленностью, занимаясь вопросами улучшения качества выпускаемой продукции, написал книгу «Современные приборы управления огнем» (1933). Начальник Главного артиллерийского управления РККА Ефимов высоко ценил А.Г. Орлова, написав в характеристике в сентябре 1932 года: «Прекрасно знает артиллерийское дело. Превосходно изучил тактику артиллерии и с этой точки зрения является вполне подготовленным артиллерийским начальником. В своей работе образцово четок, выявляя тем самым глубокие навыки превосходного штабного работника и командира. Человек с большим кругозором и с большими способностями».
Александр Григорьевич прослужил в должности начальника Управления еще год, пока не произошел очередной крутой поворот в его судьбе. Руководство Наркомата обороны, учитывая имевшийся у Орлова опыт пребывания за рубежом и отличное знание французского и немецкого языков, приняло решение направить его на работу в аппарат военного атташе при полпредстве СССР во Франции. 10 января 1934 года А.Г. Орлов уехал в Париж в качестве помощника военного атташе.
В то время положение советских военных представителей в Европе было довольно сложным. Именно в октябре 1933 года произошел провал во французской резидентуре — один из самых крупных в советской военной разведке. Поэтому работа советских представителей во Франции находилась под постоянным контролем контрразведки.
Занимаясь изучением вопросов внешнеполитического характера, Орлов тем не менее старался получать и направлять в Москву информацию о новейших зарубежных образцах вооружения и боевой техники, способную помочь совершенствованию отечественных средств поражения и защиты. Так, в декабре 1934 года Александр Григорьевич сообщил в Москву химическую формулу нового отравляющего вещества, проходившего испытания в Германии: по предварительной концепции, ни один из существовавших тогда противогазов не мог защитить от воздействия нового вещества.
Добившись значительных успехов в работе во Франции, Орлов показал себя способным, грамотным и ценным военнодипломатическим работником. Поэтому к концу года руководство Наркомата обороны решило направить Орлова в страну, являвшуюся наиболее вероятным противником СССР в войне, и в июне 1935 года он прибыл в Берлин в качестве военного атташе при полпредстве СССР в Германии.