А. Панфилов окончил политическое отделение Курсов усовершенствования высшего начсостава при Военной академии РККА (сентябрь 1925 — июль 1926) и далее назначался: для особых поручений 1-го разряда Политуправления РККА (июль 1926 — январь 1927), начальником политотдела и помощником по политчасти командира 5-й отдельной кавалерийской Кубанской бригады (январь 1927 — август 1928), помощником прокурора 18-го стрелкового корпуса (август — ноябрь 1928), помощником прокурора Отдела военной прокуратуры Ленинградского военного округа.
С сентября 1931 по июнь 1937 года он был слушателем инженерно-командного факультета Военной академии механизации и моторизации РККА им. И.В. Сталина, по окончании которой стал военным комиссаром научно-испытательного автобронетанкового полигона, затем помощником начальника Автобронстанкового управления РККА (апрель 1938 — июнь 1940). Участвовал в боях — командовал танковой бригадой на озере Хасан и в районе реки Халхин-Гол.
В военной разведке Алексей Павлович работал с 22 июня 1940 года заместителем начальника 5-го Управления РККА и одновременно исполняющим должность начальника, начальником Разведывательного Управления Генштаба Красной армии (июль 1941 — февраль 1942). С 16 февраля по 25 августа 1942 года занимал пост начальника Главного Разведывательного Управления ГШ КА — заместителя начальника Генерального Штаба. В 1941–1942 годах А. Панфилов был также уполномоченным Генштаба Красной армии по формированию польских частей (армия генерала В. Андерса).
В этот период военная разведка решала немало проблем. Можно назвать лишь некоторые из них: перевод агентурных сетей на режим работы военного времени; ядерная тематика; оценка поступающей информации, ответственность за которую возросла многократно; восстановление связей с заграничными источниками, потерянными в связи с ликвидацией советских посольств в ряде стран и отступлением Красной армии; восполнение зарубежных потерь 1941–1942 годов; организация войсковой и оперативной разведки на фронтах; переброска как отдельных разведчиков, так и разведывательнодиверсионных групп, на оккупированную территорию СССР, а также в Польшу, Чехословакию, Венгрию, Румынию, Болгарию; подготовка кадров в новых условиях для всех уровней и направлений деятельности разведки. Специалистов готовили в массовом порядке, причем и советских и иностранных граждан, в подмосковных Сходне и Кучино, Загорянке, Суздале. Симферополе и других местах.
Алексей Павлович воевал на фронтах Великой Отечественной войны, освобождал оккупированные территории СССР, Польшу и Чехословакию. Он участвовал в боях, занимая должности заместителя командующего 3-й танковой армией (август 1942 — январь 1943), заместителя командующего 5-й танковой армии (январь — февраль 1943), командира 10-го танкового корпуса (февраль — март 1943), второго заместителя начальника Главного управления формирования и боевой подготовки бронетанковых и механизированных войск Красной армии (март — ноябрь 1943), исполняющего должность командира, командира 6-го гвардейского Киевского Краснознаменного танкового корпуса (ноябрь — октябрь 1944), командира 3-го гвардейского танкового Котельников-ского Краснознаменного корпуса (октябрь 1944 — май 1945). 11 марта 1944 года ему присвоили звание генерал-лейтенанта танковых войск, 29 мая 1945-го — звание Героя Советского Союза.
После войны Алексей Павлович служил командиром 3-й гвардейской танковой дивизии (июнь 1945 — ноябрь 1946), начальником 2-го инженерного танкового факультета (ноябрь 1946 — апрель 1951), начальником факультета подготовки офицеров иностранных армий Военной академии бронетанковых и механизированных войск им. И.В. Сталина (апрель 1951 — март 1952), командующим бронетанковыми и механизированными войсками Северного военного округа.
В январе — ноябре 1954-го А. Панфилов учился на Высших академических курсах при Военной академии Генерального штаба. Одновременно был старшим преподавателем кафедры бронетанковых и механизированных войск, затем старшим преподавателем, заместителем начальника кафедры тактики высших соединений ВАГШ (сентябрь 1956 — ноябрь 1959).
В ноябре 1959 года Алексей Павлович Панфилов был уволен в запас по болезни.
Награжден двумя орденами Ленина, пятью орденами Красного Знамени. орденами Суворова 1-й и 2-й степени, медалью «За отвагу» (1938), юбилейными медалями СССР, польским золотым крестом, чешским офицерским крестом с мечами, знаком участника Хасановских событий.