Ответственный подход к любому порученному делу сослужил Аракчееву добрую службу. Когда будущий император Павел I обратился к Салтыкову с просьбой прислать расторопного артиллерийского офицера, Салтыков направил к нему с превосходными рекомендациями учителя своих детей. Аракчеев был переведен в гатчинское войско и вскоре завоевал доверие Павла Петровича – в основном благодаря стремлению к дисциплине. Ради внешнего благообразия подчиненных Аракчеев шел на любые, даже самые крутые меры. По свидетельствам современников, у его солдат «оказывались иногда вырванными усы, откушенным ухо и т. п.».
После восшествия Павла I на престол (6 ноября 1796 г.) карьера Аракчеева круто пошла вверх. Пожалуй, найдется немного военных, настолько обласканных властью. На следующий день после восшествия Павла на престол Аракчеева назначают петербургским комендантом, через день производят в генерал-майоры, а 9 ноября – в майоры Преображенского полка. 12 ноября Аракчеев получает орден св. Анны первой степени, 13 числа того же месяца император поручает ему надзор за тактическим классом, учрежденным во дворце для штаб– и обер-офицеров. Затем, после краткого перерыва, золотой дождь монарших милостей продолжается. 5 апреля 1797 года Аракчееву было пожаловано баронское достоинство. Император Павел I подарил своему любимцу две тысячи душ крестьян. Его вотчиной стало село Грузино Новгородской губернии, впоследствии получившее печальную известность благодаря явлению, называемому во всех учебниках аракчеевщиной. Впрочем, не будем забегать вперед.
18 марта 1798 года Аракчеев был отстранен от службы с произведением в генерал-лейтенанты. Причиной стали беспорядки в артиллерийских ротах и многочисленные жалобы на жестокость Аракчеева. Впрочем, опала была недолгой: уже в декабре Алексей Андреевич вернулся к исполнению своих обязанностей. На этот раз император назначил его генерал-квартирмейстером, а затем – командиром гвардии артиллерийского батальона и инспектором всей артиллерии. Надо ли говорить, что в армии это назначение встретили глухим ропотом, но открыто выразить недовольство было невозможно… Тем более что император вскоре пожаловал фавориту очередной титул – на сей раз графский – и собственноручно вписал в его герб девиз: «Без лести предан». Однако, к радости подчиненных, в 1799 году Аракчеев вновь попал в немилость. 1 октября 1799 года он был отставлен от службы «с воспрещением въезда в столицу». Причиной отставки послужил недостойный поступок Аракчеева: желая спасти от наказания брата (во время его караула произошло хищение), граф назвал виновным другого офицера. Но вскоре обман раскрылся, и инспектор с позором был изгнан.
В 1801 году, после убийства Павла I, многим казалось, что звезда Аракчеева закатилась теперь уже навсегда. Но, как показало время, напрасно. 26 апреля 1803 года император Александр I собственноручной запиской вызвал Аракчеева в Петербург, а 14 мая последовал приказ о его назначении (уже в третий раз) инспектором всей артиллерии и командиром гвардии артиллерийского батальона. У императора было две причины приблизить к себе Аракчеева: во-первых, он приобретал в его лице преданного человека, во-вторых – оба они отличались пристрастием к муштре. Кстати говоря, к реальным боевым действиям Аракчеев не питал ни малейшей склонности. Когда в 1805 году под Аустерлицем Александр I предложил ему командование одной из колонн, тот немедленно отказался. С тех пор Аракчеев не появлялся поблизости от места ведения военных действий, даже в императорской свите. Как ни странно, этот поступок, который сложно объяснить чем-то иным, кроме трусости, не поколебал мнения Александра о своем придворном. 14 декабря 1807 года император повелел считать приказы Аракчеева столь же обязательными к исполнению, как свои собственные. А 13 января 1808 года Алексей Андреевич был назначен военным министром. Он тут же выдвинул ряд условий своего пребывания на этом посту: отстранения от доклада генерал-адъютанта графа Ливена, передачи военно-походной канцелярии в свое распоряжение и подчинение себе главнокомандующих армиями.
Во время войны со Швецией император направил Аракчеева в Финляндию, предоставив ему неограниченные полномочия. По стечению обстоятельств приезд министра совпал с успешными военными действиями русской армии, и Александр прислал Аракчееву свой орден Андрея Первозванного. Однако фаворит «упросил государя взять орден обратно, что и было милостиво исполнено». Взамен император предписал войскам «отдавать Аракчееву следующие ему почести и в местах высочайшего пребывания».