В 1790 году, как адъютант принца В.А. Ангальт-Бранденбургского, участвовал в войне со шведами на территории Финляндии. Как командир батальона Санкт-Петербургского гренадерского полка принял участие в подавлении Польского восстания 1794 года, будучи награжден орденом Святого Георгия 4‑й степени за взятие города Вильно. В 1798 году произведен в полковники, в 1799 году – в генерал-майоры.
Восхождение М.Б. Барклая де Толли в ранг военачальника началось с антинаполеоновских войн. В 1805 году он командовал бригадой. В 1806 году в сражении под Пултуском начальствовал арьергардным отрядом на правом фланге русской армии. За это дело был награжден орденом Святого Георгия 3‑й степени. При Прейсиш-Эйлау получил тяжелое ранение в правую руку и вскоре получил звание генерал-лейтенанта.
Во время лечения в Мемеле георгиевского кавалера в генеральских эполетах навестил сам император Александр I, который имел с ним продолжительную беседу. После этого государь стал отличать Баоклая-де-Толли среди остального генералитета и тот сделал головокружительную карьеру, обойдя многих старших генералов. Это, естественно, вызвало недовольство в армейских верхах. В апреле 1807 года он принял в командование дивизию.
В начале новой Русско-шведской войны 1808–1809 годов занял Саволакскую область, а затем защитил город Куопио. Из-за разногласий с главнокомандующим русской армией Ф.Ф Буксгевденом был вынужден покинуть Финляндию. В 1809 году вернулся на театр войны и во главе отдельного отряда совершил переход по льду через Кваркен и на территории самой Швеции захватил город Умео, получив в награду чин генерала от инфантерии. Эта операция во многом побудила Стокгольм заключить мир с Россией.
Барклай де Толли производится в генералы от инфантерии и назначается финляндским генерал-губернатором и командующим Финляндской армии. Спустя меньше года император назначает его главой Военного министерства. Этот пост он занимает с 18 января 1810 года по 24 августа 1812 года, войдя в историю России как военный реформатор.
Военные реформы 1810–1812 годов (незавершенные) начались с подачи новым главой Военного ведомства докладной записке на имя государя «О защите западных пределов России». Она была утверждена императором Александром I и явилась стратегической программой подготовки государства к новой войне с наполеоновской Францией.
На посту военного министра М.Б. Барклай де Толли развивает энергичную деятельность по всесторонней подготовке русской армии к войне с Францией, в чем сомневаться ему не приходилось. Под его руководством составляется «Учреждение для управления Большой действующей армией», которое разрабатывается Комиссией составления воинских уставов под председательством известного математика статс-секретаря М.Л. Магницкого. «Учреждение» стало первым для русской армии положением о полевом руководстве войск.
Затем высочайше утверждаются такие важные уставные документы, как «Учреждение Военного министерства», изменявшее его структуру и функции, «Воинский устав о пехотной службе», «О егерском учении», «О строевой кавалерийской службе». На основании трех последних документов велась боевая подготовка полевых войск к Отечественной войне 1812 года.
В ходе реформ Барклая де Толли улучшается деятельность военной администрации, почти в два раза увеличивается численность русской армии, сооружаются новые крепости (Бобруйская и Динабургская), реконструируются старые крепости (Рижская, Киевская, Динамюндская), создаются провиантские магазины и снарядные парки.
Военный министр составляет собственный план по обороне государства на случай войны с Францией. Его автор считал необходимым уклониться от генерального сражения, отступать в глубь страны и ослаблять неприятеля постоянными атаками (внезапными нападениями) легких частей, прежде всего казачьих сил.
Среди прочего в плане говорилось, что война будет «ужаснейшая по намерениям, единственная по роду своему и важнейшая по последствиям». Документ главы Военного ведомства получил высочайшее одобрение.
Это позволило генералу от инфантерии М.Б. Барклаю де Толли осуществить ряд важных военно-организационных мероприятий не только по увеличению численности полевой армии. Он создал армейские пехотные и кавалерийские корпуса, штабы трех – 1‑й, 2‑й и 3‑й Западных армий, поставленных на прикрытие государственной границы. При этом он находил полное взаимопонимание с императором Александром I, что обеспечивало на высочайшем уровне финансовое решение армейских проблем.