29 мая 1809 года Барклай-де-Толли был назначен главнокомандующим Финляндской армией и генерал-губернатором Финляндии, заняв один из самых ответственных постов в Российском государстве.
Между тем военные действия не прекращались, но велись они уже на территории самой Швеции. В кампании 1809 года Барклай-де-Толли предоставил своим подчиненным большую инициативу, отдавая им лишь общие указания. А 5 сентября 1809 года мирный договор был подписан. К России отошла территория Финляндии и Аландские острова. Северо-западные рубежи государства были надежно укреплены.
В конце декабря Барклай был вызван в Петербург, где его ожидало новое назначение. По предложению графа Аракчеева он получил пост военного министра. Под непосредственным руководством Барклая в кратчайший срок были разработаны «Уложения для управления Большой действующей армии» и «Учреждение военного министерства». Все эти документы были 27 января 1812 года утверждены Александром I. По предложению Барклая было принято решение образовать на западных границах России 1-ю и 2-ю армии. Командование 1-й армией – самой большой из них – император решил возложить на генерала от инфантерии Барклая-де-Толли. Армия прикрывала значительную полосу, протяженностью около 250 верст. Штаб армии находился в Вильно.
2-я армия князя Багратиона насчитывала 45 тысяч человек. На Волыни формировалась 3-я Обсервационная армия под командованием генерала А.П. Тормасова, и на Дунае находилась 4-я армия под командованием адмирала П.В. Чичагова, которая фактически также должна была действовать против Австрии, нанося удары на Балканы и Венгрию. Успех ее действий во многом зависел от результатов войны с Турцией.
К маю 1812 года Наполеон закончил стратегическое развертывание своей Великой армии против России. Великая армия перешла Неман – Александр I и Барклай-де-Толли подписали приказы к войскам о начале войны.
Император приказал составить план отхода войск 1-й и 2-й армий. Все, что не могло быть вывезено, подлежало уничтожению. Барклай не выходил из Вильно, собирая сведения о подходе к ней наполеоновских войск, и только 16 июня оставил город, приказав князю Багратиону отступать по дороге на Минск.
Армия князя Багратиона, обложенная со всех сторон французскими корпусами, уходила на юго-восток. Ожидаемой встречи между обеими армиями в районе Минска не произошло. Первоначальный план русского командования стал невыполним.
Утром 7 июля Александр I, которого приближенные наконец уговорили покинуть армию и вернуться в столицу для общего руководства страной, поручил Барклаю как военному министру общее командование войсками 1-й и 2-й армий.
Узнав, что армия Багратиона идет к Могилеву, Барклай повел свои войска ему навстречу. Этот маневр проходил под непрекращающимся преследованием его войск главными силами французской армии. Вскоре было получено сообщение от князя Багратиона о том, что его войска под Могилевым не смогли прорваться на соединение с войсками 1-й армии и он продолжает дальнейшее отступление к Смоленску. Это вынудило Барклая продолжить отступление и также отходить к Смоленску, где он рассчитывал соединиться со 2-й армией. Соединение армий произошло 22 июля, и это сорвало первоначальные замыслы Наполеона разгромить русские армии поодиночке. Находясь в Смоленске, Барклай подписал несколько воззваний, призывающих все слои населения браться за оружие, создавая партизанские отряды для борьбы в тылу врага. По его приказу был создан один из первых военно-партизанских отрядов во главе с бароном Ф. Винценгероде для борьбы с противником на Петербургской дороге.
В июле авангарды армий Барклая и князя Багратиона в течение 3-дневной стычки разгромили французский корпус Богарне под Молевым.
Наполеон устремился к Смоленску, куда стали отходить и русские войска. Он надеялся подавить их мощью и разгромить в генеральном сражении. Кроме того, ударом с юга он рассчитывал отрезать войска 1-й и 2-й армий от 3-й армии Тормасова.
5 августа французские войска подвергли город мощной бомбардировке из орудий, а затем к Смоленску подошли главные силы французских войск. Чтобы сорвать планы Наполеона, Барклай поручил князю Багратиону прикрыть Дорогобужскую дорогу, обеспечивая его движение частью сил своих войск. Он также подготовил к обороне Смоленск – прикрыл все опасные направления войсками, поставил на высотах артиллерию. Общий штурм города начался во второй половине дня, однако и он был отражен русскими войсками. К вечеру город был охвачен пожарами. Михаил Богданович находился в раздумье – французы снова угрожали русской армии окружением. Он также знал, что 80-тысячной русской армии противостоит 120-тысячная французская, и он отдает приказ о дальнейшем отступлении. Многие генералы пытались возражать, настаивая на том, чтобы оборона Смоленска продолжалась, однако Барклай был непреклонен.