При создании СНК Троцкий получил портфель наркома иностранных дел.
На этом посту ему пришлось решать один из главных вопросов революции — вопрос о мире. Уже 8 ноября Троцкий отправил правительственную ноту послам союзных стран с предложением немедленно прекратить войну и приступить к мирным консультациям. Предложение было отвергнуто. Тогда Троцкий от имени советского правительства начал с немцами сепаратные переговоры. 17 ноября было достигнуто соглашение о перемирии. 2 декабря делегации встретились в Брест-Литовске. 27 декабря переговоры возглавил лично Троцкий. Немецкая делегация не соглашалась заключать мир без аннексий, добивалась отторжения от России Польши, Литвы и Курляндии, оккупации побережья Эстонии, Латвии и Моонзундских островов. Ленин, реально оценивая обстановку, был за то, чтобы согласиться на некоторые территориальные уступки, но большинство членов ЦК и вместе с ними Троцкий категорически возражали против этого. (Троцкий, рассчитывая на скорое начало революции в Германии и Австро-Венгрии, предлагал объявить войну оконченной, демобилизовать армию, но мира не подписывать.) 10 февраля российская делегация прервала переговоры и уехала из Брест-Литовска. Расчет Троцкого строился на том, что противник не решится на возобновление военных действий. Однако 18 февраля немцы перешли в наступление по всему фронту и стали стремительно продвигаться вглубь российской территории. Угроза нависла не только над окраинными губерниями, но и над центральной Россией, а также над самой столицей — Петроградом. Тут уже было не до дипломатических маневров. Советское правительство вынуждено было принять все требования германской стороны. Когда в марте переговоры возобновились, мир был заключен на гораздо более тяжелых для России условиях, чем предлагались прежде. Впрочем, Троцкий его уже не подписывал — 24 февраля он подал в отставку с поста наркома иностранных дел. Так закончилась его короткая дипломатическая карьера. 14 марта 1918 г. Троцкий был назначен наркомом по военным делам, а б апреля ему был подчинен также Балтийский флот. Возглавив вооруженные силы Советской республики, Троцкий сумел проявить свои лучшие качества — смелость, решительность и исключительное трудолюбие Он сразу понял, что со старой разваливающейся царской армией невозможно противостоять контрреволюции, и энергично начал работу по созданию новой регулярной советской армии. Дело это было страшно трудным. Старая армия рассеялась, люди разбрелись по домам. Военное снаряжение валялось на всех железнодорожных станциях. Все приходилось начинать с нуля. Первые отряды Красной Армии формировались на милицейской системе. Весной 1918 г. Троцкий подготовил несколько декретов, регламентирующих военное строительство (Главный из них — декрет об обязательном обучении военному искусству) Он также потратил много усилий на привлечение в Красную Армию старых кадровых офицеров и генералов и непреклонно отстаивал эту линию от нападок со стороны «левых коммунистов» и других партийных и государственных деятелей, отрицательно относившихся к использованию бывших буржуазных специалистов. В августе по настоянию Троцкого армия стала перестраиваться на принципах централизации и дисциплины. 2 сентября был образован Реввоенсовет республики, которому была предоставлена вся полнота военной власти в стране. Председателем его стал Троцкий.
К этому времени военное положение было исключительно тяжелым — Советская республика оказалась в кольце фронтов, общая протяженность которых составляла около 10 тысяч км. Превосходство объединенных сил белогвардейцев и поддерживающих их войск Антанты было почти стократным. В этих условиях Троцкий оказался на высоте положения. Не задерживаясь в Москве, он мчался на своем бронепоезде с одного участка фронта на другой, стараясь находиться там, где более всего была в нем нужда. (Подсчитано, что за годы Гражданской войны он проехал около 100 тысяч верст.) Как правило, присутствие его на передовой способствовало немедленному выравниванию положения. (Один из очевидцев тех событий писал, что прибытие поезда Троцкого было равносильно прибытию свежей дивизии.) Бронепоезд Троцкого постоянно сопровождала команда из 300 отборных кавалеристов. Все они были одеты в кожу и носили на левом руке специальный знак, наделявший их особыми полномочиями. Своими расстрелами и репрессиями отряд этот наводил ужас на всех красноармейцев. По словам самого Троцкого, чувствуя во время наступления за своей спиной бронепоезд наркома, даже самые расхлябанные части «тянулись изо всех сил».