Чтобы реализовать эти требования, в деревню, как во времена Гражданской войны, были двинуты вооруженные отряды. Они стали проводить реквизиции и аресты, разгоняли местные органы власти и закрывали рынки. Все это фактически означало конец новой экономической политики, защитниками которой были «правые» — Бухарин и его сторонники (Рыков, Томский и другие).
По возвращении в Москву между ним и Сталиным начались резкие столкновения. Победа далась Сталину не легко. Позиции Бухарина были очень сильны в Московской парторганизации, за ним было большинство членов Совнаркома и Госплана, он сам был главным редактором «Правды», а его сподвижники стояли во главе многих крупных партийных органов печати. Однако сторонники Бухарина не воспользовались своими преимуществами. Вместо того, чтобы развязать широкую внутрипартийную дискуссию, они ограничились жаркими дебатами внутри Политбюро. Не только в партии, но даже в ЦК спорные вопросы почти не обсуждались.
Все это было на руку генсеку. Он начал против своих противников сложные аппаратные игры, в которых не имел себе равных. Уже через несколько месяцев положение в корне изменилось: сторонники Бухарина потеряли свои посты в редакциях «Ленинградской правды» и журнала «Большевик», сталинские ставленники заняли ведущее положение в редакции «Правды». В октябре Сталину удалось сместить главу Московского обкома Угланова, заменив его своим протеже Молотовым, точно так же сталинские ставленники пришли к руководству в профсоюзах, которыми руководил Томский. Ослабив таким образом своих оппонентов, Сталин перешел в наступление. В апреле 1929 г. на пленуме ЦК он неожиданно выступил против «правых» с грубым и резким докладом. Вслед за тем развернулась организованная травля их по всей стране. В ноябре Бухарин был исключен из Политбюро. В следующем году потеряли свои посты Рыков и Томский. Сталин установил полный контроль как над партией, так и над правительственными органами. Власть его с этого времени фактически стала неограниченной.
Между тем грубый нажим на крестьян в 1928–1929 гг. привел к тому, что резко сократились посевные площади. Заготовка зерна весной 1929 г, шла еще хуже, чем в предыдущие годы. По всей стране и даже в Москве ощущались перебои с продажей хлеба. В городах и рабочих поселках было введено нормированное распределение продуктов питания. Сталин понял, что без кардинальной перестройки сельскохозяйственных отношений продолжать индустриализацию прежними темпами невозможно. На место строптивых единоличников в деревню должны были прийти послушные и зависимые от государства колхозники. Начало новой политики положила написанная осенью 1929 г. статья «Год великого перелома», в которой Сталин выдвинул лозунг «сплошной коллективизации». В декабре на конференции аграрников-марксистов он объявил о ликвидации кулачества как класса и о том, что раскулачивание должно стать составной частью коллективизации. В январе 1930 г. было принято соответствующее постановление ЦК. После этого государство, используя всю мощь своего карательного аппарата, стало загонять крестьян в колхозы.
Во многих областях выдвинули лозунг: «Кто не идет в колхозы, тот враг Советской власти». Так как понятие «кулак» было довольно растяжимое, репрессии обрушились не только на зажиточных крестьян, но и на всех тех, кто не желал добровольно передавать свое добро в коллективное пользование — их лишали имущества и вместе с семьями высылали из деревень. Масштабы развернувшегося террора были огромны. В нетопленых вагонах сотни тысяч мужчин, женщин, детей были вывезены в отдаленные районы Урала, Казахстана, Сибири, где были созданы тысячи кулацких спецпоселений. Очень многие погибли в пути от голода и болезней. Общее число раскулаченных и выселенных семей составляло не меньше 1 млн. (то есть всего около 5 млн. человек).
К 1 марта 1930 г. в колхозы было насильно объединено 55 % крестьянских хозяйств. А 2 марта Сталин совершил политический трюк, который он проделывал потом неоднократно: публично отмежевался от проводимой им политики. В этот день в газете «Правда» появилась его статья «Головокружение от успеха», в которой он обрушился с резкой критикой на местные советы и партийные организации, «запрещая» силой загонять крестьян в колхозы. Через два месяца половина крестьян уже вышла из колхозов, но «обработка» их продолжалась, так что к лету 1931 г. в колхозах было вновь объединено до 60 % единоличников. Очень многие при этом порезали свой скот и лошадей. В целом по стране к 1934 г. количество лошадей сократилось с 32 млн. до 15,5 млн, а поголовье крупного рогатого скота — с 60 до 33,5 млн. Но что значили эти жертвы по сравнению с достигнутыми результатами? Ведь в ходе коллективизации Сталин получил послушную деревню, из которой мог теперь брать столько хлеба, сколько ему требовалось.