Пока военное сотрудничество с рейхсвером продолжалось, ОГПУ держало под сукном материалы о якобы преступных связях Тухачевского с германским Генштабом.
Сменивший Дзержинского В.Р. Менжинский решил прощупать Тухачевского с другой стороны. В 1930 году в числе примерно 5 тысяч бывших царских офицеров арестовали хорошо знавших Тухачевского преподавателей военной академии Н.Е. Какурина и И.А. Троицкого. 26 августа 1930 года чекисты добились от Какурина компрометирующих показаний на Тухачевского. Бывший полковник императорской армии сообщил: «В Москве временами собирались у Тухачевского, временами у Гая, временами у цыганки. В Ленинграде собирались у Тухачевского. Лидером всех этих собраний являлся Тухачевский, участники: я, Колесинский, Эйстрейхер, Егоров, Гай, Никонов, Чусов, Ветлин, Кау-фельдт. В момент и после XVI съезда было уточнено решение сидеть и выжидать, организуясь в кадрах в течение времени наивысшего напряжения борьбы между правыми и ЦК. Но тогда же Тухачевский выдвинул вопрос о политической акции, как цели развязывания правого уклона и перехода на новую высшую ступень, каковая мыслилась как военная диктатура, приходящая к власти через правый уклон. В дни 7–8 июля у Тухачевского последовали встречи и беседы вышеупомянутых лиц и сделаны были последние решающие установки, т. е. ждать, организуясь». Троицкий в своих показаниях также говорил о симпатиях Тухачевского к правому уклону.
Какурин поведал, как вербовал Тухачевский новых заговорщиков и сколь популярен он в армии, так что в случае чего может и на Кремль полки двинуть. Правда, ничего конкретного подследственный об антиправительственной деятельности Тухачевского, за пределами разговоров, придумать так и не смог.
10 сентября 1930 года Менжинский направил протоколы допросов Какурина и Троицкого Сталину. Иосиф Виссарионович принял решение: Тухачевского пока не трогать.
Тем временем из Какурина 5 октября выбили новые показания. Окончательно сломленный краском заявил: «Михаил Николаевич говорил, что… можно рассчитывать на дальнейшее обострение внутрипартийной борьбы. Я не исключаю возможности, сказал он, в качестве одной из перспектив, что в пылу и ожесточении этой борьбы страсти, и политические и личные, разгораются настолько, что будут забыты и перейдены все рамки и границы Возможна и такая перспектива, что рука фанатика для развязывания правого уклона не остановится и перед покушением на жизнь самого тов. Сталина… У Михаила Николаевича, возможно, есть какие-то связи с Углановым и, возможно, с целым рядом других партийных или околопартийных лиц, которые рассматривают Тухачевского как возможного военного вождя на случай борьбы с анархией и агрессией Сейчас, когда я имел время глубоко продумать все случившееся, я не исключу и того, что, говоря в качестве прогноза о фанатике, стреляющем в Сталина, Тухачевский просто вуалировал ту перспективу, над которой он сам размышлял в действительности».
Михаилу Николаевичу была дана очная ставка с Какуриным и Троицким. Позднее, уже после ареста Тухачевского, Сталин, выступая на заседании Военного Совета 2 июня 1937 года, вспоминал: «Мы обратились к тт. Дубовому, Якиру и Гамарнику. Правильно ли, что надо арестовать Тухачевского как врага. Все трое сказали нет, это должно быть какое-нибудь недоразумение, неправильно… Мы очную ставку сделали и решили это дело зачеркнуть. Теперь оказывается, что двое военных, показавших на Тухачевского, показывали правильно…»
Материал на Тухачевского, равно как и на других руководителей Красной армии, продолжали копить. Только во второй половине 1936 года Сталин посчитал, что пришла пора браться за Тухачевского и его единомышленников. Современные историки в качестве непосредственного повода указывают на ссору во время банкета после парада 1 мая 1936 года. Тогда Ворошилов, Буденный и Тухачевский заспорили о делах давних: кто же был виновником поражения под Варшавой, а затем очень скоро перешли на современность. Тухачевский обвинил бывших руководителей Конармии, что они на ответственные посты расставляют лично преданных им командиров-конармейцев, создают собственную группировку в Красной армии. Ворошилов раздраженно бросил: «А вокруг вас разве не группируются?»
Ворошилов рассказал в начале июня 1937 года на расширенном заседании Военного Совета, целиком посвященном «контрреволюционному заговору в РККА»: «Потом на второй день Тухачевский отказался от всего сказанного… тов. Сталин тогда же сказал, что надо перестать препираться частным образом, нужно устроить заседание Политбюро и на этом заседании подробно разобрать, в чем дело. И вот на этом заседании мы разбирали все эти вопросы и опять-таки пришли к прежнему результату». Тут подал реплику Сталин «Он отказался от своих обвинений». «Да, – повторил Ворошилов, – отказался, хотя группа Якира и Уборевича на заседании вела себя в отношении меня довольно агрессивно. Уборевич еще молчал, а Гамарник и Якир вели себя в отношении меня очень скверно».