Генрих Ягода распорядился, чтобы смена караулов происходила на виду у публики, под музыку, как это было принято в царской лейб-гвардии. Была сформирована особая курсантская рота, куда подбирали парней двухметрового роста и богатырской силы.
Ягода стал изучать царские уставы и, подражая им, издал ряд приказов, относившихся к правилам поведения сотрудников и взаимоотношениям между подчиненными и вышестоящими.
Генрих Ягода наслаждался властью, как гурман изысканными яствами. Положение казалось как никогда прочным, ничто не предвещало опасности. По свидетельству А. Орлова, работавшего в то время в аппарате наркома, «Ягода не только не предвидел, что произойдет с ним в ближайшее время, напротив, он никогда не чувствовал себя так уверенно, как тогда, летом 1936 года… Не знаю, как себя чувствовали в подобных ситуациях старые лисы Фуше или Макиавелли. Предвидели ли они грозу, которая сгущалась над их головами, чтобы смести их через немногие месяцы? Зато мне хорошо известно, что Ягода, встречавшийся со Сталиным каждый день, не мог прочесть в его глазах ничего такого, что давало бы основание для тревоги».
И уж тем более не мог обласканный нарком предположить скорой перемены в своей судьбе, когда Сталин отправился на летний отдых в Сочи. Фактическим заместителем Сталина по партии в Москве на этот раз оставался Лазарь Каганович — давний недоброжелатель слишком уж быстро выдвигающегося наркома. Но и это обстоятельство едва ли могло привести Ягоду в смятение, ведь серьезные кадровые вопросы до возвращения генсека в столицу никогда ранее не решались. Однако на этот раз все было иначе. Вечером 25 сентября 1936 года Кагановичу принесли телеграмму, адресованную ему и другим членам Политбюро. Телеграмма была подписана Сталиным и Ждановым. В ней говорилось:
«Считаем абсолютно необходимым и срочным делом назначение т. Ежова на пост наркомвнудела. Ягода явным образом оказался не на высоте своей задачи в деле разоблачения троцкистско-зиновьевского блока. ОГПУ опоздало в этом деле на 4 года. Об этом говорят все партработники и большинство областных представителей Наркомвнудела. Замом Ежова в Наркомвнуделе можно оставить Агранова». Каганович тут же познакомил с содержанием телеграммы других членов Политбюро. Решение последовало незамедлительно. Ягоду отстранили от руководства НКВД и назначили наркомом связи.
Генрих Ягода был потрясен. И не только потому, что новая его должность по объему властных полномочий и месту в государственной иерархии не шла ни в какое сравнение с предыдущей. И даже не потому, что это означало конец надеждам на политическую карьеру (нарком связи — совсем не та должность, с которой позволительно мечтать о членстве в Политбюро). Более всего Генриха Ягоду озадачил тот факт, что на новом посту ему предстояло сменить Алексея Ивановича Рыкова. Это было скверным предзнаменованием. Ведь опальный Рыков в свое время стал наркомом связи после многих лет работы на высших партийных и государственных постах, в том числе члена Политбюро и председателя Совнаркома СССР. Но и руководящее место в Наркомате связи оказалось для Рыкова лишь кратковременной остановкой на пути дальнейшего падения. Его имя уже прозвучало на процессе шестнадцати обвиняемых во главе с Зиновьевым и Каменевым. 29 января 1937 года ЦИК СССР принял решение о переводе генерального комиссара государственной безопасности Г. Г. Ягоды в запас. Это был второй удар, означавший отрешение от власти.
3 апреля 1937 года за ним пришли люди в форме, которую некогда сам же Ягода и ввел своим приказом, предъявили ордер на арест, вежливо предложили пройти в машину. Узкое, нервное лицо Ягоды дернулось как от удара. Быть может, как никто другой, бывший руководитель НКВД почувствовал: жизнь кончена. Оттуда, куда его сейчас повезут, выхода уже не было. По иронии судьбы, именно он приложил столько стараний, чтобы ни один, оказавшийся там, уже никогда не вырвался на свободу. И вот теперь ему самому предстояло пройти этот путь обреченных. Нет и теперь уже, видимо, никогда не будет бесспорных свидетельств событий, происходивших в камере, куда поместили Генриха Ягоду. Есть лишь воспоминания А. Орлова, бывшего сотрудника НКВД, за абсолютную достоверность которых, впрочем, поручиться нельзя. Однако и игнорировать их тоже не стоит, поскольку в целом они соответствуют сведениям о характере и поведении Ягоды. «Ягода был так потрясен арестом, что напоминал укрощенного зверя, который никак не может привыкнуть к клетке. Он безостановочно мерил шагами пол своей камеры, потерял способность спать и не мог есть. Когда же новому наркому внутренних дел Ежову донесли, что Ягода разговаривает сам с собой, тот встревожился и послал к нему врача».