В 1880-е годы Дурновно, заняв пост директора департамента полиции, попытался заменить Рачковского, заведующего заграничной агентурой в Париже, своим человеком. Но, как оказалось, явно недооценил Петра Ивановича.
Узнав о происках Дурново, Рачковский блестяще провел разработанную им комбинацию, которая не только стоила Дурново поста директора Департамента полиции поста, но едва не погубила всю его карьеру.
Дурново имел несколько любовниц, о чем стало известно Рачковскому. Шеф полиции был влюблен в проститутку и на ее содержание тратил огромные суммы, дошел даже до того, что задолжал своим кредиторам 60 тысяч рублей. Проститутка встречалась также с послом Бразилии в России, которому адресовала нежные письма.
Рачковский первым делом позаботился о том, чтобы Дурново стало известно об измене возлюбленной. Потеряв от ревности голову, директор Департамента полиции приказал тайному агенту проникнуть в дом бразильского посла и добыть письма любовницы. Взломав ящик письменного стола, агент доставил Дурново письма. Прочитав их, любовник пришел в бешенство. В момент бурного объяснения с возлюбленной Дурново избил ее до полусмерти. Вся в кровоподтеках и синяках, с распухшими от слез глазами, она явилась на свидание с бразильским послом и все ему рассказала. Посол написал жалобу Александру III. На деле П. Н. Дурново царь написал: «Убрать эту свинью в 24 часа». Однако министр внутренних дел упросил царя сделать Дурново сенатором.
И вот пути Дурново и Рачковского снова пересеклись..
Спустя два дня после Кровавого воскресенья император назначил генерал-майора Трепова петербургским генерал-губернатором и одновременно товарищем министра внутренних дел и заведующим полицией свиты Его Величества. Трепов плохо разбирался в политическом сыске, ему требовались опытные помощники. Манасевич-Мануйлов, улучив момент, попросил Трепова походатайствовать за Рачковского перед царем под предлогом укрепления Департамента полиции.
Спустя пять месяцев после убийства Плеве Рачковский получил приглашение от директора Департамента полиции Гарина явиться к Трепову. Генерал встретил Петра Ивановича очень любезно и сообщил, что его примет сам государь император.
Уже на следующий день Николай II принял Рачковского в Царском Селе — он любил лично беседовать с сотрудниками тайной полиции. Царь объявил Рачковскому о назначении его на должность вице-директора Департамента полиции по политической части. Император распорядился выдать Рачковскому содержание за все время его вынужденной отставки.
В 1905 и 1906 годах Рачковский настолько вошел в доверие к Николаю II, что получил право на регулярные доклады императору, минуя директора Департамента полиции и министра внутренних дел. Это сразу сделало Рачковского важной и влиятельной закулисной фигурой в Российской империи — с мнением его вынуждены были считаться царские сановники. Председатель Совета министров Витте писал: Рачковский, «в сущности, ведал Департаментом полиции…»
Вскоре после назначения Рачковского генерал Трепов оставил все официально занимаемые им посты и перешел на «скромную» должность коменданта царского дворца в Царское Село, а в действительности возглавил «теневой кабинет» царя, фактически тайное военно-полицейское правительство России, созданное Николаем II и его ближайшим окружением для борьбы с революцией.
Влияние и значение Рачковского после этого назначения только усилилось. Грепов, обыкновенный кавалергард, полицейскую службу знал плохо и со временем полностью попал под влияние Рачковского.
Но в это время министром внутренних дел и шефом жандармов стал Дурново. На одном из своих еженедельных докладов царю новоиспеченный министр заговорил об отставке Рачковского, на что царь ответил: «Вы всегда спешите. Подождите, дайте справиться с революцией, дойдет очередь и до Рачковского».
Вице-директор Департамента полиции по политической части Рачковский, добившись реванша в борьбе со своими противниками среди царских чиновников, начал активную борьбу с революционерами С помощью Азефа ему удалось предотвратить подготовленные эсеровскими боевиками теракты против генерала Трепова, великих князей Владимира Александровича и Николая Николаевича, за что он получил от царя несколько орденов и крупное денежное вознаграждение.
Наибольшую опасность для самодержавия в России Рачковский видел в большевиках. Он сыграл важную роль в подавлении декабрьского восстания в Москве, лично руководил арестом членов Московского комитета РСДРП(б).