Блюмкин участвовал в экспроприации денег в Государственном банке (захвачено было 4 миллиона рублей). Красный командир Блюмкин предложил командующему армией П. С. Лазареву взятку в десять тысяч рублей. Столько же он хотел оставить себе, а остальные деньги намеревался передать партии левых эсеров. По требованию Лазарева и под угрозой ареста Блюмкин возвратил в банк три с половиной миллиона рублей. Куда делись остальные пятьсот тысяч, выяснить так и не удалось.
В середине мая 1918 года, после расформирования 3-й советской Украинской армии, Блюмкин приезжает в Москву, где поступает в распоряжение ЦК партии левых эсеров. Он неплохо зарекомендовал себя в боях с германскими интервентами и войсками Центральной рады, чем и привлек к себе внимание левоэсеровских лидеров. Его направляют во Всероссийскую чрезвычайную комиссию (предполагалось использовать его для подготовки террористических актов против видных представителей Германии в России для срыва Брестского договора). По предположению заместителя председателя ВЧК левого эсера В. А. Александровича, Блюмкину было поручено организовать отделение по борьбе с международным шпионажем.
Работа в ВЧК вскружила Блюмкину голову. Его самолюбию льстил страх контрреволюционеров и обывателей перед вооруженными людьми в кожаных куртках. В разговорах со знакомыми он изображал себя человеком, наделенным правом решать судьбу арестованных. По его словам, своим приятелям — поэтам Есенину и Мандельштаму — он даже предлагал прийти в ЧК посмотреть, как в подвалах Лубянки расстреливают «контру». «Вон, видите, вошел поэт, — говорил он друзьям в писательском кафе. — Он представляет большую культурную ценность. А если я захочу — тут же арестую его и подпишу смертный приговор. Но если он нужен тебе, — обратился Блюмкин к Мандельштаму, — я сохраню ему жизнь». В действительности Блюмкин не имел права решать вопрос о наказании арестованных, тем более о расстреле.
Блюмкин с головой окунулся в новую для него работу. Он подбирает штат сотрудников, обращается в отделы ВЧК с просьбой переслать ему все сведения о немецком и союзническом шпионаже. Однако главная его забота — найти способы проникновения в германское посольство Его интересуют не столько раскрытие разведывательной деятельности немцев, сколько выяснение возможности убийства германского посла графа Мирбаха.
В это время в гостинице «Эли» покончила жизнь самоубийством шведская актриса Линдстрем. ВЧК арестовала всех «подозрительных» постояльцев, в том числе родственника германского посла, военнопленного австрийской армии графа Роберта Мирбаха. Блюмкин несколько дней допрашивал арестованного, затем предъявил ему обвинение в шпионской деятельности в пользу Австро-Венгрии. Если бы это обвинение подтвердилось, Роберт скорее всего был бы расстрелян. Блюмкин обещал ему сохранить жизнь и освободить из-под ареста, если он согласится работать на ВЧК. Мирбах принял это условие и 10 июня дал Блюмкину подписку о сотрудничестве.
Блюмкин был в восторге от того, что завербовал родственника германского посла. ВЧК, полагал он, освободит арестованного офицера, и он на правах родственника станет посещать посла и выуживать у него интересующие сведения. Кроме того, документы по делу Мирбаха, полученные ВЧК от датского генерального консульства, облегчат возможность осуществления террористического акта против какого-либо германского дипломатического представителя, если, конечно, будет принято решение ЦК левоэсеровской партии. Террорист в нужный момент сможет беспрепятственно проникнуть в помещение посольства и выполнить порученное ему задание. В напарники себе Блюмкин взял товарища по партии, земляка Николая Андреева, одного из создателей одесского батальона Красной гвардии им. В. И. Ленина.
На легковом автомобиле Блюмкин и Андреев с портфелями в руках подкатили к зданию германского посольства. Они предъявили свой липовый мандат и потребовали свидания с послом. Естественно, сначала с ними разговаривали двое молодых людей, потом советник Рицлер. И лишь после настойчивых требований Блюмкина к ним вышел сам Мирбах Двадцать пять минут шел разговор о племяннике посла, после чего Блюмкин вытащил из портфеля револьвер и стал стрелять в Мирбаха, Рицлера и переводчика. Жертвы упали. Но Мирбах был только ранен, он стал подниматься, и тогда Андреев подошел к нему вплотную и бросил под ноги бомбу. Она не взорвалась. Блюмкин, разбежавшись, метнул ее вновь. На этот раз взрыв был таким сильным, что вылетели окна и посыпалась штукатурка. Блюмкин выпрыгнул в одно из окон и сломал себе лодыжку К тому же, перелезая через ограду посольства, его ранили в ногу — охрана начала стрельбу. Но он все же дополз до автомобиля, и они укатили в штаб левоэсеровского отряда Попова.