Но народничество не было единственной революционной идеологией. В 70-е гг. в России началось распространение марксизма. (Главный труд Маркса «Капитал» был переведен на русский язык Лопатиным и вышел легально в Петербурге в 1872 г.) Маркс, как известно, делал ставку в своей революционной теории не на крестьян, а на рабочих. Крестьянство он относил к мелкой буржуазии и считал, что оно, вследствие своей классовой ограниченности, неорганизованности и разобщенности, не способно к восприятию социалистических идей. Единственным классом, готовым к революции и последовательным социалистическим преобразованиям (в силу своей сплоченности, организованности и высокой классовой сознательности), был в его глазах пролетариат. Именно ему Маркс отводил роль «могильщика буржуазии». Глубоко изучив современное капиталистическое производство, Маркс отметил его важную тенденцию — постепенную и все более усиливающуюся пролетаризацию народных масс, их постепенное обнищание. Вследствие этого Маркс считал будущую социалистическую революцию предрешенным и неизбежным финалом капиталистического этапа развития общества.
Уже в начале своей революционной деятельности, разделяя все убеждения народников, Плеханов проявил большой интерес к марксизму. Позже он вспоминал: «В народнический период моего развития я, как и все наши народники, находился под сильным влиянием сочинений Бакунина, из которых я вынес великое уважение к материалистическому объяснению истории. Но я уже тогда был твердо убежден в том, что именно историческая теория Маркса должна дать нам ключ к пониманию тех задач, которые мы должны решить в своей практической деятельности…» Эти убеждения помогли ему в дальнейшем целиком перейти на позиции марксизма. Между тем в 1876 г. народнические кружки столицы объединились и образовали революционную организацию «Земля и воля». Ее целью организаторы ставили пропаганду революционных идей среди народа. В том же году Плеханов сам стал вести занятия в нелегальном рабочем кружке. 6 декабря на первой политической демонстрации в столице, организованной «Землей и волей», молодой Плеханов произнес пламенную революционную речь. Возвратиться после этого на свою квартиру или в институт он уже не мог — его всюду искала полиция. Так в жизни Плеханова произошел крутой перелом: он перешел на нелегальное положение и стал профессиональным революционером.
В начале 1877 г. Плеханов тайно выехал в Германию, а затем во Францию, где познакомился с известным идеологом народничества Лавровым. Летом он так же нелегально возвратился в Россию и поселился в Саратове. Организовав кружок из местных народников, он начал пропаганду среди рабочих. Когда полиция напала на след их организации, Плеханов уехал в Петербург, где продолжал агитировать среди рабочих. В этом деле он проявил настоящий талант. Полицейский чиновник Блинов позже отмечал: «Плеханов имел громадное влияние на фабричное население, среди которого велась революционная пропаганда под его руководством». Тесное общение с рабочими заставило Плеханова глубже задуматься об их роли в русском революционном движении. Но сделать окончательные выводы ему мешало плохое знание деревни. В 1878 г., по примеру своих товарищей-народников, он решил пойти «в народ», — поехал на Дон и некоторое время вел агитацию среди казаков. Неизвестно, насколько эта поездка расширила его представления о русском крестьянстве, но от некоторых иллюзий он избавился. Возвратившись в Петербург, Плеханов вступил в брак с Розалией Боград.
В это время народническое движение переживало глубокий кризис. Хождение «в народ», предпринятое по призыву Бакунина, принесло революционной молодежи одни разочарования. Крестьяне не поддавались агитации, очень подозрительно относились к «заезжим господам» из города и сдавали их полиции без малейшего колебания. Несколько тысяч юношей и девушек поплатились за свой порыв ссылкой. К 1878 г. почти все народовольцы покинули деревню. Шли споры о новых методах борьбы. Руководство «Земли и воли» все более склонялось к террору. Огромный резонанс имела попытка покушения на императора Александра II, предпринятая в апреле 1879 г. по собственной инициативе землевольцем Александром Соловьевым. Часть землевольцев, и в том числе Плеханов, считали, что выстрел Соловьева принес только вред революционному делу. Другая часть во главе с Михайловым, напротив, приветствовала его и считала, что цареубийство должно стать делом всей организации. Споры приняли ожесточенный характер, и близкие друзья, работавшие до этого рука об руку, начинали понимать, что разногласия их становятся непреодолимыми. Последней попыткой спасти единство организации стал съезд землевольцев в Воронеже в июле-сентябре 1879 г. Большинство его участников пошло за сторонниками террора и согласилось считать подготовку цареубийства первоочередной задачей. Плеханов до конца противился этому решению, а оставшись в одиночестве покинул съезд. Разрыв был окончательным: сторонники террора создали свою организацию «Народная воля», а приверженцы пропаганды и агитации, сплотившиеся вокруг Плеханова (это были Аксельрод, Дейч, Стефанович, Засулич), объединились в организацию «Черный передел». Были поделены средства, типография, связи и явки. Но агитационная работа вскоре встала — в начале 1880 г. полиция разгромила типографию чернопередельцев и повсюду искала Плеханова. Оставаться в России больше не было никакой возможности, и уже в январе Плеханов выехал за границу.