В начале 1872 года Кропоткин получает разрешение на поездку за границу, и в феврале уезжает в Швейцарию. Здесь он изучает деятельность 1-го Интернационала и в Цюрихе вступает в его местную секцию. Знакомится он и с «федералистами», пропагандирующими идеи М.А. Бакунина, теоретические положения которого склонили Кропоткина на сторону анархизма.
За границей Кропоткин пробыл до мая и, вернувшись в Россию, вошел в общество «чайковцев» – наиболее значительной из ранних народнических организаций. Два года работы в кружке «чайковцев» окончательно определили судьбу Кропоткина. Он вел активную пропаганду среди петербургских рабочих, овладел навыками конспирации и составил два документа: «Должны ли мы заняться рассмотрением идеала будущего строя?» и «Программа революционной пропаганды», в которых впервые в общих чертах сформулировал свою анархистскую программу.
Продолжая заниматься научной работой, он изучал ледниковые отложения и формы рельефа Финляндии и Швеции. Эти исследования привели его к выводу о широком распространении в антропогеновое время материкового оледенения в Северном полушарии, о чем Кропоткин в марте 1874 года сделал сенсационный доклад в Географическом обществе. В дальнейшем свои аргументы в пользу ледниковой теории он изложил в работе «Исследования о ледниковом периоде», первый том которой был издан в 1876 году.
В 1874 году за народническую пропаганду Петр Алексеевич был арестован и заключен в Петропавловскую крепость. Вклад Кропоткина в науку к тому времени был настолько значим, что по личному распоряжению императора ему были созданы условия (бумага, чернила, книги) для продолжения занятий научной деятельностью в тюрьме. Два года заключения сильно подорвали здоровье Петра Алексеевича, и в 1876 году он был переведен из-за болезни в Николаевский военный госпиталь, откуда 30 июня с помощью друзей он сумел бежать.
Оставаться в России было невозможно, и началась эмиграционная жизнь князя Кропоткина, продолжавшаяся 40 лет.
Живя за границей, Кропоткин продолжал свою научную, общественную и публицистическую деятельность, выступал с лекциями и речами, писал статьи и обзоры для научных изданий, издавал анархические газеты: «Револьте» (в Женеве), «Револьт» и «Тан Нуво» (в Париже), «Хлеб и Воля» (в Лондоне) и другие. Он близко познакомился со многими деятелями русского и международного революционного движения, особенно анархистского. С ним общались, переписывались многие известные деятели культуры и социальных движений.
После смерти Бакунина (1876) он становится наиболее авторитетным теоретиком анархизма, участвует в международных социалистических конгрессах и конгрессах анархистов. В годы изгнания он неоднократно высылался властями из страны в страну, подвергался арестам, провел три года во французской тюрьме. Царское правительство вело слежку за Кропоткиным как опасным политическим преступником. На него готовила покушение русская монархическая организация «Священная дружина», ошибочно видевшая в Кропоткине организатора убийства Александра II.
Все тяготы жизни ученого и революционера-изгнанника мужественно разделяла с ним в течение долгих лет Софья Григорьевна Кропоткина, ставшая в 1878 году его женой.
Активно участвуя в европейском социалистическом движении, он продолжал исследования в области биологии, географии, геологии, этики, социологии, истории. В конце 1870-х – начале 1890-х годов Кропоткин разработал и постоянно совершенствовал собственную теорию, которую назвал анархо-коммунизмом. В борьбе с противниками дарвинизма он развил положение теории Дарвина о взаимопомощи в живой природе, пытался перенести эти взгляды в сферу социальных отношений людей, сформулировал закон взаимной помощи и солидарности.
С конца 1890-х годов он участвовал в деятельности революционной российской эмиграции, сотрудничал в «Фонде вольной русской прессы», в 1904 создал Лондонскую группу русских рабочих-анархистов с целью издания пропагандистской литературы для России. В годы революции 1905—1907 годов он выступал против карательной политики царизма. Кропоткин стал одним из организаторов съезда российских анархистов (декабрь 1904 года), собрания российских анархистов-эмигрантов (сентябрь 1905 года), съезда российских анархистов (сентябрь 1906 года), конференции анархистов-эмигрантов (январь 1907 года), разработавших стратегию и тактику анархистов в революции.
С началом Первой мировой войны Кропоткин выступил в поддержку Франции, Англии и России против германского империализма, так как считал Францию центром мирового революционного движения, а Германию – оплотом реакции и милитаризма. Но эта позиция не нашла отклика у большинства анархистов мира, осуждавших войну вообще.