Когда стало известно, что многие язычники охотно принимают крещение, в церкви поднялся горячий спор о том, должны или не должны новообращенные исполнять все иудейские обряды и, прежде всего, подвергаться обрезанию. В 51 г. в Иерусалиме состоялся апостольский собор, посвященный обсуждению этого вопроса. После долгих споров и рассуждений Петр, поднявшись, сказал: «Мужи братия! Вы знаете, что Бог избрал из нас меня, чтобы из уст моих язычники услышали слово Евангелия и уверовали, и Сердцеведец Бог дал им свидетельство, даровав им Духа Святого, так же как и нам; и не положил никакого различия между нами и ими, верою очистив их сердца. Что же вы ныне искушаете Бога, желая возложить на учеников иго, которое не могли вынести ни отцы наши, ни мы? Но мы веруем, что благодатию Господа Иисуса Христа спасемся, как и они». Слова Петра поразили всех собравшихся. После этого никто уже не настаивал на том, чтобы новообращенные из язычников соблюдали иудейские законы, за исключением самых необходимых. Всего таких запрещений было четыре: воздерживаться от идоложертвенного (то есть от мяса, оставшегося после языческих жертвоприношений, которое обычно поступало в продажу; подобное мясо иудеи считали нечистым), воздерживаться от удавленины (то есть христиане не должны были употреблять мяса животных, умерщвленных посредством удушения, без истечения крови; кровь, в глазах иудеев, была седалищем души, и поедание крови всегда считалось страшным грехом), воздерживаться от блуда (то есть храмовой проституции, обычной среди язычников) и не делать другим того, чего они сами себе не хотят. Об этом решении дано было знать особым соборным посланием во все христианские общины Антиохии, Сирии и Киликии.
Сохранилась легенда о том, что последние годы своей жизни Петр провел в Риме, хотя и неизвестно, когда он сюда прибыл. В 60-х гг. римская церковь являлась одной из самых многочисленных, и Рим, наряду с Эфесом и Антиохией, был важнейшим центром христианства. Все дошедшие до нас послания Петра были отправлены им из Рима. Тогда же, по свидетельству первого церковного историка Евсевия, переводчик и секретарь Петра по имени Марк тщательно записал проповеди апостола об учении и деяниях Христа. Это евангелие поначалу было известно как Петрово, но потом стало называться Евангелием от Марка.
Согласно легенде, здесь же, в Риме, произошла вторая встреча Петра с магом Симоном, который будто бы приобрел волхованием большую власть над бесами и своим нечистым искусством смущал многих римлян, заставляя их поклоняться ему как богу.
Узнав об этом, Петр стал укорять римских христиан за то, что они молчат, видя как пособник Сатаны глумится над христовой верой. Те отвечали, что более Сатаны Симону помогает император Нерон, приблизивший к себе ловкого иудея. Тем не менее Петр решил при первой возможности изобличить козни Симона. Вскоре у одной знатной римлянки умер сын. Видя ее горе, родственники захотели ей помочь, и один из них пригласил к гробу юноши Петра, а другой Симона. Петр сказал: «Кто воскресит этого юношу, тот более прав в своей вере». Симон согласился, но сколько он ни призывал бесов, никто к нему не явился, так как Петр своей властью запретил им это. Когда пристыженный Симон отошел от тела, Петр стал молиться Господу, и тотчас мертвый по его слову открыл глаза, стал ходить и говорить. Все видевшие это чудо уверовали в Христа и хотели убить Симона, но Петр запретил им это.
Однажды (около 66 г.) Симон опять явился в Риме и объявил о том, что завтра поутру живым вознесется на небо. Чтобы видеть это чудо, римляне заблаговременно собрались на форуме. Симон начал читать заклинания и, призвав бесов, стал с их помощью быстро подниматься в воздух. Пораженные этим люди говорили: «Воистину, это дело Божие!» Но тут Петр громко приказал: «Господи, повели нечистым бесам бросить этого обманщика». Бесы немедленно покинули колдуна, и он, упав с огромной высоты, разбился насмерть. Это чудо еще более поразило римлян, и многие из них крестились. Однако Нерон, услышав о смерти Симона, пришел в гнев и повелел схватить Петра. Узнав, что его всюду ищут, Петр закрыл лицо плащом и тайком покинул город. Когда он уже был в безопасности, он вдруг увидел идущего ему навстречу Иисуса. Петр упал перед ним на землю и спрягал, изумленный этим видением: «Куда идешь, Господи?» «Иду в Рим, чтобы снова быть распятым», — отвечал Иисус и с этими словами исчез. Петр сообразил, в чем состоит воля Господа. Он открыл лицо и пошел обратно в город. Вскоре его узнали и схватили.