Во второй книге своей «Арифметики» Диофант поставил задачу представить данный квадрат в виде суммы двух рациональных квадратов. На полях, против этой задачи, Ферма написал:
«Наоборот, невозможно разложить ни куб на два куба, ни биквадрат на два биквадрата и вообще ни в какую степень, большую квадрата, на две степени с тем же показателем Я открыл этому поистине чудесное доказательство, но эти поля для него слишком узки». Это и есть знаменитая Великая теорема.
Теорема эта имела удивительную судьбу. В прошлом веке ее исследования привели к построению наиболее тонких и прекрасных теорий, относящихся к арифметике алгебраических чисел. Без преувеличения можно сказать, что она сыграла в развитии теории чисел не меньшую роль, чем задача решения уравнений в радикалах. С той только разницей, что последняя уже решена Галуа, а Великая теорема до сих пор побуждает математиков к исследованиям.
С другой стороны, простота формулировки этой теоремы и загадочные слова о «чудесном доказательстве» ее привели к широкой популярности теоремы среди не математиков и к образованию целой корпорации «ферматистов», у которых, по словам Дэвенпорта, «смелость значительно превосходит их математические способности». Поэтому Великая теорема стоит на первом месте по числу данных ей неверных доказательств.
Сам Ферма оставил доказательство Великой теоремы для четвертых степеней. Здесь он применил новый метод. Ферма пишет, что «поскольку обычные методы, находящиеся в книгах, были недостаточны для доказательства столь трудных предложений, то я, наконец, нашел совершенно особый путь для их достижения. Я назвал этот способ доказательства бесконечным или неопределенным спуском».
Именно этим методом были доказаны многие предложения теории чисел, и, в частности, с его помощью Эйлер доказал Великую теорему для n=4 (способом, несколько отличным от способа Ферма), а спустя 20 лет и для n=3.
Этот метод Ферма описывал в своем письме к Каркави (август 1659 года) следующим образом:
«Если бы существовал некоторый прямоугольный треугольник в целых числах, который имел бы площадь, равную квадрату, то существовал бы другой треугольник, меньший этого, который обладал бы тем же свойством. Если бы существовал второй, меньший первого, который имел бы то же свойство, то существовал бы, в силу подобного рассуждения, третий, меньший второго, который имел бы то же свойство, и, наконец, четвертый, пятый, спускаясь до бесконечности. Но если задано число, то не существует бесконечности по спуску меньших его (я все время подразумеваю целые числа). Откуда заключают, что не существует никакого прямоугольного треугольника с квадратной площадью».
Далее Ферма говорит, что после долгих размышлений он смог применить свой метод и для доказательства других утвердительных предложений. «Но для применения метода к доказательству других предложений, — пишет И.Г Башмакова, — например, для доказательства того, что каждое число представимо суммой не более четырех квадратов, требуется применение „новых принципов“, на которых Ферма подробнее не останавливается. Далее идет перечисление всех теорем, которые Ферма доказал, пользуясь методом спуска. Среди них находится и великая теорема для случая n=3. В конце письма Ферма выражает надежду, что этот метод окажется полезным для последующих математиков и покажет им, что „древние не все знали“. К сожалению, это письмо было опубликовано только в 1879 году. Однако Эйлер восстановил метод по отдельным замечаниям Ферма и с успехом применил его к проблемам неопределенного анализа. Ему, в частности, принадлежит и доказательство великой теоремы для n=3. Напомним, что первая попытка доказать неразложимость куба натурального числа в сумму двух кубов была сделана около 1000 года на арабском Востоке.
Метод спуска вновь начал играть ведущую роль в исследованиях по диофантову анализу А. Пуанкаре и А. Вейля. В настоящее время для применения этого метода вводится понятие высоты, т. е. такого натурального числа, которое определенным образом ставится в соответствие каждому рациональному решению. При этом если удастся доказать, что для каждого рационального решения высоты А найдется другое решение высоты меньше А, то отсюда будут следовать неразрешимость задачи в рациональных числах».
Вся последующая алгебраическая теория чисел вплоть до работ Гаусса развивалась, отталкиваясь от проблем Ферма. В XIX веке исследования, связанные с великой теоремой Ферма и законами взаимности, потребовали расширения области арифметики. Куммер, занимаясь Великой теоремой Ферма, построил арифметику для целых алгебраических чисел определенного вида. Это позволило ему доказать Великую теорему для некоторого класса простых показателей п. В настоящее время справедливость Великой теоремы проверена для всех показателей n меньше 5500.