Его доказательство было изящно и сделано по тем временам радикально новым методом, который сам он назвал методом бесконечного спуска. Предположим, что решение существует; тогда, применив алгоритм Евклида и немного повозившись, можно прийти к выводу, что существует и еще одно, меньшее решение. Следовательно, говорит Ферма, можно построить бесконечную цепочку решений, которые с каждым шагом будут становиться все меньше и меньше. Поскольку любая нисходящая цепочка такого рода, составленная из положительных целых чисел, в конце концов должна будет закончиться, возникает логическое противоречие. Значит, гипотетическое решение, с предположения о существовании которого мы начали свои рассуждения, не может существовать в действительности.
Возможно, Ферма намеренно скрывал свои доказательства. Судя по всему, он любил пошутить и ему нравилось помучить собратьев-математиков, представляя им свои изыскания в виде загадок. Его замечание на полях не единственное, в котором объявлялся некий важный результат, а затем следовали извинения за отсутствие доказательств. Декарт считал Ферма фанфароном, а Валлис называл его не иначе как «этот проклятый француз». Как бы то ни было, его тактика – если так и было задумано – работала. После смерти Ферма – да и при его жизни тоже – великие математики считали своим долгом довести до ума и отшлифовать какую-нибудь из головоломок, которые Ферма оставил потомкам. Эйлер, к примеру, объявил, что нашел доказательство теоремы для третьих степеней (сумма двух кубов не может быть кубом) в 1753 г. в письме к своему другу Христиану Гольдбаху. Сегодня мы понимаем, что в его доказательстве имелся пробел, но заполнить его было относительно несложно, так что первое опубликованное доказательство этого случая обычно признают за Эйлером. Адриан-Мари Лежандр доказал Великую теорему для пятых степеней в 1825 г., а Петер Дирихле доказал ее для 14-х степеней в 1832 г. и попытался – неудачно – доказать для седьмых; этот результат, вероятно, можно было бы спасти, если бы автор нацелился на что-нибудь попроще. Габриель Ламе разобрался с седьмыми степенями в 1839 г., а в 1847 г. изложил основные идеи общего доказательства в Парижской академии наук. В его доказательстве был задействован аналог разложения на простые множители для особого типа комплексных чисел.
Сразу же после его выступления встал Жозеф Лиувиль, который указал на возможную ошибку в методе Ламе. Для обычных чисел разложение на простые множители всегда единственно: если оставить в стороне порядок записи множителей, то сделать это можно только одним способом. К примеру, число 60 раскладывается на простые множители как 22 × 3 × 5, и существенно этот набор изменить нельзя. Лиувиль опасался, что для предложенного Ламе класса комплексных чисел факторизация может оказаться не единственной. Со временем его опасения оправдались: впервые это свойство нарушается для 23-х степеней.
Эрнст Куммер сумел спасти эту идею, добавив в смесь новые ингредиенты, которые он назвал «идеальными числами». Эти штуки ведут себя как числа, но числами при этом не являются. При помощи идеальных чисел он доказал Великую теорему Ферма для многих степеней, включая все простые степени до 100, за исключением 37, 59 и 67. К 1993 г. было известно, что Великая теорема Ферма верна для всех степеней вплоть до 4 млн, но это все более отчаянное карабканье вверх не проливало никакого света на общий случай. Новые идеи начали появляться в 1955 г. в связи с работами Ютаки Таниямы, который занимался исследованиями в другой области теории чисел, никак на первый взгляд не связанной с нашей темой, – в области эллиптических кривых. (Название обманчиво, и эллипс тут ни при чем. Эллиптическая кривая – особый тип диофантова уравнения.) Танияма предположил очень интересную связь между этими кривыми и комплексным анализом – теорию модулярных функций. На протяжении многих лет почти никто не верил в его правоту, но постепенно накопилось достаточно свидетельств того, что гипотеза, получившая известность как гипотеза Симуры – Таниямы – Вейля, может оказаться верной.