나무모에 미러 (일반/밝은 화면)
최근 수정 시각 : 2024-11-07 20:23:36

페르마의 마지막 정리

페르마의 정리에서 넘어옴
정수론
Number Theory
{{{#!wiki style="margin: 0 -10px -5px; min-height: calc(1.5em + 5px)"
{{{#!folding [ 펼치기 · 접기 ]
{{{#!wiki style="margin: -5px -1px -11px"		 공리
페아노 공리계 · 정렬 원리 · 수학적 귀납법 · 아르키메데스 성질
산술
나눗셈 약수·배수 배수 · 약수(소인수) · 소인수분해(목록 · 알고리즘) · 공배수 · 공약수 · 최소공배수 · 최대공약수
약수들의 합에 따른 수의 분류 완전수 · 부족수 · 과잉수 · 친화수 · 사교수 · 혼약수 · 반완전수 · 불가촉 수 · 괴짜수
정리 베주 항등식 · 산술의 기본정리 · 나눗셈 정리
기타 유클리드 호제법 · 서로소
디오판토스 방정식 페르마의 마지막 정리 · 피타고라스 세 쌍 · 버치-스위너턴다이어 추측(미해결)
모듈러 연산
잉여역수 · 2차 잉여 · 기약잉여계 · 완전잉여계 · 중국인의 나머지 정리 · 합동식 · 페르마의 소정리 · 오일러 정리 · 윌슨의 정리
소수론
수의 분류 소수 · 합성수 · 메르센 소수 · 쌍둥이 소수(사촌 소수 · 섹시 소수) · 페르마 소수 · 레퓨닛 수
분야 대수적 정수론(국소체) · 해석적 정수론
산술함수 뫼비우스 함수 · 소수 계량 함수 · 소인수 계량 함수 · 약수 함수 · 오일러 파이 함수 · 폰 망골트 함수 · 체비쇼프 함수 · 소수생성다항식
정리 그린 타오 정리 · 페르마의 두 제곱수 정리 · 디리클레 정리 · 소피 제르맹의 정리 · 리만 가설(미해결) · 골드바흐 추측(미해결)(천의 정리) · 폴리냑 추측(미해결) · 소수 정리
기타 에라토스테네스의 체 · 윌런스의 공식
}}}}}}}}} ||

<rowcolor=#fff> '기하학·위상수학
 '
{{{#!wiki style="margin: 0 -10px -5px; min-height: calc(1.5em + 5px)"
{{{#!folding [ 펼치기 · 접기 ]
{{{#!wiki style="margin: -5px -1px -11px"		 평면기하학에 대한 내용은 틀:평면기하학 참고.
기본 대상
공리 유클리드 기하학 · 비유클리드 기하학
도형 기본 도형 평면 · 부피 · 꼬인 위치 · 각기둥 · 각뿔 · 원기둥 · 원뿔 · 구 (공 모양) · 전개도 · 겨냥도 · 다면체 (정다면체) · 정사영
곡면 타원면 · 타원포물면 · 쌍곡포물면 · 원환면
프랙털 도형 시에르핀스키 삼각형 · 시에르핀스키 사각형(멩거 스펀지) · 망델브로 집합 · 코흐 곡선 · 드래곤 커브
기타 다포체 · 초구 · 준구 · 일각형 · 이각형
다루는 대상과 주요 토픽
대수기하학 대수다양체 · 층 · 스킴 · 에탈 코호몰로지 · 모티브 · 타원곡선
미분기하학 미분다양체 · 측지선 · 곡률(스칼라 곡률 · 리만-크리스토펠 곡률 텐서 · 리치 텐서) · 열률 · 텐서 · 쌍곡 공간(쌍곡삼각형 · 푸앵카레 원반) · 타원 공간(구면삼각형) · 아핀접속
위상수학 위상 공간 유계 · 옹골 집합 · 다양체 · 택시 거리 공간 · 연결 공간 · 위상수학자의 사인곡선
위상도형 사영평면 · 뫼비우스의 띠 · 클라인의 병 · 매듭(/목록)
주요 성질·정리 분리공리 · 우리손 거리화정리(우리손 보조정리) · 베르 범주 정리
대수적 위상수학 호모토피 · 사슬 복합체 · 호몰로지 이론(호몰로지 · 코호몰로지) · 사상류 군 · 닐센-서스턴 분류
기타 차원 · 좌표계 · 거리함수 · 그물 · 쾨니히스베르크 다리 건너기 문제
정리·추측
실베스터-갈라이 정리 · 해안선 역설 · 바나흐-타르스키 역설 · 라이데마이스터 변환 · 오일러 지표 · 푸앵카레 정리 · 페르마의 마지막 정리 · 호지 추측미해결 · 버츠와 스위너톤-다이어 추측미해결
분야
논증기하학 · 대수기하학 · 미분기하학 · 해석 기하학 · 매듭이론 · 프랙털 이론 · 정보기하학 · 위상 데이터분석 }}}}}}}}}


1. 개요2. 증명의 과정
2.1. 기원2.2. 악명을 떨친 이유2.3. 초창기2.4. 침체기2.5. 전환기2.6. 최초의 발표2.7. 첫 증명의 오류2.8. 와일즈의 최종 증명2.9. 증명
3. 와일즈의 수상 이력4. 페르마의 증명 여부5. 우리의 문제를 돌려줘!6. 어록7. 기타8. 대중 매체에서의 등장9. 관련 문서

1. 개요

Quaestio VIII.
Propositum quadratum dividere in duos quadratos.
Imperatum sit ut 16. dividatur in duos quadratos. Ponatur primus 1Q. Oportet igitur 16. - 1Q. aequales esse quadrato. Fingo quadratum a numeris quotquot libuerit, cum defectu tot unitatum quod continet latus ipsius 16. esto a 2N. - 4. ipse igitur quadratus erit 4Q. + 16. - 16N. haec aequabuntur unitatibus 16. - 1Q. Communis adiiciatur utrimque defectus, et a similibus auferantur similia, fient 5Q. aequales 16N. et fit 1N. 16/5. Erit igitur alter quadratorum 256/25. alter vero 144/25. et utriusque summa est 400/25. seu 16. et uterque quadratus est.
Observatio domini Petri de Fermat.

Cubum autem in duos cubos, aut quadratoquadratum in duos quadratoquadratos, et generaliter nullam in infinitum ultra quadratum potestatem in duos eiusdem nominis fas est dividere cuius rei demonstrationem mirabilem sane detexi. Hanc marginis exiguitas non caperet.

문제 8.
제곱수를 두 제곱수로 나누기 위해.
문제가 16을 두 제곱수로 나누는 것이라고 하자. 먼저 x²을 둔다. 그러면 16-x²이 제곱수여야 한다. 원하는 만큼의 수에서 제곱해서 16이 되는 수[1]를 뺀 것으로 제곱수를 만든다. 2x-4라고 하자. 그러면 이것의 제곱은 4x²-16x+16인데, 이를 16-x²과 같다고 한다. 양쪽에서 공통으로 모자란 부분을 더하고 같은 양만큼 없애면, 즉 양변을 정리하면 5x²이 16x와 같고, x는 16/5가 된다. 따라서 하나를 256/25로 하고 다른 하나를 144/25로 두면 그 합은 400/25, 즉 16이 되고 둘은 각각 제곱수다.
피에르 드 페르마 경의 관찰.

하지만 세제곱수를 두 세제곱수로, 혹은 네제곱수를 두 네제곱수로, 또 일반적으로 제곱보다 큰 거듭제곱수를 동일한 지수의 두 거듭제곱수로 나눌 수 없는데, 나는 이에 대한 실로 놀라운 증명법을 발견했다. (하지만) 여백이 부족하여 이를 적지 않겠다.
페르마의 마지막 정리(Fermat's Last Theorem, FLT[2])는, '방정식 [math(x^n+y^n=z^n\ (n\ge3))][3]에는 자명하지 않은[4] 정수 해의 쌍 [math((x,y,z))] 값이 존재하지 않는다.'라는 수학정리를 일컫는 말이다. 여기서 '마지막(Last)'이란 것은 페르마가 마지막으로 내놓은 정리가 아니라, 페르마가 남겨놓은 정리들 중 후대 수학자들이 마지막까지 증명하지 못했던 정리라는 의미이다.
수학 최대 난제! 페르마가 300년 넘게 수학자들을 괴롭힌 문제는 무엇일까?

페르마(1607년 ~ 1665년 1월 12일)의 증명 방법은 거의 남아있지 않기 때문에 (가장 일반적으로 알려진 n=4인 경우는 당시 페르마의 마지막 정리의 무한강하법을 통한 증명방법이 남아있다) 엄밀히 말하면 '페르마의 추측'이라고 부르는 것이 옳다는 주장도 있으나 페르마가 자신이 증명해 냈다는 주장을 존중하여 일반적으로 페르마의 마지막 정리라고 부른다. 이 정리는 20세기를 넘기기 직전인 1994년, 영국 수학자 앤드루 존 와일스 경(Sir Andrew John Wiles)이 증명했다.

수학 역사에 존재했던 여러 난제 중 가장 대중적이고 유명하다. 고대 그리스 시절의 수학을 제외하면 '난제'라고 불리는 문제들은 일반 대중들은 이해하는 것부터 불가능할 정도로 고차원적이고 복잡한 질문인데, 페르마의 마지막 정리는 대한민국 기준으로 중학교 수학 수업만 제대로 들었다면 다 알아들을 수 있다.[5] 하지만 그 쉬워보이는 질문에 장장 400년에 가까운 세월 동안 전 세계의 내로라하는 모든 수학자들이 대답하지 못했다.

결국 해를 거듭하며 일반인은 이해할 수조차 없는 복잡한 난제들이 증명되는 와중에도 이 간단한 수식 하나가 모든 수학자가 덤벼도 해결이 안 되자 수학자들의 자존심은 끝없이 곤두박질쳤고, 결국 증명하는 데에는 페르마 이전의 수학부터 페르마 사망 이후 350여 년 동안 전 세계의 수많은 수학자들과 이 문제에 관심있는 일반인들이 이거 하나를 증명하기 위해 뛰어들어, 심지어 전혀 관계가 없을 것 같던 다른 연구를 위해 추가로 쌓아 올린 수학까지,[6] 수학이라는 학문의 정수가 총동원되어야만 했고, 결국 현대 수학의 최전선에서야 간신히 이 난제가 증명되었다.[7]

2. 증명의 과정

2.1. 기원

파일:external/4.bp.blogspot.com/c0045618_4d2f30564b8af.jpg
원피스의 대해적시대와 원피스에 비유한 만화.[8]

프랑스의 수학자 피에르 드 페르마는 원래 직업은 판사[9]로, 자신의 연구 결과를 출판하려는 시도를 하지 않았고, 수학은 취미상 스스로 알아낸 것만으로 만족했기 때문에, 그가 다른 수학자들과 주고 받은 편지에서 소개한 일부의 내용에 포함된 내용 이외에는 그의 연구 내용이 대부분 알려지지 않았다. 그의 사후 그의 장남인 클레망 사뮈엘(Clément-Samuel)은 페르마가 디오판토스의 정수론 책인 <아리스메티카>에 낙서처럼 달아놓은 주석을 정리해서 책으로 출판했고, 이를 통해서 페르마가 한 연구가 밝혀졌다.

수학사적의 의의론 정수론 서적인 아리스메티카에서 피타고라스의 정리인 임의의 제곱수를 서로 다른 두 제곱수의 합으로 표현한 문제를 더욱 확장하여 n을 세제곱수부터 무한 제곱수의 영역까지 정수해가 전혀 존재하지 않는 것을 명확히 확정해서 달아놓은 주석이 바로 페르마의 마지막 정리다.

이 문제는 피타고라스의 삼각수와 관련된 문제, 즉 방정식 [math(x^2+y^2=z^2)]을 만족하는 해 (x, y)를 z에 관하여 나타내는 문제다. 위 방정식을 만족하는 해는 어떤 정수 a, b 에 대해서 [math((x,y,z)=\left(a^2-b^2,2ab,a^2+b^2\right))] 혹은 그들의 [math(k)]배라는 것을 고등학교 수준에서 비교적 쉽게 풀어서 알 수 있다. 따라서 [math((x,y)=\left(\dfrac{a^2-b^2}{a^2+b^2}z,\dfrac{2ab}{a^2+b^2}z\right))]로 나타낼 수 있다. 아리스메티카에서 제시하는 해는 여기서 [math(b=1)]을 대입한 값인 [math((x,y)=\left(\dfrac{a^2-1}{a^2+1}z,\dfrac{2a}{a^2+1}z\right))]다.

[math(a)]와 [math(b)]는 임의의 정수이므로, 이 해는 무한히 많게 된다. 그런데 페르마는 이 문제 부분에 지수가 3 이상일 경우에는 유리수 해[10]가 없다고 주장하면서도 이것을 증명하는 대신 자세한 설명을 생략해버림으로써 장장 300년에 걸친 모든 천재 수학자들의 어마어마한 고통이 시작되었다. 물론 정수론, 대수학 계열이 아닌 수학자들은[11] 페르마의 대정리의 악명을 눈치 채고는 운 좋게 모두들 비껴갔을 것이다. 낚인 사람 중에는 자살한 사람, 정신이상이 생긴 사람, 심지어는 결투를 벌인 사람도 있었다.[12] 당대의 수학 전공자뿐만 아니라 근현대의 전공자들과 아마추어 수학 연구가들도 역시 헤아릴 수 없을 정도로 많이 실패했다.

2.2. 악명을 떨친 이유

페르마의 정리가 아니더라도 수학에는 수많은 난제가 많은데, 굳이 페르마의 정리가 300년간의 학계 내외의 꾸준한 어그로를 끌 수 있었던 이유를 요약해 보자면 다음과 같다.

2.3. 초창기

문제가 알려진 후 한동안은 아무도 해법을 제시하지 못했다. 당대의 위대한 수학자로 평가받은 이들이 증명에 도전했으나, 누구도 진척을 보이지 못했다.

페르마 사후 133년 뒤, 첫 단추의 단서를 발견한 수학자가 나타났다. 18세기에 명성을 떨친 수학자 레온하르트 오일러(1707~1783)였다.[15] 오일러는 본격적인 연구를 들어가기에 앞서 자료를 조사하기 시작했고, 곧 페르마 본인이 n=4일 때의 증명에 대한 풀이를 해 놓았다는 사실을 찾아냈다. 페르마의 마지막 정리가 수록된<아리스메티카>에 'n=4에 대한 증명은...'이라고 형식을 맞춰 풀이한 것은 아니었고, 지나가는 길에 심심하다는 듯이 페르마의 마지막 정리가 기록된 주석과는 완전히 다른 텍스트 옆에, 무한강하법을 이용한 중간 정리 과정을 간략히 휘갈겨 놨던 것이다. 이러니 FLT가 본격적으로 알려지고 널리 연구되기 전인 초창기엔 다들 그걸 못 보고 지나쳤던 것. 페르마가 직접 기록한 n=4에 대한 정리는 일정 수준의 수학자라면 누구나 증명을 이해할 수 있을 정도로 풀이가 되어있었다.

오일러는 이걸 토대로 n=3이 성립한다는 걸 복소수를 활용한 귀류법의 일종인 무한강하법으로 증명했다.[16] 이 방법은 n=4일 경우에 쓰인 증명법과 본질적으로 같다. 그러나 비슷한 방법으로 n=5일 때의 증명을 시도했으나 끝내 못 했고, 페르마의 옛 집을 동료들까지 동원해서 샅샅이 뒤졌지만 모든 n값에 대한 증명의 정리는 찾아내지 못했다. 결국 오일러는 n=4와 n=3의 경우에 대한 증명을 발표하는 데 그쳤다. 그러나 이 과정에서 오일러는 그동안 명확히 정립돼 있지 않던 복소수의 개념을 다듬었으며, 허수 단위 i를 창안하는 업적을 만들게 되었다.[17]

이후 또다시 많은 수학자들이 도전했지만 별다른 성과는 나오지 않았다. 이때 오일러 다음 세대에 소피 제르맹(Marie-Sophie Germain, 1776~1831)[18]이라는 수학자가 등장했고, 놀라운 성과물을 내놓았다. 오일러가 해결하지 못했던 n=5의 경우에 대한 해법을 제시한 것이다.
소피 제르맹의 발상은 간단했다. 모든 자연수는 소수와 합성수의 합으로 이루어지고, 다시 합성수는 소수들의 곱으로 이루어진다. 즉 어떤 자연수 X(N*M) = (XN)M 으로 간단히 변환되는 것을[19] 페르마의 마지막 정리에 이용한 것이다. 따라서 FLT에서 n의 자리에 들어가는 소수값에 대한 증명을 밝혀낸다면, 합성수 부분에 대한 증명도 성립되고 자연수를 구성하는 '소수+합성수'의 두 항에 대해 밝혀내게 됐으니 모든 자연수에 대한 FLT의 증명도 손쉽게 이뤄질 것이라 생각했던 것이다. 이렇게 소수에 대해 주목했던 소피 제르맹은 카를 프리드리히 가우스에게[20] 자신의 소피 제르맹 소수 p[21]를 인용하며 안전소수(2p+1)가 FLT의 n일때 FLT가 참일 것이라고 주장했다.
이후 디리클레와 르장드르가 소피 제르맹의 정리를 바탕으로 n=5일 때 FLT가 참이라고 증명해냈다.[22] 소피 제르맹도 100 이하의 소수들에 대해 FLT가 참임을 증명하는 데 성공한다. 소피 제르맹에 의해 n=소피 제르맹 소수인 경우의 상당부분이 증명되며 FLT에 대한 증명 과정이 급속도로 진척되었다.

그러나 결국 원론적인, '모든 n값이 성립한다'는 것은 증명되지 못했다. 만약 'n=소피 제르맹 소수가 아닌 소수'라면 답이 없다는 거다. 이런 예외가 유한했다면 수작업으로 밤을 새든, 몇 년간 붙잡든, 몇 대에 걸쳐 인해전술을 하든 어떻게 근성으로 증명할 수 있겠지만, 그런 소수가 무한하다는 문제가 있었다.[23] 이 불행한 진실은 에른스트 쿰머(Ernst Eduard Kummer, 1810~1893)가 증명했는데, 쿰머는 n이 정규소수일 경우의 증명을 완성했지만 동시에 n이 비정규소수일 경우 하나하나 수작업으로 풀어야 한다는 사실을 발표했다. 게다가 비정규소수는 무한하고 정규소수의 무한성은 아직도 밝혀지지 않았다.[24]

2.4. 침체기

쿰머가 불편한 진실을 발표한 뒤 점점 수학계에서 FLT에 대한 관심은 멀어져갔다. 일부 수학자들은 이에 대해서 아예 "페르마가 잘못 짚은 게 아닌가?" 라고 까지 생각하게 되었지만, 이미 위에서 말한 것처럼 n이 웬만한 소수들과 그 소수들로 이루어진 무한한 합성수들인 경우가 증명되었기 때문에, 파울 프리드리히 볼프스켈이라는 의사이자 아마추어 수학자가 나타나며 명맥을 이어가게 된다. 볼프스켈이 이 난제를 증명하는 사람에게 현상금 10만 마르크[25][26]를 주겠다고 공표하면서 재야의 아마추어 수학자들에게도 FLT가 알려지게 된 것이다. 볼프스켈은 연인에게 실연당한 후 자살할 생각이었는데, 자살할 시간을 정해놓고 책장을 뒤져보던 중 페르마의 정리를 발견하고, 페르마의 정리에 대해 전율을 느끼고 삶의 의미를 되찾았다고 한다. 이에 그는 경의를 담아 페르마의 마지막 정리를 증명하는 사람에게 10만 마르크를 주겠다고 결정했고, 이 상금은 괴팅겐의 왕립과학원에 기탁되어 '볼프스켈 상'이라고 정식 명명되었다. 수많은 이들이 상금을 위해서 해법을 투고하기 시작했지만 모든 증명이 오류를 내포하고 있었으며, 매우 설득력 떨어지는 논리를 적어서 보낸 유사수학자들도 많았다. 뭐, 볼프스켈상의 심사 대상은 학술지에 실린 논문만을 심사 대상으로 한다는 조건이 붙어 있었기 때문에 순 엉터리인 논문은 아예 심사 대상이 되지도 못했다.

이 시기 대다수의 전공자들은 자신들의 분야에 몰두하며 FLT를 도외시하긴 했지만, 실제로는 자신이 없어서 그랬다고 봐야 할지도 모른다. 유명한 수학자인 다비트 힐베르트에게 왜 이 문제를 안 푸냐고 사람들이 묻자, "적어도 3년 이상의 시간을 투자해야 하지만 실패할 게 분명한 일에 그럴 순 없다."고 답한 바가 있다.

한편 인류의 통신 기술이 발전하고 19세기에 들어서며 점차 하나의 교통권으로 묶이자, 국가별로 고유의 수학 체계를 가지고 있던 나라들이 유럽의 수학과 접촉하게 되면서 전체 수학 인구가 폭증, 학문 발전 속도가 과거와는 비할 바 없이 빨라지게 되었다. 그러나 100년이 흘러 20세기에 들어서도 여전히 페르마의 마지막 정리만큼은 그 어느 대륙과 국가의 수학자들도 완벽한 해결책을 찾지 못했다. 이렇게 FLT의 명성이 차차 높아지면서 대중매체에서도 '절대로 풀릴 수 없는 난제'로서의 출연도 많아졌다.

가령 아서 포기스가 1957년도에 출판한 단편 소설 <악마와 사이먼 플래그>에서는 수학자가 악마에게 영혼을 줄 테니 기한 안에 페르마의 마지막 정리를 풀어달라고 딜을 건다. 악마는 자신만만해하다가도 혼자서 열심히 수학 공부를 하다가 현대수학의 방대함에 질려버리고 편미분방정식을 암산으로 푸는 가상의 외계 종족까지 찾아가지만 결국 실패한다.[27] 당시 사람들이 페르마의 마지막 정리를 어떻게 인식했는지를 알려주는 사례. 그래도 이 소설에서는 악마가 자신이 시간 내에 푸는 걸 실패했단 걸 인정하면서도 아쉬움이 남아서 수학자와 같이 해법을 계속 찾는다는 훈훈한 결말이 난다.

20세기 중후반에 개발된 컴퓨터로도 이 문제를 풀지 못한다. 숫자 n이 무한한 이상 하나하나 계산하는 방식으로는 아무리 빨리, 많이 계산할 수 있다고 해도 '모든' 경우를 계산할 수 없기 때문.[28] 결국 페르마의 마지막 정리는 정말 아무도 풀지 못하는 미지의 문제라고 여겨지게 되었다. 그렇게 페르마의 정리는 <아리스메티카>에 수록된 17세기 그 상태로 새천년의 시대인 21세기를 맞이할 것만 같았다.

2.5. 전환기

페르마의 정리가 지난 두 세기 동안 항상 부분적으로만 증명되는 데는 이유가 있었다. 페르마의 정리가 원론적으로 증명되기 위해선 말 그대로 '현대수학의 전부'가 필요했었던 것이다. 앤드루 와일스(1953~ )의 증명법에는 1957년도에 발표된 타니야마-시무라의 추론(모듈러성 정리)이 결정적인 역할을 했다.[29] 이 타니야마-시무라의 추론은 수학의 다양한 분야에서도 서로 연관성이 있다고 생각하기 어려운 분야들의 다리 역할을 함으로써, 당시에는 '만약 타니야마-시무라의 추론이 사실이라면' 이라는 전제 하에 나온 논문들이 많았다. 따라서 타니야마-시무라의 추론을 증명하는 것은 페르마의 정리를 증명하는 것뿐만이 아니고 사상누각과 같았던 새로운 수학 분야의 근간이 되는 것이었다. 게다가 타니야마-시무라의 추론을 증명한다면 대통일 수학이라는 궁극적인 목표에 도달한 첫 번째의 업적이 될 것이 확실했다.

그런데 독일의 수학자 게르하르트 프라이(Gerhard Frey)가 타니야마-시무라의 추론을 이용하여 페르마의 정리를 타원곡선의 형태로 변형을 시키면서 점차 단초가 보이기 시작했다. 이 식은 페르마의 정리가 틀렸다는 가정하에 유도된 식이었다. 프라이는 타니야마-시무라의 추론이 맞는다면 자신이 유도해낸 타원곡선이 존재하지 않는 것을, 따라서 페르마의 정리를 만족하는 정수인 해가 존재하지 않는 것을 타원함수가 비정상적이라는 점을 보이면서 대우명제를 통해 선보였다. 즉 프라이는 타니야마-시무라의 추론을 증명하면 페르마의 정리 또한 부록으로 증명된다는 점을 증명한 것이다. 다만 프라이의 증명 과정에는 일부 완성되지 않은 부분이 포함되어 있었고, 그렇기에 이 증명은 엡실론 추측(Epsilon conjecture)으로 명명되었다.

프라이가 1985년도에 이 사실을 밝혀내기 전까지 프로 수학자들은 침체기에 활동했던 자신들의 선배들과 마찬가지로 페르마의 마지막 정리가 어렵기만 하고 수학적으로는 별로 중요하지 않다며 관심이 없는 척했지만, 프라이가 발표한 엡실론 추측을 통해 페르마의 마지막 정리를 정복할 가능성이 보였다는 소식을 들은 순간 빛의 속도로 달려와서 논문 내용을 복사해갔다.[30] 만 3세기에 걸친 이 난제를 해결하기만 한다면 학문적 성취는 물론이거니와 막대한 명예까지 거머쥘 수 있었기 때문이었다. 헌데 기다렸다는 듯이 풀리지 않아 모두를 좌절시켰다.

그러던 와중 케네스 리벳(Kenneth A. Ribet)이 만 1년간의 고생 끝에 1986년에 엡실론 추측을 증명하는 데 성공하였다. 이 증명이 발표되자, 전 세계 수학계는 드디어 페르마의 대정리를 정복할 수 있다며 흥분했다. 이를 통해 엡실론 추측은 리벳의 정리(Ribet's theorem)이라는 새 이름을 얻었으며, 리벳은 이 추측을 증명한 업적으로 1989년에 페르마 상(Fermat Prize)을 수상했다.

이제 '타니야마-시무라의 추론'만 증명되면 모든 게 완료되는 모든 밑그림이 마련되었다.

2.6. 최초의 발표

드디어 지난 400년간의 좌절을 끝낼 한 줄기 희망 앞에, 수많은 수학자들이 도전을 시작했다. 그러나 FLT를 한 쾌에 해결해줄 모든 준비물이 갖추어졌지만 막상 30여 년이 흐른 그때까지도 타니야마-시무라의 추론이 증명되지 않았던 것이다. 결국 학계의 달아올랐던 분위기는 언제 그랬냐는 듯 식기 시작했으며, 페르마의 정리를 증명하는 것을 포기하기 시작했고, 엡실론 추측의 주역인 켄 리벳도 마찬가지였다. 그러나 포기하지 않은 사람이 있었다. 바로 케임브리지 출신의 영국의 수학자 앤드루 와일스였다.

와일즈는 원래 1974년에 케임브리지대 대학원에 진학하면서 졸업 논문으로 페르마의 마지막 정리를 연구하고 싶어했으나, 증명하지 못하면 졸업을 못 할 것이기 때문에 지도교수가 추천한 '타원곡선'을 연구하여 1980년 박사 학위를 취득하고 타원곡선론을 연구하는 세계적 학자가 되었다. 그때는 페르마의 마지막 정리와 타원곡선은 아무런 관련이 밝혀진 바 없었으나, 페르마의 마지막 정리를 증명하기 위한 타니야마-시무라의 추론이 타원곡선론 그 자체였기 때문에 결과적으로 원래 하고 싶었던 페르마의 마지막 정리를 증명하기 위한 연구를 했던 셈이다. 1986년 친구와의 대화 중 이것을 알게 된 와일즈는[31] 그때부터 페르마의 마지막 정리에 도전하여 7년 동안 자기 집 다락방에 처박혀서 FLT 연구에만 몰두를 시작했다.[32] 거기에 다른 수학자들의 관심을 돌리기 위해서 다른 연구를 계속하고 있는 것처럼 위장할 목적으로 비교적 사소한 주제들을 다룬 논문을 미리 작성해 놓고 6개월 간격으로 제출했다.[33] 다만 그의 아내와 논문의 검토를 맡았던 동료 교수 닉 카츠(Nick Katz)는 와일즈의 비밀을 알고 있었다. 이후 동료 교수 피터 사르낙도 와일즈의 비밀을 듣게 된다.

각고의 연구 끝에 와일즈는 현대수학을 총동원하여 시무라의 추론을 증명했고, 결과적으로 페르마의 정리를 증명해냈다. 다만 와일즈 교수가 이때 증명한 것은 준안정 상태의 경우뿐이었으나, 이것만으로도 페르마의 정리를 증명하기에는 충분했다.[34]

이후 와일즈는 자신의 증명을 한 번 더 검증한 후 발표하려고 했는데, 마침 케임브리지에서 학회가 열린다는 소식을 듣고 모교이기도 한 그곳에서 증명을 발표하기로 했다. 증명이 너무 길어서 강연 기회를 더 달라고 자신의 은사인 존 코즈에게 부탁을 하여 3번의 강연 기회를 얻어낸 후 차례대로 증명 과정을 발표했다.

그런데 사르낙이 사고를 치고 말았다. 케임브리지 학회에서 와일즈가 강연하기 전에 "에이 그건 아무것도 아냐. 훨씬 큰 게 있어"고 발언해버린 것. 사르낙은 "페르마에 대해선 언급도 안 했다"며 변명했지만 수학계에서 '훨씬 큰 것' 이 무엇인지 모르는 수학자는 없었고, 곧 "와일즈가 페르마의 마지막 정리를 정말로 증명하기 시작했다."라는 소문이 퍼져나갔으며, 마지막 강연에서는 구름처럼 청중들이 몰려왔다. 그리고 강연의 마지막 시간, "이로써 페르마의 마지막 정리에 대한 증명을 끝마칩니다."라는 앤드루의 멘트와 함께 페르마의 마지막 정리의 장대한 역사가 끝을 맞이하게 되었다.

2.7. 첫 증명의 오류

케임브리지에서 와일즈가 증명을 발표한 후, 수학자들은 검증을 위해 와일즈의 논문에 달라붙었다. 이 작업에 참가한 사람 중에는 와일즈가 앞서 검증을 부탁했던 닉 카츠도 포함되어 있었는데 증명에서 오류가 발견되었다.

닉 카츠는 과거에 자신이 검증할 땐 못 찾았던 오류를 찾아내고 뒷목을 부여잡았지만 이미 늦었다. 매의 눈으로 검증 작업을 지켜보던 수학자들 사이에 소문이 퍼지기 시작한 것이다. 당연하지만 이 과정에서 엄청난 소동이 벌어졌고, 전 세계의 수학자들이 열심히 설전을 벌이는[35] 동안, 와일즈 본인은 다시금 은둔형 외톨이 상태로 연구에 돌입했지만 10개월 동안 성과를 얻지 못해 연구를 포기하려고도 했다. 이때 와일즈의 제자인 테일러가 와일즈가 전에 포기했던 콜리바긴-플라흐의 방법을 검토했는데, 이것이 결정적인 힌트가 되었다.

1994년 9월 19일, 와일즈는 자신이 이용했던 이와사와 이론과 콜리바긴-플라흐의 방법이 서로를 보완하는 성질을 갖고 있다는 사실을 알아냈다. 두 가지 방법을 한데 합쳐놓으니 문제점이 완벽하게 해결된 완벽한 정리가 드러났다. 와일즈는 당시를 떠올리며 울먹거리며 말했다.
"그것은 말로 표현할 수 없을 정도로 아름답고, 간결하면서 또 우아했어요. 왜 이 사실을 진작 발견하지 못했는지 이해가 가질 않았습니다. 정말 기쁘면서도 넋이 나가서 계산 결과를 한 20분 동안 멍하니 바라보았습니다. 그리고는 밖으로 나와 수학과 건물 내의 복도를 이리저리 거닐다가 다시 자리로 돌아와서는 제가 발견한 것이 아직 그대로 있는지 확인해 보았습니다. 꿈을 꾼 건지도 모르니까 말이죠. 그런데 그 아름다운 녀석이 여전히 그 자리에 있더군요. 저는 너무 흥분해서 정신을 가눌 수가 없었습니다. 제 연구 인생을 통틀어 가장 중요한 순간이었지요. 앞으로 제가 어떤 발견을 한다 해도 그런 정도의 환희는 두 번 다시 느껴보지 못할 겁니다."
결국 와일즈는 첫 증명에서의 문제점을 해결하고 인류 역사에 길이 남을 대정리에 마침표를 찍었다. 위에서 언급한 증명한 사람에게 10만 마르크를 지불한다는 상금도 수령했다. 다만 당시 10만 마르크가 여러 번의 디노미네이션을 거쳐 1997년에 와일스가 수령한 것은 약 4만 달러 정도였다.

2.8. 와일즈의 최종 증명

논문 파일 (PDF)

와일즈 교수는 이 증명 논문을 아내에게 생일 선물로 보여줬으며, 아내는 크게 기뻐했다. 국내에 번역된 사이먼 싱의 '페르마의 마지막 정리'에서는 "그렇게 기뻐하는 아내의 모습은 처음 봤다"고 되어 있는데, 와일즈가 증명을 완성하려고 얼마나 고생했는지를 옆에서 지켜본 아내였으니 당연했을 것이다.

사실 와일즈가 석사 과정에 입문할 때부터 매우 극적인 우연들이 겹쳐서 만들어낸 걸작이다. 예를 들자면, 왠지 모르게 베리 마주르가 여러 차례 활약을 했다. 리벳이 엡실론 추측을 증명할 때나, 와일즈가 모듈러가 아닌 소수의 타원곡선들 때문에 골머리를 앓고 있을 때 다른 프라임을 사용하게끔 영감을 준다거나 식으로. 물론 와일즈의 7년간의 집념과 능력이 가장 중요한 것이었음은 부정할 수 없을 뿐더러 사실 학문이란 것은 주변이나 우연이나 운에서 깨달음을 얻으며 발전해왔다.

증명에 대해 이해하고 싶은 이를 위하여 논문의 서론 처음 두 줄을 소개하자면 이렇다.
Introduction.

An elliptic curve over [math(\mathbb{Q})] is said to be modular if it has a finite covering by a modular curve of the form X0(N). Any such elliptic curve has the property that its Hasse-Weil zeta function has an analytic continuation and satisfies a functional equation of the standard type.

소개.

타원 곡선 [math(\mathbb{Q})]는 X0(N) 형태의 모듈형 곡선에 의해 유한한 피복을 갖는 경우 모듈형이라고 합니다. 이러한 타원 곡선은 하세-웨일 제타 함수가 해석 연속성을 가지며 표준 유형의 함수 방정식을 만족한다는 속성을 가지고 있습니다.
(후략)
이 논문은 '타원곡선(elliptic curve)', '모듈러(modular)', '모듈러 곡선(modular curve)의 유한 덮개(finite covering)', '하세-베유 제타 함수(Hasse-Weil zeta function)의 해석적 연속(analytic continuation)', '표준형의 함수방정식(functional equation of the standard type)' 같은 표현이 당연히 무엇인지 알고 있다는 가정하에 쓰여 있다. 거기에 수많은 로마자 기호와 수식은 덤이다. 그런데 이런 내용이 본문도 아닌 12쪽짜리 서론(introduction)에 나오는 내용들이다. 즉, 지극히 기본적인 것들이다.

실제 증명이 시작되는 Chapter. 1은 13쪽부터 시작된다. 여기서부터 본격적인 증명에 해당하는 난해한 내용이 100쪽 넘게 이어진다. 또한 수없이 많은 정리와 증명들, 예를 들어 L-함수, 갈루아 이론, 이와사와 이론[36], 유수 공식 등 괴이쩍은 것들이 쏟아져 나온다는 게 문제. 대수적 정수론으로 수학과 석사 학위를 받는 정도는 되어야 이해가 가능하다.

와일스 교수의 고향이자 발표가 있던 케임브리지가 있는 영국에서도 당연히 성대한 축하와 기념 행사들이 있었다. UKTV에서는 다큐멘터리도 제작되었다. 이 다큐멘터리는 나중에 <The Proof>라는 제목을 달게 되었다. 다른 수식어 없이 '그 증명'이라고 불리는 것만으로도 와일스 교수가 얼마나 위대한 업적을 해낸 것인지 알 수 있다. 영상 초반에 그 영광스러운 때를 떠올리며 결국 눈물을 터트리는 와일스의 모습이 인상적이다. 영상출처

어쨌든 이렇게 해서, 페르마의 마지막 정리가 참인 것으로 드디어 증명되었다.

2.9. 증명


파일:나무위키+유도.png  
은(는) 여기로 연결됩니다.
여러 증명에 대한 내용은 페르마의 마지막 정리/증명 문서
를
의 번 문단을
의 부분을
, 에 대한 내용은 문서
를
의 번 문단을
의 번 문단을
의 부분을
의 부분을
, 에 대한 내용은 문서
를
의 번 문단을
의 번 문단을
의 부분을
의 부분을
, 에 대한 내용은 문서
를
의 번 문단을
의 번 문단을
의 부분을
의 부분을
, 에 대한 내용은 문서
를
의 번 문단을
의 번 문단을
의 부분을
의 부분을
, 에 대한 내용은 문서
를
의 번 문단을
의 번 문단을
의 부분을
의 부분을
, 에 대한 내용은 문서
를
의 번 문단을
의 번 문단을
의 부분을
의 부분을
, 에 대한 내용은 문서
를
의 번 문단을
의 번 문단을
의 부분을
의 부분을
, 에 대한 내용은 문서
를
의 번 문단을
의 번 문단을
의 부분을
의 부분을
, 에 대한 내용은 문서
를
의 번 문단을
의 번 문단을
의 부분을
의 부분을
참고하십시오.

3. 와일즈의 수상 이력


1993년에 와일즈가 처음으로 증명을 공개했을 때, 그는 뉴욕 타임스를 비롯한 세계 각지의 신문 1면을 장식했다. 1년 후 완벽한 증명을 완성했을 때도, 볼프스켈 상을 탔을 때도 그랬다. 페르마의 마지막 정리를 증명한 것이 얼마나 충격적이었는지 보여주는 사례다.

상은 아니지만 '9999 Wiles'라는 이름의 소행성은 그의 이름을 딴 것이다. 다른 과학자(천문학자)들이 그의 공로를 인정하여 헌정한 것이라고 보면 된다.

4. 페르마의 증명 여부

결론부터 말하자면, 페르마가 남긴 마지막 정리는 책 여백에 끄적인 낙서에 불과한 글귀이고 증명에 오류가 있었음을 나중에 알았어도 그냥 놔뒀을 확률이 높다.

페르마가 말한 대로 이 추측은 증명되었다. 하지만 페르마가 여백이 부족하다며 생략한 그 놀라운 증명법이 앤드루 와일스의 증명법과 같았을지는 의문이며, 와일스의 방법을 쓰진 않았을 것으로 여겨진다. 현대수학의 최전선에서 간신히 증명된 이 정리는 현대수학의 해석학적으로 증명이 되었음을 생각해보면, 17세기 당시의 수학으로는 사실상 증명이 불가능했다고 여겨진다. 페르마가 무슨 미래인이라서 미래의 수학적 개념을 알고 풀어낸 것은 결코 아닐 것이기에 당대 수학에 기반해서 생각해야 하는데, 17세기 수학의 수준은 현대보다 훨씬 낮았기 때문이다.

만약 '페르마의 대정리'가 성립하지 못했다면, 페르마의 "난 이걸 증명해냈다"는 말이 거짓말이거나 착각이라고 결론내릴 수 있었을 것이다. 하지만 페르마의 말대로 대정리가 성립한다는 것이 정확하게 증명되어 버렸기 때문에, 페르마가 어떤 방법으로 풀었는지에 대한 떡밥이 도마 위에 오르게 된 것이다. 페르마의 대정리의 가장 일반적인 n=4인 경우, 페르마 본인이 무한강하법으로 책의 다른 여백에 증명을 썼고, n=4일때 참이었다.

일단 페르마가 17세기의 수준을 뛰어넘는 천재였음은 분명하다. 페르마 사후 100년간 아무도 페르마의 마지막 정리를 풀기는커녕 증명의 실마리조차도 못 찾았기 때문. 나중에 오일러가 페르마의 책을 이 잡듯 뒤진 끝에 n=4일 때의 증명을 찾은 후에야 조금씩 풀리기 시작한 것이다.

그러나 아무리 페르마가 천재라지만, FLT를 증명하는 데 실패한 수학자 중에는 페르마에 필적하거나 더 뛰어나다고 할 수 있는 세기의 위인들도 가득하다. 당장 레온하르트 오일러만 해도 페르마가 남겨둔 문제 대부분을 풀어냈다. 비록 FLT를 푸는 데는 실패했지만 문제의 극악한 난이도를 감안하면 부끄러운 일이 절대 아니다. 수많은 천재들이 도전했다가 실패하고 실패하고 또 실패한 끝에, 와일즈가 현대 수학을 다 끌어모아서 겨우 해답을 찾은 것이다. PDF 파일로 100페이지가 훌쩍 넘는 저 증명을 다 읽고 이해하려고만 해도 대수적 정수론 분야로 석사 졸업[43]이나 박사 정도는 되어야 할 텐데, 하물며 저런 증명을 직접 해낸 현대의 수학자들도 최고의 천재들일 것이며, 그들이 해볼 수 있는 시도는 거의 다 해보고 최대한 간결하게 적어서 정리한 결과물이 100페이지를 훌쩍 넘어가니 적어도 '여백'에 적어서 증명할 수준은 절대 아닐 것이다. 일본의 수학자 모치즈키 신이치는 ABC 추론을 증명하는 논문을 내면서 이걸 이용하면 50페이지 정도로 FLT의 증명을 압축할 수 있다고 주장했다. 정작 모치즈키의 논문은 561페이지나 되고 와일스의 논문만큼이나 엄청나게 난해하다.

하물며 400년 전의 수학 이론을 가지고 여백에 적을 수준으로 간결하게 증명할 수 있는 방법은 상식적으로 불가능할 것이고, 수백 년 동안 수많은 학자들의 노력이 쌓인 현대수학으로 겨우 증명되었기에 400년 전 인물인 페르마는 증명해내지 못했을 것이라는 쪽이 학계의 전반적인 분위기다.

가장 일반적인 통설은 '적는 순간엔 오류를 발견하지 못하고 증명했다고 착각했다'는 것. 실제로 n=4인 경우에 대한 증명은 페르마 자신이 책에 적어놓았고, 이 아이디어를 이용하면 n=3인 경우도 풀 수 있다. 때문에, 이 일부의 경우를 증명한 것으로 모든 경우를 다 증명되었다고 착각(추측)한 것일 수 있다. 만약 페르마가 모든 n에 대한 정리를 진짜로 증명했다면 개별 n에 대해 따로 증명할 필요는 없었을 것이다.

어디까지나 '취미'로 수학을 했던 페르마는 증명에 그다지 공을 들이지 않는 편이었고, 거기에 동료 수학자들에게 문제를 풀어보라며 장난을 치던 성격이기도 했다. 또한 그는 머릿속으로 생각했을 때 대충 맞는 것 같으면 맞는가보다 하고 넘어갔기 때문에 굳이 글로 남기지 않은 경우도 많았다. 따라서 페르마의 마지막 정리에 대한 오류도 그의 직관에 따라 적는 순간에는 머릿속으로 적당히 증명이 올바른 것이라고 생각했고 오류를 모르고 넘어갔다는 주장이다.

애초에 이 정리는 페르마의 사후, 그의 노트를 뒤적이다가 발견한 글귀에서 출발했으며 페르마가 정식으로 그 정리를 증명하여 학계에 발표한 것도 아니었다. 단순히 본인만 읽는 책의 여백에 끄적여놓은 낙서에 지나지 않았기 때문에 딱히 수정할 필요는 느끼지 못했을 것이다. 위에도 언급되었지만 페르마는 굉장히 잘나가는 법조인이었으니 페르마가 종이 살 돈 없는 가난한 인물도 아니었고, 증명하고자 했다면 나중에라도 그 증명에 대해 충분히 기술할 수 있었다. 만약 페르마가 400년 뒤의 수학을 앞지를 만한 엄청난 증명법을 생각해냈다면 나중에라도 따로 공을 들여 증명을 안적어낼 이유가 없다.

또한 위에서 언급했듯이 페르마는 다른 수학자들에게 각종 수학 문제를 내길 좋아하는 성격이었다. FLT는 문제 이해는 쉽지만 증명은 떠올리기 어려운 소위 재밌는 문제에 가까웠다. 페르마가 생각한 증명 방법이 어떤 것이든 간에 그것이 17세기 당시의 수학으로 생각할 수 있는 나름 획기적인 증명 방법이었다면 페르마 본인부터가 그 증명을 다른 수학자들과 편지로 교류하며 나눴을 것이다. 허나 그러지 않았다는 것은 페르마 본인이 착각을 했고, 나중에 n=4에 대해 증명을 해보다가 모든 n에 대한 방법은 없다는걸 깨닫고 그냥 놔뒀다는 추측이 유력하다. 거듭 말하지만 페르마의 마지막 정리는 정식으로 학계에 발표된 추측이 아니고 페르마가 책 여백 귀퉁이에 끄적여 놓은 낙서에 불과하다. 틀린걸 알았다고 해도 자신의 개인적인 노트에 적은 낙서를 일일히 뒤져가며 고쳐적어놓을 사람은 없다.

결정적으로 페르마의 마지막 정리는 17세기 당대의 수학으로 '증명'이 안된 것이지, 당대에도 이 정리가 쉽게 해결되지 않으리란 예측 정도는 할 수 있었다. 실제로 한 세대 뒤 수학자인 가우스가 이 정리가 너무 유명해지자 그런 해결하기 힘든 문제 정돈 자기도 얼마든지 만들 수 있다고 불평한 바 있다. 다시 말해, 적는 순간에는 잠시 착각했더라도 페르마 정도의 실력을 가진 수학자라면 찬찬히 생각해보니 이 문제가 생각만큼 증명이 쉽지 않구나 정도는 충분히 파악 가능했다.

그리고 페르마 본인이 말한 '실로 놀라운 증명법'은 아무래도 페르마 본인이 직접 증명하기도 했던, n=4일 때 무한강하법을 사용하는 증명이 맞을 확률이 높다. 그 방법은 굉장히 깔끔하고 감탄이 나올만한 방법이고 '여백' 정도에 적을만한 내용이며, 페르마가 따로 '여백'에다 적어놓은게 실제로 발견되었기 때문. 이걸 가지고 오일러가 했던 것 그대로 n=3일 때에도 하려고 했을 것이고 이를 확장하면 모든 n에 대해 성립할 것으로 생각했지만, 막상 더 증명을 해보니 그게 아니어서 '마지막 정리'에 휘갈겨 놓은 메모가 틀렸다는 걸 알고 이후엔 그냥 방치했다는게 현재 정설이다.

상기했듯이 애초에 이 정리가 세상에 알려진 것도 페르마 사후 그 아들이 여백에 끄적인 낙서들을 정리하면서 나타난 것이다. 페르마 본인은 이 정리를 누구에게도 말하지 않았으며, 평소 편지로 다른 수학자들에게 퀴즈내는걸 매우 즐겼던 페르마가 이 문제는 교류하지 않았다는 점에서 본인도 나중에 틀렸다는 걸 알았을 확률이 높다. 결론은 페르마가 처음엔 증명했다고 착각했지만 나중에 아니란 걸 알고, 그냥 남에게 알리지 않고 묻어두는 것으로 끝냈다고 봐야한다.

현대수학 없이도 간단히 증명되는 '[math(n^x + n^y = n^z)] ([math(n > 2)]인 정수)일 때 자명하지 않은 정수해 ([math(x, y,z)])는 존재하지 않는다.'라는 명제와 혼동했을 거라는 얘기도 있지만, 페르마 스스로 n=4일 때의 증명을 적어놓았다는 점을 생각하면 타당하지 않은 주장이다.[44]

와일스의 증명이 나타나기 전에는, 페르마가 현대수학적인 접근과는 전혀 다른 획기적인 증명법으로 페르마의 대정리를 증명했었을지도 모른다는 가설이 있었다. 증명 직후에도 페르마가 획기적인 다른 방법으로 실제로 문제를 해결했다고 믿는 사람도 있으며, 아직도 페르마가 증명했을 방법을 연구하는 사람들도 있다. 사실 최근에 밝혀진 바에 따르면 Simmons, George F. (2007)의 Calculus Gems에서 뉴턴조차 미적분에 관해서 페르마의 성과에 의해 도움을 받았다고 자신의 논문에 적었다고 한다. 뉴턴을 제외하고도 과거 뛰어난 수학자들이나 과학자들도 생각보다 많이 그의 영향을 받은 것으로 밝혀지고 있으며, 심지어 페르마의 업적은 많이 소실되었음에도 불구하고 남은 것들만으로 웬만한 뛰어난 수학자들의 업적을 능가했다. 사실 페르마가 낸 것들 중에는 당시에는 풀지 못하여서 어지간한 학자들이 포기하거나 실패하고 미래로 넘어간 것들도 은근 많다. 몇몇은 본인이 답을 주기도 했으나, 대부분은 미정 상태여서 과거 학자들 반응도 지금과 비슷했다. 그나 그가 낸 문제에 대한 갑론을박도 지금처럼 있었다. 근데 점점 시간이 지나 더 발전한 수학을 동원하니까 신기하게도 결국은 페르마의 말처럼 되기는 했다. 그래서 지금도 페르마의 방법에 대한 연구가 아직도 지속되고 있다.

현재는 많은 수학자들이 회의적으로 보고 있지만, ''만약 페르마가 정말로 FLT를 증명했고 누군가가 그 증명을 재현한다면, 그 사람은 최고의 천재로서 인류의 수학사에 길이길이 이름을 남길 것이다.'' 실패하더라도 페르마 이후 100년간 손도 못 댔던 문제의 난이도를 생각하면 부끄러운 게 아니고, 그걸로 수학에 흥미를 갖고 훌륭한 수학자가 된다면 좋은 일이다. 페르마 이후 수많은 수학자들이 그런 길을 거쳐서 수학에 입문했으니까.

5. 우리의 문제를 돌려줘!

와일즈 교수는 증명을 끝낸 후 "가장 도전할 만한 문제를 교수님이 빼앗아갔으니 새 문제를 만들어 주세요."라는 부탁에 시달렸다. 페르마의 마지막 정리를 풀고 싶어했던 수많은 사람들이 와일즈 때문에 좌절했기 때문이다. 와일즈 본인도 미야오카가 페르마의 마지막 정리를 풀었다는 오보를 들었을 때 좌절한 경험이 있기에, 그런 사람들의 불만을 아주 잘 이해하고 있었다.

그래서 나온 것이 7개의 밀레니엄 문제다. 문제의 선정에는 와일즈 교수를 포함한 여러 석학들이 참여했으며, 난제를 해결한 수학자들을 치하하기 위한 백만 불(한화 약 13억 원)이라는 엄청난 상금까지 걸어 두었다. 더 많은 사람들이 수학에 관심을 가지도록 하기 위한 떡밥으로서 이런 상금을 부여한 것이다. 그런데 혹시라도 증명에 성공한다면 백만 불 따위는 문제가 아니다. 수학을 모르는 사람들에게도 이 문제를 푼 사람이라는 언론의 보도가 쏟아지고 수많은 사람들의 관심을 받게 될 것이니, 이 문제를 푼 사람에겐 부와 명예를 가져다주는 셈이다. 수학에 관심이 있다면 도전해보자. 참고로 와일즈 교수가 선정한 문제는 버치-스위너턴다이어 추측이라고 한다. 문서를 보면 알겠지만 타원곡선, 하세-베유 L-함수 등등 와일즈의 증명에 나오는 용어들이 다시 튀어 나온다.[45]

이중 푸앵카레 추측은 그리고리 페렐만에 의해 해결되어 정리로 수용되었다.

그리고리 페렐만은 상금을 거절했을뿐만 아니라 수학계 최고의 영예라고 할 수 있는 필즈상 수상까지 거부해서 오히려 그 덕분에 더욱 더 유명해지게 되었다.

다만 그 어떤 문제도 페르마의 마지막 정리처럼 사람들을 잘 낚지는 못했다. 수학에 난제라면 케플러의 추측을 포함해 엄청나게 많고 이천년 넘게 안 풀린 문제들도 수두룩하다. 하지만 그 문제 중에서도 사람들의 도전 정신을 자극하고 수학계에 인재를 끌어들이기로는 페르마의 마지막 정리가 단연 제일이었다. 문제의 모양(?)만 봐도 "날 풀어봐라"고 약 올리기 딱 좋은 모양이지 않은가. 수학 꽤나 공부하는 사람은 물론 중학생 때부터 수학 선생님이 아이들의 수학에 대한 흥미를 끌어올리기에 딱 좋은 모티베이션 덩어리였다. FLT는 문제만 보면 중학교에서 가르치는 수학만으로도 충분히 이해할 수 있고, 편지에 적어둔 저 비범한 내용 때문에 일반인에게도 매우 유명하다. 반면 밀레니엄 문제는 이해하는 것마저 일반인은 불가능하다. 진입 장벽 자체가 다르니 흥미가 생길 리가 없다. 그나마 이해하기 쉬운 문제로 F=ma에서 비롯된 나비에-스토크스 방정식이 꼽히지만 그것도 전산유체역학이라는 것을 동원해야 할 정도로 실무적으로 많이 다루는 일부 엔지니어 및 물리학자들에게만 유명한 것이고, 리만 가설은 소수와 관련되어 있다고 많은 사람들이 신비롭게 여기지만 그 문제가 왜 소수랑 관련되어 있는건지 묻는 말에 적절히 답할 수 있는 사람은 수학 전공자들밖에 없다. 물론 이 7대 떡밥이 수학자들이나 풀라고 만든 문제니 수알못 일반인들에겐 무슨 상관이냐 하겠지만, FLT로 인해 뜬금없이 수학자의 길로 들어선 인물들이 수없이 많았음을 생각하면 수학계에서는 FLT급 떡밥이 없는 것이 조금은 아쉬운 일 일지도.

그나마 비슷한 부류를 찾아보자면 콜라츠 추측이나 골드바흐 추측이 있다. 밀레니엄 문제가 수학자들을 위한 도전과제다 보니 일반인은 문제를 이해하는 것조차 쉽지 않은 반면, 콜라츠 추측과 골드바흐 추측은 페르마의 마지막 정리와 동일하게 문제 자체는 매우 쉽다는게 비슷하다.

6. 어록

워낙 악명 높은 정리여서 많은 이들이 이 정리에 대해 말을 남겼다.
페르마의 마지막 정리가 증명되기 전에 인류는 멸망할 것이다.
ㅡ 마지막 문제[46]
그런 정리 따위에는 전혀 관심이 없다. 참인지 거짓인지 증명도 안 되는 명제 따위는 나도 얼마든지 만들 수 있다.
ㅡ 요한 카를 프리드리히 가우스(Johann Carl Friedrich Gauß)[47]
이 문제는 황금알을 낳는 거위다.
ㅡ 다비트 힐베르트(David Hilbert)[48]
제가 살아있는 동안은 증명되지 못할 거라고 확신하고 있었습니다.
ㅡ 존 코츠(John Coates)[49]
거봐. 내가 뭐랬어.
ㅡ 시무라 고로[50]

7. 기타

파일:bungdang_fermat.jpg}}} ||

8. 대중 매체에서의 등장

9. 관련 문서


[1] 즉 4.[2] 정수론에서 등장하는 페르마의 소정리(Fermat's Little Theorem)는 소문자 엘(l)을 써서 FlT라고 쓴다. FLT와 혼동 주의.[3] n이 2라면 그 유명한 피타고라스 정리가 되며, 이 경우 (3, 4, 5)와 같이 피타고라스 세 쌍이라고 따로 붙여진 정수 순서쌍이 존재한다.[4] [math(xyz\ne0)]을 만족한다는 의미로 쉽게 말해 'x, y, z 모두 0이 아닌 수이다.' 라는 뜻이다. x, y, z 중 0인 것이 존재한다면 너무 당연한 해들이 무수히 많이 나온다. 예를 들어, z=0, x=-y. x=0, y=z.[5] 중학교 1학년 1학기 때 거듭제곱의 개념만 제대로 배우면 문제를 이해하는 데에 아무 문제가 없으며, 높게 잡아도 피타고라스 정리를 직접 배우는 중학교 2학년 수학 수준에서 커버된다. 그 이상의 큰 수도 수학과에서 학부 2학년 때 가르치는 정수론 시간에 디오판토스 방정식을 다루면서 n값이 작은 경우를 한번 증명해보라고 소개하는 수준.[6] 이 정리를 증명하는 핵심 이론이 된, 타원곡선 이론의 집대성이라고 할 수 있는 모듈러성 정리는 타니야마-시무라의 추론이란 이름으로 처음 나왔을 때 그 누구도 페르마의 마지막 정리를 증명할 수 있는 이론이라 생각하지 않았다. 앤드루 와일스 교수도 일단 졸업은 해야 했기에 교수 추천으로 우연히 타원곡선을 연구하다가 타니야마-시무라 추론까지 건드리며 증명에 성공한 것이었다.[7] 힐베르트가 이 정리를 황금알을 낳는 오리에 비유하며 평생 증명되지 않기(배를 가르지 않기)를 바랐다고도 하는데, 페르마의 마지막 정리를 증명하기 위해 인류가 쌓아올린 수학 지식이 수학 발상부터 페르마 당시까지 쌓아올려진 수학의 지식량을 가볍게 압도했기 때문. 즉, 수학이라는 학문을 발달시키는 가장 큰 공을 세운 정리 중 하나로, FLT로 인해 정수론이 지금과 같은 형태로 발달했다. 현대 수학에서는 그 외에도 타원 모듈러 함수 역시 대폭적인 발전을 이루는 등 수학의 거의 모든 분야가 이 정리 하나로 쌓아올려진 것이나 다름 없는 상황. 다른 걸 떠나서 복소수도 이 페르마의 마지막 정리의 증명을 위해 정식으로 수학에 편입된 개념이다.[8] 참고로 수학자들을 FLT에 제대로 어그로를 끌게 만든 건 후술할 볼프스켈이 더 크긴 하다는 평도 있다.[9] 변호사로 활동을 시작했으며 이후 툴루즈 고등법원의 판사로 임명됨[10] 어차피 x, y, z에 정수배를 하면 정수해가 된다.[11] 해석학, 기하학, 조합론, 계산과학, 응용수학 등등.[12] 주로 19세기에 결투가 유행하던 프랑스에서 행해졌는데, 동양인 기준에서는 이해가 안 되겠지만 '증명이 가능하다'는 쪽과 '증명은 불가능하다'는 쪽이 서로 권총을 겨누고 이긴 사람의 말이 맞는 것으로 처리되었다. 당시 서양은 결투로 모든 것을 결정할 수 있는 대결투시대라 이런 일이 가능했다.[13] 이것들을 이해하려면 아무리 못 해도 대학교 차원에서 학부 수학과 전공자 정도의 수준은 되어야 하며, 몇몇은 학부 수준으로도 이해할 수 없고 석사, 박사 이상의 수준이 요구된다.[14] 하지만 함정이 있는데, 페르마의 마지막 정리의 형태인 디오판토스 방정식은 사실 매우 어려운 분야라는 것이 현실이다. 문서 참조.[15] 오일러의 정리로 유명한 그 대수학자 오일러 맞다. 이 오일러마저 죽은 페르마에게 녹아웃을 당했던 것.[16] 어떤 조건을 만족하는 최소의 양수 a가 존재할 때, 그 수보다 더 작으면서 같은 조건을 만족하는 양수 b가 존재한다는 것을 증명함으로써 모순을 이끌어내는 방법.[17] 본말전도인 것 같지만, 오일러 이후에도 FLT에 대해 연구하다 정작 원하던 FLT 증명은 못 하고 다른 업적을 달성한 학자들이 많다. 다비트 힐베르트가 괜히 이 문제를 두고 황금알을 낳는 거위라고 한 게 아니다.[18] 가우스, 라그랑주 등 당대 최고의 학자들과 교류했다. 당시에는 여성이 학문을 하는 것을 그렇게 좋지 않은 시선으로 보았기 때문에 거의 독자적으로 학문 활동을 하였다. 수학뿐만 아니라 물리학(탄성 관련), 철학에서도 중요한 업적을 남겼다.[19] 편의상 N, M 등을 소수라고 한다면 N*M은 합성수이다.[20] 가우스 함수와 가우스 기호, 가우스 분포, 가우스 법칙을 창안한 그 대수학자 가우스 맞다.[21] p가 소수이고 2p+1도 소수일 때 p는 소피 제르맹 소수, 2p+1은 안전소수라고 한다.[22] 각각 디리클레 함수와 디리클레 분포, 르장드르 함수와 르장드르 변환을 고안한 수학자. 르장드르는 이후 n=14일 때의 경우도 증명해낸다.[23] 소수의 개수는 무한하고 소수를 늘어놓은 수열에서는 아직까지 아무런 규칙을 찾아내지 못했다.[24] 비정규 소수의 비율의 극한은 [math(\displaystyle{1-\frac{1}{\sqrt{e}}})]이라고 추측되나 아직 증명되지 않았다. 논문의 p115의 "3. The Distribution of Irregular Primes" 참조.[25] 2020년 기준 약 119만 달러, 한화로 약 13억원 : (2020원달러환율1,086.3) / 1910년 환율 1달러 = 약 4.2마르크 / 110년간 화폐가치차이 약 500.3배(영국화폐가치통계 : 물가 111.2배, 임금 401.8배, 자본 987.9배)[26] 앤드루 와일스는 볼프스켈상 상금으로 5만 달러를 받았다. 다만, 아벨상(685,000유로, 약 9억 3천만원)등 다른 상으로 받은 상금들도 치면 화폐가치 손해는 따질 필요는 없는 듯.[27] 아주 간단한 편미분 방정식조차 f(x, y, z)=A(x)B(y)C(z)로 가정하고 풀어야 할 정도로 굉장히 복잡하다. 편미분 방정식에 대해 더 알고 싶은 이는 유체역학이나 양자역학, 나비에-스토크스 방정식 참조.[28] 페르마의 마지막 정리가 '틀렸'다면 컴퓨터를 이용해서 대량의 경우를 증명하다 보면 언젠가는 반례가 발견되어 거짓임을 증명할 수는 있었겠지만...안타깝게도 페르마의 대정리는 후에 '참'이라고 증명된다는 것이 문제가 된다. 거짓이었다면 언젠가는 반례를 뽑을 수 있겠지만 참인 이상 컴퓨터의 성능이 얼마나 좋든, 얼마나 많이 동원하든 경우의 수가 무한한 이상 영원히 검증에서 벗어날 수 없게 된다.[29] 증명되기 전에는 타니야마-시무라의 추론으로 불렸다. 리벳의 발표 이후 추론(conjecture)에서 정리(Theorem)로 격상됐다.[30] '페르마의 마지막 정리'라는 책에서는 '수학자의 발표의 학문적 중요성은 발표 후 복사실에서 논문 복사를 하려는 학자의 수를 세어보면 된다'고 언급하는데, 이 발표 직후 수학자들이 대거 자리를 박차고 논문을 복사하려고 뛰쳐나갔다고 언급한다.[31] 듣는 순간 전율을 느꼈다고 말했다.[32] 진짜 두문불출을 한 것은 아니고 이런 와중에도 강의 준비 등 가르치는 일에는 충실했다고 한다.[33] 몇 년간 학회나 심포지엄에도 거의 참석하지 않았기 때문에, 옥스포드 및 학계의 동료 수학자들 사이에는 결혼하고 아이가 생기니까 수학을 놓아버렸다는 소문까지 떠돌았다.[34] 완전한 타니야마-시무라의 추론의 증명은 1999년에 리처드 테일러(와일즈 교수의 제자)와 다른 수학자들의 공동 연구로 이루어졌다.[35] 심지어 1994년 4월 1일에는 'FLT의 반례가 발견되었다'는 가짜 뉴스가 퍼져 학계가 발칵 뒤집히기도 했다. FLT에 반례가 생긴다는 건 FLT와 떼려야 뗄 수 없던 타니야마-시무라의 추론이 거짓이 된다는 것을 의미하는데, 이는 그 추론으로 오랫동안 추측하여 쌓은 수학 가설들이 일제히 잘못된 이론에 바탕한 가설들, 즉 폐기되어야 할 이론이 된다는 것이었기에 가짜 뉴스라는 게 밝혀질 때까지의 이틀 동안 수학계는 엄청난 난리가 났다.[36] 첫 증명 때는 시행착오 과정에서만 사용되었고 최종 발표에서는 쓰이지 않았으나, 후에 재증명 때 다시 사용된다.[37] 필즈상의 나이 제한은 수상할 때를 기준으로 하기에 1세 차이로 수상을 하지 못했다는 소리는 아니다.[38] 돈 제이지어(Don Zagier)는 이걸 "양자화된 필즈상"(Quantized Fields Medal)이라 불렀다[39] 우스갯소리로 필즈상의 오류를 증명했다는 업적을 이야기하기도 한다.[40] Knight Commander of Order of the British Empire. 약자는 KBE이며 이것을 받은 사람은 기사 작위도 수여받는다.[41] 거기다 1등급은 주로 왕족, 귀족, 고위 공무원들에게 수여되는 편이라 이를 제외한 사람들이 수여받을 수 있는 건 사실상 2등급까지가 한계다.[42] 참고로 아벨과 갈루아(Galois)는 대수학, 군론에서 각각 아벨군과 갈루아군으로 잘 알려져있는 대표적인 수학자들이다.[43] 석사 분야가 대수적 정수론 쪽이 아닐 경우 이해 못할 수도 있다.[44] 명제의 식을 변환하면 [math(n^{z-x}-n^{y-x} = 1)]인데 [math(n)]의 정수승은 모두 양수일 테니, [math(n^{z-x} > 1)]이고 [math(n^{z-x}-n^{y-x})]를 최대한 1에 가깝게 하려면 [math(n^{y-x}=n^{z-x-1})]이어야 한다. 그런데 [math(z-x = 1)]이라 가정해도 [math(n^{z-x}-n^{y-x} = n - 1 > 1)]이고 [math(z-x ≥ 2)]이면 [math(n^{z-x}-n^{y-x})]값은 더 커진다. 즉 변환된 식에 만족할 만한 값을 찾을 수가 없다.[45] 한마디로, 자기 전공분야에서 문제를 낸 것이다.[46] 당시 페르마의 마지막 정리를 소개한 수많은 책들 중에 기재된 문구 내용이다. 이 책을 읽고 분노한 앤드루 와일스는 결국 이 주장이 틀렸다는 것을 증명했다.[47] 19세기 최고의 수학자. 그의 동료가 페르마의 마지막 정리를 보여주며 "이걸 풀 수 있는 건 아무래도 자네밖에 없을 것 같아"라고 하자 돌아온 말이다. 이 반응에 대해서는 과거에 풀어 보려다가 실패했다는 설과, 문제의 난이도가 너무 높은 걸 알아채고 피했다는 등의 설이 있다. 가우스의 천재성을 생각해보면 당시의 수학으로는 증명할 수 없음을 직감적으로 알아챘을 가능성도 있다. 위에서 언급된 소피 제르맹과 교신하던 게 가우스였으니 문제에 대한 이해가 부족하지는 않았을 것이다.[48] 20세기 초의 위대한 수학자로, 완벽한 수학 체계를 만들기 위해 노력했지만 불완전성 정리 때문에 실패하고 말았다. 페르마의 마지막 정리를 증명할 것을 권유하자, 그는 "실패할 게 분명하다"는 이유로 거절한 바 있다. 그가 페르마의 마지막 정리를 '황금알을 낳는 거위'로 비유한 건, 페르마의 마지막 정리 증명을 위해 개발된 수많은 이론들 때문이다. 당장 맨 처음 시도된 오일러의 무한강하법에서 허수 개념이 탄생한 것은 물론, 대수학의 환론에서 중요한 개념인 이데알도 FLT를 해결하기 위한 도구였으며, 소개되었던 쿰머의 정규 소수 개념도 그렇다. 아예 모듈러성 정리는 이를 전제로 하는 수많은 논문들과 함께 하나의 학문적 분야로 자리잡았다. 그와는 별도로 FLT에 낚여서 수학자가 되는 인재가 많았기 때문이라고 하기도 하고, 우스갯소리로는 FLT에 붙은 상금이 은행에 있는 동안 생겼던 이자 때문이라고 하기도 한다.[49] 와일스의 지도교수였으며, 자기 제자가 페르마의 마지막 정리를 증명하는 강연을 직접 듣게 된다. 자신보다 뛰어난 제자를 양성하는 데 성공했으니 스승으로서 굉장히 뿌듯할 것이다.[50] 타니야마 유타카와 함께 '타니야마-시무라의 추론'을 발견한 일본의 수학자. 와일즈의 증명이 뉴스에 뜨자마자 몰려온 기자들에게 보인 반응. 안타깝게도 타니야마 유타카는 1958년 31세의 젊은 나이로 자살하여 이 장면을 같이 볼 수는 없었다.[51] 예를 들어 8의 세제곱근은 2가 되어 유리수가 된다. 이런 케이스는 제외해야 하기 때문. 다만 해당 케이스는 이렇게 처리할 수 있다. 정수 [math(l)]에 대하여 [math(\sqrt[n]{k}=l)]이라고 두면, [math(k=\displaystyle \frac{a^n}{b^n})]에서 한 스텝 더 나아가서 [math(l^n=\displaystyle \frac{a^n}{b^n})]로 정리할 수 있고, 이를 조금 더 변형하면 [math(l^n b^n=a^n)]이므로 [math(\left(l b\right)^n=a^n)]. 즉 [math(lb=a)]로 퉁칠 수 있기에 쉽게 제외할 수 있다.[52] 두 번이나 언급되었다. 그런데 언급된 경위가 좀 웃긴 게, The Next Generation 시리즈에서 주인공인 피카드 선장이 "800년째 증명되지 않은 정리"라면서 자기도 취미 삼아서 증명을 해보고 있다고 언급한 적이 있었는데, 해당 에피소드의 방영일은 89년도라 93년에 와일즈가 증명해냈단 소식이 들리자마자 트레키들의 성화가 빗발쳤던 것이다.(93년 증명에서 오류가 발견되었지만 이를 보완하고 94년에 완전히 증명되었다.) 결국 후속작인 Deep Space Nine에서 와일즈의 이름을 직접 언급하면서 와일즈의 것과 다른 증명법을 다들 300년째 찾고 있다고 해명해야 했다. 어찌 되었든 과학과 수학의 발전은 대중매체가 상상하는 것보다 빠름을 보여주는 또 다른 예가 되었다.[53] 증명이 자고로 책 한 권이다.[54] 워프 드라이브는 일반적인 SF소설과 다르게 현실 조작 계통의 기술으로, 모든 기존 인과를 무시하고 그 장소에 도착했다는 사실을 현실에 덮어씌우는 기술이다. 물리적으로 도달이 불가능한 다른 우주 등에도 좌표식만 있으면 갈 수 있다. 물론 그 좌표를 구하는 것도 어지간한 과학기술력으로는 하지도 못한다.

분류