『x^n+y^n=z^n ; n은 3이상의 정수 일 때, 이를 만족하는 정수해 x, y, z는 존재하지 않는다. 나는 이에 대한 놀라운 만한 증명을 발견하였으나, 여백이 부족하여 적지 않는다.』
이것이 오랜시간 수학자들을 괴롭힌 "페르마의 마지막 정리"이다. 법조인으로써 자신의 직무를 다하며 취미로 수학문제 풀이 및 증명을 즐겼던 페르마(Pierre de Fermat, 1601~1655)가 디오판토스의 <산술arithmetica>의 제 2권 8번 문제가 있는 페이지에 대략 위와 같은 내용은 주석을 달아놓았다. 이것이 마지막 정리인 까닭은 페르마의 정리들 중 마지막까지 증명이 되지 않아서 였다.
n=4일 때, 정수해가 존재하지 않음을 확인한 계산 노트가 나중에 오일러Leonhard Eulor에 의해 발견되기는 하지만, 페르마가 실제로 어떻게 전체 n에 대해 어떤 방식으로 증명하였는지는 모른다. 단지 허세일 뿐이라는 의견도 있고, 아직도 밝혀지지 않은 어떤 혁신적인 방법으로 풀었을거라는 의견도 있다. 다만 영국의 수학자 앤드류 와일즈(Andrew Wiles, 1953~)가 썼던 방식으로 증명했을 거라는 것은 대체로 회의적인 듯 싶다.
페르마의 마지막 정리는 결국 앞서 언급한 앤드류 와일즈에 의해 증명이 마무리되었다. 앤드류 와일즈가 1993년 페르마의 마지막 정리(Fermat's last Theorem, FLT)의 증명을 영국 케임브리지 대학, 아이작 뉴턴 연구소에서 열린 학술 강연회에서 발표하였다. 이는 모두를 충격에 빠뜨렸고, 그의 논문은 바로 검증에 들어갔다. 검증과정에서 오류가 발견되기는 하였으나 1년여의 시간 끝에 오류는 해결되었고, 페르마의 마지막 정리는 확실히 종결되게 되었다.
그럼 그 증명과정은 대략 어떻게 될까. 수학과는 거리가 멀대로 먼 나는 나 자신을 위해 가능한 이해할 수 있는 수준에서 정리해보고자 했다. 전에 읽었던 "빅뱅이론"에 관한 흥미로운 저술을 썼던 사이먼 싱Simon Singh의 관련 책이 있길래 갑작스럽게 읽어보았다. 아래 내용은 사실 상 책을 읽고 정리한 내용이다.
페르마의 마지막 정리(이하 FLT)는 기본적으로 임의의 직각삼각형의 빗변을 한 변으로 하는 정사각형의 넓이는 직각삼각형의 다른 두 변을 각각 한 변으로 취하는 정사각형들의 넓이와 같다, 즉, x^2+y^2=z^2가 언제나 성립한다는 피타고라스의 정리에서 출발한다. 이 때 지수 부분이 3이상의 거듭제곱일 때 x,y,z의 정수해쌍이 존재하지 않는다는 것이 FLT이다.
피타고라스의 정리
n=2, 즉, 피타고라스의 정리는 동일한 직각삼각형 4개를 빗변z를 가운데로 가게끔 하고, 남은 두변 x, y가 큰 정사각형의 한 변이 되게 끔 배열하면, 큰 정사각형안에 작은 정사각형하나가 들어있는 형태의 모양이 만들어진다. 이 때, 바깥쪽 삼각형의 넓이(x+y)^2는 안쪽에 있는 정사각형z^2에 직각삼각형 4개의 넓이4xy/2와 같다. 이 식을 정리하면 x^2+y^2=z^2 이라는 결과가 필연적으로 나온다.
페르마의 계산(n=4)
FLT에서는 x^4+y^4=z^4 라는 식을 x^4-y^4=z^2로 쓸수있다. 어차피 x,y,z의 조건은 모두 같으니 단지 x,y,z의 자리만 바꿔놓고, 치환한 식이다. 갑자기 네제곱이 제곱식이 된까닭은 제곱식일 때, 해가 없다면 당연히 네제곱일 때도 해가 없기 때문이다. 요점만 언급하자면, 먼저 해당 식을 만족하는 정수해가 존재한다고 가정한다. 그리고 공약수를 피하기 위한 서로소의 개념, 홀수, 짝수의 개념과 홀수와 짝수의 네 제곱수를 8로 나누면, 각각 나머지가 1과 0이 나온다는 점, 서로소인 두 수의 곱이 제곱수라면, 서로소인 두 수도 제곱 수라는 점을 활용하여 같은 식이 더 작은 정수해를 가진 임의의 식으로 끊임없이 변형(강하)될 수 있다는 점을 나타냄으로써 증명이 이루어진다. 자연수는 무한히 강하될 수 없기 때문에 n=4 일 때 만족하는 정수해쌍이 존재할 수 없는 것이다.
레온하르트 오일러Leonhard Eulor
n=3 일 때의 경우는 레온하르트 오일러가 복소수(실수+허수)를 활용한 무한 반복성 귀류법으로 만족하는 정수해쌍이 존재할 수 없음을 증명하였다. 다만 오일러의 방법 또한 n이 5 이상일 때는 적용할 수 없었다고 한다.
소피 제르맹Marie-Sophie Germain
자연수는 소수와 합성수로 이루어진다. 합성수는 소수를 통해 구성된다. 따라서 소수에 대한 증명만 해결된다면, 합성수는 자연히 해결된다. 여기서 소피 제르맹Marie-Sophie Germain 이라는 프랑스 학자가 등장한다. 그녀는 당시에는 찾아보기 힘들었던 18세기 프랑스의 여류 수학자였다. 천재로 알려진 수학자인 가우스에게 보내는 편지에서 그녀는 p가 임의의 소수 일 때, 2p+1도 역시 소수가 되는 소수군을 제시했다. 이러한 특정 소수군 일 때, x^n+y^n=z^n 을 만족하는 해값이 존재하지 않을 것이라는 추측이었다. 왜냐하면 특정 소수 n에 한하여 정수해가 존재하려면, x나 y, 또는 z 중 하나 이상이 반드시 n의 배수가 되어야하기 때문이라는 것이다.
제르맹의 방법을 통해 페테르 르죈느 디리클레Peter Lejeune-Dirichlet와 아드리안 마리 르장드르Adrien-Marie Legendre라는 학자들에 의해 n=5일 때 정수해가 존재하지 않음이 증명되었다. 이후 가브리엘 라메Gabriel Lame에 의해 n=7일 때 정수해가 존재하지 않음도 증명되었다.
에른스트 쿰머Ernst Kummer
n=7일 때의 경우를 증명한 가브리엘 라메와 오귀스탱 코시Augustin Cauchy는 1847년 파리학술원에서 열린 회의에서 각자 FLT를 증명하였다고 주장하였다. 하지만 그들의 증명은 틀린 것으로 밝혀졌다. 독일 수학자 에른스트 쿰머Ernst Kummer는 이들의 증명이 소인수 분해의 원리에 기초를 두고 있으나, 허수를 사용한 인수분해의 가능성이 간과되어있음을 밝힌다. 예를 들어 실수로 한정하여 자연수 12를 소인수분해하는 경우는 12 = 2×2×3 한가지 방법 밖에 없으나 허수까지 확장하면 12 = (1+√-11) × (1+√-11) 이러한 인수 분해도 가능하다는 것이다. 쿰머는 자신이 개발한 방법론으로 이와 같은 문제점을 해결한 증명을 내놓았지만, 그 또한 n값이 37, 59, 67과 같은 불규칙 소수일 때의 문제를 해결하지 못했다. 심지어 쿰머는 불규칙 소수의 경우에 대한 증명은 불가능하다고 보았다.
파울 볼프스켈Paul Wolfskehl
불가능이라고 보여지는 가운데 독일의 실업가 파울 볼프스켈Paul Wolfskehl은 FLT를 증명하는 사람에게 10만 마르크의 상금을 주겠다는 제안을 한다. 여자한테 거절당하고 자정에 맞춰 자살하려던 그는 기다리다 잠시 남는 시간 우연히 쿰머의 논문을 읽었고, 논문의 오류를 수정하려다 자정을 지나고 만다. 증명에 정신을 팔린 후, 그는 다시 삶의 희망을 얻었고 이로 인해 괴팅겐 왕립학술원을 통해 페르마의 정리의 증명에 상금을 건다. 물론 페르마의 정리에 정수해가 존재한다는 부정적 증명에는 상금과 명예가 가지 않도록 하였다.
타원방정식
타원방정식은 y^2=x^3+ax^2+bx+c, (이 때 a, b, c는 임의의 정수)의 형태로 구현된다. 페르마의 정리의 종지부를 찍은 앤드류 와일즈는 바로 이 타원방정식이 전공이었다고 한다. 타원방정식에 얼마나 많은 해가 존재하는지 예측하는 작업은 지나치게 복잡하고 수많은 작업을 반복해야 하는 일이라고 한다. 그래서 수학자들은 시계대수학clock arithmetic이라는 도구를 통해 한정된 범위에서 해를 구하는 작업을 하였다. 시계대수학은 간단히 말그대로 시계다. 12시 시계 대수학은 우리가 평소에 보는 시계와 같다. 즉 2시에서 11시간이 지나면 1시가 된다. 즉 2+11=1(=13) 이 되는 것이다. 이것으로 특정타원방정식에서 1시 대수학, 2시 대수학, 3시 대수학 ... 이렇게 시계대수학을 사용해서 얻은 해의 개수를 타원방정식의 급수라는 표현을 써서 나타냈다. 예를 들면 4시대수학으로 얻은 해의 개수가 8개라면 "E₄=8" 라고 나타낸다.
ex) 타원방정식 : x^3 - x^2= y^2+y
E- 급수 ; E₁ = 1, E₂ = 4, E₃ = 4 E₄ = 8 . . . . .
타니야마-시무라 추론Taniyama-Shimura Conjecture, Modularity Theorem.
사실 이쯤부터는 그나마 흐릿하게 따라가려고 했던 부분들이 완전히 이해를 벗어났다. 사실 n=3일 때 복소수를 활용한 증명까지는 어떻게 똑같이 따라해보았으나, 소피 제르맹 부분부터는 사실 상 계산을 놨고, 이해만 조금씩 해보는 수준으로 따라갔으나, 모듈러 형태에서 사실상 완전히 이해를 벗어났다. 모듈러 형태에 대해 나름대로 간략한 설명이라도 해보려고 했으나 아무리 관련자료를 봐도 개념 잡기도 쉽지가 않았다.
2차대전 후 일본의 수학계는 그리 상황이 좋지 않았다고 한다. 교수들은 전쟁 후유증에서 못나오고 있었고, 일본의 학계는 고립되어 있었다. 그러나 젊은 학자들은 이미 놓쳐버린 서구학계의 흐름을 따라가려고 부단히 애쓰고 있었다. 그 와중에 등장한 것이 타니야마-시무라 추론이다. 유타카 타니야마Yutaka taniyama와 고로 시무라Goro Shimura는 모듈형태론에 깊은 관심을 가지고 있었다. 대칭성에이라는 특징으로 대변되는 모듈형태론은 수학의 많은 분과 중에서도 까다롭기로 알려져있다. 모듈 형태는 기존 x, y로 나타나는 실수축에 허수축xi, yi가 더해져 4차원의 형태로 그려지는 하이퍼볼릭 공간의 위쪽 상반부에 나타난다. 하이퍼볼릭 공간에 존재하는 모든 모듈 형태는 그것을 이루는 구성요소의 개수에 따라 구별된다. 예를 들어 구성요소의 순서에 따라 M₁, M₂, M₃ ... 으로 표현되는 데, 첫 번째 구성요소가 1개이면 M₁= 1, 두 번째 구성요소가 3개이면 M₂ = 3 이런 식으로 나타난다. 이것을 모아놓은 것을 모듈급수, M - 급수 라고 부른다. 타니무라는 이러한 모듈형태의 M-급수의 패턴이 타원방정식의 E-급수와 동일한 것을 찾아냈다. 그리고 완전히 다른 영역에 각각 속하던 타원방정식과 모듈형태의 급수가 서로 동일하게 대응되지 않을까하는 추측을 한다. 바로 이것이 타니야마-시무라 추론이다. 하지만 타니야마는 갑작스럽게 자살했고, 남은 시무라 고로가 추가적으로 계산을 지속하였지만, 심증은 가지만 입증은 안되는 상황만 지속되었다. 그리고 이것이 프랑스 정수론의 대가 앙드레 베유의 눈에 띄어 제대로 세상에 드러난다.
게르하르트 프레이Gerhard Frey
1984년 독일 슈바르츠 발트에서 열린 소규모 학회에서 게르하르트 프레이는 FLT에 증명에 있어 획기적인 전환을 가져온다. x^2 + y^2 = z^n 이라는 페르마의 정리 방정식에 정수해가 존재한다는 가정을 두는 귀류법을 통해 y^2 = x^3 +(A^N - B^N)x^2 - A^N B^N 의 형태의 식을 유도한다. 이것은 타원방정식의 형태였다. 이 방정식은 타원방정식으로는 기형적인 형태라 이에 대응되는 모듈 형태를 찾는 것이 어려울 것으로 보였다. 만약 위와 같은 타원방정식이 실제로 가능하고(=정수해가 존재하지 않는다는 페르마의 정리가 틀렸고), 이에 대응되는 모듈형태를 찾을 수 없다면 타니야마-시무라 추론은 틀린게 된다. 이를 거꾸로 말하면, 만약 타니야마-시무라 추론이 옳다면, 위와 같은 타원방정식은 존재하지 않는다는 것이고, 이것은 결국 페르마의 정리가 옳다는 것이다.
만약, 페르마의 정리가 틀리다면,
-> x^2 + y^2 = z^n를 만족하는 정수해가 존재한다.
-> x^2 + y^2 = z^n를 만족하는 정수해가 존재한다.
-> x^2 + y^2 = z^n로 유도한 타원방정식이 존재한다.
-> 그런데 대응되는 모듈형태가 존재하지 않는다.
-> 그렇다면, 모든 타원방정식과 모듈형태가 1:1 대응이 되는 것은 아니다.
-> 타니야마-시무라 추론은 틀렸다.
만약, 타니야마-시무라 추론이 옳다면
-> 모든 타원방정식과 모듈형태는 1:1 대응이 되어야한다.
-> 그런데 FLT의 타원방정식은 모듈형태가 존재하지 않는다.
-> 따라서 FLT의 타원방정식은 존재할 수 없다.
-> x^2 + y^2 = z^n를 만족하는 정수해는 존재하지 않는다.
-> 페르마의 정리는 옳다.
결국 타니야마-시무라 추론이 옳다는 것을 증명하면, 페르마의 정리 또한 증명되는 것이다.
켄 리벳Ken Ribet
프레이의 변환에는 문제가 있었다. 바로 프레이의 타원방정식이 확실히 모듈형태로 변환될수 없느냐는 점이다. 장 피에르 세르는 "엡실론 추측"을 통해 프레이의 타원방정식에 대응되는 모듈형태가 존재하지 않는다고 보았고, 이것을 케네스 리벳은 "(M)구조의 감마-제로(?)"를 더한다는 발상을 더해 증명해냈다. 즉, 프레이의 타원방정식은 확실히 모듈형태로 변환될 수 없다는 것이다. 이로써 모든 타원 방정식은 모듈 형태로 변환될 수 있다는 타니야마-시무라 추론만 증명하면 페르마의 정리는 끝이나게 된다.
앤드류 와일즈Andrew Wiles
앤드류 와일즈는 1986년 페르마의 정리 증명에 뛰어든다. 페르마의 정리를 증명하는 것이 오랜 꿈이었다는데, 뭐 그렇게 드라마틱한 느낌은 결과론적인 것 같긴하다. 페르마의 정리가 타니야마-시무라 추론과 한 문제가 되었다는 데 흥미를 느낌과 동시에 아마 해볼만 하다라고 생각했을 앤드류 와일즈는 6년에 걸쳐 은둔하며 증명에 몰입한다. 이를 위해 그는 논문들도 미리 다 써놓고, 때에 맞춰 한 편씩 내고, 학교 강의를 제외한 거의 모든 활동을 접고 증명에만 몰두하였다고 한다. 증명에 도전하고 있다는 사실은 물론 부인을 제외하고 아무에게도 알리지 않았다.
그는 귀납법을 통해 증명을 시작했다. 첫 번째 경우에 주어진 명제가 성립하면, 다음의 논리에서도 명제가 성립하는 것을 증명하는 방식이다. 즉 임의의 수 n에서 성립하면, n+1에서도 성립한다. 이 논리가 규정됨으로써 알아서 무한의 문제가 해결되는 것이다. 그리고 이 논리가 모든 종류의 타원방정식과 모듈형태에 대해 일괄적으로 적용된다는 것을 증명해야한다.
첫번째 명제 해결을 위해 와일즈는 5차방정식의 일반풀이법을 찾아낸 19세기 프랑스의 젊은 수학자 에바리스트 갈루아Evariste Galois의 "군group"의 개념을 활용했다. 순서가 없는 것으로 보였던 E-급수와 M-급수에서 와일스는 갈루아의 군을 이용해 모든 E-급수의 첫번째 원소들이 모든 M-급수의 첫번째 원소들과 정확히 일치한다는 결론을 내리는 데 생공한다.
이제 첫번째 명제가 성립하면 다음 명제도 성립한다는 논리를 위해 와일즈는 이와자와 이론이라는 방법론을 사용하지만 실패한다. 이후 콜리바긴Kolyvagin과 플라흐Flach의 방법론을 사용해 와일스는 타원방정식의 모든 원소에 대한 적용가능성과 모든 종류의 타원방정식에 일괄적으로 적용할 수 있다는 가능성을 찾았다. 콜리바긴과 플라흐 방법론에 와일즈가 익숙치 않았던 터라 프린스턴 대학 동료인 닉 카츠Nick Katz로 부터 위장 대학원 강의까지 개설하며 도움을 받았다고 한다.
1993년 아이작 뉴턴 연구소에서 열린 학술회의에서 그는 타니야마-시무라 추론 및 페르마의 정리의 증명을 발표한다. 그러나 발표이후 검증과정에서 그의 논문에서 오류가 발견되고 만다. 흥미롭게도 그 사소한 오류의 가능성은 논문 작성을 도왔던 닉 카츠로부터 지적된다. 한정된 조건하에서만 적용될 수 있는 콜리바긴-플라흐 방법을 모든 경우에 적용되도록 확장시킨 부분이 문제였다. 1년 여의 거친 검증 과정 속에서 결국 와일즈는 그의 제자이자 동료인 리처드 테일러Richard Taylor의 도움을 받아 막판에 이와자와 이론과 콜리바긴-플라흐 방법을 상보적으로 결합하는 방식으로 문제를 해결한다.
그렇게 3 백년을 괴롭혀온 페르마의 마지막 정리는 끝이났다.
그 밖의 문제
흥미로운 수학문제들은 아직도 많은 것 같다. 밀리니엄 문제로 일컬어지는 문제는
1. 나비에-스톡스 방정식
2. 버츠와 스위너톤- 다이어 추측
3. 양 - 밀스 질량 간극 가설
4. 호지 추측
5. 푸앵카레의 추측
6. 리만 가설
7. P-NP 문제
이렇게 7가지다. 이 중 하나라도 풀어내고 증명한다면 수학계의 역사에 길이길이 남을 위인이 된다고 한다. 리만 가설은 게임이론으로 유명한 존 내시의 정신상태를 크게 망가뜨린 문제로 유명하다. 리만 가설은 엄청나게 쉽게 말하면 소수의 근사적인 분포를 찾았던 오일러의 함수를 그래프로 변형시켜 찾은 4개의 제로점이 직선을 이루자 나머지 소수들의 분포가 직선위에 있는 게 아닌가 하는 추측이라고 한다. 사실 쓰면서도 무슨 말인지 모르겠다.
P-NP 문제는 일종의 알고리즘에 관한 문제로 사실 상 P≠NP인 것으로 심증은 있으나, 증명이 안되는 상황이라고 한다. 쉽게 말하면 P는 푸는 데 커피한잔 타먹을 시간(다항식)안에 풀 수 있는 알고리즘에 있는 거고, NP는 검산은 쉬우나 풀려면 시간이 지수함수수준으로 거의 끝도없이 걸리는 문제이다. P=NP인지 P≠NP인지가 쟁점이라고 한다. 학부 때, 관련 강의를 들은 적은 있으나 당연히 개운하게 잊어버렸다...
푸앙카레의 추측은 "EBS에 따르면" 3차원 공간에서 폐곡선이 하나의 점으로 모일 수 있다면 그 공간은 구로 변형될 수 있다"라는 추측을 증명하는 문제라고 한다. 4차원 이상은 쉽게 증명이 되었는데 3차원만 해결이 안되다가 그레고리 페렐만Grigori Parelman)이라는 은둔 수학자에 의해 2003년 증명이 끝났다고 한다. 물리학과 미분기하학을 이용했다고 한다.
이 밖에도 모든 형태의 지도에서 같은 색이 접하지 않게 칠하는데에는 4가지 색깔만 필요하다는 4색문제, 모든 짝수가 소수 두 개의 합으로 표현될 수 있다는 골드바흐의 추측, 구형의 물체를 가장 효율적으로 쌓는 방법에 관한 케플러의 공쌓기 문제. 이 중 4색 문제는 컴퓨터에 의해 증명이 되었다고 한다.
p. s.
참으로 읽으면서도 역시 수학은 언제나 참 힘들구나 하는 생각도 들고, 수학 전공자들은 역시 왠지 대단해 보인다는 생각도 많이 들었다. 덕분에 시간 잘 보냈지만, 여전히 소피 제르맹이후로 계산 과정을 직접 해보지 못했다는 것과 타원방정식, 모듈형태, 타니무라-시무라 추론 등 부터는 사실상 정신을 아득히 멀리 보내고 글자만 지나간 것 같다는 점이 매우 아쉽고 허무하다. 그리고 빅뱅이론에 관해 읽을 때도 느꼈던 것이지만, 사이먼 싱이라는 작가가 참 대단한 것 같다. 본인 전공분야가 아니어서 이해하는 것 만으로도 상당히 벅찼을텐데, 정말 일반인의 수준에 딱 맞게 흥미롭게, 또 동시에 지적인 내용으로 구성할 수 있다는 것이 정말 대단한 것 같다. 다른 책도 있으면 읽어보고 싶은데, 그리 많지는 않는 듯 하다.
댓글 없음:
댓글 쓰기