17세기 프랑스 툴루즈 지방의 판사였던 페르마는 A.D 3세기의 디오판투스가 정수해를 갖는 방정식에 대해서 집대성해 놓은 책 ‘산술’을 가지고 다니며 시간이 날 때마다 문제 풀이와 새로운 의문들을 책 여백에 기록했다. 페르마 사후 그의 아들이 페르마가 여백에 기록한 내용에 원문을 추가하여 ‘디오판투스’라는 제목의 유고집을 출판하였다.
19세기에 대 부흥기를 이룬 수학자들에 의하여 페르마가 제기한 많은 새로운 의문들이 하나만 남기고 모두 해결되었는데, 그 남은 하나가 바로 ‘페르마의 마지막 정리’이다.
피타고라스 정리는 ‘x2+y2=z2을 만족하는 정수 쌍이 무수히 많다’는 것을 말한다. 페르마의 마지막 정리는 ‘xn+yn=zn(n≥3)을 만족하는 정수 x,y,z가 존재하지 않는다’는 것이다. 페르마는 그의 ‘산술’ 여백에 ‘이 식에 대하여 놀라운 증명 방법을 알아냈으나 여백이 부족하여 쓰지 않는다’라고 했다.
프랑스학술원은 페르마의 마지막 정리에 상금을 걸었다. 1847년에 평생 이 문제에만 매달린 독일 수학자 쿠머가 n이 정규 소수일 때 페르마 정리를 증명하였는데, 이 과정에서 그는 ‘대수적 정수론’의 기초를 놓았다. 쿠머의 이론과 컴퓨터를 사용하여 4백만 이하의 모든 정수에 대해 페르마 정리가 성립됨이 증명되었고, 이를 이용하면 페르마 정리가 틀릴 확률은 1/1024000000보다 작음을 보일 수 있다고 한다.
그 후 100년이 훨씬 지난 1980년대 이르러 독일 수학자 펄팅스가 사영곡선의 ‘모델의 추측’을 증명하므로 모든 소수에 대한 페르마 정리의 해결 방법을 제시하였고, 펄팅스는 이로써 수학의 노벨상인 필즈상을 받는다.
1995년에 영국의 와일즈가 1993년의 자신의 오류를 수정하고 페르마의 마지막 정리에 깃발을 꽂는다. 와일즈는 타원 곡선에 대한 ‘시무라-다니야먀 추측’을 증명하고 최고의 수학저널에 무려 180페이지에 해당하는 논문으로 페르마의 정리를 해결한다. 그래서인지 페르마의 여백이 없어 쓰지 못한 놀라운 증명에 대해서는 회의적이다. 장선영 울산대교수·수학과