‘리만가설’은 미해결된 수학 난제들 중 정점에 서있는 문제이다. 1859년에 독일의 수학자 리만이 제시한 이 가설이 참이면 매우 불규칙적으로 보이는 소수에도 규칙성이 존재하게 되어 소수의 여러 난제가 해결되기 때문이다.
고등학교에서 배우는 리만 적분 이론을 정립하여 일반인에게도 친숙한 이름인 베른하르트 리만은 40세가 되지 못하고 세상을 떠났지만, 수학에 많은 기념비적인 업적을 남긴다.
그는 BC 3세기부터 2000년 가까이 인류를 지배해온 유일한 기하학이었던 유클리드 기하학을 넘어선다. 1854년에 그는 곡률이라는 개념을 발표하면서, 평행선이 하나뿐인 곡률이 0인 유클리드 공간, 곡률이 양수이고 모든 직선이 만나는 타원공간, 곡률이 음수이고 평행선이 무수히 많은 쌍곡 공간 등 공간을 매우 유연하게 확장한다. 발표 당시 이 이론은 순수한 사고의 사유물로 여겨졌으나, 이것이 반세기 후 아인슈타인의 일반상대성이론의 모태가 된 것은 잘 알려진 사실이다.
리만의 지도교수는 가우스이다. 불규칙해 보이는 소수의 분포에 대하여 손으로 계산하여 소수의 분포를 추측한 ‘가우스 추측’에 대해 리만은 해석적 방법으로 증명하고자 했다. 그는 1859년에 리만가설이라 불리는 ‘리만 제타함수의 근들이 음의 짝수가 아니면 실수부가 2분의1인 복소수이다’라는 가정 하에 가우스의 추측을 증명하였다. 1896년에 아다마르와 푸생에 의해 ‘리만 제타 함수의 자명하지 않은 모든 복소수 근의 실수부는 0과 1 사이에 있다’가 증명되고 이를 이용하여 가우스 추측은 증명이 되어 ‘소수정리’가 된다.
1959년 리만가설 발표 100주년 기념 강연에서 연사로 초청된 ‘뷰티플 마인드’의 죤 내쉬가 강연 중에 정신분열 증세를 나타냈다고 한다. 리만가설을 풀 수 있는 독보적 유망주였던 내쉬는 너무 난해한 리만가설에의 몰두가 정신분열증의 원인이었다고 회고했다.
리만가설은 2000년에 클레이수학연구소가 백만달러의 상금을 건 밀레니엄 문제로 아직 정복되지 않은 산이다. 장선영 울산대 교수·수학과