▲ 장선영 울산대교수·수학

올해 수학계를 달군 사건이 9월 말 독일 하이델베르그에서 발생했다. 수학의 노벨상인 필즈상, 아벨상 등을 받은 저명한 수학자들이 강연하는 수상자 포럼에서 마이클 아티야가 ‘리만 가설’을 증명하는 강연을 한 것이다. 리만 가설은 무엇인가.

리만 가설은 소수에 관한 가설로 20세기 최고의 수학 난제로 꼽히는 문제이다. 소수는 그 수를 나누는 약수가 1과 자기 자신 밖에 없는 수이다. 예를 들면 2, 3, 5, 이런 수들이다.

단순해 보이는 정수에도 그 신비함이 말할 수 없는데, 소수의 신비는 더욱 그렇다. 소수는 1과 자기 자신 밖에는 약수가 없으므로 수가 커지면 그 수가 소수가 될 확률은 작아진다. 그러나 소수의 개수가 무한하다.

수학자들의 관심을 끄는 것은 소수의 분포이다. 소수의 출현은 예측 불허해 어떤 때는 이웃하는 수가 소수이다가, 또 어떤 때는 소수가 한 동안 나타나지 않곤 한다.

19세기 수학의 왕자라 불리는 칼 프리드리히 가우스는 어떤 수 x에 대해 x보다 작은 소수의 개수를 p(x)라하고 p(x)/x의 그래프를 손으로 계산해 그렸더니 그것이 1/log(x)의 그래프와 거의 같음을 발견했다. 이를 소수 정리라 부르는데, 1896년에 다른 수학자에 의해 증명됐다.

리만은 가우스의 제자다. 리만은 1859년 ‘주어진 수보다 작은 소수들의 개수에 대하여’라는 짧은 논문에서 “제타 함수의 자명하지 않은 영점은 일직선상에 늘어서 있다”는 리만 가설을 세웠다. 일반인들이 이해하기 힘든 가설이지만 리만은 이 가설을 가정하고 소수 정리를 증명했다.

리만 가설은 특정 수까지의 소수 개수를 의미하는 ‘소수 계단’에 규칙성 즉, 소수 분포에 관한 가설로, 이 가설을 가정하고 나온 정리가 500여개나 된다고 한다.

수 십년간 컴퓨터 암호 체계를 지배해온 RSA 암호가 거대 소수를 이용한 암호 체계이므로 리만 가설은 그 만큼 뜨거운 난제였다. 그러나 89세 고령의 대 수학자 아티야의 리만 가설 증명에 대해서는 많은 사람들이 회의적이다. 장선영 울산대교수·수학

 

저작권자 © 경상일보 무단전재 및 재배포 금지