▲ 장선영 울산대 교수·수학과

현대 과학 문명은 대부분 19세기말 20세기 초에 발표된 획기적인 이론에 기인한다. 이 시기 수학에 가장 큰 영향력을 끼친 수학자로는 많은 사람들이 독일 수학자 다비드 힐베르트를 말한다. 1900년의 세계 수학자 대회에서 힐베르트는 20세기를 맞으며, 앞으로 풀어야 할 문제 23개를 발표한다.

19세기에 왕성히 발전하던 수학에, 럿셀의 역설 등 여러 역설이 제기되면서 수학은 위기를 맞는다. 힐베르트는 이를 극복하고 논리적으로 완전한 수학, 즉 ‘수학을 형식화해 그 형식체계가 무모순임을 유한적 방법으로 증명할 수 있는 수학”을 기대하며 힐베르트 프로그램을 만든다.

힐베르트가 발표한 23개의 문제 중에 ‘수학의 무모순성’에 대한 문제는 1번 문제인 ‘연속체 가설’과 2번 문제인 ‘산술의 무모순성’이다. 그는 유클리드의 ‘원론’에 버금간다는 그의 저서 <기하학의 기초>에서 산술에 모순이 없다면 기하학에도 모순이 없다는 것을 증명했다. 따라서 산술의 무모순성은 수학에 확고한 기초를 부여하는 것이다.

그러나 1931년에 괴델이 “어떤 체계가 무모순이라면 그 체계 내에서는 증명도 반증도 할 수 없는 명제가 존재”하며, “어떤 체계가 무모순이라면 그 체계에서 모순이 도출되지 않는다는 것을 그 체계 자체적으로는 증명할 수 없다”는 제1·제2 불완전성 정리를 발표한다. 제1 불완전성 정리는 ‘연속체 가설’에, 제2 불완전성 정리는 ‘산술의 무모순성’에 치명타를 가하면서 힐베르트 꿈은 허물어지는 것 같았다.

하지만 그의 저서 <기하학의 기초>에서 보였듯이 직관에 의존하지 않은 철저히 형식화된 수학은 많은 수학자들에게 영향을 주었다. 게임이론의 창시자인 존 본 노이만도 그의 제자이다. 컴퓨터의 아버지라 불리는 앨런 튜링은 “임의 수학적 명제에 대해 그것이 참인지 여부를 결정하는 알고리즘이 존재하는가”를 묻는 힐베르트의 10번 문제인 ‘수학의 결정 문제’를 해결하려다가 현대 컴퓨터의 모델인 ‘튜링 기계’를 생각하게 된다.

‘Wir mussen wissen, Wir werden wissen(우리는 알아야만 한다, 우리는 알게 될 것이다)’라고 한 그의 괴팅겐대학 은퇴 연설에서 호모사피엔스의 아름다움이 보인다.

장선영 울산대 교수·수학과

 

저작권자 © 경상일보 무단전재 및 재배포 금지