인류가 셈을 하기 위해 처음 사용하였던 것은 손가락이었다. 손가락과 발가락만으로 셈을 하기 버거워지자 사람들은 수의 개념을 표기한 기호를 쓰기 시작하였는데 이를 숫자라 한다. 기록상 제일 오래된 숫자의 기록은 BC 4만3000년경의 원숭이 뼈에 새겨진 것이다. 콩고에서 발견된 BC 2만년 경의 이상고 뼈에는 그 합이 60인 소수 개수의 일자형 선분들이 있다. 그러나 이상고 뼈의 숫자의 의미에 대해서는 아직 정립된 이론이 없다.
천문학이 발달한 고대 바벨로니아에서는 60진법의 초기 자릿수 표현이 사용되었으나, 초기 숫자 표기법에는 자릿수 개념이 없는 것이 많다. AD 6세기의 인도의 수학자 브라마굽타에 의해 ‘0’이 포함된 십진법 자릿수 표현이 만들어지고, 이 것이 아랍으로 그리고 유럽으로 전파되었다.
수는 셈이나 측량 등에 사용되는 수학적 대상으로, 자연수, 0, 음수, 정수, 유리수, 무리수, 실수 등등이 있다. 초기 이집트 문명은 음수와 분수를 사용했는데 BC 1500년경 문헌인 라인하드 파피루스에 그 기록이 있다. BC 6세기의 피타고라스는 유리수의 존재까지만 인정하였으나 피타고라스의 정리로부터 무리수의 존재를 알게 되자 이를 비밀로 감추었다.
무한 혹은 무한대 개념은 BC 5세기에 제논의 역설로 유명한 제논으로부터 시작된 것으로 보이나 오랫동안 그 연구가 금기시 되었다. 그러나 수학의 엄밀성에 대한 요구가 높아지면서 집합론으로 근대 수학의 기틀을 마련한 칸토르는 무한을 본격적으로 연구하였다.
칸토르는 집합의 원소의 개수가 유한한 유한 집합과 그렇지 않은 무한 집합, 그리고 원소를 셀 수 있는 집합과 셀 수 없는 집합으로 나누었다. 그는 실수의 집합이 정수의 집합 보다는 확실히 큰 셀 수 없는 무한집합이라는 것을 증명하였다. 또한, 그가 증명한 무한 집합의 종류가 무한히 있음은 인류 사고의 한계를 깨는 전환적 이론이었으나, 그 당시 사회의 비난과 반대로 힘든 시간을 보냈다. 보편적 언어인 ‘수’의 정립에도 굴곡이 없지는 않았던 것 같다.
장선영 울산대 교수·수학