청산가리를 넣은 사과를 먹고 자살했다는 비운의 수학자 앨런 튜링에서 시작된 ‘생각하는 기계’에 ‘인공지능’이라는 단어를 사용한 사람은 수학자이자 컴퓨터 과학자이며 튜링상 수상자인 마빈 민스키(Marvin Lee Minsky, 1927~2016)이다. 인공지능이라는 단어가 우리에게 충격적으로 다가온 것은 딥러닝 프로그램인 알파고가 바둑에서 이세돌을 이겼을 때일 것이다.
1957년에 신경생물학자인 로젠블랫(Frank Rosenblatt)이 사람 뇌의 신경세포가 정보를 처리하는 방식을 본떠 설계한 ‘퍼셉트론’을 발표했다. 간단한 영문자 등을 구별하는 퍼셉트론은 인공지능 연구계에 폭발적인 관심을 일으켰다. 그러나 퍼셉트론의 단층 신경망 구조와 그 당시 컴퓨터의 비효율성 등에 의한 퍼셉트론의 한계를 민스키가 발표한 후, 신경망에 대한 연구는 1980년대 초까지 겨우 명맥만 유지하게 된다.
딥러닝은 인공 신경세포를 여러 층으로 깊이 배열한 심층신경망으로 구성되어, 빅데이터를 이용하여 연결망의 강도를 학습하는 프로그램이다. 즉, 수상돌기를 통해 정보를 입수하고 축색돌기를 통해 다른 뉴런에게 정보를 전달하는 사람의 신경망처럼, 입력 값과 출력 값 사이에 숨겨진 층을 두어 상호작용으로 학습을 진행하는데, 숨겨진 층이 충분히 많으면 함수 공간이 커져 원하는 함수에 가까운 함수를 얻을 수 있다.
딥러닝인 구글 브레인은 2012년에 컴퓨터 프로세서 1만6000개와 10억개 이상의 신경망을 사용해 유튜브에 있는 1000만개 이상 동영상 중에서 고양이 사진을 골라내었으나, 최근에는 사람보다 뛰어난 물체의 인식이 가능한 알고리즘이 제시되고 있다.
심층신경망이 뛰어난 성능을 보이고 있는 것은, 비선형적 함수에 기인하는 것으로 추정되고 있으나 아직은 정확한 동작원리가 밝혀지지 있지 않아 블랙박스라고도 불린다. 작동원리가 정확히 밝혀지지 않은 채 의료나 자율주행 등에 쓰일 수가 없으니, 체계적인 원리에 의해 설계되고 결과 예측이 가능한 ‘설명이 가능한 인공지능’에 대한 관심이 뜨겁다고 한다. 로젠블랫은 자신의 43세 생일날에 혼자 보트를 타고 나가 사고로 익사했다. 장선영 울산대교수·수학과