딥페이크 활용 합성영상 인기 이면
음란물·사기 등 신종범죄도 잇따라
기술악용 피해예방 대책 마련 시급
‘마이야히 마이야후~’ 2003년에 몰도바의 댄스 그룹 ‘O-Zone’이 발표한 히트곡 ‘Dragostea Din Tei’는 누구나 한번쯤은 들어보았을 노래로, 최근 이 노래에 맞춰 특정 인물의 얼굴이 코믹하게 춤을 추는 영상이 소셜 네트워킹 서비스(Social Networking Service, SNS)에서 화제가 되고 있다. 특정 인물의 사진을 넣으면 ‘딥페이크(deepfake)’라는 기술을 활용해 영화에서 컴퓨터 그래픽스(Computer Graphics, CG) 처리한 것처럼 얼굴이 합성된 영상을 만들어주는 앱이 인기를 끌고 있는 것이다. 인공지능의 ‘딥러닝(deep learning)’ 기술을 활용한 딥페이크는 특정 인물의 얼굴 등 특정 부위를 영상에 합성하는 이미지 합성 기술로 기존 CG로 이미지를 합성하던 것에 인공지능 기술을 접목한 것이다. 앱 유저들은 근엄한 아버지 얼굴, 귀여운 아기 얼굴, 진지한 모습의 본인 얼굴 등 다양한 사진으로 재미있는 영상을 만들어 SNS에 공유하며 즐거워한다. 비슷하게 인공지능 기술과 가상현실 기술을 접목시켜 고인이 된 가수와의 합동 무대를 꾸미거나 일찍 세상을 떠난 딸과 재회하고 싶은 어머니의 꿈을 이루어주는 등 공상과학소설에서나 들어 봄직한 일들이 현실화되고 있는 것이다.
기술 발달이 가져온 이러한 밝은 모습 이면에는 어두운 그림자가 수반되는데, 불법 음란물 유포, 피싱 사기, 가짜 뉴스 생산 등에 인공지능 기술이 신종 범죄 수법으로 둔갑하여 악용되고 있다는 사실이다. 지난해, IT 개발자들이 연예인의 얼굴을 대상으로 성착취물을 제작해 유포한 일이 발생해 큰 공분을 산 바 있다. 그러나 이러한 범죄는 현재 일반인에게까지 확대돼 사회의 큰 문제로 대두되고 있다. SNS에 올린 사진을 통해 불법적으로 합성된 음란물 영상이 배포돼 고통을 호소하는 피해자들이 늘고 있는 것이다. 이러한 영상이 돈을 갈취하기 위한 협박의 수단으로도 사용돼 피해자들은 이중고를 겪기도 한다. 한 조사에 따르면 온라인 상에 떠돌아다니는 딥페이크 영상의 90~95%는 포르노라고 한다. 이 사실만 보아도 인공지능 기술이 개인과 사회에 미치고 있는 예상치 못한 악영향의 정도가 얼마나 큰지 짐작할 수 있다.
한 매체에서 딥페이크 영상을 활용해 부모님들을 대상으로 진행한 피싱 실험도 인상적이었는데, 자녀들의 목소리까지도 인공지능 기술로 비슷하게 재현해 제작한 딥페이크 영상을 메신저로 전송하였더니 짧은 시간 만에 부모님의 주요 금융 정보들을 확보한 결과를 얻은 것이다. 이밖에도 딥페이크 영상은 정치적으로도 악용되어 사회에 직간접적인 피해를 주기도 한다. 도널드 트럼프 전 대통령, 김정은 국무위원장 등의 딥페이크 영상을 통해 가짜 뉴스를 생산하고 배포해 시민들을 호도하는 일들이 빈번히 발생하고 있다. 이전에도 거짓 소문을 이용한 가짜 뉴스는 있어왔지만 인공지능 기술로 한층 진화돼 진짜와 가짜의 경계가 점점 더 모호해지고 있다.
관련 기술을 개발한 사람들이 이러한 세상을 꿈꿨을 것이라 생각하지 않는다. 기술 그 자체에 죄를 물을 수는 없다. 이러한 기술을 어떻게 사용할지는 사용하는 사람의 도덕적, 윤리적 양심에 기인한다. 그러나 사람들의 양심은 정량화할 수 없고 사람마다 시비를 따지는 기준도 다르며, 실제로 많은 경우에 현상 그 자체에도 회색 영역이 존재하기 마련이다. 그럼에도 불구하고 기술의 발전이 개인과 사회에 미칠 영향에 대한 고찰 보다는 기술의 빠른 진보를 추구하고 장려하는 경향이 있는 우리 사회에 어느 정도 책임은 있다.
따라서 불법적으로 생성된 콘텐츠를 생성, 소비하지 않는 개인의 노력에만 의존할 것이 아니라, 기술 진보와 함께 많은 것들이 빠르게 변하고 있는 지금, 그리고 더욱 빠르게 바뀌어 갈 앞으로의 세상에서 인공지능 기술 발전으로 인해 피해를 보는 사람들이 발생하지 않도록 미연에 방지할 수 있는 시스템과 피해를 구제받을 수 있는 해결책을 적극적으로 도입할 필요가 있다. 기술자들에 대한 교육을 포함한 예방 방안 마련 및 제도화, 딥페이크 영상과 같이 사각지대에 놓인 불법 컨텐츠에 대한 법제화 및 범죄자들에 대한 법적 처벌 강화, 이와 더불어 인공지능 기술의 악용을 대비, 대처하는 보안 기술 개발 등 모든 부분에서 힘을 합쳐야 가능한 일이다. 우리나라가 도덕성 잃은 IT 강국이라는 오명을 벗고 재도약을 위해서는 이러한 노력이 사회적으로 신속히 이루어져야 할 것이다.
이정혜 UNIST 산업공학과 교수 인공지능 기반 헬스케어 분야 연구