[리얼 실리콘밸리] AI 디스토피아? 딥페이크 공포

[비즈한국] 맛집을 유튜브로 검색하는 경우가 많습니다. 글, 사진과 달리 영상은 속이기 어렵기 때문이라고 합니다. 그만큼 우리는 영상을 믿습니다. 현실을 가감 없이 보여주는 방식이라 믿기 때문이죠. 하지만 정말 그럴까요?

딥페이크는 영상의 데이터를 분석해, 실제 얼굴을 다른 얼굴과 바꿔치기할 수 있다. 사진=치하오 비루오 유튜브 화면 캡처

‘딥페이크(deepfake)’ 기술이 나오면서 이런 신뢰는 떨어지고 있습니다. 딥페이크는 영상의 데이터를 분석해, 실제 얼굴을 다른 얼굴과 바꿔치기할 수 있습니다. 실제 행동을 하지 않았어도, 했던 것처럼 조작할 수 있는 셈입니다. 데이터가 많으면 많을수록 조작이 쉽지요. 유명인일수록 영상 조작이 쉬운 이유입니다.

딥페이크 영상이 최근 큰 화제가 됐습니다. 중국에서 자오(ZAO)라는 무료 딥페이크 앱이 등장했기 때문입니다. 이 앱은 누군가의 얼굴을 다른 영상에 붙여줍니다. 중국인 얼굴을 디카프리오에 붙인 영상이 특히 큰 화제가 됐습니다.

자오(ZAO) 영상. 디카프리오에 중국인의 얼굴을 붙였다.

누구나 영상 속 얼굴을 바꿔치기할 수 있는 세상. 이런 세상에서 어떤 일이 가능할까요? 이미 중국에서는 영상의 신뢰가 폭발적으로 줄고 있습니다.

치하오 비루오(Qiao Biluo)라는 여성은 아름다운 목소리와 외모로 인기를 끄는 뷰티 스트리머입니다. 1억 6000만 원이 넘는 선물을 받기도 했지요. 문제가 생겼습니다. 생방송 도중 기술적 결함으로 그녀의 본모습이 공개됐는데요, 사실 그녀는 58세의 중년 여성이었습니다. 딥페이크 기술을 이용해 젊고 아름다운 외모를 붙였던 겁니다. 팬들은 충격에 빠졌습니다.

치하오 비루오의 딥페이크 논란을 보여주는 영상.

딥페이크 기술의 발전은 어떤 악영향을 미칠까요? 발전이 완료된 기술은 반드시 사기에 활용됩니다. 경기남부지방경찰청에 따르면 올 상반기에 경기 남부 지역에서는 지난해에 비해 보이스피싱 피해는 50%, 메신저피싱은 383% 증가했습니다.

최근 ‘월스트리트저널’은 딥페이크 기술이 사기에 이용된 첫 사례를 보도했습니다. 독일의 신용보험사 율러 헤르메스 그룹 SA(Euler Hermes Group SA)의 한 고객사 사례였는데요, 율러 헤르메스 본사 CEO(최고경영자)의 목소리를 딥페이크 기술로 위조했습니다. 이 목소리로 자회사 CEO에게 22만 달러 송금을 받아냈지요. 독일계 억양부터 버릇까지 모든 걸 완벽하게 위조해 진짜 목소리와 구별할 수 없었다고 합니다.

아직 딥페이크 영상은 어색합니다. 하지만 기술이 빠르게 발전해 진짜 영상과 가짜 영상을 구별할 수 없게 되면 어떨까요? 영상조차 믿지 못하게 되면, ‘진실’이나 ‘저널리즘’ 등은 위기에 빠질 거라는 걱정이 생깁니다. 실제 페이스북은 딥페이크 영상과 포토샵으로 조작된 이미지를 구별해낼 수 있는 기술을 개발 중입니다. 최근에는 딥페이크 탐지 툴 개발을 위해 1000만 달러(약 120억 원) 상금을 걸고 경연을 개최하기도 했지요.

다만 딥페이크 기술이 중요한 건 아닐지도 모릅니다. 이미 왜곡 영상 논란(관련기사 [리얼 실리콘밸리] 낸시 펠로시 '왜곡 영상'과 페이스북)에서 페이스북은 기초적인 편집으로 만든 조작 영상을 삭제하지 않으며 대중들의 믿음을 저버렸습니다. 최근에는 백악관 여성 인턴이 CNN 짐 아코스타 기자의 마이크를 빼앗으려 하는 모습을 백악관 여성 인턴을 공격하는 장면으로 편집해 보냈습니다. 역시 딥페이크가 아닌 기초적인 편집을 사용한 영상이었습니다.