[비즈한국] 오픈AI사의 인공지능(AI) 챗봇 ‘챗GPT’로 전 세계가 들썩이는 가운데 AI를 향한 대중의 관심도 나날이 커지고 있다. 챗GPT에 앞서 대중에게 생성 AI의 존재를 알린 건 그림 AI다. 키워드만 넣으면 누구든 고품질의 그림을 만들 수 있는 AI가 등장하면서 온라인에서 AI로 만든 작품이 활발히 공유되고 있다. 문제는 선정성이 강한 이미지들이 다수 커뮤니티를 통해 공유되고 있다는 점이다.
그림 AI는 키워드나 스케치를 기반으로 완성도 높은 이미지를 만들어낸다. 대표적인 그림 AI로는 ‘Midjourney(미드저니)’가 있다. 2022년 8월 미국 콜로라도 주립 박람회가 연 미술대회에서 미드저니로 그린 그림이 1위를 차지하면서 화제가 됐다. 그 외에 대중적으로 쓰이는 그림 AI로는 텍스트를 넣으면 이미지로 만들어주는 ‘스테이블 디퓨젼’ ‘달리(DALL·E)’ ‘Novel AI(노벨 AI)’ ‘Web UI’ 등이 있다. 이 AI들은 성인물 제작에도 주로 사용된다.
AI로 누구나 원하는 콘텐츠를 만들 수 있게 되자 전 연령대가 볼 수 있는 커뮤니티에 성인물이 난립하는 상황이다. 노출이 심한 옷을 입거나 가슴을 부각한 여성 그림이 대다수다. 사용자가 어떤 모델을 쓰고 명령어를 어떻게 조합하는지에 따라 그림 수준이 달라지다 보니, 게시판 이용자들은 수많은 성인물을 만들고 공유하면서 얼굴과 신체를 자연스럽게 만드는 ‘팁’을 나누기도 한다.
AI 작품을 공유하는 게시판은 여러 곳이지만 상황은 비슷하다. AI 그림의 수위를 높여 해외 서버로만 접속하도록 폐쇄적으로 운영하는 곳도 있으나 우회 프로그램으로 쉽게 접속할 수 있다. 미성년자가 AI로 만든 성인물에 무분별하게 노출된다는 지적이 나오는 이유다.
문제는 이 같은 AI 성인물이 포털사이트에서도 여과 없이 검색된다는 점이다. 네이버 등 포털사이트에 ‘AI 그림 게시판’ 또는 ‘AI 그림’으로 검색하면 여성의 신체를 부각한 AI 그림이 쏟아진다. 다음과 구글에서는 비교적 다양한 종류의 AI 그림이 나와 성인물에 편중되진 않았지만, 웹 문서에서 ‘야짤’ 등의 키워드로 이어지는 것을 볼 수 있다.
AI 모델의 발달로 일명 ‘반실사’로 불리는 사진 같은 성인물까지 만들면서 악용을 우려하는 목소리도 나온다. 그림 AI를 이용해 미성년자나 일반인 등 실제 인물의 얼굴을 닮은 음란물을 만들 수 있기 때문이다. 인물의 얼굴 등을 기존 사진과 영상에 합성하는 ‘딥페이크’ 기술이 위조 포르노 등에 쓰였던 사례와 비슷하다.
이처럼 그림 AI를 둘러싸고 윤리적인 문제가 커지자 해결을 위해 직접 나선 개발사도 있다. 스테이블 디퓨전의 개발사 Stability.AI(스태빌리티 AI) 사는 2022년 스테이블 디퓨전 버전 2.0을 공개하면서 성인용 콘텐츠(NSFW) 제작을 차단하는 필터를 설정했다고 밝혔다.
만약 AI로 실제 인물을 닮은 음란물을 만들 경우 법적으로 어떤 처벌을 받을까. 법무법인 ‘린’의 테크앤로 부문장인 구태언 변호사는 “AI를 이용해 음란물을 만들면 당연히 유포는 불가능하다”라며 “만약 딥페이크처럼 실존 인물의 얼굴과 동일하게 만들었다면 의도적이냐 우연히 만들어졌냐에 따라 형법상 다르게 적용할 수 있다”라고 말했다.
구 변호사는 “이름 등 특정한 키워드를 넣었다면 고의가 인정될 것이고, 넣지 않았는데 우연히 나왔다면 고의성이 없다고 볼 수 있다”라며 “하지만 민사적으로는 초상권 침해, 개인정보 무단 이용, 허위사실 유포(명예훼손), 업무 방해가 인정될 것이다. 또 딥페이크처럼 성폭력범죄의 처벌 등에 관한 특례법에도 적용된다”라고 설명했다.
ICT 법률 리스크 전문가인 이상직 법무법인 태평양 변호사는 AI로 만든 인물이 실제 인물과 동일하게 보일 경우 고의성을 배제하기 어렵다고 봤다. 이 변호사는 “특정인을 고려하지 않고 AI가 똑같은 얼굴을 만드는 건 현재로선 어렵다”라며 “설정 없이 동일한 얼굴이 나올 가능성은 거의 없다. 고의성이 없다는 걸 증명하기 어려울 것”이라고 짚었다.
이 변호사는 “기본적으로 얼굴이 같으면 모방으로 추정한다. 정말 우연히 AI가 실제 인물과 같은 얼굴을 만들었다고 해도 이를 가공하면 초상권 침해가 될 수 있다”라며 “이를 이용해 음란물을 만들어 유포했다면 명예훼손죄로 처벌받을 수 있다”라고 답했다.
심지영 기자
jyshim@bizhankook.com[핫클릭]
·
'보기만 좋은 떡?' 제작비까지 받는 현대카드 '메탈 카드' 결제 오류 논란
·
한샘 적자에도 무인양품까지 사들이는 롯데쇼핑의 속내는?
·
[지금 이 공시] '한국 엔터산업을 뒤흔들다' SM 인수 선언한 하이브
·
[가장 보통의 투자] 전 세계 뒤흔든 챗GPT에 투자하는 현명한 방법
·
인공지능이 기사를 써봐야 얼마나 잘 쓴다고…
