[현장] 혐오 악플을 대하는 페이스북 인공지능의 자세

[비즈한국] 페이스북이 커뮤니티 규정 정책과 주요활동에 대해 소개하는 자리를 가졌다. 인공지능 알고리즘을 통해 90% 이상의 유해 콘텐츠를 걸러내고 있음을 강조했지만, 최근 이슈가 되는 혐오 및 차별 게시물의 제한은 기술적 한계로 인해 여전히 모호함을 남겼다.

페이스북은 28일 서울 역삼동 페이스북코리아 사무실에서 ‘페이스북 커뮤니티 규정 업데이트 미디어 세션’을 열고 커뮤니티 규정을 만드는 과정과 집행 절차, 주요 지표 및 현황 등을 소개했다.

페이스북 커뮤니티 규정은 플랫폼 내에서 위반되거나 허용되는 콘텐츠를 결정하는 규칙이다. 커뮤니티 규정은 △폭력 및 범죄 행위 △안전 △불쾌한 콘텐츠 △무결성 및 진실성 △지적 재산권 존중 △콘텐츠 관련 요청 등 6개 파트로 이뤄져 있으며 총 25개의 세부적인 사항으로 나뉜다. 

이날 발표에 나선 유동연 페이스북 APAC 콘텐츠 정책 매니저는 “커뮤니티 규정은 ‘안전’, ‘이용자 의견 반영’, ‘공정함’에 따라 모든 이용자의 의견이 반영되는 규정을 만들려고 노력 중”이라며 “새로운 트렌드가 생겨 이를 규정에 넣으려면 최소 6개월의 시간이 소요된다. 우리는 전문가가 아닌 까닭에 트렌드와 관련된 전문가들과 논의한다. 한국뿐만 아니라 세계 각국의 전문가들과 진행한다”고 설명했다.

페이스북은 커뮤니티 규정에 따라 유해 콘텐츠를 제재한다. 먼저 AI(인공지능) 기술을 통해 유해 콘텐츠라 판단한 게시물을 이용자 신고 전에 사전 조치(삭제)하고, 이후 커뮤니티 오퍼레이션 팀 직원들이 AI가 잘못 판단을 했거나 걸러내지 못한 콘텐츠를 적발한다.

페이스북이 공개한 자료에 따르면 AI로 유해 콘텐츠를 적발한 사전 조치율이 2017년 60%대에서 2019년 90%대를 기록했다. 가짜 계정 적발(99.7%), 스팸(99.9%), 성인 나체 이미지 또는 성적인 행위(98.4%) 등 8개 항목이 사전 조치율 90%를 넘었다. 그러나 △혐오 발언(80.1%) △따돌림과 집단 괴롭힘(16.1%) 부분에선 상대적으로 낮은 조치율을 기록했다. 유동연 매니저는 “맥락을 파악해야 하는 부분은 AI로 사전 조치하는 데 어려움이 있다. 기계가 알 수 없는 부분이기 때문”이라고 말했다.

이 두 항목과 ‘자살 및 자해’ 부분은 페이스북에서도 민감하게 다루는 데다가 최근 사회적으로 크게 이슈가 되었다. 논란의 여지가 있는 세 분야에 대해 ​페이스북은 ​판별 기준을 사례를 들어 설명했다.

혐오 발언의 경우 페이스북은 인종, 민족, 국적, 종교, 성적 취향, 성별 또는 성적 정체성, 심각한 신체적 장애 또는 질병과 같이 보호받는 특성을 이유로 타인을 직접적으로 공격하는 것으로 정의한다. 즉 대상이 있고, 대상에 대한 공격이 있어야 혐오 발언으로 인정한다.

따돌림 항목에 대해서는 공인에게 가장 엄격하고, 미성년자 역시 엄격한 기준을 적용한다. 자살 및 자해 관련 항목은 조금 다르다. 게시물 삭제가 능사가 아니라는 게 페이스북의 주장이다. 기본적으로 게시물 제재 전 이용자 안전을 고려해 상담 권유 메시지를 보낸다. 이는 전문가 자문을 통해 결정되는 사항으로 페이스북도 신중히 다루는 분야다.

그러나 모호한 구석은 여전히 존재했다. 예를 들어 최근 페이스북은 ‘김치녀’와 ‘한남충’이라는 단어로 곤욕을 치렀다. 페이스북은 김치녀라는 단어를 명품 등 허영심을 채우기 위해 소비를 하는 ‘일부’ 여자로 판단해 삭제하지 않았다. 그러나 한남충은 한국 남자 ‘전체’를 비하하는 단어라고 판단해 관련 콘텐츠를 삭제했다.

이렇듯 혐오 발언에 대해선 일부를 비하하는 단어는 삭제하지 않고, 전체를 비난하는 단어가 들어간 게시물은 삭제하는 기준을 적용 중이다. 이 밖에도 따돌림 콘텐츠는 성인 개인이 모욕감을 느껴 신고할 경우 삭제될 수 있다. 자살 콘텐츠도 해시태그를 통해 자살, 자해 등을 표현했더라도 페이스북 판단에 따라 게시물 삭제 여부를 결정한다.

유 매니저는 “커뮤니티 규정엔 25가지가 있고, 하루에 100만 건 이상이 신고된다. 늘 완벽한 기준을 적용하는 것이 어려운 이유”라며 “콘텐츠 하나하나에 어떤 단어가 나오고 있으며, 어떤 의미를 담는지 파악하려고 노력 중”이라고 답했다. 따라서 ‘비판과 비난’, ‘모두와 일부’의 경계에 있는 콘텐츠에 대한 조치는 앞으로도 논란이 계속될 것으로 보인다.

다만 유 매니저는 “모호한 콘텐츠에 대해선 이용자들의 피드백이 중요하다. 향후 문제 해결 사례를 남기는 데 도움이 되기 때문”이라며 “페이스북은 앞으로도 이용자들이 안전하게 플랫폼을 이용할 수 있도록 최선을 다하겠다”고 강조했다.​​ 

[핫클릭]

· 밀레니얼이 크리스마스보다 핼러윈을 사랑하는 이유
· [미국음악일기] 아레사 프랭클린 '어메이징 그레이스' 이제 공개된 까닭
· [리얼 실리콘밸리] '악플'에 대한 플랫폼 사업자의 책임, 미국은요?
· 라인·야후재팬 '세기의 통합' 구글·바이두와 3강 체제 구축할까
· 인싸에게 다단계 냄새가…인스타그램 팔로어 늘리기 알바의 정체

<저작권자 ⓒ 비즈한국 무단전재 및 재배포 금지>