[비즈한국] 생성형 인공지능(AI) 발달과 함께 금융권에서도 적극적으로 AI 기술을 활용하고 있다. 이와 함께 ‘신기술 금융사기’라는 부작용도 나타났다. 기술의 고도화로 가짜와 진짜를 구분하기 어려워지면서 신기술 사기 피해는 갈수록 커질 것으로 예상되지만, 현행법상 예방과 피해 구제는 쉽지 않다. 11월 26일 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)’이 국회 과학기술정보방송통신위원회를 통과한 가운데 AI 금융범죄 피해를 막기 위한 세밀한 입법이 필요하다는 목소리가 나온다.
생성형 AI 기술을 악용한 금융사기가 늘면서 소비자의 피해 예방과 구제를 위한 방안을 논의하는 자리가 마련됐다. 11월 27일 소비자권익포럼, 한국금융소비자학회, 미래소비자행동, 김병기 더불어민주당 국회의원실은 ‘신기술을 이용한 금융사기 소비자 보호 방안 모색’ 포럼을 개최했다.
AI 기반의 금융사기는 크게 세 종류가 있다. 첫째는 유명인을 사칭한 영상으로 투자자를 끌어들이는 딥페이크 사기다. 대중에게 신뢰도가 높은 금융권 인사나 연예인의 얼굴을 딥페이크 영상으로 만들어 투자를 유도하는 수법이다. 지난 3월에는 사칭 당한 유명인 137명이 직접 나서 문제 해결을 촉구하기도 했다.
두 번째는 ‘AI 워싱(AI washing)’ 사기다. AI 기술을 사용하지 않으면서 과장하거나 허위로 마케팅해 소비자를 유인한다. 예를 들어 “AI 기반의 주식 매매 프로그램을 이용해 고수익을 낸다”라고 홍보하지만 실제론 프로그램이나 투자 수법이 존재하지 않는 식이다.
세 번째는 ‘AI 챗봇’ 사기다. 다수의 피해자에게 쓰이며 메시지로 접근해 상대의 호감을 얻은 후 금전을 요구하는 ‘로맨스 스캠’ 범죄에서도 활용된다.
이날 포럼에 모인 전문가들은 현행법으로는 AI 금융사기를 막거나 피해 구제가 어렵다고 입을 모았다. 발제를 맡은 문찬현 미래소비자행동 전문위원(국제공인재무설계사)은 “딥페이크 투자사기 영상을 보면 사실 수준이 높지 않다. 가짜임을 구분할 수 있을 만큼 조악하지만 피해는 계속 발생한다. 그만큼 금융 취약자가 많다는 의미”라며 “금융사기 피해자 특성을 보면 고연령·저학력자라는 통념과 달리 오히려 경제활동이 활발한 40~50대에서 많이 발생한다. 사기 가해자의 1위가 지인이고, 그다음이 금융업 종사자라는 점도 피해가 큰 이유”라고 말했다.
문 전문위원은 “금융사기 유형이 유사 수신, 피싱, 스미싱, 스캠 등이 복합적으로 나타나는 양상을 보이면서 1인당 피해액도 증가하고 있다”며 “금융소비자 보호를 위해 금융사기 관련 처벌을 강화하는 등 제도를 보완하고, 다양한 유형과 예방법을 알리는 홍보활동에 힘쓰며, 소비자 역량을 키우기 위한 금융 교육을 해야 한다”라고 조언했다.
금융기관의 AI 서비스를 이용한 소비자가 피해를 본 경우에도 보상이 거의 불가능하다는 지적이 나왔다. 정신동 한국외대 법학전문대학원 교수는 “금융 분야에선 엄청난 양의 데이터가 쌓이는데, 민감한 정보도 많다”며 “그러나 금융기관의 과실로 피해가 발생했을 때 소비자가 직접 문제를 입증할 수 없다. 자율성과 불투명성이라는 AI의 특징 때문”이라고 짚었다.
AI는 자율적으로 판단하지만, 사고 발생 시 사람이 아닌 AI에 과실 책임을 묻기 어렵다. 과실 주체가 아닌 AI 개발자에게 책임을 묻기도 애매하다. 불투명성의 경우 기업이 AI 알고리즘 등을 ‘영업 기밀’이라며 공개하지 않는 데다, 개발자조차 AI가 어떤 결과를 내놓을지 모른다는 점에서 과실의 인과관계를 증명하기 어렵다.
정 교수는 “전통적인 법질서로는 소비자 피해를 막지 못한다. 법적 공백이 분명히 있다”며 “AI 산출물을 소비자가 인식할 수 있도록 의무적으로 표기하는 등 투명성을 강화하는 것이 기본이다. AI 기술을 활용해 범죄를 사전 방지할 수 있도록 제도적인 지원도 필요하다”라고 말했다.
발제가 끝난 후 지정 토론에선 사기 피해 회복을 위한 입법의 필요성도 나왔다. 성준호 성균관대 법학연구원 선임연구원은 “가해자를 처벌해도 피해는 복구할 수 없다”며 “게다가 로맨스 스캠이나 신종 투자사기는 피해자가 속은 것임에도 스스로 입금했다는 점 때문에 실질적인 구제 방안이 없다”라고 말했다.
이효섭 자본시장연구원 금융산업실 선임연구원은 “생성형 AI 기반의 플랫폼에서 금융 분쟁이 발생할 경우 소비자가 자신이 피해자인지 모르는 경우도 많고, 구제까지 오랜 시간이 걸린다. 독립적인 금융 분쟁조정 기구가 필요하다”며 “사기 범죄에서는 피해액 회수가 사실상 불가능해 피해자보호법을 별도로 제정해 보호해야 한다”라고 짚었다.
AI 금융사기 피해자에게 증명 책임을 지우는 현행법의 문제도 언급됐다. 백주선 법무법인 대율 변호사는 “환경 범죄, 의료 과실, 지식재산권 다툼에서는 관련 법·판례에선 가해자의 과실이나 인과관계를 추정해 피해자의 증명 책임을 완화하는 것과 달리, 대규모 금융사기 피해 사건에선 인정하지 않았다”며 “EU의 AI 불법행위 책임법 등을 참고해 법원의 자의적 운영을 막는 세밀한 제도 보완이 필요하다”라고 설명했다.
11월 26일 과방위를 통과한 AI 기본법에 대해서도 논의했다. 정준화 입법조사처 사회문화조사실 과학방송통신팀 입법조사관은 “AI 관련 기본법이 19개 발의됐는데 최종적으로 ‘신뢰 기반’으로 명칭이 통일됐다. AI 사기의 핵심에는 소비자가 AI가 만든 가상 정보인지 실재하는 정보인지 구분하기 어렵다는 점이 있다. 법안에서도 AI 저작물의 표기를 강조한다”며 “그러나 표시 의무를 부과할 주체가 모호해 이를 구체화해야 한다. 또한 AI 안전 연구소뿐만 아니라 소비자 피해를 전문적으로 조사하는 보호센터 역할의 기구도 필요하다”라고 말했다.
정 조사관은 금융 소비자의 디지털 리터러시(정보의 이해·획득 능력) 강화는 최소한의 조치로 봐야 한다고 강조했다. 그는 “디지털 리터러시 강조는 자세히 보면 위험한 이야기다. 리터러시가 낮은 소비자뿐만 아니라 높은 소비자도 사기를 당할 수 있다. 자신의 판단을 강하게 믿기 때문”이라며 “디지털 리터러시를 지나치게 중시하면 정부나 공공의 책임을 소비자에게 책임을 전가하는 문제가 발생한다”라고 역설했다.
심지영 기자
jyshim@bizhankook.com[핫클릭]
·
'건설 경기 한파' 5대 상장 건설사 수주 잔고 10조 원 증발
·
[단독] BTS 슈가 전세 살던 파르크한남, 최진민 귀뚜라미 회장 170억에 매입
·
이디야 해외진출 지지부진, 오너 2세 경영능력 '시험대'
·
변호사가 쓰는 인공지능 '슈퍼로이어' 직접 써보니…
·
'AI 서울 정상회의' 글로벌 빅테크가 경고한 AI 위협은?
![[현장]](/images/common/side01.png)
