"기본부터 애매한 AI 기본법" 지적 쏟아지는 까닭

[비즈한국] 내년 1월 시행을 앞둔 ‘인공지능(AI) 기본법’이 기로에 섰다. 해외 빅테크들로부터는 유연성을 요구받고, 내부에선 규제 근거에 대한 합리적이고 명확한 기준이 마련돼야 한다는 지적이 제기된다. 세계 첫 AI 기본법을 내놓은 유럽이 규제 완화 초읽기에 들어가면서 정부의 고민도 깊어지고 있다.  

‘규제도 달게 받겠다’던 AI 선도 빅테크들이 트럼프 정부에 들어서 태도가 돌변했다. 트럼프 정부의 규제 완화 요구를 등에 업고 저작권법 약화 등 성장 친화적인 정책 띄우기에 한창이다. 뉴욕타임스 등 외신에선 “AI 빅테크들이 트럼프에 고무됐다”는 평가가 이어진다.   

한국도 영향권에 있다. 과학기술정보통신부는 최근 오픈AI와 구글로부터 법안 적용의 유연성을 요구받았다. 업계에 따르면 최근 과기정통부 AI 정책 담당자들은 샌디 쿤바타나간 오픈AI 아시아·태평양 지역 정책총괄과 앨리스 헌트 프렌드 구글 AI·신기술 정책 글로벌 담당, 유니스 황 구글 AI·신기술 정책 아태 담당과 각각 면담했다. 

어도비, 아마존 웹 서비스(AWS), IBM, 마이크로소프트 등 약 70개의 글로벌 소프트웨어 기업을 대표하는 비즈니스 소프트웨어 얼라이언스(BSA)와도 별도로 논의를 진행했다. 이 자리에서 빅테크 측은 AI 기본법 하위 법령에 담길 사업주의 책무 중 이용자 보호 방안의 범위, 고영향 AI의 구체적 정의 등을 질의한 것으로 전해졌다. 

#기본법 핵심 ‘고영향 AI’ 모호성 개선 ‘시급’

이로써 한국의 AI 기본법은 안팎의 도전을 받게 됐다. 지난해 말 국회를 통과한 AI 기본법은 현재 시행령 제정이 추진 중이다. 이 법은 일각에서 AI 개발과 산업 성장에 부담으로 작용할 수 있다는 지적을 받는다. ‘진흥 대 규제’의 단순한 논리 싸움은 아니다. 

대표적인 쟁점은 기본법의 핵심으로도 꼽히는 고영향 AI의 정의와 적용 범위의 모호성이다. 정준화 입법조사관은 “AI 기본법을 준수하거나 해석해야 하는 당사자는 무엇이 개념에 부합하는 AI인지 파악해야 하는데, 현재 법률 규정만으로는 명확하고 일관적인 답을 내놓기 어렵다”며 “고영향 AI에 대해서만큼은 법률에서 명확한 체계를 정립할 필요가 있다”고 봤다.

인공지능기본법 제2조 4호는 고영향 AI를 “사람의 생명·신체의 안전과 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 인공지능 시스템”으로 정의한다. 구체적으로는 개인의 권리 및 의무 관계에 중대한 영향을 미치거나 공공기관 의사 결정에 영향을 미치는 등 11개의 기준 항목을 명시한다. 

하지만 기준이 불분명해 현장에서는 기술 개발 초기 규제 대상이 되는지 판단하기 난처하다는 평가다. 데이터 품질 및 공정성 기준, 윤리적 기준과 실전 방안 역시 구체적인 기준이 부족하다는 지적도 나온다.  

인터넷기업협회 디지털경제연구원은 보고서를 통해 “윤리 원칙은 ‘안전성, 신뢰성, 접근성’ 등을 포함한다고 언급돼 있으나 기준이 모호하고 구체적인 실천 기준이나 절차가 부재하다”고 짚었다. 

#중복 규제·한국 기업 불균형 적용 막아야

이 같은 지적은 법조계에서도 이어진다. 지난 18일 열린 ‘인공지능 기본법의 한계와 개선 방향’ 세미나에서 구태언 변호사는 “EU 기본법(AI Act)에서 분류하는 ‘고위험’이라는 용어와 결국 같은 의미로 볼 수 있는데, ‘좋은 영향’과 ‘나쁜 영향’으로 모두 해석이 가능한 ‘고영향’ 표현은 법체계상 낯선 용어다. 법 적용 혼란을 일으키는 부적절한 입법”이라고 말했다.

EU의 경우 4단계로 기준을 분류하고 ‘저위험’과 ‘최소한의 위험’ AI는 별도의 정의 규정을 두지 않는다. 반면 ‘금지(용인 불가능)’ AI는 ‘잠재의식 기술, 의사결정 능력 손상’, ‘취약성 활용’, ‘불공정한 처우 또는 사회적 점수 평가 목적’, ‘실시간 원격 생체인식 식별시스템’ 등 적용되는 기준을 밝히고 있다. 

AI 기본법 제33조에는 사업자가 과기정통부 장관에게 고영향 AI 여부 확인을 요청할 수 있게 돼 있지만 위임 규정만 있어 실질적 관리를 담보할 수 없는 상황이다. 정 입법조사관은 “상임위원회 심사 과정에서 위험이 주는 부정적 이미지를 완화하기 위해 ‘고영향 AI’라는 가치 중립적 표현으로 변경됐다. 부정적인 느낌은 다소 줄었지만 개념의 모호성이 문제”라며 “정부가 어느 수준까지 구체적인 방안을 마련할 수 있을지도 의문”이라고 설명했다. 

중복 규제가 발생하지 않도록 개선해야 한다는 목소리도 있다. 기본법이지만 구체적인 권리와 의무 관계를 정하는 규정이 많아 개별법과 충돌할 가능성이 있고, 금융·의료·제조 등 분야별 규제와 AI 기본법 간 책임 소재가 불분명하다는 시각이다. 

업계는 AI 기본법과 시행령이 내년 1월 시행 전 최종적으로 어떤 구성을 갖출지 주시하고 있다. 국내 규제로 인해 추가 부담을 지게 된 한국 기업들과 규제 최소화를 요구하는 글로벌 빅테크에게 이 법이 어떻게 작용할지도 이목이 쏠린다. 구태언 리걸테크앤AI 포럼 부회장은 “법이 혁신의 걸림돌이 아니라 건강한 성장을 위한 가이드라인으로 기능할 수 있도록 정부가 업계 의견을 충분히 수렴하고 탄력적 집행을 할 필요가 있다”고 짚었다. 

[핫클릭]

· 은행권 남성 육아휴직 살펴보니…지방은행 대부분 0%대
· [비즈피플] 승승장구하다 홈플러스 사태로 멈칫, 김병주 MBK파트너스 회장
· 한종희 삼성전자 부회장 영면…'이재용 등기이사 오르나'
· [단독] 대유에이텍, 사업목적에 '태양광' 추가…그룹 '에너지원' 될까
· "다른 이동수단 또 나올 땐 어쩌나" 공유 킥보드 '퇴출'만이 답일까

<저작권자 ⓒ 비즈한국 무단전재 및 재배포 금지>