AI 활용 범죄 ‘빅보이스’ 화두로 떠올라
中, 생성형 AI 저작권 침해 세계 최초 첫 판결
오픈AI, ‘국제기구 설립’ 필요성 주장
韓 ‘AI기본법’ 21대 국회서 자동 폐기 가능성↑

딥보이스 범죄·저작권 침해 ‘나날이 심각’
글래드스톤AI, 미래 인류 멸종 가능성 제기

지난 8일 60대 A씨는 딸의 목소리를 흉내 낸 AI 보이스피싱에 속아 은행에서 현금 2000만원을 인출했다.

경찰은 “딸의 목소리를 AI 딥보이스로 흉내 내 깜박 속게 한 것으로 파악됐다”며 “(앞으로)비슷한 범죄가 잦을 것으로 예상돼 시민들의 각별한 주의가 필요하다”고 경고했다.

AI 기술 발전과 함께 우려했던 상황이 현실로 다가오자, 같은 날 이종호 과학기술정보통신부 장관은 AI 활용 범죄의 위험성에 대해 정부 입장을 표명했다.

이 장관은 이날 취임 2주년 간담회에서 “최근 빅보이스가 정교하게 목소리를 따라해 말할 수 있는 시대가 왔다”며 “(과기정통부는)굉장히 큰 부담을 안고 있다”고 했다.

그러면서 “직원들과 여러 차례 회의를 했고 선제적 대응을 해야한다고 생각한다”며 “이러한 상황에서 ‘AI기본법’이 만들어져야 빅보이스 범죄를 처벌할 수 있는 기준도 시행령에 담을 수 있을 것”이라며 현재 국회에 표류 중인 AI기본법에 대해 답답한 심정을 드러냈다.

AI로 인한 저작권 침해 역시 나날이 심각해지는 가운데, 중국은 세계 최초로 저작권 침해 판결을 내려 이목을 끌었다.

중국 관영 영자지 글로벌타임스는 지난 2월 27일 “광저우 인터넷 법원은 해당 AI 기업이 생성형 AI 서비스 제공 과정에서 원고의 울트라맨 저작물에 대한 저작권과 개작권을 침해했으며 관련 민사책임을 져야 한다고 판결했다”고 보도했다. 글로벌타임스에 따르면 이는 생성형 AI가 그려낸 이미지가 기존 이미지 저작권을 침해했다는 내용의 첫 판결이다.

AI가 가져올 문제는 여기에 그치지 않는다. 고도화된 AI가 판단 인지까지 갖추게 되면 미래에 인류를 위협할 수 있다는 주장도 나오고 있다.

지난 3월 12일(현지 시각) 미국 CNN방송 등 외신에 따르면 AI정책 조언을 제공하는 민간 업체 글래드스톤AI는 ‘첨단AI의 안전성과 보안성을 높이기 위한 방안’이라는 보고서를 내고 AI가 인간을 멸종시킬 수 있다는 가능성을 제기했다.

보고서를 보면 고도로 발달한 AI를 통제할 수단이 마련되지 않을 경우 ‘무기화’된 AI가 인류를 멸종시킬 수 있다고 언급했다. AI가 스스로 생화학과 사이버 전쟁에서 자의적 판단을 내리면 이는 곧 인류를 위협하게 된다는 것이다.

미국·중국·EU·일본, AI와의 전쟁 ‘각축전’
韓 ‘AI기본법’ 1년 째 상임위 전체 회의 계류

MWC 2024 이앤부스에 전시된 휴머노이드 ‘아메카’가 말을 하고 있다. ⓒ민단비 기자AI 기술로 인한 부작용이 수면 위로 떠오르자, 해외 국가들은 AI와의 전쟁에서 승기를 잡기 위해 속도를 올리고 있다.

챗GPT 개발사인 오픈AI 또한 AI 규제를 위한 ‘국제기구 설립’의 필요성을 주장했다.

지난 22일 샘 알트만 오픈AI CEO와 그렉 브록만 회장, 일리야 수츠케버 공동 창업자 등 오픈AI 경영진은 자사 블로그에 ‘초지능 거버넌스(Governance of superintelligence)’라는 제목의 게시물을 올리고 “더 번영하는 미래에 도달하려면 위험을 관리해야 한다”며 “AI의 잠재적 위험을 통제하고 부작용을 막기 위해 국제원자력기구(IAEA) 같은 국제기구가 필요하다”고 제시했다.

미국과 유럽연합(EU), 일본 등은 발빠르게 자국 AI 산업 지원을 위한 법안 마련에 조치를 취하고 있다.

미국은 2020년 ‘국가 AI 이니셔티브법’을 이미 제정하고, 지난해 10월에는 행정명령을 발동해 AI관련 기업 지원과 규제 근거를 마련했다. 유럽의회도 지난 3월 ‘EU AI법(AI Act)’을 통과시켜 미·중 주도 글로벌 AI 시장에서 자국 기업 보호막을 형성했다. 일본은 지난해 5월부터 AI전략회의을 열고 법적 규제를 논의하고 있다.

이와 달리 국내 AI 관련 법은 1년 넘게 상임위원회 전체 회의에 계류 중이다.

과기정통부가 추진하는 AI기본법은(인공지능 산업 육성 및 신뢰 기반 조성에 관한 법률안)은 지난해 2월 국회 과학기술정보방송통신위원회(과방위) 법안2소위를 통과했으나, 여야의 갈등으로 국회 문턱을 넘지 못하고 있다.

한편 21대 국회 임기가 끝나는 이달 29일까지 법안이 통과하지 못하면 계류 중인 법안은 자동으로 폐기된다.

▲韓 디지털 권리장전 세계 최초라더니…국민 눈길 못받고 뒷전 [좌초위기 AI윤리②]에서 계속됩니다.