호주 연구팀 "오류 정보 확산·신원 도용 우려…AI가 인종 편견도 강화"
실험 참가자 3분의 2가 AI 백인 사진을 실제 사람 사진으로 오인

(서울=연합뉴스) 이주영 기자 = 사람들은 인공지능(AI)이 생성한 백인 얼굴을 실제 사람보다 더 사람 같다고 판단하며, 특히 AI 사진에 속은 사람들은 자기 판단에 대한 확신이 다른 사람보다 오히려 더 강한 것으로 나타났다.

연구팀은 이런 AI 초현실주의가 인종 편견을 강화하고 잘못된 정보 확산과 신원 도용 등 심각한 영향을 미칠 수 있다며 이에 대한 조치가 필요하다고 경고했다.

실제보다 더 진짜 같은 AI 생성 얼굴들…누가 진짜 사람?
실제 사람 사진으로 가장 많이 선택된 사진 5장 중 4장이 AI가 생성한 얼굴이었고(a), AI가 생성한 얼굴로 가장 많이 선택된 5장 중 4장은 실제 사람 사진이었다. [Psychological Science/Amy Dawel et al. 제공. 재판매 및 DB 금지]

호주국립대(ANU) 에이미 다웰 교수팀은 14일 과학저널 '심리 과학'(Psychological Science)에서 AI 생성 얼굴 50장과 실제 얼굴 사진 50장을 이용한 실험에서 AI 백인 사진을 실제 사람 사진보다 더 진짜 같다고 판단한 사람이 많았다고 밝혔다.

하지만 유색 인종의 경우에는 이런 차이가 나타나지 않았으며, 오류를 많이 범한 사람들일수록 자신의 판단에 대한 확신이 더 강해 사람들이 자신이 AI에 속고 있다는 사실을 모르는 경우가 많은 것으로 나타났다.

연구팀은 이 연구에서 각각 124명과 610명이 참여하는 두 가지 실험을 했다.

첫 실험에서는 AI 생성 얼굴 사진 50장과 실제 사람 사진 50장을 무작위로 제시한 뒤 AI 사진인지 사람 사진인지 판단하게 하고 그 이유를 물은 다음, 자신의 선택에 대해 얼마나 확신하는지 수치(0~100)로 답하게 했다.

두 번째 실험에서는 AI 사진과 사람 사진을 잘못 판단하게 만드는 요인이 무엇인지 밝히기 위해 AI 사진과 사람 사진을 제시하면서 얼굴을 인식할 때 고려하는 차별성, 친숙함, 매력, 얼굴 비율 등 14가지 특성을 평가하게 했다.

첫 실험에서는 AI 생성 얼굴 가운데 백인을 진짜 사람 얼굴로 오인하는 경우가 특히 많은 것으로 확인됐다. AI 백인 얼굴을 실제 사람으로 판단한 비율은 65.9%에 달했지만, 실제 사람 얼굴을 진짜 사람으로 판단한 비율은 51.1%에 그쳤다.

그러나 유색 인종 얼굴에서는 이런 차이가 나타나지 않았다.

다웰 박사는 "이런 불일치는 AI 알고리즘이 불균형적으로 백인 얼굴로 학습하기 때문"이라며 "백인 AI 얼굴이 지속해 더 사실적인 것으로 인식될 경우 인종적 편견을 강화해 유색 인종에게 심각한 영향을 줄 수 있다"고 지적했다.

이어 "이 문제는 현재 AI 기술을 이용해 사진을 전문가처럼 보이도록 만들 때 명백히 드러나고 있다"며 "유색 인종 사진을 사용할 경우 AI가 피부색과 눈동자 색을 백인 피부색과 눈동자 색으로 바꾸는 현상이 나타난다"고 덧붙였다.

이 실험에서는 또 AI 사진을 진짜 사람으로 판단하는 오류를 범한 사람들이 자기 판단에 대해 더 강하게 확신하는 것으로 나타났다. 이는 사람들이 자신이 속고 있다는 사실을 인식하지 못한다는 것을 의미한다.

연구팀은 이를 지식이 얕을수록 더 많이 안다고 생각하는 일명 '더닝-크루거 효과'(Dunning-Kruger effect)로 분석하고, AI 초현실주의의 문제 중 하나는 바로 사람들이 속고 있다는 사실을 깨닫지 못하는 것이라고 지적했다.

두 번째 실험에서는 사람들이 AI 얼굴에 속는 이유가 제시됐다. 분석 결과 얼굴 비율, 친숙함, 기억 용이성 같은 얼굴의 지각적 특성이 사람들이 AI가 생성한 초현실주의 사진에 속는 데 기여하는 것으로 나타났다.

연구팀은 문제는 속을 가능성이 가장 높은 사람들이 속고 있다는 사실을 감지할 가능성이 가장 낮다는 점이라며 이런 추세가 계속되면 잘못된 정보 확산과 신원 도용 등 심각한 영향을 미칠 수 있어 이에 대한 조치가 필요하다고 주장했다.

다웰 박사는 "AI 기술은 기술 회사들만이 그 이면에서 무슨 일이 일어나고 있는지 알 수 있게 분리돼서는 안 된다"며 "(AI 초현실주의가) 더 큰 문제가 되기 전에 연구자와 시민사회가 알 수 있도록 AI의 투명성을 높여야 한다"고 강조했다.

◆ 출처 : Psychological Science, , 'AI Hyper-realism: Why AI Faces Are Perceived As More Real Than Human Ones', http://dx.doi.org/10.1177/09567976231207095