■ 개발업체에 조작 의뢰해보니

매크로·챗GPT 정교하게 조합땐

자연스러운 문체 댓글 작성 가능

허위사실 진실처럼 퍼트릴 수도

업체 5곳중 1곳만 “불법” 거절

“인공지능(AI)인지 사람인지 구분하지 못하도록 자연스러운 기사 댓글을 대규모로 만들어 드릴게요.”

13일 카카오톡 오픈 채팅을 통해 프로그램 개발업자들에게 기사 댓글 자동 업로드 매크로 프로그램 제작을 의뢰했더니 바로 “가능하다”는 답변이 돌아왔다. A 업체에 공천을 준비 중인 정치인이라고 소개한 뒤, 내년 4월 10일 22대 국회의원 총선거까지 네이버·다음 등 포털 사이트에 특정 지역구와 정치인 이름이 포함된 기사가 올라올 때마다 자동으로 댓글을 다는 매크로 프로그램 개발이 가능하냐고 물어봤다. 경쟁 후보와 관련해선 가짜 뉴스라도 좋으니 비판 댓글이 달리도록 제작해 달라고도 덧붙였다. A 업체는 자신감을 보였다. 댓글을 달아줄 포털 사이트 ‘유령 아이디’가 준비됐냐고 묻더니 없으면 관련 업자를 연결해 주겠다고 했다. A 업체는 “포털 사이트의 유령 아이디 차단을 막기 위한 VPN 우회 기능을 더하고 GPT 활용 비용까지 고려하면 1000만 원 안팎으로 늘어날 수 있다”고 안내했다. 비밀 보장에 대해서는 “걱정하지 말라”면서도 불법행위가 될 수 있다는 점은 안내하지 않았다. 이 밖에 문화일보가 접촉한 5명의 업자 중 “불법적 프로그램은 다루지 않는다”며 거절한 업자는 단 1명뿐이었다.

내년 총선을 7개월여 앞두고 관련 업계에 문의한 결과 생성형 AI를 활용한 ‘댓글 조작’이 충분히 가능하다는 답변을 받았다. 매크로 프로그램을 활용한 댓글 조작에 GPT가 결합하면 교묘하고 무한정한 여론 조작이 가능할 것으로 추측되면서 ‘AI발(發) 여론 조작’에 대비해야 한다는 목소리가 커지고 있다. 

또 다른 업자 B 씨는 “원하는 답이 나올 수 있도록 기사의 내용을 참조하고, 원하는 방향을 유도하는 질문을 만들어내면 챗GPT가 댓글을 만들 수 있다”고 설명했다. “사람이 쓴 것처럼 문체를 자연스럽게 할 수 있느냐”고 질문했더니 “100%는 어려워도 충분히 가능하다”는 답이 돌아왔다. 업자 C 씨도 “GPT를 활용하면 토큰 단위로 추가 요금이 발생한다는 문제만 감수한다면, 충분히 자연스러운 댓글을 만들어낼 수 있다”고 유혹했다.

‘AI 환각 현상(할루시네이션)’에 따라 가짜뉴스도 자연스럽게 퍼질 수 있다는 우려도 나온다. AI는 방대한 데이터를 학습해 확률상 가장 적절한 답변을 내놓는데, 자신이 학습한 내용이 진실인지 아닌지는 구별하지 못한다. 실제로 챗GPT에 사실이 아닌 “‘한동훈 자녀 학교폭력 논란’에 대해 한 줄 평을 여러 개 해줘”라고 명령어를 입력하자 “장관의 역할과 책임이 높은데, 이렇게 심각한 문제에 대해 왜 충분한 조처를 하지 않았을까에 대해 의문이 들어” “자녀들이 폭력을 저질렀다면 그것은 가정교육과 학교의 실패라고 할 수밖에 없지”라는 등의 답변을 내놨다.

이에 대해 경찰 관계자는 “(GPT와 매크로를 활용한 댓글 조작이) 충분히 가능한 상황이라 예의주시 중”이라고 말했다.