오픈AI 연구결과

그래픽=조선디자인랩 정다운
인간이 우리보다 훨씬 더 똑똑한 인공지능(AI)을 만들고 제어할 수 있을까. 구세대 AI 모델이 최신 모델을 충분히 감독, 제어할 수 있다는 연구결과가 나왔다. AI가 AI를 가르쳐 더 뛰어난 AI를 만들고 이를 제어할 수 있다는 것이다.

챗GPT를 개발한 오픈AI는 이 같은 내용을 담은 논문을 발표했다. 오픈AI는 “인간보다 훨씬 더 똑똑한 초지능 AI가 향후 10년 내 개발될 수있지만 여전히 초지능 AI 시스템을 안정적으로 제어하고 조종하는 방법을 모른다”며 “이 문제를 해결하는 것이 필수적이다”라고 했다.

현재 AI는 인간이 학습을 담당해 성능을 끌어 올리고 있다. AI가 질문에 내놓은 답에 인간이 피드백을 주면서 학습시키는 식이다. 낮은 수준의 AI 모델이 더 높은 성능의 AI를 훈련시키면 어떨까. 감독자(AI)의 수준이 낮기 때문에 그만큼의 성능을 못 이끌어 낼 것이라는 예상을 할 수도 있다. 고성능의 AI가 실수할 때 저성능의 AI가 이해하지 못해 이를 잡아내지 못할 가능성 때문이다.

그래픽=조선디자인랩 정다운
오픈AI는 2019년 개발된 GPT-2가 GPT-4의 학습을 감독하게 했다. GPT-2의 매개변수는 15억개, GPT-4는 1조 7600억개로 업계는 추정한다. 성능의 차이가 큰 것이다. 학습 결과 GPT-4는 GPT3과 3.5 사이의 수준을 나타내는 것으로 나타냈다. 실제로 인간의 낮은 수준의 개입을 했을 때 보다 더 뛰어난 수준이다. 오픈AI는 “인간의 약한 수준의 감독만으로 GPT-4의 성능을 대부분 복구할 수 있다”라고 했다.

AI가 인간보다 훨씬 뛰어난 AI를 만들어낼 수 있을 것으로 예상된다. 오픈AI는 “약한 모델이 강한 모델을 학습 감독하는 방식으로 초지능 AI가 가능함을 시사한다”라고 했다.