PC 태블릿 등에도 탑재 차별화 전망
구글 ‘제미나이’ 픽셀폰에 직접 적용
애플 M3 칩 공개하고 ‘시리’ 업데이트
디바이스 AI 전력소모 클라우드 절반 안돼
AI 서비스는 ‘하이브리드 AI’로 재편 중

[이미지 출처 = 픽사베이]

삼성전자가 무선 이어폰인 ‘갤럭시 버즈’에 인공지능(AI) 탑재를 추진하는 것은 온디바이스 AI(On-Device AI) 시장의 잠재력을 간파했기 때문으로 풀이된다.

온디바이스 AI는 클라우드 기반 AI와 달리, 기기 자체에 장착된 AI 칩을 활용해 효율을 높이는 개념이다. 와이파이, 5G 같은 통신망이 필요 없고 에너지 효율이 높은 게 장점이다.

11일 정보기술(IT) 업계에 따르면 삼성전자가 스마트폰에 이어 무선이어폰, 노트북, 가전기기는 물론 확장현실(XR) 헤드셋까지 온디바이스 AI의 탑재 영역을 넓혀나갈 것으로 관측된다.

삼성전자는 스마트폰 차기작인 갤럭시S24에 자체 개발한 생성형 AI ‘가우스’ 외에 각 기능 별로 특화된 다양한 종류의 AI를 반영할 방침이다. 카메라·통화·통역·녹음 등 각 영역에서 활용되는 AI의 종류가 다르기 때문이다.

특히 삼성전자는 탑재할 온디바이스 AI에 ‘강화학습’을 적용할 것으로 전해졌다. 강화학습은 AI가 시행착오를 통해 최적의 행동을 학습하는 방법이다. 온디바이스 AI는 클라우드 방식의 AI와 달리 인터넷이 연결되지 않은 상태에서도 작동되는 것을 전제로 하기 때문에 선택한 방식이다.

삼성전자가 스마트폰에 이어 갤럭시 버즈에 통역이 가능한 온디바이스 AI를 탑재하게 되면 인류가 ‘언어의 한계’를 극복하는 단초가 될 것으로 파악된다. 인터넷에 연결되지 않은 상태에서도 대면 대화를 실시간 통역할 수 있다는 점에서다. 개인정보·통신·시간차 문제 등 장애물을 보완해 AI 통역시장의 판도를 바꿀 전망이다.

글로벌 빅테크 기업은 이미 온디바이스 AI 전쟁에 동참했다. 구글은 차세대 생성형 AI인 ‘제미나이(Gemini)’ 나노 모델을 차세대 스마트폰인 픽셀8프로에 탑재하기로 한 것이 대표적인 사례다. 인터넷과 연결하지 않고도 작동하는 온디바이스 환경에서 구동되는 것이 특징이다.

구글 측은 “사용자의 민감한 데이터가 휴대폰을 벗어나지 않도록 보호하고, 네트워크 연결 없이도 AI 기능을 사용할 수 있다”고 강조했다.

예를 들어 구글은 ‘녹음 요약’ ‘지보드(Gboard) 스마트 답장’ 기능을 대폭 강화했다. 녹음 요약 기능은 녹음된 발표 내용과 인터뷰 등을 요약해준다. 또 스마트 답장은 왓츠앱(WhatsApp) 등 대화 내용을 자동 인식해 이를 토대로 여러개의 고품질 응답을 생성하고 이 중에 선택하도록 제안한다.

애플은 올 10월 차세대 AI 칩인 ‘M3’를 공개하면서 온디바이스 AI 시대를 예고했다. 애플은 “M3 칩에 있는 뉴럴 엔진은 M1 칩보다 최대 60% 더 빠르다”면서 “개인 정보 보호를 위해 데이터를 개별 장치에 머무르게 하면서 AI와 머신러닝 작동 흐름을 더욱 빠르게 만든다”고 강조했다. 특히 M3는 인간 두뇌에 해당하는 파라미터 수를 최대 수십억개 지원한다.

IT 업계는 애플이 이를 기반으로 각종 AI 서비스를 구현할 것으로 내다보고 있다. 홍콩 톈펑국제증권의 궈밍치 애널리스트는 “애플이 아이폰16 마이크를 대대적으로 업그레이드하고 있다”면서 “AI 비서인 시리를 크게 향상시키려 할 것”이라고 설명했다. 이에 대해 블룸버그는 생성형 AI를 시리에 탑재하는 방식으로 애플이 다양한 생성형 AI 서비스를 구현할 것으로 내다봤다.

온디바이스 AI가 속속 개발되면서, 스마트폰 시장 역시 성장할 것으로 전망된다. 모건스탠리에 따르면 스마트폰 출하량은 온디바이스 AI에 힘입어 2024년 3.9%, 2025년 4.4%씩 증가(전년 대비)할 전망이다.

온디바이스 AI는 생성형 AI의 고질병으로 꼽히는 전력 소모를 크게 줄일 것으로 보인다. 오늘날 클라우드 기반의 생성형 AI는 대규모 데이터 처리, 복잡한 모델 구조, 실시간 데이터 처리로 인해 ‘전기 먹는 하마’라는 별명이 붙었다.

현재 데이터센터는 전 세계 전력 사용량의 1~1.5%를 차지한다. 인디고어드바이저리그룹은 2030년까지 AI 전력 사용량이 총 전력 사용량에서 3~4%를 차지할 것으로 내다봤다. 예를 들어 허깅페이스는 다국어 텍스트 생성형 AI 도구를 클라우드에서 훈련하면서 433MWh를 소모했다. 미국 가정 40곳에 1년간 전력을 공급할 양이다.

클라우드 기반 AI는 높은 서비스 요금으로 이어진다. 챗GPT는 1000 토큰 규모의 답변을 생성할 때마다 약 0.002달러 비용이 들어간다. 영어로는 약 1000단어, 한국어로는 약 200음절 또는 200자 원고지 1매 분량이다. AI 서비스 고객이 늘어도 흑자를 내기 어려운 대목이다.

다만 클라우드 서비스는 디바이스 내 메모리 용량을 줄여 준다는 점에서 없어서는 안될 서비스다. 때문에 전문가들은 향후 AI가 클라우드, 엣징 컴퓨팅, 온디바이스 3개축으로 분화될 것으로 내다보고 있다. 특히 온디바이스 AI는 모델이 최적화 돼 있고 실시간 처리 데이터가 적으며 적은 용량 처리로 인해 에너지 효율이 월등히 높다.

IT 업계는 이를 ‘하이브리드 AI’로 규정하고 있다. 퀄컴은 앞서 ‘AI의 미래 하이브리드(The future of AI is hybrid)’라는 보고서를 통해 가까운 미래에 AI가 온디바이스와 클라우드에서 병렬적으로 작동할 것으로 내다봤다.

퀄컴 측은 “AI 칩을 사용할 인간 두뇌의 시냅스에 해당하는 파라미터가 10억개 규모인 AI 모델은 이미 스마트폰에서 작동할 수 있다”면서 “가까운 시일 내에 그 규모가 100억개로 늘어날 것으로 보인다”고 말했다. 향후 AI는 클라우드와 디바이스를 오가며 고객이 원하는 데이터를 적재적소에 처리하는 하이브리드 AI로 거듭날 것이라는 관측이다.