인간 지능에 필적하는 ‘AGI’
반도체·데이터센터·전력발전
세 가지 산업 중심으로 성장

AI가 인간과 동등하거나, 필적할 만한 지능을 갖췄을 때 AGI라고 부릅니다. 이를 쉽게 설명할 수 있는 사례들이 영화 속에 있습니다.

영화 ‘아이언맨’ 시리즈에서 토니 스타크를 보조하는 AI ‘자비스’가 대표적입니다. 또 영화 ‘그녀(HER)’에 나오는 AI 운영체제(OS) ‘사만다’가 그렇죠.

머지않은 미래에 이처럼 우리의 명령을 수행하고 일부 영역에선 판단까지 대신해줄 수 있는 AI가 하나의 통합된 운영체제 형태로 나타날 수 있다는 관측이 나옵니다.

이렇게 인공지능(AI) 기술이 놀라운 속도로 발전하고, 관련 시장이 기하급수적으로 커지는 가운데 데이터센터 수요가 팽창하고 있습니다.

생성AI와 클라우드 중추 시설인 데이터센터 인프라스트럭처를 둘러싼 국내외 기업들 경쟁이 갈수록 치열해지고 있고요.

데이터센터에 대한 수요는 폭발적으로 성장해왔고, 앞으로 더 커질 전망입니다.

AI, 클라우드, 6G(6세대 이동통신), 자율주행, 가상세계(증강현실(AR)·가상현실(VR)) 등 새롭게 각광받고 있는 거의 모든 기술 분야에서 데이터 사용량이 급증하고 있어서 그렇습니다.

특히 최근에는 AI 특화 데이터센터 구축 움직임이 활발합니다.

AI 시장 기술 주도권을 잡기 위해서는 머신러닝과 딥러닝 등을 위한 학습과 추론에 필수적인 그래픽처리장치(GPU) 같은 설비들이 많이 필요하기 때문에 이를 관리·지원하는 핵심 시설인 데이터센터의 중요성이 갈수록 부각되고 있는 것입니다.

특히 앞으로 AI 인프라스트럭처 시장에 주목할 필요가 있습니다.

 

MS와 오픈AI, 이번엔 ‘AI데이터센터’ 동맹

글로벌 테크업계에서는 최근 생성형 인공지능(AI) 시장을 선점한 마이크로소프트(MS)와 오픈AI의 데이터센터 동맹에 주목하고 있어요.

지난 3월 미국의 정보기술(IT) 전문매체 디인포메이션은 MS와 오픈AI가 약 1000억달러(약 136조 8500억원)라는 천문학적인 돈을 투자해 세계 최대 규모의 데이터센터를 구축한다고 보도했습니다.

두 회사 경영진은 오픈AI 서비스 구동을 위해 특수 AI 반도체를 탑재한 데이터센터를 구축하는 프로젝트를 진행하고 있습니다. 일명 ‘스타게이트(Stargate)’로 불리는 대형 사업이죠.

MS와 오픈AI가 함께 데이터센터 건립에 나선 것은 AI 관련 서비스를 확장하는 과정에서 전 세계 주도권을 확실히 가져가기 위해라는 분석이 나옵니다.

디인포메이션 등 외신 보도를 종합해보면, 양사가 추진 중인 데이터센터의 핵심은 ‘슈퍼컴퓨터’로 보여요.

챗GPT를 비롯해 현재 오픈AI가 준비하고 있는 다양한 AI 서비스를 제공하기 위해서는 막대한 계산 능력이 필요한 만큼 기존 데이터센터와 비교했을 때 한층 향상된 설비들이 포함될 것이라는 예상입니다.

스타게이트 프로젝트를 통해 구축될 데이터센터에는 특별히 제작된 수백만 개의 서버 칩이 들어갈 예정이라고 해요.

총 5단계로 이뤄지는 데이터센터 구축 작업은 현재 3단계가 진행 중인 것으로 전해졌습니다.

4단계는 2026년 출시를 목표로 오픈AI용 슈퍼컴퓨터를 구축하는 것입니다.

디인포메이션은 “양사가 준비하는 1000억달러 규모의 데이터센터는 현존하는 최고 수준의 데이터센터와 비교했을 때 100배 이상 큰 규모”라며 “향후 AI 컴퓨팅 용량을 확보하는 데 필요한 투자가 대규모로 이뤄질 것”이라고 내다봤습니다.

업계에서는 MS와 오픈AI가 최첨단 AI데이터센터 건립 경쟁에 불을 붙였다는 평가가 나옵니다.

향후 AI 컴퓨팅 용량을 갖추는 데 거대한 투자가 계속해서 이뤄질 것이라는 전망에도 힘이 실립니다.

이에 대해 데이터센터 운영 기업 ‘디지털리얼티’의 크리스 샤프 최고기술책임자(CTO)는 “범용인공지능(AGI) 구축에 절대적으로 필요한 과정”이라며 “현재 기준으로는 상상할 수 없을 만큼 거대한 규모 같지만, 슈퍼컴퓨터가 실제로 완성되는 시점에는 그렇게 보이지 않을 것”이라고 언급했습니다.

AI데이터센터 뒷단엔 ‘반도체 전쟁’

AI 특화 데이터센터의 핵심은 비메모리 반도체 GPU(그래픽처리장치)입니다.

GPU는 원래 엔비디아가 게임 속 3D 이미지 데이터를 효과적으로 처리하기 위해 개발했지만, 한 번에 여러 계산을 할 수 있어 AI 반도체로 널리 쓰이고 있죠.

GPU에 고대역폭메모리(HBM)를 조립해 만든 AI가속기, CPU와 낸드 등을 조립하면 AI컴퓨터가 됩니다. 통상적으로 AI 데이터센터는 이러한 AI 컴퓨터가 수백~수천대 모인 곳을 의미합니다.

GPU와 함께 돌아가는 중앙처리장치(CPU)와 메모리, 네트워크 장치가 필요하고, 그렇게 만들어진 ‘고성능 서버 컴퓨터’를 수백 대 연결해 AI데이터센터를 만드는 셈이죠.

약 1만개 정도 GPU가 탑재된 데이터센터는 ‘AI 슈퍼 클러스터’로 불립니다. 즉 AI 학습과 고객에 대한 서비스(추론)가 이뤄지는 장소가 바로 데이터센터인 것이죠.

AI 데이터센터는 단순히 데이터를 저장하기 위한 곳만을 의미하는 것이 아니라 대규모언어모델을 학습시키는 전진 기지가 됩니다.

광주 오룡동에 위치한 ‘국가AI데이터센터’ 내 주요 핵심 장비들이 구축·운영되고 있는 전산실. 엔비디아 H100을 비롯해 최신형 그래픽처리장치(GPU)로 구성됐다. NHN클라우드

이 시장에서 GPU 원조격인 엔비디아는 독주를 이어가고 있습니다.

현재 AI 개발사 입장에서 가장 큰 문제는 GPU 확보입니다.

약 4만달러(약 5400만원)대 GPU인 엔비디아 H100은 주문부터 도착까지 50주 이상이 걸린다고 해요. 저가 GPU인 A100은 단종된 상태고요.

대규모언어모델(LLM)을 개발하는 기업들이 AI를 업데이트하고 싶어도 현실적인 어려움을 겪고 있는 이유입니다.

국내 클라우드 기업 NHN클라우드는 광주 국가 AI 데이터센터에 국내 최대 규모인 1000개 이상의 H100을 확보했습니다. 엔비디아 주력 제품이 AI 연구·개발의 필수재로 꼽히기 전부터 물량 확보에 나서 국내 경쟁 벤더 대비 3배 이상의 H100을 확보할 수 있었다는 후문입니다.

현재 AI 학습·추론을 위해 필요한 병렬 처리 소프트웨어 시장 역시 엔비디아 쿠다(CUDA)가 독점하고 있습니다. 엔비디아가 그래픽처리장치(GPU) 시장 80% 이상을 장악하면서 AI 가속기 개발 플랫폼까지 자연스레 석권한 것이죠.

전 세계적으로 엔비디아 독점을 막기 위한 움직임도 활발하게 이뤄지고 있습니다.

지난 4월 인텔은 AI 모델 훈련 시간을 크게 단축한 AI 가속기 ‘가우디3(Gaudi3)’를 전격 공개했습니다. 가우디3는 엔비디아의 대표 GPU인 H100 대비 훈련 속도가 2배 빠르다는 것이 회사 측 설명입니다.

인텔은 라마2 모델만을 상대로 한 테스트에서는 H100보다 추론 처리량이 50%, 추론 시 전력 효율이 40% 더 우수했다고 설명했습니다.

네이버는 GPU 없이도 동일한 성능을 낼 수 있는 실험을 진행 중입니다.

앞서 인텔의 CPU 기반 데이터센터 칩인 ‘2세대 제온 스케일러블 프로세서’를 활용해 클라우드 성능을 개선하는 테스트를 진행했고, 네이버는 가우디 공동 플랫폼 구축에도 참여했습니다.

MS 역시 자체 AI칩 가속기와 중앙처리장치(GPU)를 개발했고요.

김동훈 NHN클라우드 대표는 “엔비디아 기반 서비스가 가장 활성화돼 있지만, 앞으로는 멀티 GPU로 갈 것이라고 보고 있다”고 했습니다.

또 그는 심해지는 H100 품귀 대응 및 GPU 신제품 수급 전략과 관련해 “(H100뿐만 아니라) 앞으로 여러 제품들이 출시될 텐데, 신규 제품이 나온다고 해도 기업들이 알고리즘을 최적화하고 서비스하는 데까지 시간이 좀 필요할 것”이라고 내다봤죠.

애플도 참전...판 커진 AI칩 전쟁

월스트리트저널(WSJ)에 따르면 애플은 내부적으로 ‘ACDC(Apple Chip for DataCenter)’라는 코드명으로 서버용 AI 반도체 개발에 나섰습니다.

애플의 서버용 반도체는 엔비디아가 우위를 점하고 있는 AI 학습용이 아닌, 서비스를 제공하는 ‘추론용 반도체’에 집중하고 있는 것으로 알려졌습니다.

그동안 스마트폰이나 태블릿PC, 헤드셋 같은 제품에 들어가는 반도체를 개발해왔던 애플이 서버용 AI 반도체를 개발하는 것은 시사하는 바가 크다는 분석입니다.

데이터센터용 AI 반도체 개발 현황. 매경DB

애플이 서버용 AI 반도체를 직접 만들면 AI와 반도체 시장의 셈법이 복잡해질 수 있습니다.

특히 애플이 자사 제품에서 AI가 작동될 때 사용하는 데이터센터에 자신들이 설계한 AI 반도체 설치를 강제할 가능성이 높다는 분석도 있습니다.

애플이 데이터센터용 인공지능(AI) 반도체 자체 개발에 나서면서 AI 가속기 경쟁은 더욱 가열될 전망입니다. 실제로 애플, 마이크로소프트(MS), 엔비디아, 구글을 비롯한 ‘매그니피센트7’ 모두 AI 반도체 시장에 뛰어든 상황이고요.

기업들마다 만드는 목적은 다르지만 분명한 것은 경쟁이 시작됐다는 것입니다.

MS, 구글, 아마존 같은 기업은 자체적으로 AI를 학습시키기 위한 목적과 함께 AI를 사용하는 고객에게 클라우드 서비스를 제공하기 위한 목적이 큽니다.

엔비디아, 인텔, AMD 같은 전통 반도체 기업들은 데이터센터에 판매하기 위한 목적으로 AI 반도체를 만들고 있고요.

손정의가 꿈꾸는 ‘AI혁명’...핵심은 반도체

일본 소프트뱅크는 AI용 반도체 개발·제조를 비롯해 데이터센터사업을 확대한다고 밝혔습니다. 투자액은 최대 10조엔(약 88조원) 규모가 될 것으로 전망됩니다.

니혼게이자이신문(닛케이)에 따르면 손정의 회장이 내세우는 ‘AI 혁명’은 AI와 반도체, 로보틱스의 최신 기술을 융합해 모든 산업에 혁신을 가져오는 것이라고 해요.

여기서 핵심은 AI 전용 반도체를 개발·제조하는 사업이고요.

AI 전용 반도체 개발은 소프트뱅크가 약 90%의 주식을 보유하고 있는 영국 반도체 설계사 Arm이 축이되는 방향으로 진행되고 있습니다.

아울러 소프트뱅크는 2026년 이후 자체 개발한 반도체를 갖춘 데이터센터를 유럽과 아시아, 중동에 건설할 계획입니다.

데이터센터가 대량의 전력을 필요로 하는 점을 감안해 발전 분야에도 진출한다는 구상이죠.

중동선 데이터센터 건립 ‘붐’

AI 기술 경쟁이 국가간 패권 경쟁으로 격화하면서 주요국들은 이를 뒷받침할 수 있는 데이터센터 건립 경쟁을 벌이고 있습니다.

대표적인 예가 중동의 AI 패권을 잡기 위해 데이터센터 건립 경쟁을 벌이고 있는 사우디아라비아와 아랍에미리트(UAE)이죠.

블룸버그통신 등 외신은 양국이 이미 수십 개의 데이터센터를 운용 중이지만 거액을 투자해 추가 건립을 계획 중이라고 4월 보도했습니다.

두 국가는 AI 기술을 지원하기 위해 자국 내 사막 지역에 거액을 들여 데이터센터를 건립하는 방안을 추진 중입니다.

사우디가 추진중인 국가 프로젝트 ‘네옴시티’ 개요. 매경DB

사우디아라비아는 경제 상당 부분을 원유 수출에 의존하고 있지만 AI에서 국가의 새로운 수익모델을 기대하고 있어요.

모하메드 빈 살만 왕세자의 비전 2030 전략에서 AI 기술개발은 상당히 중요한 비중을 차지합니다. 사우디아라비아는 AI를 전담하는 주요 연구센터와 부처를 설립했고, 오픈AI의 챗GPT와 유사한 대규모 언어 모델도 만든 것으로 알려졌습니다.

아울러 사우디아라비아 국부펀드(PIF)는 최근 미국 실리콘밸리의 대표적 벤처캐피탈 중 하나인 앤드리슨 호로위츠와 파트너십을 체결하고 AI 분야에 400억 달러를 투자하는 방안을 논의 중인 것으로 전해졌고요.

사우디에 맞서는 UAE는 향후 몇 년 안에 1000억 달러 규모를 목표로 하는 AI 투자펀드를 조성하겠다고 지난 3월 초 발표한 바 있습니다.

UAE 정부 관리 및 투자자들은 샘 알트먼 오픈AI 최고경영자(CEO)와 만나 민간 부문이 국가와 협력해 대규모 AI 인프라를 지원할 수 있는 방법을 논의했습니다.

‘AI패권’에 데이터센터가 중요한 이유

AI 기술 경쟁에 뛰어든 나라들이 저마다 자국 내에 데이터센터를 두려고 하죠.

데이터센터를 가까이 두게 될 경우 고객이 서비스에 접근하기 쉽고 기술 개발 속도를 높일 수 있기 때문입니다.

또 서버에 저장된 데이터는 현지의 규제나 간섭을 받기 때문에 지정학적 이유로도 자국 내에 두는 게 유리하다는 분석도 있습니다.

테크업계에선 “데이터센터가 없이 AI강국이 되긴 어렵다”는 말이 나올 정도죠.

카카오 데이터센터 안산 조감도. 카카오

경제적 효과도 빼놓기 어렵습니다.

글로벌 컨설팅업체 프라이스워터하우스는 2030년까지 AI가 UAE의 경제에 960억 달러, 사우디아라비아에 1350억 달러를 각각 기여할 것으로 추정했습니다. 이렇게 되면 이 분야에서 이들 국가를 앞서는 나라는 미국과 중국밖에 없게 된다는 분석입니다.

생성형AI ‘붐’은 민간 영역에서 데이터센터 수요를 끌어올리고 있습니다.

월스트리트저널(WSJ)에 따르면 아마존웹서비스(AWS)의 빌 바스 부사장은 세계적으로 사흘에 하나씩 새로운 데이터센터가 생기고 있다고 말했습니다.

브래드 스미스 MS 사장은 “인구가 줄어드는 상황에서 지속적인 경제 성장에 AI는 필수적”이라며 “세계 각국 정부 정책에 있어 로컬 인프라를 포함한 AI 데이터센터 도입이 우선 사항이 되고 있고, 일본 경제의 경쟁력도 AI 도입에 달려 있다”고 강조했습니다.

‘전력 확보’가 관건

빅테크는 데이터센터 가동에 필요한 에너지 전력 확보에 몰두하고 있습니다.

MS 창업자 빌 게이츠는 데이터센터의 수익성을 결정할 핵심 요소로 전력을 꼽으면서 AI 구동에 들어가는 전력량이 믿기 어려울 정도라고 언급한 바 있죠.

지난 3월 스탠더드앤드푸어스(S&P) 주최로 미 텍사스 휴스턴에서 열린 에너지 콘퍼런스 세라위크(CERAWeek)의 주요 화두는 AI 발전 및 그에 따른 전력 수요에 집중됐어요.

이에 대해 WSJ는 “데이터센터 가동에 대규모 전력이 필요한 만큼 전력망에 부담이 가고 친환경 에너지로의 전환도 지연될 수 있다는 데에는 대다수가 동의하는 상황”이라고 설명했고요.

전 세계 데이터 센터 약 8000곳 가운데 3분의 1가량이 미국에 있는 만큼 미국 내 전력 사정에 관심이 집중됐다는 분석도 있었습니다.

하지만 데이터센터 건설은 세계적인 현상으로 향후 전력 수요는 대폭 늘어날 전망입니다.

앞서 국제에너지기구(IEA)는 세계적으로 데이터센터·AI·가상화폐 부문의 전력 수요가 2026년까지 2배가 될 것으로 추산한 바 있습니다.

손정의 소프트뱅크그룹 회장은 나날이 발전하는 AI 기술이 인간을 뛰어넘는 일반인공지능(AGI)에 도달할 것이라고 굳게 믿고 있는 듯 합니다.

그는 “10년 안에 인간의 지능을 뛰어넘는 범용인공지능(AGI)이 실현된다. 여기에 몰두한 기업과 인물이 10년, 20년 뒤 인류를 이끌어 갈 것”이라고 말한 바 있죠.

손정의 회장의 인공지능 정의. 매경DB

손 회장은 특정 임무만 수행하는 좁은 의미의 제한적 인공지능(Artificial Narrow Intelligence·ANI)과 달리 AGI는 사람처럼 다양한 분야를 포괄적으로 스스로 학습하고 추론할 수 있는 개념이라고 정의했습니다.

아울러 그는 “AGI는 인류 지혜 총합의 10배에 달해 모든 산업에 영향을 줄 것”이라고 강조했죠.

손 회장은 AGI 다음 단계로 인류 지능을 뛰어넘어 스스로 목표를 설정하고 임무를 수행하는 초인공지능(Artificial Super Intelligence·ASI) 개념도 제시했는데요.

ASI는 20년 안에 출현할 것이며 인간 지능을 1만 배 넘어설 것이라는 게 그의 생각입니다. 

10년 후 인류보다 10배 똑똑한 AGI, 20년 후 1만 배 똑똑해질 ASI 활용에 인류의 미래가 달려 있다는 설명입니다.

실제로 AI가 AGI, ASI 수준까지 발전할 수 있을지, 그리고 여기에 얼마나 많은 시간이 소요될지를 예측하는 것은 쉽지 않습니다.

하지만 인간을 넘어서는 AI로 향하는 길목에서의 핵심 산업은 AI반도체와 데이터센터, 전력발전이 될 가능성이 높아보입니다.

황순민 기자(smhwang@mk.co.kr)