AI 시대의 패권은 이제 누가 더 강력한 데이터센터를 구축하느냐에 달려있다고 해도 과언이 아닙니다. AI 성능이 곧 데이터센터 역량과 직결되기 때문입니다.
오늘날 미국 GDP 상승의 상당 부분이 AI 투자에서 비롯될 정도로 이 분야는 뜨겁게 달아오르고 있습니다. 실제로 AI 투자가 없었다면 미국 GDP가 마이너스를 기록했을 것이라는 분석까지 나올 정도입니다.
이번 글에서는 AI 전쟁의 최전선인 데이터센터의 판도가 어떻게 움직이고 있는지, 특히 일론 머스크의 xAI를 중심으로 살펴보도록 하겠습니다.
가성비의 제왕, xAI Grok-4 Fast
최근 일론 머스크의 xAI가 공개한 ‘그록-4 패스트(Grok-4 Fast)’ 모델은 AI 시장에 엄청난 충격을 주었습니다. 이 모델의 핵심은 압도적인 가성비입니다.
• 놀라운 가격 경쟁력: 그록-4 패스트는 현존 최고 성능 모델 중 하나인 GPT-4o와 비교했을 때, 지능 점수는 약 90% 수준을 유지하면서도 비용은 무려 47배나 저렴합니다. 100만 토큰당 처리 비용이 단 0.3달러로, 경쟁 모델 대비 10분의 1, 심지어 100분의 1 수준에 불과합니다.
• 최고 수준의 속도: 속도 면에서는 경쟁 모델인 제미나이 1.5 플래시 버전보다도 빨라 현재 1위를 기록하고 있습니다.
• 방대한 기억 용량: 그록-4 패스트는 200만 토큰의 컨텍스트 창을 제공합니다. 이는 AI가 한 번에 기억하고 처리할 수 있는 정보의 양을 의미하는데, 제미나이(100만 토큰)나 GPT(20만 토큰)를 압도하는 수치입니다. 컨텍스트 창이 클수록 길고 복잡한 작업에서 일관성을 유지하는 데 유리합니다.
이러한 성능 덕분에 그록-4 패스트는 출시된 지 며칠 만에 외부 API 업체인 ‘오픈라우터’에서 가장 인기 있는 AI 모델 1위를 차지했습니다. 특히 코딩 분야에서는 ‘클로드 소네 포’가 국룰처럼 여겨졌으나, 이제는 그 자리를 그록이 차지할 정도로 무서운 성장세를 보이고 있습니다.
xAI 콜로서스 데이터센터
그렇다면 xAI는 어떻게 이런 ‘말도 안 되는’ 가성비 모델을 만들어낼 수 있었을까요? 그 해답은 바로 자체 데이터센터인 ‘콜로서스(Colossus)’에 있습니다.
현재 테네시주에 완공된 ‘콜로서스 1’은 H100 및 GB200 GPU 약 20만~23만 장을 탑재하고 300MW 규모로 운영되고 있으며, 구축에 약 10조 원(70억 달러)이 투입되었습니다. 놀라운 점은 엔비디아가 구축에 1년이 걸릴 것이라 예상했지만, 머스크는 단 121일 만에 시설과 슈퍼컴퓨터를 완성하고 19일 만에 학습을 시작하는 기염을 토했습니다.
하지만 이것은 시작에 불과합니다. 현재 착공에 들어간 ‘콜로서스 2‘는 그 규모가 상상을 초월합니다. 엔비디아의 최신 블랙웰 아키텍처 기반의 B200 GPU 55만 장과 GB200 45만 장을 더해, 총 100만 장의 GPU를 탑재할 계획입니다. 이는 콜로서스 1보다 최소 5배에서 최대 20배 이상의 성능 차이를 만들어낼 것으로 예상됩니다.
일론 머스크의 혁신적 발상
거대한 데이터센터를 구축하는 데에는 두 가지 큰 난관이 있습니다. 바로 전력과 공간입니다. 일론 머스크는 이 문제들을 특유의 기발한 방식으로 해결하고 있습니다.
전력 문제 해결: 주 경계를 넘는 묘책과 테슬라 시너지
콜로서스 2가 위치한 멤피스 시는 환경 문제를 이유로 새로운 가스터빈 설치를 불허했습니다. 그러자 머스크는 데이터센터에서 불과 수 마일 떨어진 이웃 미시시피주에 있는 발전소를 인수하여 전력을 끌어오는 묘책을 사용했습니다.
여기에 더해, 장거리 송전 시 발생할 수 있는 전압 문제를 해결하기 위해 중전력 변전소를 설치하고, 테슬라의 에너지저장장치(ESS)인 ‘메가팩(Megapack)’을 대량으로 설치했습니다. 메가팩은 피크 시간대 전력을 안정적으로 공급하고 유휴 전력을 관리하여 전력 그리드를 안정화하는 핵심적인 역할을 합니다. 이는 테슬라와의 시너지를 통해 데이터센터 운영을 최적화한 수직 계열화의 대표적인 사례입니다.
공간 문제 해결: 세계 최초의 ‘수직 증축’ 데이터센터
공개된 콜로서스 2 내부 사진을 보면, 전선이 2층 높이까지 쌓여있지만 천장은 6~7층 높이에 달하는 것을 볼 수 있습니다. 이는 머스크가 데이터센터를 옆으로 넓히는 ‘스케일 아웃’이 아닌, 위로 쌓아 올리는 ‘수직 증축’ 방식을 구상하고 있음을 보여줍니다. 약 12미터 높이의 데이터센터를 수직으로 쌓아 100만 개의 GPU를 집적하겠다는 발상은 기존의 데이터센터 개념을 완전히 뒤엎는 혁신적인 아이디어입니다.
데이터센터 경쟁
물론 데이터센터 경쟁에 뛰어든 것은 머스크뿐만이 아닙니다.
• 오픈AI & 마이크로소프트 ‘스타게이트 프로젝트’: 이들은 최종적으로 5GW급 데이터센터에 200만 개 이상의 칩을 탑재하는 것을 목표로 하고 있습니다. 1단계로 2028년까지 1.2GW 규모에 40만 개의 GB200 GPU를 설치할 계획이지만, 2026년 완성을 목표로 하는 콜로서스 2보다는 속도가 다소 느릴 수 있습니다.
• 메타(Meta): 메타 역시 2026년 완공을 목표로 오하이오주에 1GW급 데이터센터를 짓고 있으며, 장기적으로는 맨해튼 크기에 달하는 5GW급 ‘하이페리온’ 데이터센터에 130만 개 이상의 GPU를 탑재하겠다는 거대한 계획을 발표했습니다.
이처럼 글로벌 빅테크 기업들은 미래 AI 패권을 차지하기 위해 천문학적인 자본을 쏟아부으며 데이터센터 경쟁을 벌이고 있습니다.
데이터센터 밸류체인
이러한 데이터센터 경쟁은 관련 산업 생태계 전체에 엄청난 성장의 기회를 제공하고 있습니다. 실제로 데이터센터 관련 기업들의 주가는 작게는 50%에서 많게는 10배, 20배까지 폭등했습니다. 투자자라면 주목해야 할 데이터센터 가치 사슬은 다음과 같습니다.
• 반도체 (칩 & 메모리): 엔비디아(NVIDIA), 브로드컴(Broadcom), SK하이닉스
• 서버 및 장비: 델(Dell), 슈퍼마이크로(Super Micro)
• 네트워킹: 마벨(Marvell), 시스코(Cisco)
• 클라우드 및 운영: 아마존, 마이크로소프트, 구글 등 기존 클라우드 강자와 오라클(Oracle), 코어위브(CoreWeave) 등 신흥 강자들
• 전력 및 냉각 시스템: 버티브 홀딩스(Vertiv), 슈나이더 일렉트릭(Schneider), 지멘스(Siemens), ABB
• 에너지 인프라: 뉴스케일 파워(NuScale Power), 테슬라(Tesla), GE베르노바(GE Vernova)
이 기업들 중 몇 개만 포트폴리오에 담았어도 엄청난 수익을 거둘 수 있었을 만큼, 데이터센터는 현재 가장 확실한 투자 테마 중 하나입니다.
마치며
엔비디아의 대규모 투자에서 시작해 일론 머스크의 혁신적인 콜로서스 데이터센터, 그리고 메타와 오픈AI의 거대한 계획에 이르기까지, AI 혁명의 동력은 데이터센터에서 나오고 있습니다. 앞으로 AI의 발전은 곧 데이터센터의 발전 속도에 좌우될 것입니다.
다만 2030년경에는 데이터센터가 전 세계 전력의 상당 부분을 소비하는 ‘괴물’이 될 수 있다는 우려도 제기됩니다. 기술의 발전과 함께 에너지 문제에 대한 고민도 깊어지는 시점입니다. 그럼에도 불구하고, AI와 데이터센터가 만들어갈 미래는 이제 거스를 수 없는 거대한 흐름이 되었습니다.