보고서: 중국의 AI 데이터센터 구축 경쟁이 벽에 부딪히다

2025년 3월 28일

중국의 수십억 달러 규모 AI 인프라 황금 러시가 이제 막을 내리고 있습니다. MIT 테크놀로지 리뷰에서 중국 관련 기술 주제를 다루는 기자 차이웨이 첸의 새로운 조사 보고서에 따르면 이러한 현상이 나타나고 있습니다.

"불과 몇 달 전만 해도 정부와 민간 투자자들의 지원을 받아 데이터 센터 건설 붐이 절정에 달했습니다. 그러나 현재 새로 건설된 많은 시설들이 비어 있는 상태입니다."라고 첸은 적고 있으며, 이 출판물은 계약업체, GPU 서버 회사 임원, 프로젝트 관리자 등 현장의 정보원들을 확보하고 있다고 밝혔습니다.

정보원들에 따르면 붐 기간 동안 데이터센터를 건설한 기업들이 현재 어려움을 겪고 있으며, 중국 언론 보도에 따르면 중국의 새로 건설된 컴퓨팅 자원의 최대 80%가 사용되지 않고 있다고 합니다.

투자 열풍이 새로운 현실과 마주하다

왜 이렇게 많은 데이터센터가 유휴 상태일까요? 첸의 보고서는 AI 과대광고에 기반한 투기성 투자가 딥시크(DeepSeek)의 폭발적인 출시와 맞물려 식어가고 있는 상황을 보여줍니다.

이른바 "딥시크 효과"는 AI 시장과 세계 경제에 파문을 일으켰습니다. 이 모델이 적은 인프라로도 효율적으로 학습할 수 있어 대규모 데이터센터 배치에 대한 수요를 감소시켰기 때문입니다. 이는 잠재적으로 AI 인프라 전략의 현재 궤도를 재형성하고 있지만, 아직 완전히 재정의하지는 않았습니다. 중국이 가장 빠르고 가시적인 영향을 느끼고 있는 것으로 보입니다.

중국의 새로운 데이터센터의 주요 비즈니스 모델은 모델 훈련을 위한 GPU 클러스터 임대였습니다. 그러나 딥시크의 오픈소스 모델 R1이 ChatGPT 수준의 성능을 훨씬 적은 비용으로 제공하면서, 소규모 플레이어들은 대규모 모델을 사전 훈련하려는 계획을 포기했습니다. 수백 개의 새로운 시설이 가동될 준비가 되었을 때, 훈련 인프라에 대한 수요가 붕괴된 것입니다.

이와 병행하여, AI의 기술적 요구사항도 변화하고 있습니다. 오늘날의 컴퓨팅 병목 현상은 훈련이 아니라 추론에 있습니다. 특히 실시간으로 모델을 실행하는 것, 특히 단계별 추론 작업에 관한 것입니다. 이러한 워크로드는 낮은 지연 시간 성능과 주요 기술 허브와의 지리적 근접성에 최적화된 하드웨어를 필요로 합니다. 그러나 첸의 보고에 따르면, 중국의 새로운 데이터 센터들의 많은 부분이 농촌이나 원격 지역에 건설되었고, 잘못된 종류의 AI 작업에 최적화되어 있으며, 인재와 최종 사용자로부터 너무 멀리 떨어져 있다고 합니다.

2022년 말 ChatGPT가 데뷔한 후, 중국은 AI 인프라를 국가 우선순위로 삼기 위해 빠르게 움직였습니다. 중앙 정부는 지방 관리들에게 "스마트 컴퓨팅 센터"라고 불리는 AI 데이터센터를 개발하도록 장려했고, 2024년까지 500개 이상이 발표되었습니다. 적어도 150개가 완성되었으며, 이는 AI 파도를 타기 열망하는 국영 기업과 공기업의 지원을 받았습니다.

그러나 붐은 오래가지 않았습니다. 2024년에 대규모 모델을 구축하기 위해 등록된 140개 이상의 기업 중 약 10%만이 연말까지 활발하게 활동했습니다. 이 보고서에 따르면, 관련 기업과 투자자들의 많은 수가 AI 전문성이 부족했고, 정부 보조금, 저렴한 전기, 또는 국가 대출에 대한 접근을 추구하고 있었습니다.

"중국 AI 산업이 겪고 있는 성장통은 주로 경험이 부족한 플레이어들—기업과 지방 정부들—이 과대광고에 뛰어들어 오늘날의 필요에 최적화되지 않은 시설을 건설한 결과입니다,"라고 RAND 코퍼레이션의 기술 수석 자문인 지미 굿리치가 첸의 보고서에서 인용됐습니다. 굿리치는 투자자들이 시장 가격 이하로 판매하려 하는 지금, 중국 정부가 개입하여 이러한 자산의 관리를 맡고 더 유능한 운영자들에게 재배정할 가능성이 높다고 말합니다.

AI 군비 경쟁은 둔화되지 않고 있습니다

중국의 많은 새로운 데이터 센터가 유휴 상태로 남아 있음에도 불구하고, 중국 중앙 정부는 AI 야망에서 후퇴할 기미를 보이지 않습니다. 2025년 초, 중국은 고위급 AI 심포지엄을 소집해 국가 우선순위로서의 인프라를 재차 강조하고 기술적 자급자족의 필요성을 강조했습니다. 주요 기업들도 이를 따르고 있습니다: 알리바바는 향후 3년 동안 클라우드 및 AI 하드웨어에 500억 달러 이상을 투자할 것을 약속했으며, 바이트댄스는 GPU와 데이터센터에 200억 달러를 지출할 계획입니다.

미국 역시 똑같이 강하게 밀어붙이고 있다고 첸은 언급합니다. OpenAI, 오라클, 소프트뱅크가 지원하는 스타게이트 이니셔티브는 전 세계 첨단 데이터 센터에 최대 5,000억 달러를 투자하는 것을 목표로 합니다. 베이징의 입장에서는 지금 규모를 축소하는 것이 어려울 것입니다. RAND의 지미 굿리치가 말했듯이, 충분히 활용되지 않는 인프라는 실패가 아니라 장기적인 역량을 구축하는 데 있어 "필요악"으로 볼 수 있습니다.

H20(중국 시장을 위해 특별히 설계된 칩)와 H100과 같은 엔비디아 칩에 대한 수요는 여전히 강합니다. 이는 부분적으로 중국 기업들이 딥시크의 오픈소스 모델 자체 버전을 배포하기 위해 경쟁하고 있기 때문입니다. 그러나 인프라만으로는 더 이상 병목 현상이 아닙니다.

오랜 데이터 센터 임원인 팡 쿤바오는 첸에게 이렇게 말했습니다: "시장이 너무 혼란스럽습니다. 초기 채택자들은 이익을 얻었지만, 지금은 사람들이 정책 허점을 쫓고 있을 뿐입니다." 그는 미래의 발전이 더 많은 것을 구축하는 것이 아니라 AI를 잘 활용하기 위한 명확하고 배포 가능한 계획을 갖는 것에 달려 있다고 확신하며 이 산업을 떠났습니다. "지금과 AI가 실제로 모든 곳에 있는 미래 사이에 서 있는 것은 더 이상 인프라가 아니라 기술을 배포하기 위한 견고한 계획입니다."라고 그는 말합니다.