콜로서스 AI, 머스크의 AI 야망 확대와 함께 GPU 20만 대 보유 달성

세계에서 가장 강력한 AI 컴퓨팅 클러스터 중 하나로 알려진 일론 머스크의 콜로서스 AI 인프라가 완전 가동 용량에 도달했습니다. AI의 경계를 넓히기 위해 설계된 이 거대한 컴퓨팅 시스템은 현재 테슬라 메가팩 배터리로 작동하는 20만 대의 GPU를 보유하고 있습니다. 이는 머스크의 AI 분야 진출이 확대되는 중요한 이정표입니다.

현장 변전소가 가동되고 주 전력망에 연결됨에 따라 테네시주 멤피스에 위치한 콜로서스 AI 인프라의 1단계가 완료되었습니다. 그레이터 멤피스 챔버에 따르면 이 슈퍼컴퓨터는 현재 전력망에서 150MW를 사용하고 있습니다. 추가로 150MW 메가팩 배터리 시스템이 예비 전원 공급원으로 작동하여 정전이나 전력 수요가 높은 기간 동안에도 계속 작동할 수 있도록 보장합니다.

콜로서스 AI는 머스크의 공식 AI 회사인 xAI의 주력 제품입니다. 이 슈퍼컴퓨터는 작년 7월에 10만 대의 엔비디아 GPU로 처음 가동되었으며, 놀라운 속도로 구축되었습니다. 전체 프로젝트는 122일 만에 완성되었고, 하드웨어 설치부터 훈련 단계까지는 단 19일이 소요되었습니다. 이 프로젝트의 속도는 엔비디아 CEO 젠슨 황을 감동시켰으며, 그는 이 규모의 프로젝트는 일반적으로 약 4년이 걸린다고 지적하며 그 배포가 놀랍도록 빨랐다고 평가했습니다.

"내가 아는 한, 세상에서 그것을 할 수 있는 사람은 한 명뿐입니다,"라고 황이 말했습니다. "일론은 엔지니어링, 건설, 대규모 시스템 및 자원 동원에 대한 이해에 있어 독보적입니다. 정말 믿을 수 없습니다."

그러나 이러한 속도는 대가를 치렀습니다. 시설은 처음에 전력망에 직접 연결되지 않았습니다. 운영을 계속하기 위해 시설은 전기를 위해 천연가스 터빈 발전기에 의존했으며, 이는 배출과 지속가능성에 대한 우려를 불러일으켰습니다.

초기 보고서에 따르면 14개의 터빈이 각각 2.5MW를 생성하여 전력을 공급했지만, 주민들의 관찰에 따르면 주변 지역에서 그 수가 35개를 초과했을 수 있습니다. 이는 허용된 제한의 두 배 이상입니다. 이러한 임시 전력원에 대한 의존은 특히 xAI가 운영을 더욱 확장하려는 시점에서 시설의 장기적인 에너지 계획에 대한 논의를 불러일으켰습니다.

인프라에 더 많은 GPU를 추가한다는 것은 AI 클러스터가 이제 가스 발전기보다 그리드 전력에 더 많이 의존할 수 있다는 것을 의미합니다. 이는 효율성을 향상시키고 환경 문제를 해결하는 데 도움이 될 것입니다. 보도에 따르면 xAI는 여름이 끝날 때까지 임시 발전기의 절반을 제거할 계획입니다. 나머지 절반의 임시 발전기는 멤피스 슈퍼클러스터 2단계의 전기 수요를 충족하기 위해 남아 있어야 합니다.

머스크는 올해 말까지 콜로서스 AI의 용량을 두 배로 늘릴 계획입니다. 150MW가 추가될 예정이며, 총 용량은 300MW로 증가할 것입니다. 이는 30만 가구에 전력을 공급하는 것과 같습니다. 이러한 막대한 전력 수요가 테네시 밸리 당국(TVA)이 이를 지원할 충분한 용량을 가지고 있는지에 대한 우려를 불러일으킨 것은 놀라운 일이 아닙니다.

xAI는 콜로서스 슈퍼컴퓨터를 100만 대 이상의 GPU로 확장할 계획을 공개적으로 밝혔습니다. 지역 경제를 위해 콜로서스 AI는 경제 발전과 인프라 투자를 약속합니다. 그러나 주민들의 전력 품질 저하와 프로젝트의 환경 영향에 대한 우려는 계속되고 있습니다.

"누군가가 와서 자연 자원, 물을 착취하고, 공기를 오염시킬 수 있는 허점을 이용하기 때문에 기술 혁신의 대명사가 되는 것이 아닙니다,"라고 풀뿌리 조직인 멤피스 공해 반대 커뮤니티(MCAP)의 디렉터 케숀 피어슨이 말했습니다. "그것은 기술 도시를 만드는 것이 아닙니다. 그런 이야기는 위험합니다. 왜냐하면 우리 도시가 더 많은 착취에 노출되기 때문입니다."

100만 대의 GPU에 전력을 공급하는 여정은 2023년 7월 머스크가 xAI를 설립하면서 시작되었습니다. 선언된 목표는 "우주의 진정한 본질을 이해하는 것"입니다. 더 실용적인 측면에서, 머스크는 마이크로소프트, 구글 또는 다른 주요 기술 기업의 영향을 받지 않는 자신만의 방향성을 가진 AI 연구소를 원했습니다.

이 회사는 OpenAI(현재 마이크로소프트와 긴밀한 파트너 관계를 맺고 있음)와 구글의 딥마인드의 성장하는 지배력에 대한 답변입니다. xAI는 또한 스페이스X와 테슬라를 포함한 머스크의 다른 벤처와 통합되어 있습니다. 콜로서스가 이제 완전 용량으로 운영됨에 따라 xAI는 머스크의 더 넓은 생태계 전반에 걸쳐 AI의 개발과 배포를 가속화할 수 있는 위치에 있습니다.

---