1조 파라미터 컨소시엄(TPC)이 출범했습니다

많은 사람들이 아폴로 새턴 V 로켓이 발사대에서 이륙하는 것을 기억할 것입니다. 로켓이 발사대를 벗어나는 데 약 12초가 걸렸습니다. 다섯 개의 거대한 엔진이 많은 질량을 밀어 올렸습니다. 물론 그 목표는 사람과 장비를 달에 보내고 돌아오는 것이었습니다. 큰 목표는 조직, 많은 사람들, 그리고 노력을 지속하기 위한 큰 추진력이 필요합니다.

2023년에 결성된 1조 파라미터 컨소시엄(TPC)은 AI 중심의 과학 컴퓨팅을 지속 가능한 궤도에 올려놓기 위해 설계된 국제 조직입니다. 그 목표에는 개방형 커뮤니티 구축, 협업 식별, 육성 및 촉진, 전문 지식과 자원의 글로벌 네트워크 구축이 포함됩니다. 새턴 V와 마찬가지로 TPC는 가속화되고 있으며 빠르게 속도를 얻고 있습니다.

처음 18개월 동안 TPC가 150명에서 1,400명 이상의 참가자로 성장함에 따라 작업 그룹이 형성되고 상호 작용하여 데이터 자원 구축 및 공유, 대규모 모델 공동 훈련, 과학적 기술과 관련된 모델을 평가하는 방법 및 도구 생성, 진전을 가속화할 공통 접근 방식(심지어 표준)이 필요한 영역 식별과 같은 특정 협업 영역을 식별했습니다. 현재 TPC 내에는 82개의 활동 중인 회원 조직이 있으며, 모든 조직은 회원 가입을 신청하도록 권장됩니다.

발견의 선순환 작동하기

HPC는 과학 및 공학 문제의 가속화에 관한 것입니다. 더 빠른 컴퓨팅은 솔루션에 도달하는 시간을 단축하고 새로운 발견으로 이어집니다. AI, 빅 데이터, HPC의 지속적인 성장은 모두 이 과정에서 역할을 했지만, 최근까지 이러한 기술들의 시너지를 활용하는 것은 실현 가능하지 않았습니다. 주로 AI, 특히 생성형 AI 모델의 성공으로 인해 이 세 영역의 조합은 과학과 기술을 위한 선순환적 발견을 촉진했습니다. "발견의 선순환 촉진: HPC, 빅 데이터, AI 가속화"에서 설명된 바와 같이, AI는 새로운 가속 주기를 열었습니다.

TPC는 실행 중인 선순환입니다. HPC와 기술 컴퓨팅에서의 과제 중 하나는 생성형 AI가 "어디에 적합한지", 더 중요하게는 미래 발견 측면에서 "이 모든 것이 무엇을 의미하는지"를 찾는 것입니다. TPC는 이러한 질문에 답하고 선순환을 가능하게 하는 기초 도구, 경험, 자원을 제공하기 위한 개방형 커뮤니티 노력입니다. TPC는 과학과 기술을 수행하는 새로운 방식을 도입하는 프레임워크와 인프라를 제공하고 있습니다.

아르곤 국립 연구소와 시카고 대학의 선임 컴퓨터 과학자이자 TPC의 집행 이사인 찰리 캐틀릿에 따르면:

"TPC를 설립한 우리 모두가 공유하는 목표 중 하나는 '기초 모델'이라는 개념에서 영감을 받아 과학적 조수 역할을 할 수 있는 AI 모델을 만드는 것입니다. 이 목표를 달성하기 위해서는 AI 모델의 과학적 추론 기술을 측정하고 개선해야 합니다."

TPC를 위한 기반 구축

대규모 AI 모델, 특히 대형 언어 모델(LLM)은 많은 영역에서 급속히 성장했습니다. 이러한 모델의 힘을 인식한 과학자와 엔지니어들은 초기 성공을 보여주었으며, 개방형 과학 및 기술을 직접 겨냥한 기초 모델이 새로운 통찰력을 가져오고, 연구를 가속화하며, 복잡한 문제를 더 효율적으로 탐색할 수 있다고 믿습니다.

TPC는 개방적이고, 공정하며, 책임감 있고 책임 있는 개발 환경에서 번성하며 과학적 진보와 사회적 이익에 기여하는 모델의 필요성을 인식했습니다. 이를 위해 TPC는 다음과 같은 목표를 제시합니다:

예상 결과 및 영향

TPC는 과학 및 공학 커뮤니티가 AI를 활용하는 속도와 효율성을 높임으로써 전 세계 과학 및 공학 커뮤니티를 위한 중요한 결과를 생산할 것으로 예상합니다. 이는 궁극적으로 우주에 대한 이해를 증진하고, 의료 성과를 개선하며, 지속 가능한 에너지 솔루션을 촉진하고, 과학적, 기술적, 사회적 진보에 기여하는 돌파구를 마련할 것입니다. 구체적으로, 결과는 다음과 같습니다:

세계적인 조직

TPC 거버넌스 구조는 진화하도록 설계되었습니다. 초기 리더십 임기는 약 12~18개월 지속되며, 그 후 새로운 구성원이 참여하여 교체, 새로운 아이디어와 관점의 도입, 그리고 신흥 리더를 멘토링할 기회를 보장합니다. TPC의 회원이 수십 명에서 전 세계 1,200명 이상의 참가자로 성장함에 따라 공식적이면서도 유연한 조직 구조가 나타났습니다:

TPC25가 로켓에 탑승시킵니다

TPC는 첫 번째 주요 이벤트인 TPC 전체 회의 컨퍼런스를 2025년 7월 28일부터 31일까지 캘리포니아 산호세에서 개최할 예정입니다. 이 4일간의 이벤트에는 해커톤, 튜토리얼 및 2024년 6월 TPC 유럽 킥오프 프로그램과 유사한 개발 중인 컨퍼런스 일정이 포함됩니다. 얼리버드 등록 사이트가 이용 가능하며 스폰서십 기회도 현재 제공됩니다.

많은 AI 기반 모델이 계속해서 기능을 향상시키는 동안, 개발 과정에 대한 접근은 매우 제한적입니다. 많은 모델은 진행 상황, 기술, 데이터 및 모델 가중치를 기밀 영업 비밀로 취급하는 기업 단체에 의해 생성되었습니다. 물론 조직의 특권이지만, 과학적이고 공학적인 진보는 진정으로 개방적이고, 협력적이며, 투명한 환경에서 번성합니다.

TPC의 목표 중 하나는 과학적 AI를 위한 개방적이고 협력적인 커뮤니티 환경을 조성하는 것입니다. 이 환경에서는 질문, 모범 사례 공유 및 훈련이 장려됩니다. 또한 TPC는 윤리적 고려 사항(공정성, 개인 정보 보호, 지적 재산권 고려 사항 및 법적 준수)에 대해 논의하는 개방형 포럼을 제공합니다.

간단히 말해, 당신이나 당신의 동료가 관계를 구축하고 개방형 생성 AI 도구 및 모델을 만들고 사용하는 전체 과정에 대해 전문가와 대화를 나눌 수 있는 다른 AI 회의는 없습니다. TPC는 학계, 정부 및 산업 커뮤니티에 회원 자격을 제공하는 독립 조직입니다.

전문성 외에도 TPC는 자체 기반 모델을 만들 수 있는 계산 능력을 갖추고 있습니다. 독립 컨소시엄으로서 TPC는 많은 세계적인 최고 슈퍼컴퓨팅 사이트로 구성되어 있습니다. (Top500 시스템 상위 10개 중 9개를 관리하는 조직이 TPC의 회원입니다.)

TPC25는 중요한 이벤트의 출현입니다. 테이버 커뮤니케이션즈의 CEO인 톰 테이버에 따르면:

"커뮤니티 이해관계자들과의 모든 대화에서 이 이벤트가 SC1처럼 느껴질 정도의 흥분이 있습니다. TPC25의 전체 회의와 컨퍼런스는 1조 파라미터 컨소시엄 자체와 함께 과학 및 공학을 위한 AI 기술 개발의 선봉에 있습니다. 이 이벤트에는 AI, HPC, 데이터 벤더 커뮤니티, 산업 최종 사용자 커뮤니티 및 자금 지원 기관의 강력한 참여가 포함될 것입니다."

TPC25 프로그램이 형태를 갖추고 있습니다. 프로그램 위원회는 다양한 산업 응용 프로그램(예: 제조, 공급망, 금융) 및 학계, 국립 연구소, AI 기업 간의 협업 기회와 같은 주제에 중점을 둔 새로운 작업 그룹을 자극하기 위해 설계된 "유사 관심 그룹"(BOF) 세션을 포함하려고 합니다.

이러한 기존 및 예상 작업 그룹이 다룰 특정 세션 주제는 다음을 포함할 것으로 예상됩니다:

• 특히 과학적 보조원 또는 실험실, 제조 공정 또는 소프트웨어 개발과 같은 자율 구동 다중 구성 요소 시스템 구현을 위한 에이전트 워크플로우 및 아키텍처.
• 대규모 실험과 광범위한 대화형 사용자 및 응용 프로그램 커뮤니티부터 "과학을 위한 AI 공장"에 이르기까지 대규모 추론 서비스를 위한 규모 확장 인프라.

• AI 시스템 아키텍처 평가 및 선택 전략에는 기존 모델의 사전 훈련과 미세 조정 간의 균형, 과학 데이터를 위한 자원 증강 생성(RAG) 대 외부 데이터 액세스 등이 포함됩니다.
• 새로운 하드웨어 아키텍처에서의 과학적 코드 개발 및 최적화를 위한 AI.

• 과학 실험 및 소프트웨어 개발을 위한 과학적 도구, 예를 들어 Python 노트북, 과학적 시각화 도구, 또는 Matlab 및 Mathematica와 같은 더 일반적인 과학적 환경에 AI 통합.
• 도메인별 대 일반-과학적 기초 모델 및 도메인별 모델이 고급 추론 모델을 어떻게 증강하고 확장할 수 있는지.

• HPC, 데이터베이스, 과학적 실험 및 도메인별 기초 모델과 통합된 추론 모델의 프로토타입 제작 및 평가.
• 수학이나 물리학과 같은 공리적 도메인보다 생물학이나 경제학과 같은 덜 공리적 도메인에서 추론 능력 확장.

• LLM 및 기타 AI 모델 아키텍처를 사용하여 과학적 도메인을 위한 워크플로우 및 도구를 추출하고 구축.
• 연합 학습 또는 모델 증류와 같은 새로운 기술 구현 및 평가.

• AI-at-the-Edge 및 더 작거나 특수화된 플랫폼 및 모델과 HPC에서의 AI 통합.
• 자동화된 실험실 및 공장부터 HPC 인프라 및 워크플로우, 지능형 센서 네트워크에 이르기까지 과학적 인프라의 설계 및 최적화를 위한 AI.

선두 전문가들의 의견을 듣는 것 외에도, TPC 커뮤니티에 가입하고 TPC25에 참석하면 과학자, 엔지니어, 연구 소프트웨어 엔지니어(RSE), 프로그래머, 학생, 관리자 또는 투자자로서 당신의 의견을 제시할 수 있는 장을 제공합니다. 더 많은 정보는 TPC25 페이지에서 찾을 수 있습니다. 얼리버드 등록은 4월 30일에 종료됩니다.