최근 인터뷰에서 OpenAI의 한 경영진이 회사의 상황을 생생한 표현으로 묘사했습니다: 한쪽 눈 뜨고 한쪽 눈 감고 다른 쪽 눈 꽉 감은 채로 잠을 잔다. 글로벌 시장 이사인 Chris Lehane는 Bloomberg에 자원에 대한 끊임없는 압박을 지적했습니다. 이 스타트업은 컴퓨팅 요구 사항과 파트너들의 핵심 반도체 공급 능력을 모니터링하고 있습니다.
타인의 인프라에 대한 의존성 ⚙️
대규모 AI 모델 개발은 주로 GPU와 같은 특수 하드웨어에 대한 대규모 투자를 요구합니다. OpenAI를 비롯한 다른 기업들은 NVIDIA와 같은 제조사와 Microsoft Azure와 같은 클라우드 제공자의 용량에 의존합니다. 전략은 칩 구매에 그치지 않고, 복잡한 공급망을 관리하고 미래 모델 훈련을 위한 확장 가능한 컴퓨팅 클러스터에 대한 접근을 확보하는 것입니다.
LLM의 숙면: 양 대신 GPU 세기 😴
이 선언으로 OpenAI의 엔지니어들이 컨테이너 대신 빈 상자를 운반하는 트럭에 대한 악몽을 꾸는 모습을 상상할 수 있습니다. 우리가 모델이 환각을 일으키는지 걱정하는 동안, 그들은 H100 화물을 실은 배가 태평양에서 지연될까 봐 불면증이 보장됩니다. 이것이 AI의 덜 화려한 면입니다: 챗봇과의 철학적 대화 뒤에는 실리콘 재고 수준을 긴장하게 확인하는 누군가가 있습니다.