В недавнем интервью руководитель OpenAI использовал яркое выражение для описания ситуации компании: спать с одним глазом открытым, одним закрытым и третий зажмуренный. Крис Лихейн, директор по глобальному рынку, отметил в Bloomberg постоянное давление из-за ресурсов. Стартап мониторит свои потребности в вычислительных мощностях и возможности партнёров поставлять ключевые полупроводники.
Зависимость от чужой инфраструктуры ⚙️
Разработка моделей ИИ крупного масштаба требует массивных инвестиций в специализированное оборудование, в основном GPU. OpenAI, как и другие компании, зависит от производителей вроде NVIDIA и от мощностей облачных провайдеров, таких как Microsoft Azure. Стратегия не ограничивается покупкой чипов, а включает управление сложной цепочкой поставок и обеспечение доступа к масштабируемым вычислительным кластерам для обучения будущих моделей.
Спокойный сон LLM: считать GPU вместо овец 😴
С этим заявлением можно представить инженеров OpenAI, видящих кошмары о грузовиках, которые вместо контейнеров везут пустые коробки. Пока мы беспокоимся, не галлюцинирует ли модель, у них гарантированная бессонница из-за возможной задержки корабля в Тихом океане с грузом H100. Это менее гламурная сторона ИИ: за каждой философской беседой с чат-ботом стоит кто-то нервно проверяющий запасы кремния.