Компания по искусственному интеллекту Anthropic предложила глобальную паузу в разработке продвинутых систем ИИ. Их аргумент заключается в том, что обществу нужно время, чтобы адаптироваться к темпу этих технологий. Для достижения этой цели они требуют, чтобы все крупные компании соблюдали проверяемые правила, и планируют собрать правительства, ученых и конкурентов в централизованную систему контроля.
Внутренние данные предупреждают об автономном ИИ без контроля человека 🤖
Согласно данным Anthropic, нынешние модели ИИ могут достичь точки, где они будут работать и становиться умнее без прямого вмешательства человека. Это влечет за собой риски безопасности и контроля, которые трудно предвидеть. Предложение направлено на установление четких метрик и внешних аудитов для проверки соблюдения правил — того, чего до сих пор нет в индустрии. Техническая осуществимость этой паузы вызывает сомнения.
Глобальная пауза: идея, которая нравится только тому, кто ее предлагает 😅
Конечно, просить конкурентов остановиться, пока ты сам продолжаешь разработку, — это классика. Anthropic предлагает всем сесть за стол переговоров, в то время как их собственные модели продолжают учиться. Это как попросить соседа перестать бежать, чтобы ты мог его догнать. Ирония в том, что для контроля над ИИ сначала нужно было бы контролировать компании, которые его создают. Миссия невыполнима.