Генеральный директор OpenAI Сэм Альтман призывает США отменить предварительное одобрение при запуске новых моделей ИИ. Его аргумент: бюрократия тормозит прогресс. Но без контроля компании могут выпускать системы с предвзятостью, ошибками безопасности или опасными возможностями без надзора. История показывает, что саморегулирование терпит неудачу.
Без технических фильтров: уязвимости и предвзятость на виду 🚨
Современные модели ИИ демонстрируют расовую и гендерную предвзятость, а также серьезные ошибки в медицинских или судебных контекстах. Без обязательной предварительной проверки компания может запустить систему найма, которая дискриминирует, или медицинского ассистента, который рекомендует неправильное лечение. Альтман просит доверия, но данные показывают, что индустрия ставит рынок выше безопасности. Без контроля ошибка обнаруживается, когда уже причинила вред.
Поверьте нам, это седьмой раз, когда мы это обещаем 🔄
Альтман просит верить ему, как раньше мы верили социальным сетям, беспилотным автомобилям и банковским алгоритмам. Всегда одно и то же: сначала просят скорости, затем саморегулирования, а когда всё взрывается, просят понимания и сроков для исправления. Предложение Альтмана звучит как свобода, но пахнет дежавю. Когда миллиардер просит меньше контроля, это не инновация, это старый как мир сценарий.