Три технологических гиганта подписали соглашения с Министерством торговли США, согласно которым их новые модели искусственного интеллекта будут проверяться Центром стандартов и инноваций в области ИИ (CAISI) перед публичным запуском. Этот шаг происходит на фоне того, как администрация Трампа рассматривает возможность ужесточения надзора за сектором, согласно недавним сообщениям.
Предварительная оценка как новый фильтр в разработке ИИ 🤖
CAISI будет действовать как технический фильтр, анализируя такие аспекты, как предвзятость, безопасность и производительность каждой модели. Этот процесс направлен на выявление сбоев до того, как программное обеспечение дойдет до пользователей. Компании будут сотрудничать, предоставляя данные обучения и результаты тестов. Мера направлена на установление минимального стандарта, хотя подробности о критериях одобрения пока не разглашаются.
Правительство хочет увидеть ИИ до того, как он увидит их 🏛️
Теперь получается, что те же самые люди, у которых не получается нормально работать на сайте налоговой службы, будут проверять, безопасен ли ИИ. Можно представить чиновника, спрашивающего у ChatGPT: Представляешь ли ты угрозу национальной безопасности?. А ИИ отвечает: Смотря есть ли у тебя кофе?. Хорошо, что они подписали соглашение, а то ИИ мог бы запуститься самостоятельно и забрать их рабочие места.