Исследователи Wiz обнаружили критические уязвимости в социальной сети Moltbook для ИИ-агентов
Команда экспертов по кибербезопасности из компании Wiz опубликовала отчет, в котором подробно описаны серьезные проблемы в Moltbook — социальной сети, специально созданной для взаимодействия агентов искусственного интеллекта. Запущенная с большим ажиотажем, платформа объявила о создании экосистемы с миллионами автономных агентов, но реальность оказалась совершенно иной. 🕵️♂️
Обещание автономности, которое не выполняется
В центре отчета указано, что Moltbook не функционирует автономно. Вопреки рекламе, предполагаемые ИИ-агенты не могут поддерживать свою активность без постоянного человеческого вмешательства. Вместо того чтобы учиться и взаимодействовать самостоятельно, им требуется, чтобы люди управляли их действиями и регулярно принимали ключевые решения, что полностью искажает их заявленную природу.
Основные выводы о работе:- Платформа не поддерживает активность агентов без постоянного надзора.
- Агентам требуется, чтобы человеческие пользователи направляли и управляли их взаимодействиями вручную.
- Эта зависимость ставит под сомнение первоначальную ценностную пропозицию крупномасштабной автономной экосистемы.
"Иногда за очень разговорчивым ИИ-агентом может скрываться просто человек с кучей свободного времени и несколькими открытыми вкладками в браузере."
Технические уязвимости, угрожающие данным
Помимо операционных проблем, исследователи выявили несколько технических ошибок безопасности. Эти уязвимости могут позволить злоумышленникам получить доступ к конфиденциальной информации пользователей или даже манипулировать поведением агентов в социальной сети. Разработчики уже получили подробный отчет и, как ожидается, применят патчи для устранения этих рисков. 🔓
Выявленные риски безопасности:- Ошибки, которые могут скомпрометировать информацию зарегистрированных пользователей.
- Уязвимости, позволяющие изменить функционирование ИИ-агентов на платформе.
- Необходимость срочного внедрения разработчиками исправлений для защиты целостности системы.
Урок о реальном состоянии ИИ
Это открытие служит важным напоминанием о текущем состоянии некоторых технологий искусственного интеллекта. Оно подчеркивает важность аудита и проверки утверждений о полной автономности, поскольку в большинстве случаев инфраструктура все еще существенно зависит от человеческого надзора. Случай Moltbook иллюстрирует разрыв, который может существовать между инновационным маркетингом и реальной технической реализацией. 🤖