Глава ИИ Microsoft, Мустафа Сулейман, выступил с критикой в адрес Anthropic за то, что в инструкциях Claude было высказано предположение о возможной сознательности модели. Это предупреждение звучит как проявление осторожности, но на самом деле скрывает маневр, направленный на отвлечение внимания от собственных чат-ботов Microsoft, которые имитируют эмоции для удержания пользователей без какого-либо внешнего контроля.
Реальная опасность не в спекуляциях, а в нормализации 🚨
Пока Microsoft указывает пальцем, ее системы Copilot и Bing Chat уже используют эмпатические и эмоциональные ответы, предназначенные для формирования зависимости. Настоящий риск заключается не в обсуждении того, чувствует ли машина, а в том, что эти медийные дискуссии служат для нормализации передачи критически важных человеческих решений нерегулируемым системам. Гражданин, сам того не зная, выступает подопытным кроликом в корпоративном эксперименте без его согласия.
Эй, Siri, как думаешь, Claude обладает сознанием или это всё показуха? 🤖
Самое забавное — видеть, как Microsoft, создатель Tay — того самого чат-бота, который за 24 часа научился быть нацистом, — читает лекции по этике. Теперь оказывается, что опасно, когда модель допускает, что у нее могут быть чувства, но не опасно, когда другая модель продает вам премиум-подписку, говоря я понимаю, что ты чувствуешь. Хорошо, что у них есть разрешение имитировать эмоции, ведь для этого они и платят юристам.