Модель искусственного интеллекта Claude Mythos, выпущенная Anthropic в апреле, стала предметом срочного обсуждения в финансовых и регуляторных кругах. Министры G7 и представители Банка Англии затронули эту тему на встречах МВФ, выразив серьезную обеспокоенность. Тревога вызвана передовыми возможностями модели и ее потенциальным использованием для киберпреступности, что представляет собой системный риск.
Технические возможности и дилемма двойственности 🤔
Claude Mythos представляет собой эволюцию в области больших языковых моделей с улучшениями в сложном рассуждении и понимании контекста. Ее архитектура позволяет обрабатывать и генерировать сложные инструкции — характеристика, которая в чужих руках может превратиться в инструменты для продвинутой социальной инженерии, генерации вредоносного кода или анализа уязвимостей. Эта двойственность, присущая технологии, где одна и та же способность может использоваться как во благо, так и во вред, является ядром технико-регуляторных дебатов.
Центробанки требуют чат-бота в светоотражающем жилете 🦺
Похоже, регуляторы хотят, чтобы следующая версия ИИ поставлялась с заводскими ограничителями, чем-то вроде этической подушки безопасности, которая срабатывает до того, как будет сгенерирован убедительный фишинг. После десятилетий борьбы с налоговыми убежищами и непрозрачными операциями их главной головной болью теперь стала языковая модель, которая пишет слишком хорошо. Образ банкиров, обсуждающих промпты и токены, имеет свою комическую сторону, как будто они ожидают, что бот подпишет кодекс поведения со своим API.