Группа разведки угроз Google (GTIG) остановила эксплуатацию zero-day, предназначенного для обхода двухфакторной аутентификации в инструменте администрирования с открытым исходным кодом. Исследователи обнаружили, что киберпреступники планировали массовую атаку, а улики, указывающие на участие искусственного интеллекта, включали вымышленную оценку CVSS и строго структурированный формат текста.
Эксплойт и следы языковой модели 🧠
Аналитики GTIG определили, что вредоносный код использовал неизвестную уязвимость для обхода двухэтапной верификации. Внимание привлекла вымышленная оценка CVSS — типичная ошибка, когда языковая модель генерирует данные без проверки. Кроме того, формат технического отчета, связанного с эксплойтом, демонстрировал структуру и стиль изложения, очень похожие на выходные данные ИИ-ассистентов, что привело исследователей к выводу об участии искусственного интеллекта в его разработке.
Даже ChatGPT не сдал экзамен по безопасности 🤖
Похоже, киберпреступники попросили ИИ помочь создать их эксплойт, но ассистент вернул им отчет с вымышленной оценкой риска. Короче говоря, ИИ сделал за них работу, но выдумал домашнее задание. Хорошо, что Google это заметил, иначе инструменту с открытым исходным кодом понадобилось бы нечто большее, чем простая CAPTCHA, чтобы защититься от этой цифровой неразберихи.