На прошлой неделе Anthropic представила проект Glasswing — модель ИИ, способную обнаруживать уязвимости в программном обеспечении с настолько высокой эффективностью, что компания решила отложить её публичный запуск. Вместо этого доступ к ней получили такие гиганты, как Apple, Microsoft, Google и Amazon, чтобы они могли исправить ошибки до того, как ими воспользуются злоумышленники. Модель Mythos Preview, лежащая в основе Glasswing, продемонстрировала беспрецедентную способность выявлять уязвимости.
Как работает автоматизированное обнаружение ошибок 🛡️
Glasswing использует методы глубокого обучения для анализа исходного кода и бинарных файлов, выявляя шаблоны, которые обычно предшествуют таким уязвимостям, как переполнение буфера или SQL-инъекции. В отличие от традиционных инструментов, эта модель не ограничивается известными сигнатурами; она способна выводить новые классы ошибок. Её точность превосходит любой коммерческий сканер, что побудило Anthropic проявить осторожность. Компания опасается, что в чужих руках этот инструмент может принести больше вреда, чем пользы.
Когда ИИ находит баги лучше вашего начальника 😅
Теперь оказывается, что искусственный интеллект эффективнее находит дыры в безопасности, чем команда QA вашей компании. Anthropic, проявив редкую ответственность, решила не выпускать Glasswing в открытый доступ. Вместо этого она передала его крупным технологическим компаниям. Результат? Apple, Microsoft и Google придётся активизироваться, чтобы исправить собственные ошибки до того, как ИИ покажет их хакерам. Так что, если ваш код дырявее швейцарского сыра, молитесь, чтобы вам не досталась проверка.