Мошеннический репозиторий, выдававший себя за официальный фильтр конфиденциальности OpenAI, занял первое место на Hugging Face. С 244 000 загрузок вредоносный код оставался незамеченным, пока не был обнаружен и удалён. Инцидент демонстрирует опасность слепого доверия к платформам обмена моделями ИИ, где злоумышленники распространяют вредоносное ПО под видом легитимных инструментов.
Как вредоносный код эксплуатирует доверие в открытых экосистемах 🛡️
Репозиторий имитировал официальные интерфейсы и документацию OpenAI, чтобы обмануть разработчиков. При запуске код мог красть токены API, учётные данные или устанавливать бэкдоры. Hugging Face полагается на проверки сообщества, но без автоматической верификации подписей или статического анализа зависимостей любой популярный репозиторий может стать вектором атаки. Урок: всегда проверяйте происхождение и цифровые подписи перед интеграцией стороннего кода.
244 000 загрузок спустя: фильтр, который фильтровал ваши данные 🔍
В итоге предполагаемый фильтр конфиденциальности оказался решетом для конфиденциальной информации. Пользователи с энтузиазмом загрузили инструмент, обещавший их защитить, только чтобы выдать свои данные на блюдечке. Если что-то кажется слишком хорошим, чтобы быть правдой, вероятно, это троян с хорошим описанием. В следующий раз лучше почитайте комментарии, прежде чем нажимать.