Искусственный интеллект трансформирует фишинговые атаки, но настоящая проблема заключается не в технологии, а в управлении человеческими ресурсами. Центры безопасности захлестывают лавины оповещений, которые низкооплачиваемые сотрудники первого уровня с высокой текучестью кадров не в состоянии обработать. Компании продают передовые решения на базе ИИ, одновременно сокращая квалифицированный персонал, перегружая системы ложными срабатываниями, блокирующими легитимные письма.
Узкое место — не ИИ, а человеческие ресурсы 🔥
Технически алгоритмы генеративного ИИ позволяют создавать более правдоподобные и персонализированные письма, но большинство атак по-прежнему представляют собой подозрительные ссылки и плохо написанные тексты. Перегрузка SOC (Security Operations Centers) происходит из-за того, что компании нанимают минимально возможное количество персонала для экономии средств, а не из-за реального объема угроз. Автоматизированные инструменты генерируют так много ложных срабатываний, что аналитики проводят дни, фильтруя шум, вместо того чтобы охотиться на реальные угрозы. Фишинг с использованием ИИ существует, но бизнес на страхе более прибылен, чем инвестиции в стабильные и обученные человеческие команды.
Хитрость в том, чтобы продать тревогу, а не погасить её 💡
Любопытно, что те же компании, которые продают решения на базе ИИ для борьбы с фишингом, имеют аналитиков первого уровня, меняющихся каждые шесть месяцев. Продать дорогое программное обеспечение проще, чем платить достойную зарплату тому, кто проверяет электронные письма. Обычный пользователь получает больше спама, чем когда-либо, но также видит, как его банк по ошибке блокирует его собственные переводы. ИИ нас не спасет; он лишь добавил еще один фильтр между вами и вашим почтовым ящиком.