L'intelligence artificielle transforme les attaques de phishing, mais le véritable problème n'est pas la technologie, c'est la gestion humaine. Les centres de sécurité reçoivent des avalanches d'alertes que les équipes de niveau 1, mal payées et sujettes à un fort turnover, ne peuvent pas traiter. Les entreprises vendent des solutions d'IA avancées tout en réduisant le personnel qualifié, saturant les systèmes de faux positifs qui bloquent les courriels légitimes.
Le goulot d'étranglement n'est pas l'IA, ce sont les ressources humaines 🔥
Techniquement, les algorithmes d'IA générative permettent de créer des courriels plus crédibles et personnalisés, mais la plupart des attaques restent des liens suspects et des textes mal rédigés. La saturation dans les SOC (Security Operations Centers) est due au fait que les entreprises embauchent le minimum de personnel possible pour réduire les coûts, et non au volume réel de menaces. Les outils automatisés génèrent tellement de faux positifs que les analystes passent leur journée à filtrer le bruit au lieu de chasser les menaces réelles. Le phishing avec IA existe, mais le business de la peur est plus rentable que d'investir dans des équipes humaines stables et formées.
L'astuce consiste à vendre l'alarme, pas à l'éteindre 💡
Il est curieux que les mêmes entreprises qui vendent des solutions d'IA pour lutter contre le phishing soient celles dont les analystes de niveau 1 tournent tous les six mois. Il est plus facile de vendre un logiciel coûteux que de payer un salaire décent à celui qui vérifie les courriels. Le citoyen reçoit plus de spam que jamais, mais voit aussi sa banque bloquer ses propres virements par erreur. L'IA ne va pas nous sauver ; elle a seulement ajouté un filtre de plus entre toi et ta boîte de réception.