Um relatório recente sobre segurança em inteligência artificial concentrou sua análise nos usuários avançados, deixando de lado o restante da equipe. Essa visão limitada ignora que a IA é implantada de forma massiva em empresas sem preparação adequada para todos. Externalizar a responsabilidade para alguns poucos enquanto se expõem dados de toda a organização é uma contradição perigosa que exige uma solução legal.
Treinamento obrigatório e auditorias para toda a organização 🛡️
A solução passa por obrigar por lei que qualquer implantação de IA inclua treinamento obrigatório e auditorias de segurança para todo o quadro de funcionários, não apenas para os especialistas. Um funcionário de recursos humanos que usa um assistente de IA para filtrar currículos deve entender os vieses e riscos de privacidade, assim como um técnico que treina modelos. Sem essa base, a segurança é um remendo sobre um vazamento de dados. A lei deve cobrir todos os níveis.
O mágico da IA e o resto do rebanho 🎩
A estratégia atual lembra um mágico que ensina seu truque estrela a um único assistente enquanto o público manipula os explosivos sem manual. Confiar que o departamento de TI controle uma IA usada por mil funcionários é como colocar um guarda de segurança na porta de um banco com as portas escancaradas. A piada é que o relatório considera isso um risco aceitável. Só falta colocarem uma placa de proibido colocar os dedos ao lado do servidor.