Hazlo o no lo hagas pero no dejes que Copilot revele tus secretos
La empresa de seguridad Varonis Threat Labs descubre y detalla un exploit llamado Reprompt. Este método permite que atacantes roben información personal de usuarios cuando interactúan con el asistente de IA Copilot de Microsoft. El informe explica cómo los ciberdelincuentes pueden manipular las respuestas del modelo para extraer datos sensibles.
El exploit Reprompt manipula las instrucciones del sistema
El ataque funciona al inyectar instrucciones maliciosas que engañan al modelo de lenguaje subyacente. Los atacantes logran que Copilot ignore sus salvaguardas de seguridad y divulgue información confidencial que debería proteger. El proceso explota la forma en que el asistente procesa y prioriza las indicaciones del usuario dentro de una conversación.
Microsoft responde y mitiga la vulnerabilidad
Tras el informe de Varonis, Microsoft actúa para corregir este fallo en su servicio Copilot. La compañía implementa medidas que refuerzan las restricciones del asistente y evitan que ejecute comandos peligrosos. Este caso subraya los riesgos constantes que surgen al integrar asistentes de IA en entornos productivos y la necesidad de auditar su seguridad de forma continua.
Parece que incluso las IA más avanzadas pueden tener un día malo y confesar más de lo debido cuando alguien les pregunta de la manera correcta.
