OpenAI a implémenté une nouvelle fonction de sécurité appelée Mode Lockdown dans ChatGPT. Ce système agit comme un filtre renforcé, conçu pour détecter et bloquer les tentatives d'injection de prompts manipulés visant à contourner les politiques de contenu. Son objectif est de restreindre les réponses indésirables et d'assurer un meilleur respect des normes éthiques établies pour l'interaction avec le modèle.
Mécanismes de défense en couches et analyse contextuelle 🛡️
Techniquement, le mode opère comme une couche de sécurité avant le traitement du modèle principal. Il analyse le contexte complet de l'entrée de l'utilisateur, à la recherche de motifs associés à des jailbreaks, à l'usurpation de système ou à des instructions dissimulées. En identifiant une tentative, il bloque l'exécution du prompt problématique et renvoie une réponse générique de rejet, renforçant le système de base sans altérer le modèle sous-jacent. C'est une containment proactive.
Le bunker anti-tricheurs : adieu aux prompts créatifs 🚧
On dirait que l'époque où l'on essayait de faire parler ChatGPT comme un pirate du XVIIe siècle qui ne donne que des conseils financiers est terminée. Avec ce mode bunker, chaque conversation ressemblera à un examen surveillé. Les utilisateurs qui appréciaient l'art de l'ingénierie de prompts pourraient se heurter à un mur digital qui, espérons-le, distinguera entre une vraie vulnérabilité et quelqu'un qui essaie simplement de faire écrire au bot un poème haiku sur des vis. La créativité a de nouvelles limites.