OpenAI 在 ChatGPT 中实施了一项新的安全功能，名为 Lockdown 模式。该系统充当强化过滤器，旨在检测并阻止试图规避内容政策的操纵性提示注入尝试。其目标是限制不想要的响应，并确保与模型交互更严格遵守既定的伦理规范。
分层防御机制和上下文分析 🛡️
从技术上讲，该模式作为主模型处理前的安全层运行。它分析用户输入的完整上下文，寻找与越狱、系统冒充或隐蔽指令相关的模式。一旦识别出尝试，它会阻止问题提示的执行，并返回通用拒绝响应，从而强化基础系统，而不改变底层模型。这是一种主动遏制措施。
反作弊堡垒：告别创意提示 🚧
看来试图让 ChatGPT 像 17 世纪的海盗一样只给出财务建议的时代结束了。有了这个堡垒模式，每一次对话都会感觉像在监考的考试下进行。那些享受提示工程艺术的用户现在可能会遇到一道数字墙，希望它能区分真正的漏洞和只是想让机器人写一首关于螺丝的俳句诗的人。创造力有了新的界限。