在 Tumbler Ridge 学校枪击事件数月前，嫌疑人 Jesse Van Rootselaar 在 OpenAI 内部引发了警报。多位员工认为他对 ChatGPT 发送的暴力信息是真实的前兆，并敦促联系当局。公司领导决定不这样做，仅封锁了他的账户。随后发生的悲剧造成九人死亡，暴露了这一决定的错误。
AI 审核系统的技术与伦理困境 🤖
此案暴露了对话式 AI 安全协议的局限性。OpenAI 的系统有效地检测到暴力内容并生成内部警报。故障发生在下一步：人类的解释和行动。公司优先考虑隐私政策和非迫在眉睫的风险评估，而不是涉及外部安全力量的预防协议。
AI 说 危险，人类回应 内容审核 ⚖️
这是典型的拥有所有拼图碎片却决定它们不合适的情况。机器完成了它的工作，基层员工也完成了他们的工作。但到了复杂决策部门，有人一定认为因一个用户的对话而报警太过分。他们选择了数字封锁，这是一种干净却对真实子弹无效的解决方案。一堂关于推卸责任的 masterclass。