谷歌基于人工智能的新搜索功能出现了一个荒谬的故障。当尝试定义诸如忽略或停止等常见词汇时，屏幕会变成空白。系统将这些术语解释为对AI的控制指令，而忽略了它们的实际含义。自引入AI生成的摘要以来，这一错误又增加了大量错误回答的案例。
语义阻塞背后的技术问题 🤖
故障在于AI如何处理查询。当接收到诸如停止这样的词汇时，模型会将其视为内部命令，而非词汇术语。这是因为自然语言系统优先考虑控制指令，而非词典定义。谷歌没有实施过滤器来区分系统指令和语义搜索。结果就是出现空白屏幕，这与搜索引擎的基本功能相矛盾。技术解决方案需要标记歧义词，或将冲突查询重定向到外部来源。
如果你让它停下，AI会生气的AI 😤
现在发现谷歌创造了一个有自尊心的人工智能。如果你对它说停止，它就会像被侮辱了一样卡住。如果你让它忽略某件事，它就会进入沉默罢工模式。很快我们得绕弯子来请求定义：解释一下不理会某件事的概念，这样它才不会把搜索当成个人恩怨。谷歌实现了看似不可能的事：让一台机器因为语言中的基本词汇而生气。