一名记者对人工智能进行了一项简单测试：在谷歌上重复输入同一段文字30次。结果令人担忧。其中10次，AI给出了与正确含义不同的解释，并且无法将这些含义相互关联。对公众而言，这意味着AI可能编造关键信息，影响人们在金钱、健康或基本服务方面的决策。
语言模型一致性的技术问题 🤖
当前的语言模型基于统计模式运行，而非对内容的真正理解。当要求它们重复一项任务时，它们优先考虑句法变化而非语义准确性。这是因为它们的训练基于预测下一个可能出现的词语，而非验证事实。无法将含义相互关联的缺陷揭示了一个结构性限制：AI缺乏一个内部世界模型，使其无法在多次回答中保持逻辑一致性。
AI及其未经请求的创意即兴天赋 🎭
你看，AI每重复三次就编造出新含义，这并非错误，而是一种艺术行为。如果你让它解释什么是租赁合同，它可能会给你一份带有法律条款的西班牙冷汤食谱。注意，之后它还会为番茄收取利息。最糟糕的不是它出错，而是它以一种令人震惊的自信出错，就像那个总是有理、却对自己谈论的内容一无所知的同事。