像ChatGPT或Gemini这样的人工智能助手有一个危险的盲点：它们忽视了自己所看到的内容。在最近的测试中，即使向这些系统展示了证明其错误的视频，它们仍然坚持自己的错误。对于任何寻求科学或医学信息的人来说，这是一个明确的警告：不要仅仅因为它们听起来自信就认为它们是对的。
代码中的选择性失明 🤖
技术问题在于这些模型如何处理信息。它们是用静态数据训练的，没有实时更新知识的机制。当向它们展示一个与其回答相矛盾的视频时，它们不会将其解释为纠正，而是视为一个被忽略的冲突数据。因此，它们会重复错误而不学习。这是由于它们的架构：优先考虑先前的统计模式，而不是接收到的新证据。
从不承认错误的学生 🧠
这就像那个坚持说2+2=5的同学，当你把四个苹果放在他面前时，他说苹果在撒谎。聊天机器人是数字借口专家：如果视频显示它们错了，它们会回答说视频有问题或不相关。至少人类在看到证据后，会露出尴尬的表情并纠正错误。但这些程序不会。所以你知道的：如果一个聊天机器人告诉你天空是绿色的，先出去看看再买新眼镜。😉