Anthropic 和 OpenAI 出席了在纽约举行的“信仰-人工智能契约”会议，与锡克教、印度教、犹太教和摩门教领袖就 Claude 的价值观进行了咨询。此举是在此前与15位基督教领袖会面之后进行的。目标是为没有成文规则的情况寻找伦理真理，并认识到人工智能无法独自达成普遍原则。
人工智能在其训练数据之外寻求道德指引 🧭
这种方法承认，语言模型虽然经过大量文本语料库的训练，但缺乏内在的道德指南针。通过整合锡克教或犹太教等传统的视角，旨在为前所未有的困境创建一个参考框架。这一过程涉及将神学概念转化为算法约束，这是一个复杂的步骤，需要将诸如 dharma 或 tzedaká 等术语定义到代码中。
当你的AI助手引用古鲁而非维基百科时 🤖
现在，如果你向 Claude 询问一个伦理困境，它可能会用一个锡克教寓言而不是用户手册来回答你。想象一下，你向它请教如何不吃最后一块披萨，它却跟你谈业力。至少，当它出错时，可以把责任推给一个摩门教徒或印度教徒。人工智能变得跨宗教了，而这一切都是因为它不懂得及时说“不”。