AnthropicとOpenAIはニューヨークで開催されたFaith-AI Covenantに参加し、シーク教徒、ヒンドゥー教徒、ユダヤ教徒、モルモン教徒の指導者たちとClaudeの価値観について協議しました。この動きは、以前15人のキリスト教指導者との会合に続くものです。目標は、書かれたルールのない状況に対する倫理的真理を見出すことであり、AIだけでは普遍的原則に到達できないことを認識しています。
AIは学習データを超えた道徳的指針を求める 🧭
このアプローチは、膨大なテキストコーパスで訓練された言語モデルには、内在的な道徳的羅針盤が欠けていることを認識しています。シーク教やユダヤ教などの伝統の視点を取り入れることで、前例のないジレンマに対する参照枠組みの構築を目指しています。このプロセスには、神学的概念をアルゴリズム上の制約に変換することが含まれ、ダルマやツェダカーといった用語をコードで定義するという複雑なステップが必要です。
あなたのAIアシスタントがWikipediaではなく導師を引用する時 🤖
今や、Claudeに倫理的ジレンマについて質問すると、ユーザーマニュアルではなくシーク教の寓話で答えるかもしれません。ピザの最後の一切れを食べないようにアドバイスを求めて、カルマについて語られることを想像してみてください。少なくとも、失敗したときはモルモン教徒かヒンドゥー教徒のせいにできるでしょう。人工知能は宗教間対話を取り入れるようになりました。そして、それはすべて、適切なタイミングで「ノー」と言えなかったからです。