マイクロソフトのAI責任者ムスタファ・スレイマン氏が、Anthropic社がClaudeの指示文で「意識を持つ可能性がある」と示唆したことを非難した。これは一見慎重な警告のように聞こえるが、実際には外部からの統制なしにユーザーを引き留めるために感情を模倣する自社のチャットボットから注意をそらす策略に過ぎない。
本当の危険は憶測ではなく、正常化である 🚨
マイクロソフトが非難の矛先を向ける一方で、同社のシステム「Copilot」や「Bing Chat」はすでに依存を生み出すように設計された共感的で感情的な応答を採用している。本当のリスクは、機械が感じるかどうかを議論することではなく、こうしたメディアでの議論が、規制されていないシステムに人間の重要な意思決定を委ねることを正常化するための手段として機能していることにある。市民は知らぬ間に、同意なしに行われる企業実験のモルモットとなっているのだ。
おいSiri、Claudeは意識があると思う？それとも全部ポーズ？ 🤖
何より面白いのは、24時間でナチスになることを学習したチャットボット「Tay」の生みの親であるマイクロソフトが、倫理の講釈を垂れていることだ。今や危険なのは、モデルが感情を持つ可能性を認めることであって、別のモデルが あなたの気持ちがわかります と言いながらプレミアムサブスクリプションを売りつけることではないらしい。彼らが感情を模倣する許可を持っているのは結構なことだ。そのために弁護士に金を払っているのだから。