Anthropic社が4月に発表した人工知能モデル「Claude Mythos」は、金融界や規制当局の間で緊急の議論の的となっている。G7の大臣やイングランド銀行の代表者は、IMF会合の場でこの問題を取り上げ、深刻な懸念を表明した。懸念の焦点は、このモデルの高度な能力と、サイバー犯罪活動への悪用可能性にあり、システミック・リスクを表している。
技術的能力とデュアルユースのジレンマ 🤔
Claude Mythosは、複雑な推論と文脈理解の向上により、大規模言語モデルの進化を体現している。そのアーキテクチャは洗練された指示の処理と生成を可能にしており、この特性は、悪意ある者の手に渡れば、高度なソーシャルエンジニアリング、悪意あるコードの生成、または脆弱性分析のツールへと変換され得る。同じ能力が善にも悪にも使えるという、技術に内在するこの二面性が、技術と規制の議論の核心である。
中央銀行が求める反射板付きチャットボット 🦺
規制当局は、次世代のAIには工場出荷時の制限装置、つまり説得力のあるフィッシングメールを生成する前に作動する倫理的なエアバッグのようなものを搭載してほしいようだ。数十年にわたりタックスヘイブンや不透明な取引に対処してきた後、今や彼らの最大の頭痛の種は、文章を「書きすぎる」ほど上手に書けてしまう可能性のある言語モデルだ。中央銀行家たちがプロンプトやトークンについて議論する様子にはどこか滑稽な点があり、まるでAIボットがAPIを通じて行動規範に署名することを期待しているかのようだ。