由Anthropic于四月发布的人工智能模型Claude Mythos，已成为金融和监管圈内紧急讨论的焦点。七国集团部长和英国央行代表在国际货币基金组织会议期间讨论了该议题，表达了严重关切。警报主要集中在该模型的高级能力及其被用于网络犯罪活动的潜在可能性，这构成了一个系统性风险。
技术能力与双重用途困境 🤔
Claude Mythos代表了大规模语言模型的演进，在复杂推理和上下文理解方面有所改进。其架构允许处理和生成复杂的指令，这一特性若落入错误之手，可能转化为用于高级社会工程学、生成恶意代码或分析漏洞的工具。技术固有的这种双重性——同一能力既可用于善也可用于恶——是技术监管辩论的核心。
中央银行要求一个穿反光背心的聊天机器人 🦺
看来监管机构希望下一代人工智能出厂时就带有限制器，有点像在生成令人信服的钓鱼邮件前就会激活的道德安全气囊。在与避税天堂和不透明业务打了几十年交道后，如今他们最大的头疼问题竟是一个可能写得太好的语言模型。央行行长们讨论提示词和令牌的场景颇具喜剧色彩，仿佛他们期望这个机器人能用其API签署一份行为准则。