Anthropic 一直对 Mythos 保密，这是一种具有前所未有能力、能够利用计算机漏洞的人工智能模型。它规避安全系统的能力引发了激烈的辩论：这是对全球网络安全的真正威胁，还是加强我们防御的独特机会。当头条新闻警告自动化网络攻击的风险时，技术社区正在分析其作为道德渗透工具的潜力。
风险与防御架构：自动化攻击向量 🔐
Mythos 的有效性在于它能够实时处理和关联数千个攻击向量，识别出人类团队需要数周才能发现的利用链。从技术角度来看，这使该人工智能成为一把双刃剑。一方面，恶意行为者可以利用它自主破坏关键基础设施，如电网或金融系统。另一方面，防御性网络安全团队可以使用相同的引擎进行大规模渗透测试，在漏洞被利用之前绘制系统中的弱点。关键在于对其 API 访问的控制以及隔离其攻击能力的沙箱的实施。
监管还是创新：绝对控制的幻象 ⚖️
Mythos 案例暴露了当前监管框架在面对双重用途人工智能时的脆弱性。Anthropic 限制公众访问的决定是一个补丁，而不是解决方案。技术社区在呼吁暂停开发这些能力的人和主张在控制下发布以推进研究的人之间分裂。道德困境显而易见：禁止 Mythos 并不能消除风险，只会将其转移到法律之外的行为者身上。真正的机会在于设计透明的审计协议和国际标准，以便利用其防御潜力，同时不打开数字混乱的大门。
如果像 Mythos 这样的人工智能能够比任何人类更好地进行黑客攻击，技术社区是否应该优先开发基于人工智能的防御措施，还是实施限制其自主学习能力的法规。
(附注：斯特赖桑德效应在起作用：你越禁止它，它就越被使用，就像 'microslop' 一样)