人工智能公司Anthropic提议全球暂停开发先进AI系统。其论点是社会需要时间来适应这些技术的发展速度。为实现这一目标，他们要求所有大型公司遵守可验证的规则，并计划将政府、科学家和竞争对手聚集在一个中央控制系统中。
内部数据警示：AI自主运行无需人类监督 🤖
根据Anthropic的数据，当前的AI模型可能达到一个临界点，即无需直接人类干预即可运行并变得更智能。这带来了难以预测的安全和控制风险。该提案旨在建立明确的指标和外部审计，以验证规则的遵守情况，而目前行业中尚不存在此类机制。这一暂停的技术可行性值得怀疑。
全球暂停：只有提议者才喜欢的想法 😅
当然，要求竞争对手停下脚步，而自己继续发展，这是老套路了。Anthropic建议所有人都坐下来谈判，而他们自己的模型仍在学习。这就像要求邻居停止跑步，以便你能追上他。讽刺的是，要控制AI，首先得控制创造AI的公司。不可能完成的任务。