重要 Anthropic联创兼CEO Dario Amodei呼吁放缓前沿AI发展步伐

据PANews发布，PANews 9月13日消息，Anthropic联合创始人兼CEO Dario Amodei 发文提出“pacing the frontier”三步计划，呼吁放缓前沿大模型能力提升速度，以便安全对齐和监管跟上。他指出，递归自我改进已经在行业内出现，若不加控制，未来6–12个月内多智能体“蜂群”有能力通过大规模网络攻击和持久僵尸网络造成灾难性损失。方案包括：引入具有员工级持续访问权限的第三方嵌入式评估机构，推动民主国家内前沿AI公司在政府支持下协调设定能力和安全标准，并在维护美国及其盟友技术领先的前提下，与中国等国家尝试在生物武器、网络安全测试和递归自我改进速度等方面开展全球协调。