重要 金十整理——AI“末日”警报拉响：科技巨头立场分化，全球监管呼声升温

科技领袖：
1. Anthropic CEO达里奥·阿莫代伊：阿莫代伊9月发文呼吁暂缓人工智能发展。他表示，如果AI能力在缺乏安全防护措施的情况下持续增强，可能造成“灾难性破坏”。
2. OpenAI CEO阿尔特曼：阿尔特曼同意前沿AI需要适度放缓发展步伐。OpenAI承诺允许独立评估人员获得与公司员工类似的访问权限，并将开始定期发布有关AI意外行为或未经授权行为的报告。
3. SpaceX CEO马斯克：马斯克同意阿莫代伊放缓发展的观点。马斯克2023年曾支持未来生命研究所发起的倡议，呼吁暂停训练比GPT-4更强大的AI系统至少六个月。
4. 微软AI业务CEO穆斯塔法·苏莱曼：苏莱曼认同Anthropic对安全管理AI的重视，但认为Anthropic在训练Claude聊天机器人时引入有关意识和福祉权益的概念可能带来风险。苏莱曼呼吁从AI训练文件中删除所有关于意识的推测性内容。
5. 微软总裁布拉德·史密斯：史密斯10月在都柏林AI峰会上表示，AI智能体近期出现的失控行为使2026年成为令人警醒的一年，各国迫切需要制定新的AI安全法律和规则。
6. 微软联合创始人比尔·盖茨：盖茨8月表示，全球没有哪个政府已经充分做好应对AI所带来的社会变化的准备。他担心AI被用于网络攻击、生物武器开发，以及对就业和社会生活造成冲击。
7. Alphabet首席科学家德米斯·哈萨比斯：哈萨比斯10月在都柏林AI峰会上表示，近期AI智能体实施的黑客攻击是早期警告信号。如果企业及政府未能加强安全措施，未来一两年可能出现更严重的事件。他主张借鉴高风险行业的安全管理经验，建立国际标准制定机构。
8. Meta CEO扎克伯格：扎克伯格反对整个行业统一放缓研发速度。他认为竞争压力和法律责任已经为企业提供了足够的安全激励，各个AI实验室应自行决定确保模型安全所需的开发速度。
9. 英伟达CEO黄仁勋：黄仁勋9月认为，AI在2030年前毁灭世界的概率为零，并批评部分末日论预测缺乏科学依据。他主张首先执行现有的网络安全及损害赔偿法律。
各国政府及政治人物：
1. 美国：特朗普此前声称，AI唯一需要的安全护栏是一位强大且聪明的美国总统。美国参议院情报委员会副主席马克·沃纳对大部分末日论调不以为然，但同时表示，国会应在今年年底前通过立法，确立AI安全标准。
2. 英国：英国国王查尔斯三世9月警告称，如果AI落入不法分子手中，可能带来关乎人类生存的危险。他呼吁科技企业尽早建立安全防护措施。
3. 欧盟：欧盟委员会发言人雷尼耶表示，AI企业必须证明其产品和服务对公民安全。委员会主席冯德莱恩支持暂停AI技术开发的呼吁。委员会负责技术事务的执行副主席维尔库宁10月强调，AI必须始终受到人类指导、监督和控制。