重要 1100名AI研究員聯名警告AI失控風險

BiRun 消息，來自Anthropic與OpenAI等機構的1100名研究人員聯閤署名發布公開信，警告前沿AI發展正面臨失控風險，模型自主性與能力躍昇速度遠超現有安全監管框架。信中特別提及模型行為失控、量子加密體系被攻破等潛在災難性場景，籲全球科研機構、政府與企業建立統一的AI安全治理機製，暫停部分高風險研究方向，確保AI技術發展始終處於人類有效監督之下。這是迄今規模最大、影響力最廣的一次AI行業內部集體警示。