Anthropic 發布新防禦措施，將模型蒸餾攻擊數據竊取量減少 90% 至 99%

據深潮 TechFlow發布，深潮 TechFlow 消息，10 月 13 日，據 Anthropic 官方披露，該公司近期部署了新型防禦機製，使針對其 Claude 模型的蒸餾攻擊數據獲取量減少了 90% 至 99% 。非法蒸餾攻擊主要通過虛假帳戶網絡隱蔽提取前沿模型能力以低成本復製模型，已構成網絡安全與國家安全風險。 為應對攻擊，Anthropic 實施了三項覈心舉措：一是通過“保留思維”（preserved thinking）等機製嚴格限製推理過程的流向與訪問權限；二是引入雙階段分類器系統，攔截率達到類似生物武器防範的安全級別，誤報率低於 0.1% ；三是提高攻擊門檻，封禁數萬個違規帳戶並對被攔截的噁意請求恢復收費。官方數據顯示，新措施使被竊取的推理標記（token）數量減少至原先的十分之一到百分之一以下。Anthropic 籲全行業開發者與雲平台協衕行動，共衕防範模型能力的非法提取。