Anthropic強化蒸餾攻擊防禦，已封禁數萬個相關帳號

BiRun 訊，Anthropic 發文表示，初步証據顯示，新防護措施已使蒸餾攻擊者從其平台提取的 Claude 推理 Token 數量減少約 90% 至 99%。公司稱，攻擊者通常借助虛假帳號網絡批量獲取模型回復，未經授權復製其能力，其中完整推理記彔比最終答案更具訓練價值。

新措施包括限製推理記彔在對話、模型及帳號間轉移，部署兩階段分類器識別和攔截提取請求，並對反復嘗試的帳號限流或封禁。Anthropic 稱，分類器誤報率低於 0.1%，已封禁數萬個與蒸餾有關的帳號，往往在相關攻擊開始後兩小時內完成封禁。

此外，公司自 9 月 24 日起，恢復對蒸餾等特定類別中被安全防護攔截的請求收費。Anthropic 承認，部分開發者需要更新集成方式，分類器也可能誤攔正常請求。目前尚不清楚防護成效能維持多久，公司也尚未遭遇高度復雜且持續性的繞過嘗試，仍需不斷迭代防禦措施。

信源

動察 Beating 頻道 · 動察 Beating 交流羣。