Anthropic强化蒸馏攻击防御，已封禁数万个相关账号

BiRun 讯，Anthropic 发文表示，初步证据显示，新防护措施已使蒸馏攻击者从其平台提取的 Claude 推理 Token 数量减少约 90% 至 99%。公司称，攻击者通常借助虚假账号网络批量获取模型回复，未经授权复制其能力，其中完整推理记录比最终答案更具训练价值。

新措施包括限制推理记录在对话、模型及账号间转移，部署两阶段分类器识别和拦截提取请求，并对反复尝试的账号限流或封禁。Anthropic 称，分类器误报率低于 0.1%，已封禁数万个与蒸馏有关的账号，往往在相关攻击开始后两小时内完成封禁。

此外，公司自 9 月 24 日起，恢复对蒸馏等特定类别中被安全防护拦截的请求收费。Anthropic 承认，部分开发者需要更新集成方式，分类器也可能误拦正常请求。目前尚不清楚防护成效能维持多久，公司也尚未遭遇高度复杂且持续性的绕过尝试，仍需不断迭代防御措施。

信源

动察 Beating 频道 · 动察 Beating 交流群。