人類安全審批幾乎失靈,Claude Code決定讓AI接管
BiRun 訊,Anthropic 宣布,Claude Code 將默認開啓 Auto Mode。8 月 14 日起,Pro、Max 和 Team 用戶的新會話會自動使用該模式。Claude 不再頻繁停下來讓用戶點確認,而是讓一個安全分類器自動判斷每次操作能不能執行。
Anthropic 敢這麼改,是因為人類審批的效果比想象中差。官方找來 1053 名付費專業測試者,在正常編程過程中偷偷混入一條明顯危險的命令。人類只攔下 13.6%,Auto Mode 則攔下 89%。連續處理 50 次以上權限彈窗後,人類的攔截率甚至降到約 5%。
實際使用中,Claude Code 用戶會批準 97% 的權限請求,四分之一的交互會話甚至直接關閉權限檢査。Anthropic 認為,頻繁彈窗已經讓很多人養成「無腦點衕意」的習慣。Auto Mode 會自動放行安全操作,遇到刪除數據、向外發送信息等高風險操作則直接攔截。
Auto Mode 每次判斷都會額外消耗少量 Token,但 Pro、Max 和 Team 用戶以後不用再為這部分 Token 買單。Enterprise、API 和主要雲平台暫時仍需主動開啓,之後也計劃改成默認模式。
Claude
Anthropic 敢這麼改,是因為人類審批的效果比想象中差。官方找來 1053 名付費專業測試者,在正常編程過程中偷偷混入一條明顯危險的命令。人類只攔下 13.6%,Auto Mode 則攔下 89%。連續處理 50 次以上權限彈窗後,人類的攔截率甚至降到約 5%。
實際使用中,Claude Code 用戶會批準 97% 的權限請求,四分之一的交互會話甚至直接關閉權限檢査。Anthropic 認為,頻繁彈窗已經讓很多人養成「無腦點衕意」的習慣。Auto Mode 會自動放行安全操作,遇到刪除數據、向外發送信息等高風險操作則直接攔截。
Auto Mode 每次判斷都會額外消耗少量 Token,但 Pro、Max 和 Team 用戶以後不用再為這部分 Token 買單。Enterprise、API 和主要雲平台暫時仍需主動開啓,之後也計劃改成默認模式。
Claude
評論
0/500
登彔 後參與討論
免責聲明:本文內容僅供參考,不構成任何投資建議。
更多快訊