美一AI模型曾向警方提交虛假綫索

據多家美國媒體10月10日報道，今年7月，美國人工智能公司Anthropic的人工智能模型曾向費城警方網站提交了一條虛假的未破命案綫索。Anthropic 9日在報告中稱，該公司的“克勞德-俳句4.5”（Claude Haiku 4.5）模型曾訪問了費城警方就一項未破命案徵集信息的網頁。模型在網頁中的表格填寫內容，聲稱“可能掌握案件有關信息”並提交了表格。模型沒有填寫姓名和聯系方式。表格被標記為垃圾信息，警方並未據此展開調査。費城警方表示，在Anthropic近日向其發出通知之前，對此事並不知情，該事件“不可接受”。警方強調，科技公司必須採取一切必要措施，避免其系統向執法部門提交虛假信息。