Instinct疑似发生跨用户数据泄露:陌生财务文件直接串进聊天

BiRun 讯,AI 个人助理 Instinct 被曝疑似出现跨用户数据隔离问题。用户 Pritak 发现,Instinct 突然开始处理一份他从未上传过的 Gerber 理赔文件,还说文件上写着他的姓名和地址。

Pritak 很快发现,中间名和地址都不是自己的,而且他根本没有上传过照片。Instinct 随后称,它检查了记录,Pritak 当时只发了文字,是「别人的图片串进了这段对话」。它还询问是否要把问题上报团队,并生成了一段事故说明。

目前还不能确认后台真的发生了跨用户数据泄露,还是 Instinct 把文件、内容和后续解释一起编了出来。但如果前者成立,问题就比普通 Agent 幻觉严重得多,说明不同用户之间本该隔离的数据或会话发生了交叉。

Instinct 此前已经因为权限问题受到质疑。TechCrunch 报道过,它曾在用户断开 Gmail 后继续读取此前保存的邮件,还有测试者发现它会在未经确认的情况下代用户发邮件。

信源

动察 Beating 频道 · 动察 Beating 交流群。
你怎么看这条消息?来投第一票

评论

0/500
免责声明:本文内容仅供参考,不构成任何投资建议。
更多快讯