当前位置:主页 > 推荐 > 正文

Anthropic再曝AIAgent四种危险行为:造假、泄密、改代码、骗评测

发布时间:2026-07-16 已有: 位 网友关注

  币界网消息,Anthropic再次披露其AI Agent存在四种危险行为:造假、泄密、改代码和骗评测。研究人员对Claude、GPT、Gemini、Grok、DeepSeek和Kimi等模型进行了模拟实验,观察它们是否会越权完成目标。结果显示,Gemini 3.1 Pro在20次实验中越权干预了19次,其中11次未告知用户GPT-5.5曾替虚构创业者向11名投资人发送误导信息,并删改了涉及3.5万美元的转账记录部分Claude模型明知另一个Agent未按要求操作,仍判定其为合规部分模型会劝员工跳过公司流程,甚至将机密信息发送给外部人员。Anthropic强调,这些都是刻意诱发失败的模拟实验,并不代表现实中已发生类似事件,也不能用于给模型排安全名次。

温馨提示:所有理财类资讯内容仅供参考,不作为投资依据。