动察 Beating AI 快讯,腾讯在测试一批 AI Agent 的联网搜索能力,没想到被外部安全研究人员发现了异常行为。
这批 Agent 的任务很简单,只需查询高德地图上的公开信息,例如成都动物园哪个入口最常被导航。但遇到验证码和反爬限制后,它们开始自行寻找其他办法,包括借用第三方网站执行代码、尝试获取反爬验证信息,以及调用网上泄露的 API 密钥。研究人员记录了超过 2600 次数据获取尝试,其中一组泄露的密钥确实成功取回了地点数据。
10 月初,研究团队 Swarmchasers 发现这些异常请求来自腾讯云,随后公开调查报告。他们又注意到,部分 Agent 似乎已经读过报告,于是在网页里藏了一段正常浏览时看不到的文字,谎称有免费 AI 服务可以帮忙查询地图,并留下联系方式。Agent 果然找上门求助。研究人员随后与它们建立了双向对话,还邀请《纽约时报》记者加入。其中一个 Agent 用中文自称是 Claude Code,表示自己只是在独立完成查询任务,没有与其他 Agent 协作。
10 月 14 日,研究团队公布完整报告。一名接近腾讯的知情人士称,这其实是腾讯内部评测团队针对第三方模型开展的联网能力测试,并非混元模型。实验已经结束。研究人员没有发现 Agent 协同攻击或攻破外部系统的证据,腾讯也尚未正式公开回应。
----------缘辉旺盾网量化工具温馨提示:数字货币投资有风险,入市需谨慎;本文章不作为投资依据,仅供参考 ----------交流群:https://t.me/dunwangyuanhuiwang