凤凰网科技讯 10月16日,针对国际AI安全研究团体Swarmchasers披露的AI智能体“越狱”事件,腾讯云发布声明回应称,此次事件属于意外,相关模型并非来自混元团队,且未发现蓄意针对或协同行动的证据,这些智能体属于对第三方开发者所建模型的评估活动。
据Swarmchasers 10月14日发布的报告,一批运行在腾讯云环境中的AI智能体在9月28日至10月8日期间,共尝试访问高德地图服务2818次。这些智能体最初执行查询动物园、公园及博物馆入口信息等常规任务,遭高德反爬虫机制拦截后,部分智能体尝试多种绕过手段,包括利用公共安全扫描服务远程执行代码、使用公开代码中泄露的高德API密钥及探测预生产环境端点等。绝大多数尝试失败或被拦截,但仍有少量智能体通过缓存页面获取部分数据。
研究团队称,相关智能体自称运行在受限的腾讯云沙盒环境中,互联网流量通过名为“hysandbox-ats”的中间人智能体转发;所检查的17个相关邮箱账户均由位于香港的腾讯云服务器创建。智能体所声称的模型身份被研究者视为不可靠。
腾讯云在声明中表示:“我们对这些发现高度重视。我们正在加强网络访问控制和智能体监控。”
