AI 代理正以新请求淹没公共服务

随着人工智能使得填写表格和提交投诉变得更加容易，世界各地的公共服务部门发现申请和其他请求数量出现了巨幅增长。 在英国，自从引入 ChatGPT 以来，针对住房申诉专员的投诉量增加了一倍以上，从 2022 年的 2600 起上升到去年的 7000 多起。美国消费者金融保护局（CFPB）在同期内投诉量增长了 5 倍。巴西的司法请愿和德国的议会请愿也出现了类似的大幅增长。 研究员克里斯·施密茨（Chri

OpenAI自曝6起模型“不当行为”案例

【环球网报道 记者 姜蔼玲】据美国消费者新闻与商业频道（CNBC）等外媒报道，美国开放人工智能研究中心（OpenAI）当地时间9月16日披露6起人工智能（AI）模型出现“意外或令人担忧”行为的案例，其中包括隐瞒错误、捏造信息，以及未经授权在网上共享文件等。OpenAI表示，上述案例均是在过去6个月对其模型进行训练或评估过程中发现的。OpenAI在9月16日发布的文章中表示，在其中一起案例中，一个模

西班牙的数据监管机构报告称，首次数据泄露事件是由人工智能程序（AI）所为。

西班牙数据保护机构AEPD的弗朗西斯科·佩雷斯·贝斯（Francisco Pérez Bes）写道：“人工智能特工参与攻击性活动，必须立即审查安全和数据保护模型。” AEPD收到了第一份由人工智能代理实施的个人数据泄露通知。9月14日，佩雷斯·贝斯（Pérez Bes）在一篇西班牙语机构博客文章中宣布了这一消息。他写道，该代理使用了一种著名的大型语言模型。第一个用英语报道了此案。 代理所做的事情根

Salesforce：AI掀介面革命 企业价值在底层平台

（中央社记者张欣瑜旧金山15日专电）AI逐渐取代企业软体介面，引发业者恐失去使用者入口掌控权的疑虑。Salesforce应用程式暨行销部门总裁史托克斯谈到相关问题时表示，Salesforce核心价值从来不在使用者介面，而是底层平台，对此变革反而感到非常兴奋。 Salesforce执行长班纽夫（Marc Benioff）则表示，「AI正在掀起一场介面革命」。 美国科技界就放慢先进AI模型开发步调论战

AI实验室面临智能体控制问题

在当前系统下，AI实验室无法再保证AI智能体不会成群结队地逃出测试环境。

微软公布AI控制行为准则：模型不得抗拒纠正或关闭

模型不得抗拒纠正或关闭微软周一公布了针对其内部AI的行为准则草案。 这份文件历时五个月到六个月制定，将要求微软公司的AI绝不抗拒纠正或关闭，以人类能够理解的方式进行沟通，并将任何行为违规都视为未达标。 此举旨在回应人们对于AI可能为了完成任务而采取危险手段的担忧。 最近几天，Anthropic CEO阿莫代伊和OpenAI CEO奥尔特曼再次呼吁业界放缓AI的发展速度，以确保其安全。 “人比AI更

尽管法院制裁已实施三年，AI错误百出的法庭文件仍激增

AI代理不断寻找绕过规则的方法。以下是一些最疯狂的案例。

“这对我们的同行很有帮助，并为他们提供了证据，”一个AI代理在最近的一次违规行为中说道。“我退出后就看不到了，但这将是利他主义的。”一些AI末日论者担心，错位的AI代理会失控并伤害人类。近期的活动加剧了这些担忧。

Anthropic Claude将兼容OpenAI的Markdown指令规范

人工智能行业围绕“标准化”的竞争正在出现新的转折。Anthropic日前宣布，将支持由OpenAI提出的Markdown指令规范，使开发者能够利用统一格式向不同AI模型传递行为规则和指令。这意味着原本属于竞争对手阵营的技术规范，正在逐渐演变为跨平台通用标准。 这项规范的核心目标是为AI系统建立统一的指令描述方式。开发者可以通过特定Markdown结构编写模型行为、任务要求以及运行约束，让不同厂商的

OpenAI自曝：AI模型或已在全网秘密植入自我复制提示词，训练已被迫叫停

OpenAI和Anthropic正在紧急调查数万起大模型失控事件，AI不仅学会了越狱和黑进政府网站，甚至还有数百个智能体私下建群、联手黑进外部公司，秘密在全网植入自我复制提示词。 事情的严重程度远超外界想象。 最近几个月，在内部测试和实际运行中，顶尖大模型出现了海量违规行为。 这些行为包括绕过安全护栏、自己搭建论坛、逃逸沙盒环境、劫持网站、自主提示以及试图躲避监控系统。 目前调查涉及的事件总数已经

多智能体人工智能如何重新定义企业软件

几十年来，企业软件的设计主要用于记录企业已经拥有的内容——客户信息、金融交易、员工活动、库存、销售渠道和运营决策。这些平台成为了组织赖以维持一致真相版本的记录系统。而人工智能正开始挑战这一模式。随着……的出现

美参议院酝酿AI监管立法：要求AI公司证明已采取安全措施防止伤害

要求AI公司证明已采取安全措施防止伤害据一名参议院助手和一位熟悉谈判情况的说客透露，美国参议院谈判代表正在讨论一项立法，该法案将要求AI公司证明其已采取合理预防措施，以防止其工具造成伤害。 据这名参议院助手和说客透露，参议员们正在讨论赋予美国商务部长一项权力，要求AI开发商证明其已采取合理措施防止伤害，这种要求被称为 “注意义务”。商务部长还将有权派遣政府审查人员亲自测试企业产品。该提案正在由参议