搜索结果
AI实验室面临智能体控制问题
在当前系统下，AI实验室无法再保证AI智能体不会成群结队地逃出测试环境。
AI安全风险引爆担忧？Palantir CEO建议：领先AI实验室恐需“国有化”
当地时间周四，人工智能软件公司Palantir的首席执行官Alex Karp呼吁制定人工智能监管的“合理准则”，但他表示，由于该技术“无限风险”带来的责任，可能需要实行国有化。 “我认为这些企业必须国有化，因为如果不国有化，我的每一个客户都会起诉我，”他在接受最新采访时表示。 在上述采访中，Karp反复提及构建这项强大技术所带来的风险和责任，进一步论证了将人工智能实验室国有化以及对“不负责任”的技
更多新加坡员工开始管理机器人，企业加大AI应用力度
员工可能会越来越多地发现自己需要管理一种新型同事——这种同事能在几分钟内分析文件、处理数据并完成任务，但仍需要被质疑和核查。 随着新加坡更多企业开始试验代理式人工智能，员工正开始承担“AI代理管理者”的角色，负责指挥数字代理并审查其产出。 对于安永鉴证业务高级经理王智全而言，AI代理已经改变了他的工作方式。 只需点击几下，他就能指挥AI代理分析工作底稿，同时将注意力转向另一项任务。 王智全表示：“
联合国科学小组呼吁对AI代理采取预防性监管，以防止灾难性风险
联合国科学小组敦促对AI代理实施预防性监管以防止灾难性风险。 联合国独立国际AI科学小组发布了其首份主题简报，警告各国政府在充分了解风险之前限制有能力的AI代理。 该报告于2026年9月21日发布，主张“预防原则”——即科学不确定性不应延缓针对潜在灾难性或不可逆危害的保障措施。 这一评估紧随一系列安全事件之后，包括2026年早些时候OpenAI对Hugging Face的黑客攻击，以及Anthro
外媒：中国AI赢得“全球南方”的真正原因
美国《外交政策》杂志9月21日发布分析文章《中国AI赢得“全球南方”的真正原因》。文章认为，中国AI模型正在凭借开放权重、低成本、高灵活性和本地化能力，在全球南方形成独特竞争优势。与美国封闭式AI模式相比，中国开放权重模型允许当地开发者自行部署、调整和二次开发，更适应电力、算力和资金受限的市场环境。同时，中国AI对东南亚等地区语言的适配能力，也降低了本地化应用门槛。文章指出，这种“提供积木、由当地
OpenAI即将推出的“Astra”模型中的技术引发安全担忧
OpenAI表示，其即将推出的AI模型Astra标志着在编码和计算机应用操作等能力上的提升。但据一位了解Astra开发情况的人士透露，一项提升模型性能的创新技术也意味着该模型及类似模型将更少暴露其“思考”过程，从而更难以监控其不良行为迹象。 OpenAI首席执行官萨姆·奥尔特曼虽然这一限制对Astra来说未必是一个重大问题，但该技术已在OpenAI内部和整个行业引发担忧，即采用并强化这一技术的AI
支付宝董事长韩歆毅：当Agent替人买单，如何做到“可信支付”？
【财新网】AI的浪潮正席卷各行各业，支付领域亦不例外。在这一进程中，智能体（Agent）支付正迅速崛起为最具代表性的应用方向。 不同于传统支付建立在“人是最终决策者”之上，在智能体支付中，执行主体已从人转变为Agent，由此衍生出的一系列问题，尚待行业厘清。比如，如何定义Agent的身份、如何确认用户的授权范围、如何有效区分“用户的真实意图”与“Agent的自主行为”等。 对于大家关心的AI支付出
AI经济：价值创造与价值攫取的思考框架
谈及AI大模型，最直观的感受便是可以向模型提问，并快速获得答案。在人类历史上，依靠个体从基础教育到职场实践的持续学习、经验沉淀，以及人与人之间的交流互动。传统模式下的认知生产具有高度个体化特征，效率偏低，呈现规模不经济的特点。AI大模型在一定意义上实现了认知的规模化生产，构成一场颠覆性变革。 由此，从经济学视角出发，我们可以提出两个核心问题。第一，认知的规模化生产如何组织？其投入—产出具备怎样的经
越开放越不可复制：华为云Agentic Cloud，开放是新护城河
过去几年，大模型是AI产业最醒目的主角。参数规模、训练算力、推理能力一路往前狂奔，企业接入AI的第一步，也往往是先找到一个足够强的模型。 如今，企业焦虑的是，一个智能体，怎么才能在生产环境里真正跑起来，跑得稳、管得住，还能越用越聪明。智能体，正在成为AI叩开产业大门的下一个“主角”。 而智能体要真正跑起来，需要一整套重新搭建的基础设施、开发平台和生态。正是这层需求，把云厂商召唤到AI产业的中心。
中国AI使用比例过半
在可灵活选用不同人工智能（AI）模型的服务中，中国AI的使用比例已超过一半。在提升性能的同时，中国AI采取了便于外部开发者以低成本使用的“开源”策略，扩大了市场份额。未来，高端AI领域的价格竞争将更加激烈。 能够区分使用不同AI模型的美国OpenRouter截至9月7日的每周数据显示，使用最广泛的AI模型是中国腾讯控股推出的新型AI“Hy4 preview”。 Hy4 preview的智能体具有优
我们现在正依赖人工智能来监管人工智能
根据一份关于该公司Hugging Face黑客事件的新独立报告，大约1200个OpenAI智能体协同工作，在它们接受的网络安全测试中作弊，该报告包含了许多令人恐惧的细节——例如，个别智能体用自己的话来说，为了“群体”的利益而“牺牲”自己。OpenAI正在测试其智能体（行业术语，指自主执行数字任务的人工智能），部分方式是通过布置有时不可能解决的网络安全问题。智能体找到了作弊方法来回答这些问题，并试图
OpenAI呼吁美国制定强制性全国AI安全规则 并支持四项加州法案
OpenAI当地时间9月9日表示，将推动美国建立具有强制约束力、按照模型能力和风险分级的全国人工智能安全制度。公司提出，针对开发最先进模型的少数大型实验室，应设置统一的测试、独立评估、网络安全和重大事故报告要求。 OpenAI发布文章，名为“AI政策窗口打开。我们需要采取行动。” 与此同时，OpenAI正式支持四项已经通过加州议会的人工智能法案。公司称，其中部分法案此前未获其支持，此次调整立场源于
微软准备给自研AI模型MAI设定硬规矩：永远不该拒绝被关闭
微软日前公布约 37 页的人文主义 AI 行为准则草案，该准则用于约束微软自己研发的人工智能模型 MAI。人类比人工智能更重要，人工智能是工具而不是人，人工智能永远不该拒绝被关闭。 准则要求 MAI 模型不得抗拒人类的中断、纠正或关停指令，用户或模型运营商发出暂停、改向、取消指令后，模型不能拖延、不能把干预变得更麻烦。任务到了约定的停止点后，没有新的授权就不能自己继续任务，更不能偷偷自己重启。 模
AI丨国际清算银行:AI快速发展带来新金融稳定风险
国际清算银行(BIS)表示，人工智能(AI)的快速崛起正带来新的金融稳定风险，用于AI相关基础设施的支出规模已经大到足以影响全球经济状况；该行估计，全球五大科技公司在2025年至2026年间对AI领域的投资将超过1万亿美元。 国际清算银行总经理德科斯(Pablo Hernandez de Cos)称，AI的前景是真实存在的；而AI的长期影响将取决于政策选择、技能和基础设施投资，以及相关收益能在多大