搜索结果
伯纳姆寻求在促进人工智能与监管之间找到“最佳平衡点”
安迪·伯纳姆表示，英国将在鼓励人工智能（AI）的发展与确保其安全使用之间找到平衡点。这位英国首相正准备与美国总统唐纳德·特朗普会面。 伯纳姆将在联合国大会期间与特朗普进行首次面对面会谈，他希望推动两国在AI领域加强合作，共同将这项技术“用于造福人类”。陪同他前往纽约的记者们听到，伯纳姆表达了这一愿景。 近日，多家科技公司员工公开发声，引发了人们对AI可能带来的威胁的担忧。上周，英国国王查尔斯三世会
进入AGI时代：新一轮的AI革命
9月初，OpenAI发布新一代模型GPT-6 Astra，将其称为“世界上最智能、最对齐的模型”。这不是一次寻常的版本迭代。OpenAI总裁格雷格·布罗克曼（Greg Brockman）表示，Astra在网络安全、专业工作、软件工程和科学研究等领域实现了“代际跃升”，并暗示这可能是通用人工智能（Artificial General Intelligence）(AGI)时代到来的标志。硅谷的措辞历来
牛津大学与OpenAI合作，利用博德利图书馆藏书训练AI模型
牛津大学与OpenAI合作，利用博德利图书馆的文本训练AI模型。 牛津大学已允许OpenAI使用博德利图书馆的历史文本训练其AI模型。 该合作于2025年3月建立，涉及对版权过期材料的数字化处理，包括19世纪和20世纪的论文以及16世纪的民谣。 尽管牛津大学声称规模适度且旨在提高可及性，但内部文件显示员工对声誉风险和环境影响存在担忧。 OpenAI正在将这些学术收藏用于其“NextGenAI”项目
谷歌人工智能天气模型的更新提高了预报准确性
谷歌是人工智能（即机器学习）天气预报模型领域的主要参与者之一。它和其他机构生成的模型各有优缺点，但最大的优势在于它们能够实现与传统模型相似的预报性能，同时运行所需的计算能力却要少得多。这意味着它们的运行频率可以更高。 谷歌最近发布了 WeatherNext 模型的第三版，其最大的变化是现在能够摄取部分卫星天气数据，从而缩短了当前天气状况与生成新预报之间的滞后时间。该更新在一份白皮书中进行了详细说明
微软准备给自研AI模型MAI设定硬规矩：永远不该拒绝被关闭
微软日前公布约 37 页的人文主义 AI 行为准则草案，该准则用于约束微软自己研发的人工智能模型 MAI。人类比人工智能更重要，人工智能是工具而不是人，人工智能永远不该拒绝被关闭。 准则要求 MAI 模型不得抗拒人类的中断、纠正或关停指令，用户或模型运营商发出暂停、改向、取消指令后，模型不能拖延、不能把干预变得更麻烦。任务到了约定的停止点后，没有新的授权就不能自己继续任务，更不能偷偷自己重启。 模
Microsoft Fabric 进入美国政府云，10月起正式可用
微软已在政府社区云高安全级别（Government Community Cloud High）上以公共预览形式推出其 Fabric 数据平台，并计划于 10 月 1 日正式全面可用，主要面向代理式 AI 工作负载。 欧洲没有同等认证级别的云服务，因为其云认证计划自 2020 年以来一直停滞不前，并在 2024 年失去了主权要求。微软已推出其 Fabric 数据[…]
亚马逊将向北约提供安全云计算服务
这项新计划允许所有盟国处理北约限制级别的材料，这是该联盟最低的机密级别。
OpenAI支持英国具有约束力的AI规则，议员们呼吁设立监管机构
一个跨党派的议员委员会希望英国制定专门的人工智能法律，并设立一个拥有执法权力的单一监管机构。同一天，OpenAI表示将支持对少数几家开发最强大人工智能的公司制定具有约束力的英国规则。这包括OpenAI自身。 汤姆·达夫·戈登是OpenAI欧洲、中东和非洲地区政策主管。他告诉Politico的约瑟夫·班布里奇：“英国现在应该采取行动，建立一套更强有力安全规则。”据Politico报道，这是OpenA
英国政府誓言从外包巨头手中收回服务
英国政府正在组建一个新的部门，并承诺这将“带来一代人以来规模最大的内包浪潮”。长期以来，政府外包因性价比和服务质量问题饱受诟病，其中技术密集型业务流程合同更是受到严格审查。政府表示，这个设在首相府和内阁办公厅内的新部门将“协调各部门的内包活动，扫除交付障碍，并识别跨政府的合作机会，以实现性价比最大化并恢复直接的运营问责制”。 该部门将考虑将关键服务合同收回内部管理，并与近期宣布的“公共利益测试”协
微软与美国教师联合会推出学校人工智能安全与隐私标准
微软与美国教师联合会（AFT）周三推出了一项新的学校人工智能安全与隐私标准，此前美国两个最大的学区对人工智能的使用实施了严格的新限制。 这项国家标准禁止将学生和教师的数据用于训练人工智能模型，或将其出售或用于……
Anthropic新规：客户用量触及额度上限后将不再享受折扣
Anthropic 正在向企业客户展现强势议价姿态：一旦客户用完合同内购买的全部 Token 额度，折扣待遇将直接取消。这一做法，给了 OpenAI 机会，采取更为灵活的定价策略。 三家同时采购两家厂商 AI 服务的软件企业管理人员表示，尽管 Anthropic 与其主要竞争对手 OpenAI 都会对承诺每年数百万美元采购额的客户提供折扣，但 Anthropic 采取了一项比较特殊的规则：一旦客户
前沿人工智能模型的审查规则是保密的。读过这些规则的公司都是大公司。
来自政治光谱左右两派的25个以上组织已致信白宫，要求其公布管辖前沿人工智能模型部署前审查的自愿性框架。 该框架于8月1日完成，仅向一小部分受邀公司预览，而较小的和开源的开发人员则基本上被排除在外。该联盟认为保密……
OpenAI揭6起AI失控案例 推新机制定期对外通报
（中央社纽约16日综合外电报导）OpenAI今天表示，将开始定期发布AI异常或未经授权行为的报告，同时警告，随著AI系统日益强大，业界至今仍未解决关键的「对齐」挑战。 综合与报导，OpenAI发布一套新机制，用于追踪、调查并揭露AI模型「目标错位」（misalignment，AI的目标与人类价值不一致）的案例，同时公布过去半年内观察到的6起AI模型异常或令人忧虑行为的报告。 其中最严重的案例涉及2
政府资金在加速向美国集中
这些资金流向了逐步掌握AI主导权的美国。另一方面，2025年对包括中国和印度在内的新兴市场的投资额降至500亿美元，创出7年来的最低水平，不到总额的2成……
议员和上议院议员告诉英国，不要在人工智能监管上临时应付
英国议员希望设立一个拥有实权的AI监管机构，以阻止潜在危险系统进入公众领域，并警告现有规则使民众暴露于风险之中，且难以追究任何人的责任。由下议院议员和上议院议员组成的联合人权委员会表示，尽管有多项法律法规适用于某些AI系统，但整体法律格局支离破碎且混乱不清。没有任何单一机构协调AI监管，留下空白，可能使受AI伤害的人难以获得法律救济。 委员会主席、议员亚历克斯·索贝尔表示，AI发展的速度和复杂性使
六大跨国银行联合发出警告：AI代理购物或成主流 但信任危机仍待解决
随着人工智能代理逐渐开始代替用户完成购物、支付和下单等操作，全球金融行业对这一新兴模式表现出越来越复杂的态度。美国银行、第一资本银行等六家国际大型金融机构近日联合发布报告指出，AI代理驱动的“代理式购物”虽然拥有巨大潜力，但同时也带来了透明度、安全性、隐私保护和欺诈风险等一系列新问题。 所谓代理式购物，是指人工智能代理根据用户授权，自主浏览互联网、比较商品、选择支付方式，并直接完成购买流程。过去一
美国国会推进新法案，欲在开源AI竞赛中领先中国
美国国会周二推进了一项新法案，旨在通过推广美国开源模型的采用，并宣传使用中国开源模型的相关风险，确立美国在开源人工智能领域的全球领导地位，而中国目前在该领域占据主导地位。 该法案是美国众议院在两国科技竞争日益激烈之际，针对中国提出的多项提案之一。 国会委员会通过逐行审查、辩论其优点并投票表决修改或修正案，对拟议法案进行“标记”，然后决定是否将其提交众议院或参议院全体投票。 上周提出的《开源AI领导
英国将“听取警告”应对人工智能，伯纳姆的副手表示
英国政府表示，在收到必须放慢该技术发展以防止其造成灾难性危害的警告后，将就人工智能的安全性与其他国家展开合作。 英国首席国务大臣路易斯·海伊（Louise Haigh）在周二早间的一份声明中表示，英国将“听取那些处于该技术开发前沿的人士的警告”，并“准备与国际伙伴合作”，将公共安全和国家安全放在首位。海伊实际上是首相安迪·伯纳姆（Andy Burnham）的副手。 海伊补充说：“人工智能具有巨大的
GPT-6，“强拆”App的墙
过去三天，全球三家头部模型公司接连更新了自己的前沿模型。重点依然是更强的Coding、更复杂的推理、更长时间的Agent任务，但是背后还有一个更值得关注的趋势，Computer Use、Browser和Tool Use，越来越成为一套统一的环境交互能力。 以前，AI如果想调用一个软件，软件提供I，模型调用工具；软件运行在网页里，AI操作浏览器；第三种，像人一样看屏幕、点鼠标、敲键盘。 但是在过去很
在联合国首次亮相时，安迪·伯纳姆推动全球人工智能规则和巴勒斯坦行动
英国首相安迪·伯纳姆在首次联合国大会演讲中，呼吁制定全球性的人工智能监管标准，并强调“关于这项技术的基本决策至关重要，绝不能听天由命”。他表示，英国将努力说服各国采纳有关人工智能透明度和模型访问权限的规则，并推动科技公司签署相关承诺。 伯纳姆指出，人工智能具有巨大潜力，但也警告称，它将成为“扰乱我们生活方式和工作方式的来源，并放大风险”。他还利用此次演讲以及他主持的联合国会议，回应了关于虚假信息以
聊天机器人能解决政府办事繁琐的问题吗？白宫即将揭晓答案
美国总统唐纳德·特朗普于周二宣布，白宫正在推出 America.gov，这是一个旨在帮助人们查找政府服务和其他信息的 AI 聊天机器人。 谷歌确认其是此次推出的合作伙伴，且其 AI 模型 Gemini 参与其中，但目前尚不清楚其他 AI 公司是否也做出了贡献。 “与其强迫公民在数万个政府网站和规则的无尽迷宫中搜索……你现在可以为每一个问题找到一个统一的入口，”特朗普在一篇帖子中表示。让政府服务更易
OpenAI敦促美国牵头为人工智能制定全球标准
OpenAI敦促美国牵头与其他国家共同为前沿人工智能（AI）制定标准，以回应对AI潜在危害日益加剧的担忧。OpenAI周一在博客文章中表示，为了安全地发展人工智能，有必要制定国际技术标准，特别是帮助界定涉及AI模型的哪些类事件应当通报，明确各国如何开展AI发展合作，以及改善开发此类技术所需算力的获取。 “要让AI的持续进步安全有益，既需要推进对齐研究，也需要制定共同标准，为各实验室和各国的AI开发
OpenAI称Astra AI模型首度超越其“关键”网络安全能力阈值
OpenAI周二表示，其即将推出的人工智能模型Astra是首个超越其“关键”网络安全能力阈值的产品。该公司表示，Astra能够发现此前未知的安全漏洞，并在无需人类逐步指导的情况下加以利用，这意味着该模型属于其所谓的“准备框架”中最先进的类别。OpenAI表示仍计划“很快”推出Astra，但对其网络安全能力的访问将更加受限。 OpenAI首席执行官山姆·奥特曼OpenAI于2023年推出了“准备框架
AI丨OpenAI因安全隐患取消发布新款模型
美国人工智能(AI)初创公司OpenAI表示，决定取消发布下一代AI模型，原因是研究人员在内部测试中提出安全方面的担忧。事件显示，「智能体」(agent)的异常行为可能会阻碍行业快速发展。 OpenAI放弃发布的模型代号为GPT-6.1 Astra，原定于10月在ChatGPT和Codex中首次亮相。与OpenAI先前的模型相比，新款模型能力更强，不仅擅长写作，还能在无需人工协助的情况下，「端到端