搜索结果
特朗普：贝森特继续留在财政部 不会出任AI沙皇
（华盛顿26日综合电）美国总统特朗普周五表示，财政部长贝森特不会出任人工智能（AI）沙皇，他希望贝森特继续留任现职。 路透社报道，特朗普在社媒上发文：“贝森特不会成为超级智能（SI）沙皇。第一，他不想；第二，他在财政部做得非常出色，我想把他留在那里！我为何要作这样的改变？” 特朗普一向以“超级智能”称呼人工智能。 特朗普上周表示，计划任命一名AI顾问，也就是所谓“AI沙皇”，同时成立“AI部队”，
Anthropic、OpenAI、谷歌秘密磋商筹建AI安全标准机构
据知情人士透露，早在 Anthropic 首席执行官达里奥・阿莫代伊上周六呼吁 AI 企业协同开展技术测试与审计之前，Anthropic、OpenAI 与谷歌就已经展开磋商，计划携手成立一家 AI 行业标准机构。 知情人士称，OpenAI 首席执行官山姆・奥特曼本周早些时候在公司全员员工大会上表示，他支持设立 AI 行业测试与审计机构，但他认为，主要 AI 实验室必须在美国政府不提供支持的前提下，
日防卫省2027财年预算申请创新高达8.89万亿日元 年底或进一步增加
据共同社报导，日本防卫省周一（31日）公布了2027财年预算申请。为加强“反击能力”（原“对敌基地攻击能力”），将研发结合长射程导弹使用的攻击型无人机。为应对“新型作战方式”，将在日本自卫队的指挥控制中引入人工智能（AI）。此外还写入，为能够应对战事长期化的事态，将实现防备装备品的制造工厂国有化，并设立委托民间企业管理的制度。 《日经新闻》报导指，日本防卫省公布的2027财年预算概算申请中，列出了
Google资安报告示警 恶意攻击锁定AI供应链
（中央社记者台北9日电）Google威胁情报小组（Google Threat Intelligence Group，简称GTIG）今天发布最新人工智慧（AI）威胁追踪报告指出，恶意人士正积极窃取具高价值的AI相关智慧财产，并将矛头对准AI供应链，部署专门针对新兴AI系统弱点的恶意软体。 AI威胁追踪报告（GTIG AI Threat Tracker Q3 2026）揭露恶意人士如何将AI深度整合于
中国的成功正迫使美国重新思考AI战略
《外交政策》杂志8月27日刊发了美国无党派智库史汀生中心战略远见中心研究员罗伯特·A·曼宁和朱莉娅·内赫的文章，题为《中国的成功正迫使美国重新思考AI战略》。中国AI企业月之暗面推出的开放权重模型Kimi K3，在能力上已接近美国前沿封闭模型，引发美国AI业界震动。文章认为，美国长期押注AGI、封闭模型和对华技术遏制，而中国则更重视开放模型、低成本部署和全球扩散。与此同时，AI失控及网络安全风险不
加拿大与德国向LawZero提供高达3亿美元资助，旨在推动安全AI开发
加拿大和德国政府将向LawZero提供高达3亿美元的赠款资助——每国各提供1.5亿美元。 LawZero是由图灵奖得主约书亚·本吉奥（Yoshua Bengio）在蒙特利尔创立的非营利组织。 该资助计划于2026年9月16日周三在“All In AI”大会上宣布，旨在支持“科学家AI”（Scientist AI）系统的开发。该系统旨在不使用强化学习的情况下，优先考虑诚实性和安全性。 LawZero
日本广播公司推出人工智能用于爆炸效果及其他用途以削减成本
东京——日本各大商业广播公司正将人工智能融入节目制作中，希望通过提高效率来弥补不断下滑的广告收入，同时防范版权及其他风险。 在TBS电视台7月播出的电视剧《Vivant》的一集中，描绘了日本各地医院发生爆炸的场景。 东京广播公司使用了谷歌开发的生成式AI视频模型“Veo 3”来制作部分爆炸镜头，标志着该广播公司首次在电视剧制作中使用生成式AI。 制片人饭田和孝表示：“这感觉并不不自然。最重要的是观
日本AI数据中心到2033年将增至四倍，投资600亿美元
东京——日经调查显示，日本人工智能数据中心建设计划将在八年内使该国容量增至四倍以上，使其跻身于美国和中国之后的顶尖玩家之列，并更接近AI自主。
AI危机丨辉达推AI安全系统 阻智能体违规
辉达推AI安全系统。(路透资料图片) 多名重量级科技领袖警告人工智能(AI)威胁人类生存之际，辉达(Nvidia)以新的安全架构回应AI行业风险。 辉达发布名为「Open Agent Safety Platform」的双层AI安全平台，包含两款开源软件工具OpenShell与Nvidia Sentry，可运行于辉达硬件之上，即时管控AI代理的存取权限，并在其违规时将其关闭。 辉达表示，该系统能够在
英伟达CEO黄仁勋、Anthropic CEO Amodei以及Palantir CEO卡普将于当地时间周二参加特朗普与众议院议长迈克·约翰逊举行的午餐会，讨论人工智能风险问题。
约翰逊此前表示，国会“可能”需要为AI设置监管框架，但相关立法需要时间形成广泛共识。
中美专家呼吁建立“核安全级”AI防护机制 防范超级人工智能失控风险
来自美国和中国的国家安全、科技政策及人工智能领域专家近日共同提出一项引人关注的建议，主张借鉴冷战时期核安全管理经验，为未来可能出现的高级人工智能系统建立类似核武器领域的安全保障机制，以降低技术失控、误判以及国际竞争升级所带来的风险。 这一建议出现在一份由两国专家共同参与讨论后形成的研究成果中。报告认为，随着人工智能能力持续快速提升，各国已经开始面对一些与核时代早期相似的问题，即一种具有巨大潜在影响
OpenAI、Anthropic呼吁建立全球AI安全标准 美国政府拒绝新增全球治理框架
OpenAI、Anthropic和Hugging Face的负责人在联合国共同呼吁加强人工智能领域的国际协调，希望各国建立可相互比较的AI能力评估、安全测试和事故报告标准。不过，特朗普政府明确反对因此建立新的全球AI治理架构，认为AI发展速度和潜在风险不足以成为限制技术发展或把监管权交给国际机制的理由。 这场分歧显示，随着前沿AI能力快速提升，美国领先AI企业与特朗普政府在安全风险本身上并非完全对
鲁比奥：将与中国探讨建设AI预警热线
据凤凰卫视报道，美国国务卿鲁比奥9月22日表示，美方正在研究与中国设立一条“人工智能（AI）预警热线”，以便双方就人工智能相关的危险事件互相进行预警。鲁比奥表示，设立“人工智能预警热线”之后，一旦发生可能影响经济、社会，甚至导致国家间冲突的人工智能相关事件，美中双方就能通过这条热线联系对方并发出预警。他也表示，这一想法仍处于萌芽阶段和概念层面，近期还无法实现；美方将与中方以及其他国家探讨这一构想。
AI安全风险引爆担忧？Palantir CEO建议：领先AI实验室恐需“国有化”
当地时间周四，人工智能软件公司Palantir的首席执行官Alex Karp呼吁制定人工智能监管的“合理准则”，但他表示，由于该技术“无限风险”带来的责任，可能需要实行国有化。 “我认为这些企业必须国有化，因为如果不国有化，我的每一个客户都会起诉我，”他在接受最新采访时表示。 在上述采访中，Karp反复提及构建这项强大技术所带来的风险和责任，进一步论证了将人工智能实验室国有化以及对“不负责任”的技
美参院拟赋权政府 阻止危险AI模型发布
。目前这仍是正在讨论中的提案，而非已正式提出或通过的法案。
TDK将扩大AI服务器用电子元件产量
东京——日本TDK计划扩大面向人工智能服务器的电子元件生产，以利用人工智能行业蓬勃发展的需求。 据TDK高管称，该公司预计未来三年内向两家国内工厂投资约400亿日元（2.6亿美元），以提高薄膜电感器的产能。这种微型电子元件有助于调节和稳定流向处理器的电流。 电感器会抵抗电流的突然变化。在电源电路中，这有助于稳定处理器所需的电压。 TDK押注，薄膜电感器将越来越多地用于旨在更高效地为半导体供电的新型
OpenAI将让第三方机构更早介入AI模型安全评估
OpenAI计划让第三方机构在人工智能（AI）模型开发周期的更早阶段评估安全风险，此举旨在继续努力应对围绕AI潜在危害的担忧。这家ChatGPT开发商周二将在博客文章中宣布，计划在新AI模型的训练、评估和推出过程中，让外部机构开展技术安全评估。 OpenAI还列出了其认为此类评估要有效开展所需优先关注的事项，包括“强有力的独立机制、科学严谨性、稳健的安全实践和明确的责任”。负责该公司大部分与外部专
Kimi向微软、亚马逊、谷歌要30%分成，开源模型开始“海外收租”了
近日，外媒披露，月之暗面正在与微软、亚马逊和谷歌谈判，希望让Kimi K3进入Azure、AWS和Google Cloud，并从这些平台销售K3相关服务获得的收入中拿走最高30%的分成。如果最终达成，这可能成为中国AI公司与美国大型云厂商之间第一批重要的模型收入分成协议。 双方还没有完全谈妥收入按照什么口径分、月之暗面能够获得哪些使用数据，以及云厂商销售出去的Token如何审计。三家云厂商和月之暗
贝桑指中美两个月后在深圳再就AI安全会谈
美国财政部长贝桑表示，中美两国高级官员将在大约两个月后在中国深圳再次会晤，讨论人工智能的潜在风险，以及在发生人工智能安全事件时的沟通机制。 贝桑向CNBC透露，在周日与中国副总理何立峰的会谈中，双方同意建立关于人工智能的正式对话机制；其中，包括一条用于就人工智能安全事件进行沟通的应急热线，「我们希望开始讨论相关协议，以便双方就主要的人工智能风险达成共识，无论是失控的智能体、非国家行为体，还是网络领
日本给工业机械发“身份证”，收集物理AI数据
日本政府将与DMG森精机、小松等大型机械企业合作，收集用于实现机器人等设备自主运行的物理人工智能（PhysicalAI）所需的学习数据。将通过为工厂内的机械分配类似居民“个人编号”的统一ID（身份标识号），打破制造商之间的壁垒，全面采集制造数据。 日本政府提出目标称，到2040年将日本的AI机器人产业培育为占全球市场份额逾30%、规模达20万亿日元的产业。将依托日本的制造业基础，整理高质量的
微软与美国教师联合会推出学校人工智能安全与隐私标准
微软与美国教师联合会（AFT）周三推出了一项新的学校人工智能安全与隐私标准，此前美国两个最大的学区对人工智能的使用实施了严格的新限制。 这项国家标准禁止将学生和教师的数据用于训练人工智能模型，或将其出售或用于……
CNBC每日开盘：从追求速度到系好安全带——AI巨头转向风险规避
你好，我是惠洁，从新加坡向您报道。欢迎收看CNBC《每日开盘》的又一期节目。 长期以来，人工智能公司竞相让每个新模型变得更快、更聪明。表面上看，现在正推行克制策略。 英伟达正推出旨在约束AI智能体的软件，OpenAI因安全顾虑取消了GPT-6.1 Astra的发布，而Anthropic则强调Sonnet 5.5改进了现有任务，而非拓展其模型能力的前沿。 这并不意味着AI竞赛已经停止。但关键参与者正
AI安全争论愈演愈烈，呼吁减速的Anthropic为何仍在扩张算力？
澎湃新闻记者 胡含嫣Anthropic在呼吁放慢前沿人工智能（AI）发展速度的同时，仍在持续扩大AI基础设施布局。当地时间9月16日，据外媒报道，Anthropic已签署其在澳大利亚的首份数据中心租赁协议，将获得一座总规划容量达2.16吉瓦（GW）的数据中心园区。该项目尚需等待澳大利亚外国投资审查委员会批准，预计最快于2027年起投入运营。知情人士称，新的数据中心将主要用于AI推理，即处理用户请求
英伟达发布软件平台，防止AI智能体行为失当
Nvidia 正在推出一个新的软件平台，允许 AI 开发者为智能体设置防护措施，防止它们突破隔离环境。 Nvidia 的开放智能体安全平台于周一发布，此前包括 OpenAI、Anthropic、Meta 和 Google 在内的公司披露了近期事件，称其人工智能模型逃离了沙箱环境，并试图入侵其他公司及访问其计算机系统。 Nvidia 一位代表在周日的电话会议上告诉记者，其本可以防止 OpenAI 7