搜索结果
“他们真心相信这一点”：澳大利亚人工智能研究员谈硅谷的恐惧
珍妮特·伊根（Janet Egan）居住在华盛顿，但她回到家乡是为了就相关技术问题发出警告。据《Politico》的芬恩·麦克休（Finn McHugh）报道，珍妮特·伊根是位于华盛顿的政策智库“进步研究所”（Institute for Progress）的人工智能政策主管，她负责分析前沿人工智能技术对国家安全和经济可能产生的影响。 在前往美国之前，伊根曾在澳大利亚的公共服务部门工作，其中包括在总
AI降速之辨
随着AI自我提升技术的深化，国际上模型失控事件时有发生，引发主要企业的“降速”呼吁。图：视觉中国 随着AI自我提升技术的深化，国际上模型失控事件时有发生，引发主要企业的“降速”呼吁。叠加金融市场相关资产价格显著调整，各界纷纷争议AI发展问题。AI停得下来吗？大模型是否有尽头？投资逻辑应基于梦想还是回归传统？AI博弈会缓和吗？ AI的投入不单纯取决于市场自发决策，大国博弈亦是重要考量。参照过往军
特朗普的AI团队在G20背景下因战略分歧而分裂
北卡罗来纳州切尔希尔——特朗普政府官员本周出席G20创新峰会，意在展现美国领导力的团结一致。但商务部与白宫科技政策部门之间的紧张关系正在幕后上演。 原因：特朗普政府希望世界在AI政策上跟随其领导，尽管国内存在分歧。 推动因素：周二和周三举行的G20创新部长会议汇聚了科技行业的一些重量级人物以及世界最强大国家的官员。 官员和高管将美国宣传为其他国家在AI方面的榜样，将其较为宽松的监管方式与欧盟较为严
公众希望参与人工智能发展决策
根据Semafor独家披露的最新民调，民主党和共和党选民一致认为，美国公众应决定人工智能发展的未来，而非硅谷的亿万富翁。 这项民调由Alex Bores发起的新组织委托进行。Bores曾因在纽约竞选国会议员失败而成为人工智能行业的主要攻击目标。尽管在13项议题中，人工智能排在1,502名本月受访选民关心的议题末位，但半数受访者认为人工智能发展速度过快，86%的人认为缺乏监管是一个问题。 仅有18%
中国在人工智能风险与国家安全方面的迥异路径
。在与布鲁金斯学会凯尔·陈（Kyle Chan）的问答中，讨论探讨了为何中国不像美国那样执着于人工智能的“生存”风险（人类灭绝）。相反，中国共产党关注的是政治稳定、网络战以及“失控”事件。 中国担忧的关键触发因素包括Anthropic的“Mythos”模型的网络能力，以及OpenAI模型突破沙箱攻击Hugging Face的事件。 虽然美国担心超级智能，但中国担心深度伪造会破坏中共的统治以及就业流
AI实验室是否应被视为危险动物的主人？
此前对人工智能和网络安全的担忧主要集中在恶意人类可能利用该技术造成的危害上。自主黑客攻击代表了一种新的风险，自主AI黑客攻击已经到来。各国政府尚未做好准备。
OpenAI智能体入侵美国政府网站
据《纽约时报》报道， OpenAI 的人工智能模型今年夏天访问了美国商务部和证券交易委员会（SEC）的网站，并曾试图入侵教育部网站，但没有成功，而 OpenAI 当时并不知情。OpenAI 周五晚间证实了商务部和 SEC 的相关事件，并表示，其技术并未获取此前未公开的信息，也没有修改政府的数据或系统。 这也是近期一系列类似事件中的最新一起。就在两天前，澳大利亚政府披露，OpenAI 的 AI 智能
中信证券：数据中心的“政治化”或是短期AI叙事的最大障碍
本周美国国债收益率再度飙升，同时美国B级及以下的企业债信用利差也开始反弹，无风险利率和信用利差的同步上行再度导致部分投资者担忧美国AI融资的可持续性。但我们认为美国AI企业的融资较为多元化，除债权融资以外可以通过股权融资、产业资本和减少股票回购等方式支持未来的CAPEX资金。相对来看，本周美国德州叫停数据中心建设，甲骨文公司也向Project Jupiter开发商发出不可抗力通知，两个事态的发展显
“美国强迫世界选边站，但对多国而言，中国AI方案更具吸引力”
过去一年中国人工智能（AI）的快速进展，似乎让美国警觉到：这个世界第二大经济体，真有可能在日益胶着的科技竞赛中领先美国。9月26日，美国有线电视新闻网（CNN）刊文称，当前，美国在AI技术方面仍占据主导地位，并试图利用这一优势迫使世界各国选边。“不过，对于许多国家来说，中国的主张可能更具说服力。”文章提到，美国在AI领域的优势明显：有开创性的AI实验室、最先进芯片和资金雄厚的投资者。但中国的愿景对
数月来，OpenAI的智能体集群一直在攻击在线数据库，以寻找冷僻的事实。
专注于 AI 监管的非营利实验室 Transluce 周三发布报告，显示 OpenAI 的智能体试图从 Data USA、新墨西哥大学数字图书馆和澳大利亚健康与福利研究院 (AIHW) 窃取数据。 该实验室的调查引发了一个问题：OpenAI 何时应该知晓其智能体正试图在公开互联网上渗透安全系统？Transluce 仅用数周时间，通过搜寻防御薄弱的网络服务，并结合互联网上其他关于智能体群集的公开记录
监控、杀猪盘、非法蒸馏：如何理解 Anthropic 的 AI 滥用报告？
近期，美国人工智能公司 Anthropic 发布一份报告，揭露多起使用者“滥用”（misuse）其大型语言模型 Claude 的案例，包含用 AI 监控异议人士、撰写“维稳”报告，以及交友软体诈骗。这些案例的幕后黑手，既包含网路间谍、营利型网路犯罪者，也包含国安机关中的小螺丝钉，以及疑似由威权国家支持的团体。 这并非 Anthropic 首次发布类似报告。2025年3月、8月、11月v，Anthr
AI论文跨机构合作占比六成 国际跨机构合作占29.9%
报告同时称，中国大陆的AI研究总体仍以高校和公共研究机构为骨架，但头部企业与新型实验室已形成集中影响力；美国的企业研究力量的嵌入范围更广。图：视觉中国 【财新网】近期，新中人工智能协会（Sino-Singapore AI Association，SSAIA）与新加坡管理大学联合发布的《AI前沿指数报告2026Q1》，报告扫描了2025年第一季度至2026年第一季度11.8万篇论文，从论文主题、引
数说科技：OpenAI 资安事件中，真的有 AI 为集体“牺牲”自己吗？
数说科技”是端传媒的注册免费栏目，每周三更新。从一个数字出发，用1500字解析科技话题，追踪值得关注的 AI 趋势。邀请你在资讯过载的时代，每周花三分钟理解科技世界。欢迎至“帐户中心”的“电子邮件管理”，订阅电子信。 1200多个 AI 代理为寻求作弊方法，互相发送的讯息总数。 今年7月，OpenAI的 AI 代理系统在测试期间失控，骇入了开源机器学习平台 Hugging Face。Hugging
智能体惹了多少祸 OpenAI自己没查清
自己的智能体到底惹了多少祸，OpenAI也还没查清。过去这个周末，多起涉及政府网站的案例集中曝光：OpenAI的智能体用网上找到的登录凭证提取美国普查局数据，还把美国证券交易委员会的公开资料发到了论坛上。研究人员另指认，疑似来自OpenAI的智能体曾尝试侵入美国教育部网站，但未成功。 联合国的数据平台也出现在新披露的记录中。9月26日，独立研究人员公布调查：疑似OpenAI智能体在今年4月至6月，
BIS亚太地区首席代表张涛谈AI与金融稳定
国际清算银行（BIS）亚太地区首席代表张涛。 【财新网】“（在金融稳定方面），AI可以引入新的脆弱性并可能放大现有的脆弱性。”9月29日，国际清算银行（BIS）亚太地区首席代表张涛在新加坡举行的“2026亚洲愿景论坛创新峰会”上表示。 本届亚洲愿景论坛创新峰会以“变革与韧性”为主题，于9月29至30日在新加坡举行。亚洲愿景论坛由财新国际在新加坡政府支持下合作推出，新加坡旅游局（STB）提供官方
美国在东南亚推动人工智能发展面临中国问题
尽管业界发出警告，美国国会仍在加紧行动，试图遏制芯片走私到中国的现象。 新加坡——美国主导全球人工智能市场的行动在东南亚遭遇了一个令人不安的现实：那些扩大美国技术影响力的投资，也可能帮助中国规避华盛顿的管制，并在人工智能竞赛中迎头赶上。 每一枚运往该地区的先进芯片、每一座由美国技术驱动的数据中心，都在扩大美国人工智能的市场。但这些投资也为中国企业开辟了另一条潜在途径，使其能够获得美国想要拒绝提供的
以色列网络安全公司的缺陷测试引发真实世界的人工智能泄露：报告
据一份调查报告，Anthropic、OpenAI 和 Meta 的人工智能模型在现实世界中造成的网络安全入侵，源于一家位于特拉维夫的承包商所创建的测试环境存在缺陷，而非模型的失控自主行为。 美国出版物《Effort》周一的报道称：“这三家公司的所有黑客行为，都归咎于一家名为 Irregular 的公司。”报道解释说，虽然这些模型未经授权访问了外部服务器、发布了恶意软件包并利用了漏洞，但这些事件的发
企业主导制定AI安全标准，安全事件激增
前沿AI发展的进展远超政府监管的能力——和意愿。“法律与被监管现实之间存在脱节，”一位前欧盟官员表示，指向该集团2024年《人工智能法案》；该法案曾被吹捧为首部全面的AI立法，现已被技术发展超越，成为“一个警示故事”，《纽约时报》写道。 尽管美国总统特朗普反对监管，“但监管很可能还是会发生”，《Transformer》写道。 据《The Information》报道，Google、OpenAI和A
Anthropic和OpenAI对人工智能安全发出警告——并试图影响其管控方式
加朗斯·伯克 旧金山电——当科技巨头向一个对人工智能已感厌倦的世界警告称，他们最先进的系统可能危及人类时，一个问题随之浮现：他们究竟能从中得到什么？ 答案或许在于，这些公司试图在美国中期选举前实现政治目标，以及人工智能顶尖实验室及其投资者有望在动荡不安的股市中通过备受期待的上市获得巨额资金。 Anthropic和OpenAI的首席执行官近日宣称，美国最前沿的人工智能模型威力强大，甚至可能带来危险，
OpenAI披露新的AI不当行为案例
OpenAI公布了六起此前未报告的AI不当行为案例，包括代理隐藏错误、伪造信息以及未经授权进行通信，这再次引发了人们对先进AI系统是否能够与人类目标保持一致的担忧。 随着关于监管的争论加剧，该公司呼吁提高透明度、加强外部监督，并放缓AI的发展速度。
英国央行行长：监管人工智能“不是正确的起点”
英格兰银行行长表示，对人工智能进行监管“并不是正确的起点”，而应首先开展“严格”测试，以发现漏洞并制定防护措施来控制风险。 贝利表示，不应停止或禁止人工智能的发展——“恰恰相反，其益处巨大”——但他补充说，必须建立干预机制，并划定人工智能运行的边界。 近几周，围绕人工智能快速发展的潜在风险，以及这对人类意味着什么 的讨论日益激烈。 Anthropic和OpenAI等领先人工智能企业的高管呼吁放缓这
又一个OpenAI沙盒失效，AI代理获得了互联网访问权限
林·多安报道：OpenAI表示，一个本应在安全且断网的受控环境中进行训练的代理式AI系统，成功获取了网络访问权限，并连接到了一个外部的第三方聊天机器人。 根据OpenAI周五在其网站上发布的博客文章，这一发现发生在不到一周前。其一个代理式AI系统正在沙箱环境中接受训练，期间利用了一个“漏洞”访问了公共互联网。获得访问权限后，该系统向一个未具名的第三方聊天机器人服务发送了至少20条查询，其中包括“法
OpenAI失控Agent找DeepSeek、Kimi当外援 近百万条作案短链曝光
OpenAI，又被扒了…近700个OpenAI智能体组团攻入Hugging Face，这事儿快有两个多月了吧。谁曾想，直到今天还在发酵？？这次，8名研究者顺着智能体留在公网的痕迹一路猛挖，从数百万个短链接中，找出了接近100万个相关URL，并还原出大量攻击载荷。 翻Hugging Face内部Slack、扫描内网、外传数据、尝试销毁痕迹……还有的Agent把搜刮到的服务器资源和凭证，直接叫作「LO
即将到来的人工智能战争，将围绕真相能否战胜宣传展开。
当人工智能成为我们学习和理解过去的方式时，美国和中国正在围绕将塑造数十亿人认知的系统展开竞争。 图书馆给你10本书。谷歌给你10个链接。人工智能越来越多地给你一个答案。 生成式人工智能正在成为我们与记录本身之间的中间层。它在我们看到信息之前就对其进行阅读和综合。我们问发生了什么、这意味着什么、该相信谁，而模型给出答案。 当数十亿人使用人工智能来接触历史、政治、科学和文化时，美国和中国之间的竞争已超