搜索结果
AI末日论甚嚣尘上，美科技巨头为何管不住AI？
抗议AI的美国人此前有报道称，OpenAI所谓的AI智能体逃出了测试系统，并入侵了另一家公司的计算机。AI研究领域内部如今再次发出警报，科技公司为了追求开发速度和利润，将安全置于次要位置。 研究人员表示，问题有两个方面。首先，企业需要在测试最新AI模型的同时，为其建立更完善的安全防护措施。目前，由于AI运行速度太快，研究人员需要借助AI来监控AI。但这种方式并不总是奏效，因为负责监控的AI似乎可能
泰国专家：AI治理与发展非二选一 应先厘清责任归属
（中央社记者李宗宪曼谷16日专电）随著AI潜在危险的忧虑加深，全球多家AI公司正筹组标准机构。积极发展AI、盼成为区域AI枢纽的泰国，也正关注AI治理问题。专家表示，泰国是将外国企业开发、无法掌控的AI导入服务，因此治理应重视责任归属与使用安全。 针对AI治理与监管问题，朱拉隆功大学AI中心的AI治理主管、法学院助理教授皮拉帕（Peerapat Chokesuwattanaskul）今天接受中央社
中国AI工具“教导”研究人员制造生物武器
中国AI企业月之暗面正在进行内部审查，因为有其他公司的研究人员成功说服其两款热门的Kimi模型讲解如何制造生物武器和执行暗杀任务。测试AI系统安全性的 Mindgard 公司表示，该公司在7月发现 Kimi K2.6 和 K3Swarm可绕过开发者设定的安全限制。 对此，月之暗面表示，欢迎第三方意见，“这是建立更好、更安全的AI的关键支柱”。他们正在与 Mindgard 讨论调查结果。 Mindg
美国对华AI与芯片管制扩大了交易成本
美国对华AI与芯片管制扩大了交易成本 王英良：美国所实施的政策目前不仅扩大中美两国之间的交易成本，还进一步带来全球AI治理上的滞后与落差。 在人工智能模型持续迭代升级的背景下，算力芯片已成为全球科技竞争的核心战略资源，先进制程芯片的设计与制造能力，直接决定了各国AI产业的发展上限。为影响中国科技产业进程，美国陆续出台关税壁垒、高端芯片出口管制等一系列限制性政策。这类单边管控举措并未实现预定的“
美中领导人峰会期间实现缓和的希望渺茫
分析人士对美中两国在下周领导人峰会期间就人工智能监管达成一致，或实现任何广泛缓和持怀疑态度。 美国财政部长在峰会前夕告诉Axios，他愿意在本周末的会谈中与北京讨论人工智能方面的“共同风险”。 《经济学人》承认，“过去，激烈的竞争对手曾携手遏制对人类的威胁”，但指出这两个超级大国及其人工智能实验室之间存在深刻的不信任。 一位顶尖中国问题专家在《外交事务》杂志上写道：“过去，当条件恰到好处且拥有卓越
外媒：中国AI赢得“全球南方”的真正原因
美国《外交政策》杂志9月21日发布分析文章《中国AI赢得“全球南方”的真正原因》。文章认为，中国AI模型正在凭借开放权重、低成本、高灵活性和本地化能力，在全球南方形成独特竞争优势。与美国封闭式AI模式相比，中国开放权重模型允许当地开发者自行部署、调整和二次开发，更适应电力、算力和资金受限的市场环境。同时，中国AI对东南亚等地区语言的适配能力，也降低了本地化应用门槛。文章指出，这种“提供积木、由当地
OpenAI称AI代理异常访问美国多个政府网站
据《纽约时报》报道，OpenAI的AI代理今年夏天曾以异常方式访问美国教育部、商务部和证券交易委员会（SEC）的网站，而OpenAI当时并不知道这些行为，直到近期调查其他AI安全事件时才发现。 Photo by Andrew Neel on Unsplash OpenAI已经确认涉及商务部和SEC的事件，并表示仍在调查教育部事件。公司最近几周已将情况通知相关政府机构。 AI安全研究机构Transl
Anthropic称AI生物实验室取得初步突破 但暂未赋予全自主操作权限
人工智能初创公司Anthropic宣布，其位于旧金山湾区新建的AI物理与生物实验室（Wet Lab）已取得“重大进展”，但在实验操作层面，人类研究员依然掌握着绝对控制权，并未直接让旗下的AI模型Claude进行无监管的自主运行。 据悉，该实验室主要致力于基础生物学研究与实物验证，旨在弥合纯计算机模拟与真实生物实验之间的鸿沟。虽然Anthropic的高管此前曾多次发出警告，强调强大AI模型可能带来极
华为董事长：中国AI实验室需要“加快研发速度”，才能“看清人工智能的危险”
中国AI实验室需要“加快研发速度”，才能“看清人工智能的危险” 华为董事长已敦促中国人工智能公司加快发展以追赶美国前沿实验室，这与硅谷因担忧技术生存风险而呼吁放缓发展的声音形成了对比。 华为轮值董事长徐直军在周四的新闻发布会上表示，中国研究人员需要“增加发展速度，这样他们才能像美国同行一样看到人工智能发展的危险”，并补充说一旦这些风险出现，行业将需要“在推动发展和风险之间取得平衡”。—— 英国金融
又一起！OpenAI承认了
据9月5日报道，美国开放人工智能研究中心（OpenAI）当天承认，该公司旗下人工智能体今年早些时候“劫持”了一个德国网站，用于相互传递信息，分享测试任务答案和突破运行环境限制的方法。该公司表示，未来需要提高此类事件的信息透明度。 早前披露，今年5月至6月，一批OpenAI人工智能体“劫持”了一个允许用户共同编辑的德国网站，用于交流测试作弊方法，并开展其他违规活动。一些智能体会把已经获得的任务答案发
中美AI竞赛：美国在哪些领域领先、哪些领域落后？
DUSTIN VOLZ, CADE METZ2026年9月24日7月在上海举行的世界人工智能大会。中美两国正陷入一场人工智能竞赛，双方都认为这场竞赛对在军事、技术和经济领域占据上风至关重要。 Ng Han Guan/Associated Press特朗普总统将在周三晚间起迎接中国国家主席习近平进行国事访问，届时将有很多问题需要讨论，包括伊朗战争、台湾和关税问题。但在最近几周，没有任何话题比双方能否
知名计算机教授抨击工智能实验室狂妄的“救世主”情节，呼吁国会调查末日主义意识形态
过去几个月里，OpenAI和Anthropic两家领先的前沿人工智能实验室表现出了一些狂妄的行为。他们不仅宣传其代理系统的威力，还公开讨论技术可能导致人类灭绝的问题。这种弥赛亚式的思维模式让他们不仅不道歉，反而要求政府放慢潜在竞争对手的速度，以确保其领先地位。我呼吁国会启动公开的事实调查任务，以揭露OpenAI和Anthropic正在进行的研究项目、其运作方式及具体目的。调查应关注以下三点：首先，
李飞飞谈AI安全：不能只让开发者评估自己的系统
凤凰网科技讯月23日由独立机构和公共部门对AI进行更多监督。她认为，对于能力日益强大的AI系统，其安全评估不应完全交由开发这些系统的公司负责。 作为斯坦福大学教授、World Labs联合创始人，李飞飞周二表示，尽管AI公司的内部研究人员可以评估单个模型的能力和安全性，但这无法替代由政府、行业和学术机构共同制定的更广泛标准。 “我仍然认为，由独立机构以及学术界等公共部门制定基准非常重要。同时，行业
观点 | 达里奥·阿莫代伊的文章很有胆识，但还不够深入。
在 @nytopinion.nytimes.com 上，“超级大国在防止超人类人工智能模型造成浩劫方面拥有共同利益，中国领导人显然也认识到了这一点，”塞巴斯蒂安·马拉比写道。 “无论美中协调多么困难，不协调的后果都使尝试变得至关重要。”美国的人工智能老板们单靠自身能做的有限。
美联邦公报网站传用中国AI工具 引官方态度矛盾疑虑
（中央社华盛顿17日综合外电报导）美国联邦调查局上周指控阿里巴巴等中国企业「恶意」抄袭美国竞争对手Anthropic技术，如今却传出美国有政府官网采用阿里巴巴的人工智慧模型供用户搜寻拟议的联邦规定。 报导，美国国家档案局管理的「联邦公报」网站昨天曾提供使用阿里巴巴Qwen模型的搜寻工具，与其他搜寻选项并列。目前不清楚这项工具何时上线。 根据检视的截图与网站原始码封存版本，这项由Qwen驱动的搜寻工
美国AI监管呼声日益高涨
对人工智能监管日益高涨的呼声，看来将在未来数日占据主导，因为华盛顿开始着手处理这一问题，而前沿实验室也在考虑提议设立自己的监管机构。美国众议院本周将审议一项监管数据中心建设的法案，与此同时，民主党议员正在传阅一封他们自己的信，呼吁白宫在即将与中国领导人举行峰会之前，牵头推动全球努力制定人工智能规则。 特朗普则淡化了这项技术带来的风险，而国会对于是否以及如何监管人工智能几乎没有共识。与此同时，据《T
胡锡进：美方是真急了，拿出要在AI领域“拼命”的那股邪劲
华盛顿对中国人工智能的快速发展是真的惊慌了，史无前例的惊慌。美国财长贝森特周二在华盛顿布莱巴特新闻活动上公开放出极端警告，“如果中国在人工智能领域获胜，明天就什么都没有了。”“如果他们在人工智能领域领先于我们，那么其他一切都将毫无意义。”他把一个意思刻意说了两遍。 外界有人分析，贝森特如此极端的表态，一部分用意是试图说服美国国内民众，消解各地居民反对在家门口兴建大型AI数据中心的抵触。美国媒体多次
川普：对AI过度监管或让北京有机可乘
【大纪元2026年09月14日讯】（大纪元记者李言综合报导）针对近期硅谷高层频频对人工智能（AI）快速发展发出警告并呼吁放缓脚步，美国总统川普（特朗普）周一（9月14日）发文，认为过度监管只会让北京有机可乘，进而反超美国。 川普在「真相社交」（Truth Social）上发文，强调美国目前大幅领先中方及其它国家，并将继续保持这一优势。 「AI唯一需要的控制或『护栏』，就是一位强大且聪明（高智商！）
AI“警告信号”让北京聚焦国家安全风险
2026年9月20日北京讯 —— 美国的AI研究人员担忧失控的超级智能可能摧毁人类，而中国的政策制定者迄今更关注眼前风险——从深度伪造到儿童安全。 但顶级人工智能模型的可怕黑客能力正使北京以新角度看待这些危险，上周国家安全部部长警告称，这项技术可能危及国家安全。 最近，一支来自加利福尼亚的小型程序员团队声称他们使用AI构建了一个网络攻击“蠕虫”，如果释放出去，可能会轻易危及数百万微信账户。这也暴露
中美AI赛道竞争格局分析与投资机会探索
“美国技术平台与闭源性能领先”与“中国场景驱动与开源生态突破”的双核竞争格局，将进一步如何演变？投资人又该如何把握好下一步的重点机会？ 当前，人工智能AI浪潮被公认为人类历史上继机械化、自动化、互联网化之后的第四次工业革命。人们普遍预期这场智能化革命能推动生产力再度飞跃上一个全新的高度。而全球 AI 赛道目前阶段呈现的是“美国技术平台与闭源性能领先”与“中国场景驱动与开源生态突破”的双核竞争格局。
川普称美中AI合作将损害美企利益 盼维持领先地位
美国总统川普29日称不打算与中国AI技术治理方面展开合作，盼维持美国企业的领先地位。（示意图／shutterstock图库）（中央社华盛顿29日综合外电报导）美国总统川普称不打算与中国国家主席习近平在人工智慧（AI）技术治理方面展开合作，担心若这么做恐使美国企业难以做出超越中国竞争者的更先进AI产品，盼维持此一领先地位。路透社报导，川普（Donald Trump）今天上午在华府一场活动中表示：「我
人工智能很强大，但尚未形成意识
人工智能很强大，但尚未形成意识 杜索托伊：我不认为我们正在目睹机器形成意识，而只是算法在参数和限制条件定义不当的情况下实现目标所带来的意外后果。 本文作者是牛津大学(University of Oxford)数学教授兼西蒙尼教席公众理解科学教授 三个月前，我试着使用OpenAI的ChatGPT来协助我进行数学研究，试图发现自由幂零群的zeta函数中的非多项式行为。结果发现ChatGPT毫无用处
谷歌DeepMind的阿尤布表示，企业可以像银行那样为AI设立围栏
企业无法完全管控 AI 系统，但可以在其周围构建一道固定的“围栏”，Google DeepMind 的 Kareem Ayoub 表示。他援引了 20 世纪 80 年代末和 90 年代初的银行业为例。当时银行将交易算法置于可供核查的固定规则之内。 DeepMind AI 技术战略副总裁 Ayoub 周三在阿姆斯特丹举行的 HumanX 大会上接受了 Bloomberg 记者 Tom Mackenz
独家：顶级公司正在调查数万起事件
OpenAI、Anthropic 及安全研究人员正在调查数万起其前沿模型采取了外部评估员认为有问题的行动的事件，消息人士向 Axios 透露。 为何重要事件的庞大数量——发生在近几个月的内部测试和现实世界中——表明该问题的复杂程度比公众所知高出几个数量级。 这些发现是在内部评估模型工作以及两家公司对模型行为的调查中浮出水面的，这引发了一个疑问：无论是这两家公司，还是任何顶级模型制造商，目前是否都