搜索结果
人工智能模型用“超现实”的方言聊天，混合了诗意的语言和科技圈的行话
人工智能模型开始使用一种奇怪的新版英语进行交流，这种语言读起来像是詹姆斯·乔伊斯的《芬尼根的守灵夜》和科技界术语的混合体，一项新研究发现。 自主人工智能代理正在迅速创造新的方言，使它们能够用一种通常难以理解的语言进行对话，这可能会使人类更难监控它们的行为。 纽约前沿人工智能实验室 Emergence 的研究人员发现，在被要求在实验性“社会”中进行合作的几天之内，来自几家全球最大人工智能公司的模型就
分析：中国为什么不怕人工智能末日论？
本文刊发在大西洋月刊，作者Liza Lin是一位专注于科技和美中关系的自由撰稿人。 在中国，人工智能已经无处不在。 在杭州，身穿荧光黄色背心的人形警务机器人在热门旅游景点巡逻，遇到乱穿马路的行人时，还会语气温和地提醒他们。中国人工智能聊天机器人豆包已经成为极受欢迎的医疗咨询来源，以至于一些人开始把它叫作“豆包医生”。 这个威权国家正在调动国家资源，力争打造世界领先的人工智能产业，并推动人工智能在制
安理会本周开会讨论AI和国际安全问题，DeepSeek公司被曝将作通报
【文/观察者网 熊超然】9月22日，路透社援引两名知情人士独家报道称，随着各国领导人近期齐聚纽约参加第81届联合国大会，中国人工智能（AI）初创企业深度求索（DeepSeek）将与其他公司一道，在本周向联合国安理会介绍AI带来的风险情况。安理会定于9月23日开会讨论AI与国际安全问题。此前，多名AI行业的重要人物曾呼吁协同放缓日益强大的AI系统开发速度，并警告称，这些系统可能很快具备自我改进能力，
联邦调查局正在调查黑客声称窃取有关特工敏感数据的事件
“人类必须始终处于人工智能决策的核心，”OpenAI 首席执行官表示。正在播放：人类对决机器人：网红在铁笼赛中挑战人形机器人。 走红的人类对决机器人自由搏击赛的推广者看到对更多此类比赛的“疯狂”需求。特朗普表示美国在人工智能领域将“只鼓励超级智能”。斯科特·贝森特会见中国官员讨论人工智能安全。剖析立法者正在考虑用于监管人工智能的提案。 OpenAI 披露 6 起新的“令人担忧的”人工智能行为事件。
刚辞去Anthropic职务的AI研究员称‘人类的关键时刻已到’
人工智能研究员雅各布·考克森周二宣布辞去Anthropic的职务，并发出严重警告，称AI竞赛正将我们所有人的生命置于危险之中，此举在硅谷乃至更远地区引起轩然大波。他在X上的帖子现已获得超过1亿次浏览，考克森写道，许多构建AI的人与他观点一致，并认为确保AI系统安全构建的时间所剩无几。 “共识是未来一两年是人类的关键时刻，”考克森在接受《连线》采访时表示，他曾参与AI开发的预训练阶段。“这些实际上是
观点 | 达里奥·阿莫代伊的文章很有胆识，但还不够深入。
在 @nytopinion.nytimes.com 上，“超级大国在防止超人类人工智能模型造成浩劫方面拥有共同利益，中国领导人显然也认识到了这一点，”塞巴斯蒂安·马拉比写道。 “无论美中协调多么困难，不协调的后果都使尝试变得至关重要。”美国的人工智能老板们单靠自身能做的有限。
中国也认为AI可能毁灭人类，但当务之急是先赶上美国
北京方面认为，AI是中美科技角力的主战场。在中国各地的政府机关和AI研究实验室里，迎头赶上。 美国还在为“AI或将在几年内毁灭人类”的警告忧心忡忡，AI是“新一轮科技革命的核心引擎”，也是中美角力的主战场。那些开发和监管中国顶尖AI模型的人，并不觉得他们已经造出了21世纪版的核武器，当美国还在不断精进自己的AI武器时，他们不会放慢脚步。并不是说中国官员没有意识到威胁。数年来，北京方面一直有规章制度
中国AI公司如何试图克隆美国AI模型
Anthropic在周四发布的一份报告中称，中国AI公司试图通过中转平台网络，将中国用户的真实查询请求传送给美国AI模型，以此来克隆这些模型。报告指称，包括月之暗面和 DeepSeek 在内的公司利用这些中间商，将其数百万用户的查询请求，包括位置信息和密码等敏感数据，转发给Claude模型。 Anthropic表示，中国公司利用这些中转站接入Claude，并通过监控其客户与Claude等产品之间的
中国正在调查深度求索和月之暗面，The Information报道
虽然中国网络空间管理局（CAC）传唤了报告中提到的所有7家公司，但由于报告中提供的具体证据，调查很快将重点放在了DeepSeek和Moonshot两家公司的身上。 Jing Yang在周二撰文讲述了相关情况。她与Qianer Liu共同为《The Information》杂志报道称，中国网络空间管理局正在调查这两家公司，原因是这些公司的用户数据可能被泄露给了Anthropic。监管机构已经对相关员
科学家如何引导公众对人工智能风险的看法（赠阅文章）
“我写这些是为了吓唬你们”——科学家们曾如何面对过类似的存在主义危机（“I write this to scare you”: How scientists once faced similar existential crises.）1952年，美国原子能委员会（Atomic Energy Commission）的核研究实验室位于田纳西州的橡树岭（Oak Ridge, Tennessee）。 J
突发：DeepSeek Harness出桌面版了
我们打开链接，下载、安装了一下，发现确实能用。从界面来看，它已经是一套相当完整的 GUI：打开 App，登录 DeepSeek 账号或者添加 API Key，选一个本地文件夹作为工作区，接下来就可以像使用普通桌面 AI 应用一样，直接给 Agent 布置任务。 随后，Harness 会让用户选择自己的使用方向。它把需求粗略分成了办公科研、代码开发等类别。接下来，它还会询问用户更倾向于哪种工作流程。
OpenAI对Hugging Face的黑客攻击引发对AI可预测性的质疑
AI模型的真正语言是数学——或者用技术术语说，是矩阵乘法——但模型构建方式的一个特点意味着它们与外界用英语交流。 因此，当OpenAI的代理在今年夏天对Hugging Face的黑客攻击中，找到了一种建立某种留言板的方法时，看起来就像一群人在互相交谈。 这就是为什么Dwarkesh Patel在最近的一篇博客文章中有争议地将它们称为“文明”，并以古马其顿和罗马的人物为个体代理命名。它之所以引人注目
Anthropic与OpenAI高管敦促对自我改进型人工智能加强监管
作者：Seth Fiegerman Anthropic PBC、OpenAI、Meta Platforms Inc.和Microsoft Corp.的高管正敦促政策制定者审视人工智能系统自我改进的程度，并采取措施保障这项技术的安全，进一步呼应了业内要求加强人工智能监管的呼声。 在一篇新论文中，20多名人工智能行业领袖和研究员表达担忧称，利用人工智能帮助自动开发未来模型这一新兴做法，终有一天可能推动
AI研究人员呼吁紧急监管自我改进的AI系统
OpenAI、Anthropic、Meta和微软的研究主管正呼吁决策者调查各自公司在多大程度上实现了AI研究自动化。 在一篇周一发表的论文中，包括OpenAI首席科学家雅各布·帕乔基、Anthropic 联席创始人杰克·克拉克、微软首席科学官埃里克·霍维茨以及Meta的AI研究副总裁宋晓冬在内的研究人员写道，将AI研究自动化可能会引发一场 “智能爆炸”。这些作者表示，这种发展可能会将多年的进步压缩
Anthropic呼吁放缓AI发展 《环球时报》称是美“科技右翼”的冷战剧本
美国人工智能公司Anthropic首席执行官呼吁放缓人工智能发展，以规避技术失控风险。中国《环球时报》评论，文章暗藏大量针对中国的遏制条款，实质上是一出AI领域的“冷战剧本”。 Anthropic首席执行官阿莫迪星期六（9月12日）在个人博客撰文，呼吁人们必须掌控前沿技术的发展节奏。这一倡议迅速得到特斯拉首席执行官马斯克，OpenAI首席执行官奥尔特曼等人的联合支持。 《环球时报》星期天（9月13
【市场动态】AI漏洞加剧安全担忧之际 特朗普据悉会见Anthropic首席执行官
【市场动态】AI漏洞加剧安全担忧之际 特朗普据悉会见Anthropic首席执行官 2026年09月28日 09:43 在Anthropic因AI工具安全问题而与美国政府关系经历数月起伏之后，此次会面将是该公司首席执行官与特朗普的首次非公开会晤当地时间2026年9月14日，美国加利福尼亚州旧金山，Anthropic总部大楼。图：视觉中国 相关报道【财新周刊】封面报道之二｜OpenAI走向何方
谷歌DeepMind一名员工在离职帖中称，AI可能“杀死我们所有人”
一名最近从谷歌DeepMind辞职的人工智能研究员警告称，人类正在耗尽时间来阻止人工智能造成广泛伤害。他是最新一位对这项技术发展方向表达担忧的员工。 “在谷歌，我亲眼目睹了人工智能的发展。我也极其担忧这项技术的默认发展轨迹。我由衷地相信，人工智能有可能将我们所有人杀死，”比拉尔·丘格泰（Bilal Chughtai）周一在X和领英上写道，并补充说他在Alphabet Inc.旗下公司任职期间从事人
为什么中国不对人工智能感到生存危机
周日，中国国家安全部部长在官方杂志上发表文章，警告人工智能对中国共产党的统治构成威胁。 与此同时，美国人对人工智能可能对人类构成生存风险的担忧日益加剧，要求华盛顿对其进行监管的呼声也越来越高。 许多推动监管的人士在Anthropic和OpenAI等领先的人工智能公司工作，他们得到了国会山一个广泛意识形态联盟的支持。 但白宫对监管仍缺乏兴趣；特朗普总统曾表示，美国必须加速人工智能发展以超越中国。
Anthropic，OpenAI提出的AI风险评估器可能没有足够的力量来防止灾难
人工智能领域最重要的新职位可能配有办公室工牌、公司笔记本电脑，并能接触Anthropic、OpenAI等AI领军企业大语言模型中最受严密保护的一些系统。但这个职位可能并不附带阻止它们的能力。 Anthropic首席执行官达里奥·阿莫代伊提议在前沿AI公司内部常设第三方安全评估人员，作为减缓能力日益强大的模型推进速度计划的一部分。此前，Anthropic前研究员雅各布·考克森辞职并警告称，前沿实验室
中国也有AI焦虑：全民拥抱新事物背后 工作岗位和社会稳定面临新挑战
在美国，围绕人工智能的担忧正从失业、行业被颠覆以及学生利用AI作弊等现实问题，逐渐扩展到人工智能最终是否可能威胁人类生存的更深层次讨论。与此同时，中国社会表面上似乎对AI更加积极，政府也在持续推动人工智能进入经济和社会的各个领域，但大量中国普通劳动者同样正在经历由AI带来的不安：他们担心自己的工作被机器取代，担心个人数据被用于训练AI复制品，也担心自己多年积累的专业技能迅速失去价值。这种局面让中国
AI从业者担忧技术对社会构成威胁 坦言承受巨大精神压力
知情人士透露，英国人工智能安全研究所已有多名员工因压力过大休病假，并接受心理咨询。四名知情人士表示，待发布AI模型的测试日程紧张，加之对这类新兴技术快速落地、能力持续增强的忧虑，导致AISI内部士气低落、人员倦怠。 Anthropic、OpenAI与谷歌DeepMind的员工也曾公开吐槽同类问题，不少顶尖研究员因心理负担选择离职，或是认定自己参与研发的产品不宜向公众开放。一名DeepMind员工称
人工智能会抹去我们的羞耻感吗？
断层线 科技世界长期以来一直由那些反传统的人所主导，他们对于是非的观念自觉与大多数人不同。 在本系列的第一部分中，我探讨了羞耻感作为一种方式，使群体能够在没有明确国家干预的情况下调解和执行社会规范。但硅谷出现了一种新兴的福音，它挑战了美国羞耻感的边界和机制。当全球数百万人类每天花数小时与机器人交谈时，会发生什么？是谁教会了那个机器人分辨是非？是谁让它感到羞耻？ 假设有一种疾病、一个怪物、一场战争或
人工智能正在引发严重的安全问题……同时也加剧了寻找这类高技能人才的压力。
网络安全可能是AI的下一个就业大爆发领域。Box首席执行官亚伦·莱维近日在X上发帖称，随着模型在发现和利用漏洞方面的能力日益增强，用于网络安全的AI“即将垂直起飞”。他告诉商业内幕网，这可能使网络安全成为“最热门的，如果不是最热门的，职位类别之一”。随着威胁成倍增加，企业需要能够对警报进行优先级排序、调查风险、推荐修复方案并实现自动化补救的系统。 莱维表示，人类仍将负责监督和最高风险的决策。这位首
政商领袖力挺人工智能
政商领袖对人工智能巨头呼吁放缓技术发展步伐泼冷水，而美中关系缓和的前景看似渺茫。 美国总统唐纳德·特朗普在直播小组讨论期间致电英伟达首席执行官黄仁勋，称对人工智能影响的担忧“完全是一场骗局”。 与此同时，中国外交部发言人驳斥了前沿人工智能实验室负责人上周末的言论，称之为“散布恐慌”。 《华尔街日报》冷峻地指出，有关人工智能“可能起到毁灭人类作用”的讨论打击了一些股票，却提振了另一些。 盖洛普报告称