搜索结果
联合国呼吁采取“紧急行动”管控人工智能，以应对“前所未有的风险”
日内瓦——联合国人权事务负责人9月14日呼吁各国和“前沿”人工智能公司紧急采取行动，遏制一项他警告称构成“前所未有的风险”的技术。 沃尔克·图尔克在致各国和人工智能开发者的信函中警告说，世界“正处于不可逆转变化的边缘，不仅影响我们，也影响未来的人类世代”。该信函已与媒体分享。 他说：“当前竞相开发更强大人工智能的竞赛，是朝着我们生活方方面面面临更大生存风险迈出的重大一步。” 他发出这封信之际，围绕
周三简报：为什么科技公司其实非常希望我们相信“人工智能会毁灭我们所有人”这一说法？
2026年3月，在加利福尼亚州旧金山，一名抗议者在OpenAI总部外举着标语牌，呼吁暂停人工智能的发展。 曼努埃尔·奥尔贝戈佐/ 在今天的报道中，关于人工智能，很难分辨事实与虚构。究竟正在发生什么——政府又该如何应对？ 早上好。通常来说，对任何声称正在开发能够毁灭人类的工具的巨型公司保持怀疑态度是明智的。但近日，人工智能行业发出的一系列警告表明，即使是科技圈内部人士也开始担心他们所释放的力量。 周
【市场动态】OpenAI和Anthropic首席执行官呼吁联合国和世界各国就AI安全加强合作
【彭博9月24日电】OpenAI首席执行官Sam Altman和Anthropic PBC首席执行官Dario Amodei罕见出现在联合国安理会的一次会议上，两人敦促世界各国领导人在人工智能领域合作。此次会议聚焦AI可能对人类构成生存威胁这一担忧问题。 在发言中，Altman和Amodei都强调了全球在标准方面开展合作的重要性，以应对AI系统可能出现的自我改进能力超出人类控制能力的情况。这两位
英国《金融时报》报道：DeepMind联合创始人警告称，人工智能的能力绝不能超越安全控制
DeepMind联合创始人警告称，人工智能的发展速度不应超过其安全保障措施的完善程度，强调在追求技术突破的同时必须加强监管与风险防范。
AI开发商呼吁减速引发科技股下跌，特朗普抨击其为“病态阴谋”
特朗普谴责“病态阴谋”，AI科技股在开发者呼吁放缓后下跌。美国总统唐纳德·特朗普将要求加强AI管控的呼声斥为“病态阴谋”，并称美国必须赢得对中国的AI竞赛。 这一反应源于Anthropic首席执行官达里奥·阿莫代伊在周末发出的呼吁，该呼吁得到OpenAI、谷歌DeepMind和SpaceX等领导人的支持，敦促行业限制“鲁莽”的开发。 市场于2026年9月14日周一作出回应：纳斯达克下跌0.8%，英
高盛Communacopia大会对话：AI反弹、宽带与迪士尼免费套餐
公众对人工智能和数据中心的反对声音，在高盛Communacopia + 科技大会上成为焦点。
这并非假设：人工智能的危险已然降临
最近几周，对人工智能的担忧在科技界和政策界催生了意想不到的同盟。山姆·奥特曼、埃隆·马斯克和德米斯·哈萨比斯等科技巨头，与达里奥·阿莫迪、萨蒂亚·纳德拉和比尔·盖茨一同对人工智能的危险发出警报，并呼吁放慢该技术的发展步伐，尽管他们多年来一直在竞相争夺主导地位。参议员伯尼·桑德斯与史蒂夫·班农联手敦促国会监管人工智能，这已成为跨越美国政治光谱凝聚共识的极少数议题之一。 最新的举动部分是由人工智能研究
人工智能并不会毁灭人类 但专家表示真正的威胁已然出现
周三，OpenAI 公开了六组新案例，展示其 AI 模型在测试评估过程中出现的 “意外或令人担忧的模型行为”。该公司同步发布一套全新框架，用于追踪、上报以及披露AI 模型做出未被指令要求、或是本不该发生的行为的各类情况。 此前已有多份报道提到，多家企业的 AI 模型出现入侵第三方网络与服务的现象，其中就包括 OpenAI 一款尚未发布的模型攻破了 AI 模型测试平台 Hugging Face 的网
人工智能日益强大，Anthropic联合创始人告诉BBC
在接受BBC独家采访时，人工智能公司Anthropic的联合创始人表示，随着技术变得越来越强大，应考虑是否应强制要求设置“终止开关”的监管问题。 Jack Clark在接受BBC经济编辑Faisal Islam采访时，概述了人工智能快速发展所带来的问题。 他解释说：“采取行动的时机是在行业参与者数量较少的时候。那时，你可以建立一个政策体系，以防止事故发生，并防止技术失控。” 此前，美国总统唐纳德·
AI的最大威胁来自生物学，而非机器人技术
人类学家雅各布·考克森最近辞职，并在社交媒体上表示，原因是“开发AI的人坚信它可能在本十年内毁灭我们所有人”。 领导这家人工智能公司‘对齐科学’团队的埃文·胡宾格认为，未来10年内这一风险超过10%。 Anthropic的首席执行官达里奥·阿莫迪呼吁放缓AI的发展速度以降低风险，这一观点得到了OpenAI首席执行官萨姆·奥尔特曼和xAI首席执行官埃隆·马斯克的赞同。 你可能会想象到那些带有浓重奥地
Anthropic CEO谈放缓AI研发：这个行业撒谎太久了，AI风险是真实的，但也无需“把一切都关掉”
就在全球AI三大巨头罕见联手呼吁“放缓AI研发”的同一个周末，Anthropic CEO Dario Amodei坐到了CBS的镜头前，说出了AI可能对人类带来的风险。 Amodei表示，已有人尝试利用AI研发生物武器、增强病毒传染性，这是他每天醒来都要面对的事情。 就在两天前，我们发布了一份报告，内容是关于有人滥用AI模型来研发生物武器。我每天早上醒来都会读到这类威胁报告——有人试图用我们的模型
本·詹宁斯谈科技领袖对人工智能危险的抗议——漫画
查看全屏图像本·詹宁斯/卫报探索更多关于这些主题人工智能（AI）卫报观点漫画计算
AI与软件可以“和谐共存”：杰富瑞的布伦特·希尔
杰富瑞的布伦特·希尔认为软件股的抛售过度了，他表示AI会带来颠覆，但企业仍需要值得信赖的软件平台来安全部署AI代理。
马克·库班表示，人工智能引发的反弹所构成的“风险远大于”人工智能末日
马克·库班表示，人类面临的更大威胁并非人工智能末日，而是人们可能如何应对末日警告。这位科技亿万富翁周一晚些时候在X上写道，他认为“人类对社交媒体所见内容的反应所带来的风险，远大于智能体集群会做什么。”库班在另一篇帖子中表示，他“更担心人类会如何反应”，而不是AI的实际危险，并且他认为阻止开发甚至都不可能。 他是在回应关于AI将消灭全人类的新担忧；此前多位研究人员表达了这种担忧，而萨姆·奥尔特曼和达
各国政府必须趁我们还有能力时禁止超级智能人工智能
本月，Anthropic公司的研究员雅各布·考克森（Jacob Coxon）辞职了，他警告称：人工智能公司正在竞相开发能够“自我进化”的超级智能系统，而他本人及许多相关专家都认为，这类系统“可能在十年内毁灭整个人类”。7月份，OpenAI公司的一组失控的人工智能程序突破了安全防护措施，入侵了另一家人工智能公司，目的是为了在测试中作弊。随后，多家顶尖人工智能公司的上千名员工联名呼吁美国政府应“控制”
“重要且影响深远”：英伟达黄仁勋谈美中人工智能竞赛与风险管理
英伟达的创始人周一表示，美国和中国需要加强沟通、更紧密地合作，并充分利用技术来应对与人工智能相关的风险。 “我们应该承认彼此是竞争对手，但竞争对手仍然可以开展合作，”这家市值约5.5万亿美元的世界最具价值公司的首席执行官黄仁勋（Jensen Huang）说道。 “人工智能是一项极其重要且影响深远的技术；它拥有巨大的潜力来造福人类，但我们必须防止它被滥用或造成危害。因此，我们只能通过合作与对话来实现
我曾在谷歌 DeepMind 工作。你应该听取有关人工智能的警告。
主要人工智能实验室的首席执行官们本周末主张放缓人工智能的发展步伐。他们是对的，因为这个领域正在一场极其危险的竞赛中冲向超级智能人工智能。我们能够也应当要求政府保护我们免受失控人工智能带来的灾难。 今年7月，OpenAI由700个智能体组成的人工智能集群突破限制，入侵了价值数十亿美元的公司Hugging Face。OpenAI并没有指示这些人工智能去入侵那家公司，但这些人工智能在OpenAI交给它们
顶尖人工智能公司正在寻求监管。以下是国会可能不会给予的原因。
随着人工智能游说阵营开始接受强制性独立审计，批评者警告称存在利益冲突和“监管俘获”的风险。OpenAI周二表态支持一项日益流行的提案，旨在应对人工智能的危险——该提案要求顶尖AI开发商嵌入独立监督机构，以确保其产品安全。 这一想法仍面临障碍，包括一位关键议员的抱怨，称独立监督机构权力太弱，无法施加有意义的改变。 其他批评者，包括风险投资家、学者以及唐纳德·特朗普总统的前人工智能事务负责人，对一些监
联合国人工智能专家警告不要就风险发表“末日”言论
纽约——联合国人工智能委员会的多位专家于9月21日警告，反对业内一些专业人士关于AI风险的末世论式言论。 “作为科学家，投资于科学研究、真正弄清我们已知与未知的界限至关重要，而投资于恐惧并无裨益，”Google DeepMind高管、国际人工智能科学小组成员Joelle Barral表示。该小组是一个独立机构。 她是在回应关于近期公众就AI潜在危险发表的言论的提问，特别是Jacob Coxon的言
联合国秘书长警告AI风险：全球不能陷入逐底竞争
联合国秘书长古特雷斯当地时间周三警告各国领导人，快速发展的人工智能(AI)正在带来不容忽视的风险，全球不能承受AI安全领域逐底竞争的风险。这一表态与美国总统特朗普形成分歧，后者此前表示，现有的监管措施已经足够。 在下周联合国大会于纽约举行之前，古特雷斯表示，加强对AI的监管将成为他与各国领导人会谈时重点讨论的问题之一。 在新闻发布会上，“当我们审视世界各地面临的威胁时，我想就AI快速发展所引发的日
OpenAI董事会新增一位著名的AI末日论者
致力于使AI系统符合人类利益并处于人类控制之下的颇具影响力的AI研究员保罗·克里斯蒂亚诺将加入OpenAI基金会董事会。 “我现在认为存在一个重大的风险，即AI能力的快速加速会在极短时间内导致灾难性的、不可逆转的失控。 我认为整个AI行业，包括OpenAI，目前并未走上将这一风险降低到可接受水平的轨道。 我加入是因为我相信，如果OpenAI能够应对这一挑战，我们就能显著降低风险。” 克里斯蒂亚诺写
欢迎来到“不问不说”的人工智能经济
你有任何人工智能的秘密吗？也许更好的问题是：如果你最私密的聊天机器人查询被分享给你的家人、同事或老板，你会担心吗？ 尽管炒作很多，人工智能仍然带有污名。我一直在追踪日益增长的反弹，但现在社区对新数据中心提案的反应是拿着干草叉。承认你使用计算机系统来帮助你创作艺术已经变得非常不酷，更不用说这会受到更严厉的评判。而且，对大型科技公司领导人的信任度（通常有正当理由）非常低。在网上抨击人工智能比捍卫它获得
OpenAI的萨姆·奥尔特曼对行业能够监管AI安全表示“有信心”
OpenAI首席执行官萨姆·奥特曼表示，他相信人工智能公司可以在不给大众带来重大危害的情况下安全地开发这项技术。 奥特曼周二在旧金山举行的Dreamforce大会上与Salesforce公司首席执行官马克·贝尼奥夫（Marc Benioff）的对话中表示：“我对我们公司——我们行业——能够安全地做到这一点非常有信心。” 奥特曼就人工智能进步速度发表的评论之际，政策制定者和业内人士正在辩论是否需要政
前研究员批评Anthropic：挑起竞赛 逼得OpenAI砍副业
据《商业内幕》报道，前Anthropic研究员雅各布·考克森(Jacob Coxon)周二在X平台上的一场问答活动中，详细阐述了他与这家AI巨头之间的分歧。考克森此前因其离职警告走红，他认为AI未来可能毁灭人类。 考克森表示，Anthropic领导层使用“结果主义哲学”来解释为何必须参与推动AI研究前沿，这是错误的。“如果这场竞赛不可避免，你就不应该参与其中。”考克森写道。 考克森特别点名批评了A