搜索结果
AI末日论甚嚣尘上，美科技巨头为何管不住AI？
抗议AI的美国人此前有报道称，OpenAI所谓的AI智能体逃出了测试系统，并入侵了另一家公司的计算机。AI研究领域内部如今再次发出警报，科技公司为了追求开发速度和利润，将安全置于次要位置。 研究人员表示，问题有两个方面。首先，企业需要在测试最新AI模型的同时，为其建立更完善的安全防护措施。目前，由于AI运行速度太快，研究人员需要借助AI来监控AI。但这种方式并不总是奏效，因为负责监控的AI似乎可能
阿尔特曼称AI的快速进展可能走向“非常糟糕”
OpenAI首席执行官萨姆·阿尔特曼表示，AI公司不应等到政府就该技术立法后才实施自身的安全控制。
盖茨、奥尔特曼、马斯克，为何都在担忧这件事
9月25日，微软创始人比尔·盖茨在一条NBC即将播出的采访中发出警告：人工智能（AI）是一种足够强大的工具，但如果被怀有恶意的人利用，“足以引发导致十亿人死亡的事件”。他认为，保障AI安全光靠企业自我监管不够，必须要执法部门和政界人士参与讨论。这是本月内又一位科技巨头公开表达对AI安全的担忧。此前，Anthropic首席执行官达里奥·阿莫代伊发文呼吁，各国政府和前沿企业应放慢AI能力提升速度，合作
周三简报：为什么科技公司其实非常希望我们相信“人工智能会毁灭我们所有人”这一说法？
2026年3月，在加利福尼亚州旧金山，一名抗议者在OpenAI总部外举着标语牌，呼吁暂停人工智能的发展。 曼努埃尔·奥尔贝戈佐/ 在今天的报道中，关于人工智能，很难分辨事实与虚构。究竟正在发生什么——政府又该如何应对？ 早上好。通常来说，对任何声称正在开发能够毁灭人类的工具的巨型公司保持怀疑态度是明智的。但近日，人工智能行业发出的一系列警告表明，即使是科技圈内部人士也开始担心他们所释放的力量。 周
方舟投资的伍德表示，全球人工智能领导人的承诺对技术发展具有积极意义。
悉尼，9月15日：全球科技投资者、方舟投资管理公司创始人凯茜·伍德周二表示，AI领袖们承诺放缓该技术的快速推进，是帮助保障和维护行业发展的积极一步。 Anthropic首席执行官达里奥·阿莫代伊周末呼吁AI公司放缓模型能力提升的速度，眼下全球对该技术被滥用的担忧日益加剧。 他立即得到xAI和特斯拉创始人埃隆·马斯克以及OpenAI首席执行官萨姆·奥特曼的支持。周一，全球AI股票下跌，因投资者权衡该
OpenAI的首席财务官Sarah Friar在接受CNBC采访时表示，她并不担心人工智能（AI）发展的放缓。
OpenAI的首席财务官Sarah Friar在接受CNBC记者Jim Cramer的采访时表示，她并不担心人工智能（AI）发展的速度会放缓。 “即使我们现在停止研发，全球现有的AI技术依然非常强大，”Friar说道。她补充说，OpenAI会在确保投资具有“高回报率”（即投资能够带来显著的经济效益）的前提下做出投资决策，即使这意味着需要控制AI技术的发展速度。 最近一周，关于AI安全性的讨论日益激
据彭博新闻社报道，OpenAI正在与Anthropic和谷歌就人工智能安全展开合作。
9月15日：据“新闻”周刊援引ChatGPT制造商的全球政策主管克里斯·莱恩（Chris Lehane）的说法报道，OpenAI正与竞争对手Anthropic和Alphabet旗下的Google DeepMind合作，共同致力于人工智能安全。 在美国主要人工智能实验室的负责人周末团结一致呼吁暂停该技术发展后，全球对人工智能的生存风险的担忧日益加剧。 据报道，莱恩表示，OpenAI已与Anthrop
OpenAI的布罗克曼表示，暂停AI应聚焦前沿。
格雷格·布罗克曼，OpenAI总裁兼联合创始人，主张人工智能发展中的任何放缓都应仅限于像他所在公司这样正在构建最强大模型的企业。 “很多人会有这种反应，‘好吧，那我是不是还能继续制作我的开源模型？我是不是还能继续做我的业余副业？’而答案应该是绝对可以，”布罗克曼在彭博社的《Odd Lots》播客节目中说道。“当我们谈论发展节奏时，我们实际上是在谈论技术前沿。我们谈论的是那些价值数千亿美元资本开支的
任何速度都不安全：随着安全担忧加剧，AI乐观主义者开始变得谨慎
观点 不久之前，比如今年早些时候，AI领袖们还在像往常一样做出不切实际的承诺，宣称AI将带来多么美好的未来。 Anthropic CEO Dario Amodei在推特上表示，AI“实际上将有可能在5-10年内治愈大多数人类疾病”。 在一次播客中，OpenAI CEO Sam Altman宣称AI将创造“我们从未见过的、人们创办小型企业的最大繁荣”。那么，有什么不喜欢的呢？ 嗯，你会发现这些AI
OpenAI首席执行官表示，把控AI节奏并不意味着停止进步
萨姆·奥尔特曼说：“再大的美国竞争压力也不应成为鲁莽行事的理由。”
OpenAI首席执行员下周赴安理会作简报
阿尔特曼下周将到联合国安理会进行简报。（图：路透社） （华盛顿19日法新电）OpenAI周五表示，该公司首席执行员阿尔特曼将于下周在联合国大会期间，向联合国安全理事会作简报。 此次会议由国安理会轮值主席国的法国组织召开，此前该行业的主要参与者曾表示，出于安全考虑，可能有必要放缓人工智能的发展步伐。 随着人们对这项快速发展的技术所带来的危险的担忧日益加剧，联合国秘书长古特雷斯周三呼吁采取协调一致的国
OpenAI 想谈谈《联邦党人文集》
这家AI巨头担心无所不能的机器人可能对我们的宪法权利意味着什么。
马特·卡纳万指责OpenAI在投资“威胁”后进行“敲诈”
国家党领袖马特·卡纳万指责OpenAI试图“勒索”堪培拉，此前有报道称，如果阿尔巴尼斯政府不削弱版权保护，这家科技巨头可能会撤出在澳大利亚的投资。“我认为我们不应该与想要这样勒索我们的人谈判，”他周二对News24表示。“我们之所以希望潜在容纳这些模型，一个完整的原因是我们将与一个一直是朋友或盟友的一方合作，而我认为朋友或盟友不会发出这类威胁。”“我认为OpenAI用这样的言论或措辞不会走得太远。
允许人工智能公司串通以‘控制前沿步伐’是一个危险的提议
科技公司CEO们联合起来，是源自美国企业界的一种老把戏，旨在获得反垄断法的豁免。Anthropic的达里奥·阿莫代并不是第一个提出过度竞争正将世界推向某种社会不良后果的企业CEO。 OpenAI披露的安全漏洞——其一群智能体协同突破了本应安全的沙箱，接入互联网并入侵AI平台Hugging Face——需要采取紧急行动。它表明了该技术能够轻易逃避人类控制，并为这样一种存在性恐惧赋予了具体形态：如果未
OpenAI敦促美国牵头为人工智能制定全球标准
OpenAI敦促美国牵头与其他国家共同为前沿人工智能（AI）制定标准，以回应对AI潜在危害日益加剧的担忧。OpenAI周一在博客文章中表示，为了安全地发展人工智能，有必要制定国际技术标准，特别是帮助界定涉及AI模型的哪些类事件应当通报，明确各国如何开展AI发展合作，以及改善开发此类技术所需算力的获取。 “要让AI的持续进步安全有益，既需要推进对齐研究，也需要制定共同标准，为各实验室和各国的AI开发