搜索结果
中美AI竞赛：世界变得更危险还是更安全？
关于人工智能（AI）及其潜在危险的警告，近年来可谓接连不断。 美国最大的人工智能公司之一——Anthropic——的一名顶尖AI安全研究人员警告说，这项技术正以惊人的速度发展，未来十年内，AI“可能导致全人类灭绝”的概率高达10%。 这样的担忧引发了要求美国采取协调一致行动、放缓AI发展速度的呼声。但与此同时，也有人质疑是否真的有必要为AI设置监管“护栏”。美国总统特朗普就是其中之一。他认为，如果
为什么中国不对人工智能感到生存危机
周日，中国国家安全部部长在官方杂志上发表文章，警告人工智能对中国共产党的统治构成威胁。 与此同时，美国人对人工智能可能对人类构成生存风险的担忧日益加剧，要求华盛顿对其进行监管的呼声也越来越高。 许多推动监管的人士在Anthropic和OpenAI等领先的人工智能公司工作，他们得到了国会山一个广泛意识形态联盟的支持。 但白宫对监管仍缺乏兴趣；特朗普总统曾表示，美国必须加速人工智能发展以超越中国。
AI丨国际清算银行:AI快速发展带来新金融稳定风险
国际清算银行(BIS)表示，人工智能(AI)的快速崛起正带来新的金融稳定风险，用于AI相关基础设施的支出规模已经大到足以影响全球经济状况；该行估计，全球五大科技公司在2025年至2026年间对AI领域的投资将超过1万亿美元。 国际清算银行总经理德科斯(Pablo Hernandez de Cos)称，AI的前景是真实存在的；而AI的长期影响将取决于政策选择、技能和基础设施投资，以及相关收益能在多大
中美谈AI安全：共同的风险，不同的恐惧
中美谈AI安全：共同的风险，不同的恐惧 邓聿文：中美领导人讨论AI安全，当然有助于建立最基本的危机沟通和军事红线。但真正的较量，将发生在“安全”这个词由谁解释上。 美国财政部长贝森特和中国副总理何立峰在纽约举行的新一轮经贸会谈，除了关税、稀土、美国农产品和波音飞机仍是重要议题外，增加了人工智能安全这项新内容。贝森特向中方提出建立AI安全事件通报机制，双方同意启动相关对话，并把这一建议交给即将举
少年比尔·盖茨能解答70岁的盖茨已遗忘的AI末日难题
比尔·盖茨对AI感到担忧。没有人正在为大规模失业、非人道的强大网络攻击，以及科技皇帝们手中权力与财富的巨量积累做准备。是的，就是那个比尔·盖茨。真的。 仅仅25年前，雷德蒙德的全球章鱼用Windows XP把触手收得更紧，如今这位老兄却对这科技玩意儿打起了退堂鼓。他紧张地回望大萧条。我们真的想回到那里吗？他没说错，但这在如今已不算什么。 他的补救措施——国际联合监管、国家规划与投资，为即将被抛弃的
GOV.UK创始人警告：人工智能淘金热可能使英国陷入困境
GOV.UK创始人迈克·布拉肯（Mike Bracken）表示，英国正面临一种风险，即用对少数人工智能供应商的深度依赖，取代原本对外国技术供应商的依赖。布拉肯曾创立英国政府数字服务局（GDS），并担任英国首位政府首席数据官。他指出，政府和其他机构在将越来越多的技术依赖堆叠到其运营中时，正逐渐丧失对关键系统的控制权。 “机构很少会在危机中突然丧失主权，它们是在一次次看似合理的决策中逐渐失去主权的，”
韩国希望实现“全民免费使用人工智能”的目标。但社会真的为此做好了准备吗？
在硅谷及其他地区，人工智能的设计者们日益警告其对人类构成的风险。 Anthropic 首席执行官 Dario Amodei 希望行业放慢脚步。一位曾在该公司工作的前工程师，同时也曾在竞争对手 OpenAI 任职，在本月早些时候辞职后对记者表示，他“真的感到害怕”，因为不受约束的 AI 发展可能意味着“我们在不久的将来都可能会死”。 甚至被称为“AI 教父”的诺贝尔奖得主、计算机科学家 Geoffr
白宫反问AI公司：既然你们觉得危险，为什么不自己停？
既然你们觉得危险，为什么不自己停？凤凰网科技讯 9月21日，据Business Insider报道，白宫科技政策办公室主任迈克尔·克拉齐奥斯在福克斯新闻周日节目中说，对于担心AI模型发展过快、可能不安全的公司，最简单的解决方案是自行“踩刹车”。他表示，如果企业认为自己正在开发的技术不安全，就可以停止，无需政府强制。 “有意思的是，他们谈论这些问题，谈论他们对未来可能走向有多害怕，也许他们想暂停。我
特朗普称不担心AI会失控：这是一场工业革命
据凤凰卫视报道，美国总统特朗普27日接受采访时被问及是否担心AI可能失控，他回应称完全不会，并指相关业者负有修正问题的责任，“我一点都不担心AI会失控。这是一个庞大的产业。这是一场工业革命，甚至规模更大。如果某件事有问题，他们企业就必须加以纠正……但你绝不能仅因为抱持这种忧虑，就放弃一个价值数万亿美元的产业。”特朗普透露，他将与Anthropic公司首席执行官阿莫代伊讨论业界关于“放缓AI发展”的
查尔斯国王警告称，如果人工智能落入坏人之手，将带来“生存危机”（即对人类社会的严重威胁）。
查尔斯国王警告人工智能高管，该技术若落入错误之手，将带来“生存性危险”。 他在苏格兰邓弗里斯宫召集了一场峰会，讨论如何利用该技术造福社会，并发表了上述言论。 出席会议的还有英国人工智能大臣卡尼什卡·纳拉扬、教皇的顾问，以及来自英伟达、OpenAI和Anthropic等人工智能巨头的代表。 这一事件发生在业内人士近期就先进或“前沿”人工智能模型快速演化的能力以及对其进行管控所需的监管措施发出的一系列
这并非假设：人工智能的危险已然降临
最近几周，对人工智能的担忧在科技界和政策界催生了意想不到的同盟。山姆·奥特曼、埃隆·马斯克和德米斯·哈萨比斯等科技巨头，与达里奥·阿莫迪、萨蒂亚·纳德拉和比尔·盖茨一同对人工智能的危险发出警报，并呼吁放慢该技术的发展步伐，尽管他们多年来一直在竞相争夺主导地位。参议员伯尼·桑德斯与史蒂夫·班农联手敦促国会监管人工智能，这已成为跨越美国政治光谱凝聚共识的极少数议题之一。 最新的举动部分是由人工智能研究
阿尔特曼称AI的快速进展可能走向“非常糟糕”
OpenAI首席执行官萨姆·阿尔特曼表示，AI公司不应等到政府就该技术立法后才实施自身的安全控制。
韦斯·摩尔表示各州无法独自应对AI风险，呼吁联邦政府设立护栏
韦斯·摩尔表示，各州无法独自应对人工智能带来的风险，呼吁联邦政府制定相应的监管措施。作为全国州长协会的主席，摩尔强调：“在缺乏联邦政府领导的情况下，各州无法有效地进行相关监管工作。” 周日，马里兰州州长韦斯·摩尔在CNN的《国情咨文》节目中呼吁联邦政府在人工智能领域制定统一的监管标准，并警告称各州无法独自应对这项快速发展的技术。 摩尔指出，两党州的领导人都正在探讨如何对人工智能进行监管，但他认为：
为什么比尔·盖茨想要人工智能法律？他说自我监管还不够
比尔·盖茨表示，人工智能需要政府规则、更强的保障措施和监控，并认为人工智能公司的自我监管是不够的。
特朗普与国会抵制日益增长的人工智能监管呼声
科技界领袖正就人工智能的迅猛发展及其对人类构成的潜在威胁发出紧急警报。随着警告称AI模型可能失控并导致人类灭绝，相关担忧已升至顶点，使该技术可能毁灭全人类的恐惧正式进入主流舆论视野。 为应对上述风险，包括OpenAI、Anthropic和Google DeepMind在内的AI巨头已展开安全对话，并致力于组建行业标准机构。随着业界日益担忧该技术可能很快变得强大到难以掌控，Anthropic与Ope
马斯克发警告：AI要是控制了军事系统发射核弹，那就太糟糕了
美国多家人工智能（AI）巨头近来联合呼吁放缓AI的发展，实施必要的监管。xAI的创立者马斯克9月15日再度发出严厉警告。“如果AI能够控制军事系统，并发射核弹，那就太糟糕了。” 现场有人说，这些军事系统都是被物理隔离的，并没有连接到互联网。“话虽如此，但我总觉得它们还是会不时进行软件更新。” 近期，外界对于AI技术潜在风险的担忧持续升温。刚刚从Anthropic离职的AI研究人员雅各布·考克森告诉
【市场动态】OpenAI和Anthropic首席执行官呼吁联合国和世界各国就AI安全加强合作
【彭博9月24日电】OpenAI首席执行官Sam Altman和Anthropic PBC首席执行官Dario Amodei罕见出现在联合国安理会的一次会议上，两人敦促世界各国领导人在人工智能领域合作。此次会议聚焦AI可能对人类构成生存威胁这一担忧问题。 在发言中，Altman和Amodei都强调了全球在标准方面开展合作的重要性，以应对AI系统可能出现的自我改进能力超出人类控制能力的情况。这两位
人工智能真正的末日为何已经到来——凯和卡特的国内访谈
一位前Anthropic研究员关于人工智能的末日宣言引发了全球恐慌，担心这项技术可能会终结我们所有人。 在美国华盛顿今天举行的一次警告人工智能危险的活动上，美国参议员伯尼·桑德斯表示，国会一直“睡大觉”。奇怪的是，史蒂夫·班农也出现在了同一个活动上。 但这种反应是否会分散人们对人工智能已造成的更紧迫问题的注意力？ 凯·赖特和卡特·谢尔曼与《卫报》科技记者乔安娜·布伊扬一起，将这一时刻置于背景中，她
Jeffrey Sachs：特朗普面对AI危机就如盲人引路
美国总统所展现的，是一种将我们所有人置于严重危险之中的根本性无能。 周日，美国总统站在爱尔兰克莱尔郡的一座高尔夫球场上，被问及他打算如何应对我们这一代人所面临的最严峻科技警讯。美国正在击败中国。「我们在人工智能（AI）领域领先中国。我们是世界上最先进的国家，坦白说，我希望维持这种局面，因为谁掌握了AI，谁就赢了。」「有许多不该炒作这件事的负面势力在炒作，而且他们炒作的都是根本不会发生的事情。」 试
盖茨基金会承诺捐赠10亿美元以应对人工智能不平等
盖茨基金会已承诺在未来两年内至少支出10亿美元，以扩大全球对人工智能的获取，并帮助“缩小最富有与最贫穷之间的差距，而不是扩大差距”。基金会主席比尔·盖茨一直公开谈论人工智能的危险。这笔捐款将投资于人工智能项目，以弥合社会不平等。
李飞飞谈AI安全：不能只让开发者评估自己的系统
凤凰网科技讯月23日由独立机构和公共部门对AI进行更多监督。她认为，对于能力日益强大的AI系统，其安全评估不应完全交由开发这些系统的公司负责。 作为斯坦福大学教授、World Labs联合创始人，李飞飞周二表示，尽管AI公司的内部研究人员可以评估单个模型的能力和安全性，但这无法替代由政府、行业和学术机构共同制定的更广泛标准。 “我仍然认为，由独立机构以及学术界等公共部门制定基准非常重要。同时，行业
人工智能歇斯底里存在Y2K问题--这次的赌注可能要高得多
专家表示，华盛顿对人工智能日益加剧的警惕正开始让人想起“千年虫”问题，当时对技术灾难的严厉警告引发了一场大规模紧急行动，以避免最终被证明远没有人们担心的那么严重的故障。 “你也可以用千年虫问题描绘出各种可怕的情景。金融系统本来会崩溃，因为人们没有为2000年编写程序。我在20世纪80年代就曾为政府编写程序，所以我很清楚这个程序，”Junk Science出版人兼创始人史蒂文·米洛伊对福克斯新闻数字
G20警告：新AI模型对金融稳定构成日益严重的威胁
G20金融稳定委员会主席写道，人工智能引发的潜在干扰不会止步于国界，确保新模型安全发布的努力应成为优先事项。
观点 | 如果人工智能泡沫破裂会发生什么
大约一年前，OpenAI首席财务官莎拉·弗里亚（Sarah Friar）表示，公司维持其当前财务“走钢丝”般状态的一种方式，可能是获得一种“后盾”或“担保”——即政府担保——“以使融资得以进行”。几乎在同一时间，公司首席执行官萨姆·阿尔特曼（Sam Altman）表示：“考虑到我预期人工智能的经济影响将呈现的巨大规模，”政府应充当“最后贷款人”的角色。 他们对这些言论做了限定，但大意似乎是，《华尔