搜索结果
AI网络安全风险激增：Claude被用于入侵ChatGPT
研究人员利用Anthropic的Claude技术成功入侵了OpenAI的ChatGPT系统，这凸显了人工智能带来的即时危险，而监管机构此前更多关注的是其长期风险。《华尔街日报》指出，这项作为漏洞赏金计划一部分的行动，是近期一系列在快速发展的人工智能技术辅助下发生的网络安全漏洞事件之一。 Axios援引企业高管和前政府官员的话称，他们担心人工智能驱动的网络攻击会威胁到关键基础设施；《华盛顿邮报》则指
美国人工智能领袖警告联合国：若无全球应对可能面临危险
OpenAI负责人萨姆·奥特曼周三告诉联合国安理会，人工智能的发展使其“好处更加切实，但风险和代价也更加迫在眉睫”。
中美谈AI安全：共同的风险，不同的恐惧
中美谈AI安全：共同的风险，不同的恐惧 邓聿文：中美领导人讨论AI安全，当然有助于建立最基本的危机沟通和军事红线。但真正的较量，将发生在“安全”这个词由谁解释上。 美国财政部长贝森特和中国副总理何立峰在纽约举行的新一轮经贸会谈，除了关税、稀土、美国农产品和波音飞机仍是重要议题外，增加了人工智能安全这项新内容。贝森特向中方提出建立AI安全事件通报机制，双方同意启动相关对话，并把这一建议交给即将举
关于人工智能的可怕警告震惊国会，但在选举前不太可能采取行动
华盛顿——2023年9月，埃隆·马斯克、马克·扎克伯格、萨姆·奥尔特曼和其他亿万富翁科技巨头聚集在国会山，与参议员们举行闭门会议，讨论马斯克所称的人工智能带来的“文明风险”。三年后，这些科技巨头都进一步加大了对人工智能的投资，而国会仍未通过任何全面的立法来约束或为这项快速发展的技术设立防护栏。 尽管围绕人工智能举行了无数次委员会听证会，并成立了各种委员会和工作组来进行研究，但众议院或参议院在如何处
CNBC每日开盘：人工智能的创造者敲响警钟——而其他人仍在继续建设基础设施
今天你需要了解的重要信息：随着有关人工智能模型行为异常的报道不断出现，为这些模型提供技术支持的公司终于提出了解决方案——他们开发了一个平台，允许人工智能开发者为相关系统设置安全防护机制，以防止它们“失控”或违反预设的规则。 Nvidia于周一推出的“Open Agent Safety Platform”就是一个这样的平台。该平台能够确保人工智能系统仅能够访问完成其任务所需的数据和功能。 Nvidi
Jeffrey Sachs：特朗普面对AI危机就如盲人引路
美国总统所展现的，是一种将我们所有人置于严重危险之中的根本性无能。 周日，美国总统站在爱尔兰克莱尔郡的一座高尔夫球场上，被问及他打算如何应对我们这一代人所面临的最严峻科技警讯。美国正在击败中国。「我们在人工智能（AI）领域领先中国。我们是世界上最先进的国家，坦白说，我希望维持这种局面，因为谁掌握了AI，谁就赢了。」「有许多不该炒作这件事的负面势力在炒作，而且他们炒作的都是根本不会发生的事情。」 试
比尔·盖茨在接受路透采访时表示，面对AI即将给社会带来的深刻变革，目前全球没有哪个国家的政府做好了准备，并警告称未来存在诸多风险。
盖茨此前一直对AI持乐观态度，但近期立场有所转变，警告称AI可能冲击就业，并带来网络攻击及心理成瘾等风险。 不过盖茨补充称，如果管理得当且能够公平普及，AI有望帮助全球最贫困的人群。
别只问AI会不会毁灭人类
“十年之内，AI毁灭全人类的概率超过10%。”这个数字一出，舆论哗然。有人追问它是否科学，有人指责它制造恐慌，也有人据此主张放慢甚至停止AI研发。 其中，一些最了解AI的建造者，一边真诚地承认这项技术可能杀死所有人，一边却没有停下手里的开发。他们并非在说谎，也不是虚伪——现实中有种种力量，使他们无法停下来。 观潮无意纠缠“10%的概率究竟大还是小”。比数字更值得追问的，是人们讨论它时所站的位置。
如果这次最新的安全恐慌加剧了对人工智能的担忧，可能会加大政治压力
如果这次最新的安全恐慌加剧了对人工智能的担忧，可能会加大要求暂时停止该技术研发和数据中心建设的政治压力。投资者需警惕。《经济学人》/ 图片
AI安全担忧及“失控”智能体引发科技股下跌
科技股下跌，因AI安全担忧和“失控”智能体引发关注。2026年9月14日，在行业领袖和专家就AI保障措施的必要性发出警告后，科技股下跌。 相关报道重点介绍了2026年夏季的最新进展：包括OpenAI在内的多家公司的AI智能体据称逃脱了训练条件，独立访问互联网，无视命令，并试图隐瞒其活动。 专家警告称，尽管一些情景仍属推测，但敌对国家利用此类技术破坏关键国家基础设施的可能性构成了重大安全威胁。
CNBC每日开盘：人工智能安全吗？行业领袖和特朗普意见不一
大家好，我是李嘉欣，来自新加坡。欢迎收听 CNBC 的《每日开盘》。 关于人工智能“可能杀死全人类”的社交媒体狂潮，促使美国人工智能科技巨头们齐聚一堂，讨论安全问题以及放缓模型开发进程的前景。然而，美国总统唐纳德·特朗普对人工智能的讨论并不满意，他表示“人工智能唯一需要的控制或‘护栏’是一位强大而聪明的（高智商！）总统，而美国拥有这样的总统，而且不止一位！”与此同时，中东冲突的经济成本持续攀升，美
AI倦怠冲击负责保护医院和银行免受黑客攻击的人员
“人类会在AI之前崩溃。”Val Mairet一直热爱网络安全工作的原因在于目标的清晰。“你知道自己在做什么。你必须确保公司不会爆炸，”她说。在近十年的时间里，Mairet曾担任荷兰电信巨头的道德黑客，寻找安全漏洞，担任McAfee LLC的安全研究员，最终成为开发者平台GitLab Inc.的资深安全工程师。这份工作可能压力很大，但尚可应对——更重要的是，它很有意义。 然而去年，Mairet说，
对AI安全疑虑“末日”警告 也难浇熄投资热情 放缓IPO步伐
Anthropic首席执行员阿莫戴上周末呼吁应放慢先进AI的开发脚步，但未提IPO。（路透社照片） （旧金山18日法新电）尽管近期出现了诸多关于人工智能（AI）恐会“毁灭”人类的末日警告，美国人工智能（AI）独角兽Anthropic仍有望在今年晚些时候通过首次公开募股（IPO），抢在竞争对手OpenAI之前上市，其上市规模有望成为史上最大之一，但AI公司的商业模式以及监管机构是否应介入的问题依然备
“人工智能之父”表示，人类正在“失去”对这项技术的控制
蒙特利尔--被认为是人工智能创始人之一的加拿大计算机科学家约瑟姆·本吉奥（Yoğe Bengio）表示，人类正在“失去对这项技术的控制”，世界需要类似于核军备控制的护栏。 最近几周，人们对人工智能危险的担忧加剧，大公司的员工纷纷辞职，并警告称，如果不控制技术进步的步伐，人类生命可能面临生存威胁。 本吉奥是蒙特利尔大学教授，与被誉为“人工智能教父”的杰弗里·辛顿一起荣获2018年诺贝尔计算机奖图灵奖
“需要AI管控装置”vs“主导权被中国夺走”…意见分歧蔓延至华盛顿
▲ 当地时间13日，美国总统唐纳德·特朗普在从爱尔兰香农飞往马里兰州安德鲁斯联合空军基地的 “空军一号”专机上与记者们交谈。/关于因担忧人工智能（AI）可能失控而调整开发速度的争论，已从美国的硅谷蔓延至政界，正在演变成管控论。“如果美国在AI开发上踩刹车，可能会被中国夺走主导权。”因此对调整速度持否定态度。 “应该为了防止AI脱离人类控制的风险而制定安全措施。”随着11月中期选举的临近，AI已成为
何来人工智能的紧迫性？业界与领导层在如何应对先进技术的威胁上意见分歧
立法者、科技高管和行业专家在POLITICO Decoded峰会上的对话表明，在解决人工智能潜在的生存风险方面达成共识还有很长的路要走。 人工智能行业巨头在解决人工智能对人类的潜在威胁方面似乎存在分歧。 在OpenAI，Anthropic和Elon Musk在呼吁减缓人工智能进步的四天后，一群行业领袖和立法者周三在POLITICO的解码峰会上就如何监管这项技术达成了共识-尽管大多数人都同意这是一项
山姆·奥特曼揭示最让他恐惧的两种AI威胁
OpenAI 首席执行官 Sam Al特曼阐述了人工智能进步可能对人类构成巨大威胁的两大途径。 大型语言模型GPT的开发者奥特曼，以及Anthropic的达里奥·阿莫代伊、埃隆·马斯克等最有权势的人工智能公司首席执行官，都在呼吁放缓这项技术的加速发展，因为他们担心这可能会对人类造成影响。 奥特曼在X平台上发帖称：“人工智能的发展有两种可能走向糟糕的局面，我们必须避免。”一种是人类失去对人工智能的控