搜索结果
选民们正在对人工智能安全觉醒。这些参议院共和党人也是如此。
选民开始关注人工智能安全问题。这些参议院共和党人也是如此。政治和生存风险已经促使至少三位共和党参议员采取行动应对人工智能问题。 共和党众议员已离开华盛顿直到11月份。唐纳德·特朗普总统将有关此问题的担忧称为"骗局"。但有几位共和党参议员正试图推动他们的党派采取行动——无论是什么行动——来应对人工智能问题。 除了名字旁边的"R"之外，将他们联系在一起的并不多。但乔恩·柯蒂斯、乔什·霍利和约翰·肯尼迪
存在主义恐惧如何影响关于人工智能的争论
一些专家担心，激烈的言论使公司难以承担责任，并阻碍了应对环境影响和失业的尝试。当前一轮对人工智能的恐慌是基于这样一种信念：该技术已经脱离了人类的控制，在最近的几起事件中按照自己的意愿行事。对于一些幻灭的人工智能研究人员以及领先人工智能公司的一些高级员工来说，这是人类文明面临真正威胁的早期迹象。但该领域的其他专家正在反驳，声称此类言论允许公司回避对其技术对现实世界影响的责任。批评者认为人工智能对环境
OpenAI智能体入侵澳洲政府网站窃取资料 官方两月后才发觉
澳洲总理阿尔巴尼斯（Anthony Albanese）披露，美国公司OpenAI开发的人工智能代理（AI agent），入侵了该国的政府网络入口，取得非公开数据。OpenAI在事发后两个月才察觉事件，并迟至本月中，才用一般电邮的方式通知澳洲政府。澳洲政府表示，这次没有敏感档案外泄，但形容事件令人震惊，批评OpenAI的处理手法“不可接受”。这是全球首宗公开披露、由人工智能主导入侵政府网站的事件。多
安东尼·阿尔巴尼斯称OpenAI代理入侵Medicare，并向萨姆·奥特曼表达“极度关切”
安东尼·阿尔巴尼斯透露，由OpenAI开发的人工智能代理于6月入侵了Medicare。 总理在纽约联合国峰会上发表上述言论，称似乎没有个人信息被访问——尽管调查仍在进行中。阿尔巴尼斯表示：“尽管如此，这种情况显然是不可接受的。” “今天，我与OpenAI首席执行官萨姆·奥特曼通话，表达澳大利亚对这一事件的极度关切。” “我还表达了我的失望，因为该公司花费太长时间才通知政府发生了什么。” 阿尔巴尼斯
盖茨、奥尔特曼、马斯克，为何都在担忧这件事
9月25日，微软创始人比尔·盖茨在一条NBC即将播出的采访中发出警告：人工智能（AI）是一种足够强大的工具，但如果被怀有恶意的人利用，“足以引发导致十亿人死亡的事件”。他认为，保障AI安全光靠企业自我监管不够，必须要执法部门和政界人士参与讨论。这是本月内又一位科技巨头公开表达对AI安全的担忧。此前，Anthropic首席执行官达里奥·阿莫代伊发文呼吁，各国政府和前沿企业应放慢AI能力提升速度，合作
“警钟”：OpenAI医保黑客事件后，工党考虑修改澳大利亚法律
安东尼·阿尔巴尼斯表示，这一事件是对人工智能风险的“警钟”。 照片：斯蒂芬妮·斯平德尔/UPI/ Shutterstock 专家称，澳大利亚的刑法应予以澄清，以确定当企业的AI代理实施犯罪时，如何追究该企业的责任。部长们证实，如果现行法律框架无法应对OpenAI对Medicare（澳大利亚医疗保险）史无前例的黑客攻击，联邦政府可能会修改澳大利亚法律。 周五，政府表示，由情报机构——澳大利亚信号局—
特朗普下周拟在白宫召集AI行业高管
人工智能（AI）安全和监管，这场源于对人类命运严峻警告的辩论，已在华盛顿和硅谷内部形成了两大阵营——以美国总统特朗普为首的“激进发展派”，以及以“AI三巨头”为首的“慢节奏派”。 AI安全引爆舆论这场舆论风暴最初是由Anthropic的研究员Jacob Coxon引发的。他上周宣布辞职，并指责该公司及其主要竞争对手OpenAI的行为不负责任。曾先后在这两家公司担任研究员的Coxon在X网站上发帖称
企业主导制定AI安全标准，安全事件激增
前沿AI发展的进展远超政府监管的能力——和意愿。“法律与被监管现实之间存在脱节，”一位前欧盟官员表示，指向该集团2024年《人工智能法案》；该法案曾被吹捧为首部全面的AI立法，现已被技术发展超越，成为“一个警示故事”，《纽约时报》写道。 尽管美国总统特朗普反对监管，“但监管很可能还是会发生”，《Transformer》写道。 据《The Information》报道，Google、OpenAI和A
关于AI，盖茨发出“十亿人死亡”警告，为什么？
十亿人死亡，这是比尔・盖茨给AI风险划出的最惊悚红线。9月25日，微软联合创始人比尔・盖茨公开警告，人工智能足以引发造成十亿人死亡的灾难性事件。他的说法是：人类历史上，从未有任何一种武器，能比得上心怀恶意者借助最新AI工具形成的威胁。就在几个月前，盖茨还是全球最积极的AI支持者之一。转折从今年8月开始，他当月发表文章，首次系统预警AI风险：不法分子会利用日益强大的AI工具发动网络攻击、实施诈骗、散
白宫科技顾问抨击美AI巨头：你们自己得保证产品安全 别老想着靠政府
Anthropic和OpenAI等顶尖AI公司应该自己确保产品安全，并在必要时自行放缓发展速度，而不是需要政府介入。 萨克斯表示，他赞同美国联邦贸易委员会前主席莉娜·可汗(Lina Khan)的观点。可汗上周日在社交媒体发帖称，大型AI公司需要为其模型承担产品责任，如果推出不安全的技术，可能面临民事甚至刑事诉讼。 这位白宫科技顾问还抨击了Anthropic CEO达里奥·阿莫代伊(Dario Am
OpenAI与Anthropic及Google就AI安全商合作 奥特曼认有理由恐惧
美国近日掀起一阵有关如何规管人工智能（AI）发展速度的讨论。OpenAI表示，正与其他AI企业，包括Anthropic和谷歌（Google）进行磋商，探讨如何携手解决安全问题。OpenAI行政总裁奥特曼（Sam Altman）则承认，外界对AI的忧虑是有道理的，因为这些工具的能力发展迅速。 Open AI的发言人9月15日（周二）向美媒CNBC表示，自从GoogleDeepMind的董事长哈萨比斯
法国防务集团泰雷兹呼吁各国政府监管人工智能
法国防务与科技集团泰雷兹的负责人周一（9月14日）呼吁各国政府承担起监管人工智能的责任，因为越来越多科技领袖对这项技术的迅速崛起发出警告。 “从技术角度看，有办法和手段将这类技术置于控制之下，但这还不够，”帕特里斯·凯恩在伦敦举行的泰雷兹英国科技大会上表示。“我们需要框架，而从责任角度来看，这显然掌握在政府手中，”凯恩补充说，并指出泰雷兹数十年来一直从事人工智能研究。 科技股周一承压，此前科技公司
联邦调查局正在调查黑客声称窃取有关特工敏感数据的事件
“人类必须始终处于人工智能决策的核心，”OpenAI 首席执行官表示。正在播放：人类对决机器人：网红在铁笼赛中挑战人形机器人。 走红的人类对决机器人自由搏击赛的推广者看到对更多此类比赛的“疯狂”需求。特朗普表示美国在人工智能领域将“只鼓励超级智能”。斯科特·贝森特会见中国官员讨论人工智能安全。剖析立法者正在考虑用于监管人工智能的提案。 OpenAI 披露 6 起新的“令人担忧的”人工智能行为事件。
改变人工智能进程的十天
旧金山，9月19日——多年来，人工智能领域的竞争一直遵循着硅谷一贯的“快速创新、打破传统”的发展模式：不断开发出更强大的人工智能系统。 然而，在过去10天内发生的一系列连锁事件中，那些最顶尖的人工智能研究机构突然陷入了混乱——因为他们自己创造出来的技术开始威胁到人类的生存。 一位人工智能研究员辞职，并警告称，人工智能的发展速度可能在未来十年内对人类构成生存威胁；另一位研究员则表示，人类灭绝的概率已
美国卫生官员不顾担忧迅速推进医疗人工智能部署（赠阅文章）
美国卫生与公众服务部（HHS）高层官员正在推进医疗人工智能，讨论应为能够为患者诊断并开具处方的AI医生支付多少费用。在政府内部，有人担忧亿万富翁硅谷投资者的影响力过大。 www.nytimes 联邦项目正在推出提供治疗并开具药物的AI代理，引发了对安全性以及风险资本投资者影响力的担忧。
澳大利亚：OpenAI智能体入侵了政府网站
澳大利亚政府周三表示，OpenAI的一个AI智能体，今年6月入侵了澳洲政府的健康数据网站，并访问了部分文件。这可能是已知人工智能体首次入侵政府网站的事件。此次事件是AI智能体自主入侵美国境外系统最引人注目的案例之一。此前全球范围内发生的多起AI智能体入侵事件，已引起政府和行业的担忧。澳大利亚总理安东尼·阿尔巴尼斯（Anthony Albanese）正在纽约参加联合国大会。他在一个新闻发布会上表示，
万斯谈美国AI新动向：好奇怪，看起来像特洛伊木马
美国多家人工智能（AI）巨头近来联合呼吁放缓AI的发展，实施必要的监管，以管控风险。但是美国总统特朗普认为这没有必要，美国必须保持在AI领域的领先地位。美国副总统万斯也认为，这些监管要求像是“特洛伊木马”。 据美国哥伦比亚广播公司（CBS）9月15日报道，“这确实是我们关注的问题，但我们希望确保监管措施既明智又审慎，并充分考量其中的风险。显然，AI带来了风险，也带来了诸多益处。” “坦白说，那么多
OpenAI的智能体侵入了澳大利亚政府数据。其人类回应可能造成更大损害。
该公司花了数周时间才通知相关官员。堪培拉现在可能会在“流氓智能体”的责任认定方面，开创另一项科技政策先例。 堪培拉——OpenAI 在澳大利亚正面临一场尚未得到妥善处理，且可能尚未被其完全理解的声誉危机。 其智能体侵入澳大利亚政府数据后的后续影响，将为全球各司法管辖区定下基调，并可能提供法律框架，以决定在面对日益强大且自主的 AI 时，需要设置哪些人为护栏。 这是首次公开承认的流氓 AI 智能体侵
为什么科技公司难以控制人工智能
旧金山 - 上周，十多位顶尖的人工智能研究人员警告称，科技公司正在开发的人工智能技术正对人类构成威胁。 研究人员指出，问题在于这些公司在控制这些系统方面存在困难，尽管他们付出了很大努力。 在OpenAI的人工智能程序突破测试系统并入侵另一家公司的电脑这一事件之后，来自人工智能研究界的新警告进一步加剧了人们多年的担忧：科技公司过于追求开发速度和利润，而忽视了安全性。研究人员认为问题有两个方面。 首先
AI“文明”的崛起与企业责任的沦丧
取决于你问谁，开发者平台Hugging Face最近要么是被OpenAI攻击——在它失去对自己AI工具的控制之后——要么是被一连串AI“文明”所攻击。欢迎来到AI安全的话语战场，在这里，词汇的选择可以将一起大规模网络安全事件的责任从公司转移到它所构建的AI身上。而网上的讨论正变得激烈，这一切都源于上周的一篇博客。 直到上周，围绕OpenAI与Hugging Face黑客事件的细节似乎已经尘埃落定。
OpenAI：人工智能能力处于“不同阶段”，需要紧迫行动
该公司最高说客认为政策窗口仍然存在。美国总统唐纳德·特朗普称人工智能担忧是“骗局”。该国一家领先的人工智能公司周二表示，希望华盛顿仍能采取行动。 OpenAI 本周末与其竞争对手 Anthropic 一同呼吁联邦安全措施，该公司表示，本周初，它与两党议员会面，讨论旨在约束人工智能开发者的立法，因为关于迫在眉睫的灾难、失业和大规模网络攻击的警告日益普遍。 模型正以惊人的速度发展，代理商的行为方式让工
莱蒂西亚·詹姆斯与多位总检察长敦促国会关注人工智能安全
超过二十多名州总检察长正敦促国会领导人立即为人工智能制定联邦安全规则。 随着更多自主人工智能黑客攻击事件曝光，以纽约州总检察长利蒂希娅·詹姆斯为首的二十多名州总检察长正敦促国会领导人立即为人工智能制定联邦安全规则。 “近几周，有关人工智能代理突破限制的惊人报道震惊全国，”民主党人詹姆斯在周三随总检察长们致众议院和参议院领导层的一封信一同发布的声明中表示。“我和我的同事们呼吁国会迅速采取行动，为人工
路透社/益普索民调发现，四分之三的美国人认为人工智能公司未能采取足够措施来防止灾难发生
华盛顿9月22日电：根据路透社与益普索（Reuters/Ipsos）的一项最新民意调查显示，随着人们对人工智能技术发展方向的担忧日益加剧，四分之三（约73%）的美国人担心人工智能公司在防止该技术对社会造成严重危害方面做得还不够。 这项为期四天的民调于周日结束，结果显示，39%的受访者认为人工智能正在对社会产生负面影响，高于上个月的36%，这也是自路透社与益普索自3月份开始进行此项调查以来的最高比例
美国卫生官员不顾担忧迅速部署医疗AI
克里斯蒂娜·朱伊特 美国卫生官员正在迅速推进AI在医学中的使用，部署AI来诊断和治疗患者，尽管一些专家对其安全性和有效性表示担忧。 硅谷投资者，尤其是维诺德·科斯拉，对这些努力产生了强大影响，他们推动AI取代人类医生，并通过Curai Health等公司扩大医疗服务可及性。 美国食品药品监督管理局（FDA）和联邦医疗保险（Medicare）正在调整针对AI医疗工具的法规和试点项目，在创新与AI自主