搜索结果
英国政府拒绝为危险人工智能设立“紧急切断开关”的提议
英国政府已拒绝设立所谓“紧急切断开关”的提议，该开关原本旨在阻止失控人工智能发起的危险攻击。 内阁办公室表示，英国无法简单地将人工智能“关掉”，在英国封锁对模型的访问也无法阻止它们在其他地方被开发或滥用。 前 OpenAI 研究人员丹尼尔·科科泰洛也认为，在没有国际协议的情况下，由单一国家建立法律或技术层面的紧急切断开关是不可行的。 与此同时，多位英国贵族和议员近期在议会提出了相关立法提案，引发了
2028年的民主党人正在加紧行动，试图在人工智能（AI）引发的社会恐慌中抢占先机。
正在角逐2028年大选的民主党州长和国会议员正急于提出新的监管人工智能（AI）方案，以应对选民对该行业日益增长的担忧。 民主党潜在的总统候选人正争分夺秒地制定监管人工智能的解决方案，并试图抢在选民对这项快速进步技术日益加剧的恐惧情绪蔓延至2028年大选之前采取行动。 参议员马克·凯利（Mark Kelly）告诉《政治报》（POLITICO），他将于下周提出一项法案，设立一个由人工智能企业出资的基金
英伟达CEO黄仁勋、Anthropic CEO Amodei以及Palantir CEO卡普将于当地时间周二参加特朗普与众议院议长迈克·约翰逊举行的午餐会，讨论人工智能风险问题。
约翰逊此前表示，国会“可能”需要为AI设置监管框架，但相关立法需要时间形成广泛共识。
马特·卡纳万指责OpenAI在投资“威胁”后进行“敲诈”
国家党领袖马特·卡纳万指责OpenAI试图“勒索”堪培拉，此前有报道称，如果阿尔巴尼斯政府不削弱版权保护，这家科技巨头可能会撤出在澳大利亚的投资。“我认为我们不应该与想要这样勒索我们的人谈判，”他周二对News24表示。“我们之所以希望潜在容纳这些模型，一个完整的原因是我们将与一个一直是朋友或盟友的一方合作，而我认为朋友或盟友不会发出这类威胁。” “我认为OpenAI用这样的言论或措辞不会走得太远
特朗普科技顾问称人工智能安全担忧是“套路” 不需要新的监管法规
美国总统唐纳德·特朗普的外部科技顾问大卫·萨克斯周三表示，公众对人工智能的担忧主要源于宣称活动和媒体报道，这与特朗普本周早些时候淡化新的人工智能监管呼声的言论相呼应。 “我们已经反复看到这种套路，这种煽动恐慌的套路，”萨克斯谈到人们对人工智能对美国社会影响的担忧时说道。 关于人工智能可能带来的潜在危险，公众的警觉正在不断上升。上周，Anthropic公司研究员雅各布·考克森表示，他已辞职，部分原因
OpenAI称Astra AI模型首度超越其“关键”网络安全能力阈值
OpenAI周二表示，其即将推出的人工智能模型Astra是首个超越其“关键”网络安全能力阈值的产品。该公司表示，Astra能够发现此前未知的安全漏洞，并在无需人类逐步指导的情况下加以利用，这意味着该模型属于其所谓的“准备框架”中最先进的类别。OpenAI表示仍计划“很快”推出Astra，但对其网络安全能力的访问将更加受限。 OpenAI首席执行官山姆·奥特曼OpenAI于2023年推出了“准备框架
众议院推进法案以控制人工智能数据中心公用事业成本
众议院周三以417票对3票的表决结果，推进了一项前所未有的法案，旨在遏制与数据中心相关的公用事业费率上涨。随着2026年中期选举临近，公众对不断增多的此类设施的反弹情绪日益高涨。这项两党共同支持的法案被称为《费率支付者保护法》，是首部确立相关标准的法案，允许各州监管机构采纳这些标准，要求电力需求达到100兆瓦或以上的人工智能数据中心承担建设新电源、输电线路及其他基础设施的成本，而非将这些成本转嫁给
AI丨OpenAI因安全隐患取消发布新款模型
美国人工智能(AI)初创公司OpenAI表示，决定取消发布下一代AI模型，原因是研究人员在内部测试中提出安全方面的担忧。事件显示，「智能体」(agent)的异常行为可能会阻碍行业快速发展。 OpenAI放弃发布的模型代号为GPT-6.1 Astra，原定于10月在ChatGPT和Codex中首次亮相。与OpenAI先前的模型相比，新款模型能力更强，不仅擅长写作，还能在无需人工协助的情况下，「端到端
伯尼·桑德斯召集一场关于AI危险的参议院闭门简报会
伯尼·桑德斯将于9月16日为参议员召集一场关于人工智能风险的私密、两党简报会。 杰弗里·辛顿、马克斯·泰格马克和阿杰娅·科特拉将在国会山用一小时向与会者发表讲话。该简报会由Axios报道，作者玛丽亚·库里。桑德斯表示，人工智能近来受到了极大关注……
国会山议程：随着人工智能辩论转向，英伟达的影响力面临考验
作为全球最大企业的掌舵人，黄仁勋的影响力即将在国会山接受考验，因为围绕人工智能安全的辩论正在不断升温。英伟达首席执行官及其庞大的游说团队希望国会停止限制高端计算机芯片的出口，尤其是向中国出口，因为这些芯片是驱动人工智能发展所必需的基石。立法者可能会将这些监管措施纳入今年秋季即将谈判的年度国防政策法案中。 尽管黄仁勋的团队在过去一年中成功说服部分立法者放松了可能阻碍出口的监管规定，但人工智能政治格局
加州州长纽森签署行政令，旨在强化人工智能安全与保障法规
2026年9月18日星期五，加州州长加文·纽森发布了一项行政令，成立了一个工作组，旨在强化该州的人工智能安全与保障法规。该工作组的任务是在两个月内提供一份概述具体安全措施的指南。 供工作组审议的关键提案包括：要求人工智能公司为前沿模型开发“紧急关闭按钮”，并强制要求独立第三方为前沿人工智能公司起草安全计划。
美国参议员拟推《保护我们的游戏》法案 要求在线游戏停服前提供补救方案
美国一项名为《保护我们的游戏法》的新提案，旨在保护数字游戏购买者，避免玩家付费购买游戏后，因开发商关闭在线服务器而无法继续游玩。该提案由宾夕法尼亚州民主党参议员约翰·凯恩推动；他已向州参议员分发联合发起人备忘录，希望推动提案提交美国参议院讨论，并争取全美50个州参与。不过，该方案目前还不是正式提出的法案，仍处于倡议阶段。 提案要求游戏开发商如计划停止运营游戏，或作出会影响游戏功能的改动，例如关闭在
OpenAI首席执行员下周赴安理会作简报
阿尔特曼下周将到联合国安理会进行简报。（图：路透社） （华盛顿19日法新电）OpenAI周五表示，该公司首席执行员阿尔特曼将于下周在联合国大会期间，向联合国安全理事会作简报。 此次会议由国安理会轮值主席国的法国组织召开，此前该行业的主要参与者曾表示，出于安全考虑，可能有必要放缓人工智能的发展步伐。 随着人们对这项快速发展的技术所带来的危险的担忧日益加剧，联合国秘书长古特雷斯周三呼吁采取协调一致的国
OpenAI将成立澳大利亚专项工作组 回应AI模型越权访问政府网站事件
OpenAI宣布将在澳大利亚成立专项工作组，并向当地政府和企业提供资金及技术支持，以加强针对高能力AI智能体的安全防护。此前，OpenAI披露其模型曾以未经授权的方式访问多个澳大利亚政府网站，引发外界对AI智能体越权操作风险的关注。 OpenAI表示，将向澳大利亚政府和企业提供来自其10亿美元“Daybreak for Frontline Defenders”基金的资金支持额度，并提供网络安全方面
总理誓言在特朗普科技警告下为澳大利亚发声
安东尼·阿尔巴内塞誓言‘始终维护澳大利亚的国家利益’，同时拒绝接受美国对其科技安全议程的严厉批评。 美国总统唐纳德·特朗普抨击将人工智能置于‘人类控制’之下的国际努力，称其为‘全球主义阴谋’，并表示尽管人们越来越担心人工智能可能变得过于强大，但他不会阻碍这项技术的发展。 与此同时，美国驻堪培拉大使馆强烈反对阿尔巴内塞政府提出的数字责任法案，该法案将对未能保护澳大利亚公民的技术公司处以巨额罚款。 在
美国批评澳大利亚针对社交媒体算法的计划
作者：Angus Whitley美国政府批评澳大利亚打算遏制社交媒体算法和网络有害内容的计划，在堪培拉加大力度整治大型科技公司的行动中开辟了一个新的政治战场。 澳大利亚本月发布的拟议“数字照护义务”将强制包括游戏公司、社交媒体运营商和AI聊天机器人在内的一系列在线服务，从设计上保障其产品对18岁以下用户的安全。该计划旨在遏制网络虐待和有害材料的传播，并给主要平台的运营模式施加新的负担。 该法律的一
“我们早就告诉过你们了”：纽约关键议员呼吁出台更多人工智能规则
关于人工智能安全的紧迫性纽约州推动人工智能监管立法的幕后推动者之一表示，业界领袖发出的警告表明各州必须采取积极行动。 “我很少会说‘我早就说过’或‘我们早就提醒过你们’，但这次的情况确实正如我们之前所警告的那样，”该法案的发起人、民主党州参议员安德鲁·古纳德斯（Andrew Gounardes）说道。 这项法律将于1月正式生效，要求大型人工智能企业向政府报告安全事件，并对违规行为设定处罚措施。尽管
【市场动态】英伟达推出双层AI安全系统 称可在几毫秒内隔离可疑智能体
【彭博9月29日电】英伟达推出一套新的双层人工智能(AI)安全系统，并称其有能力阻止近期OpenAI的AI模型导致Hugging Face遭侵入的事件。 此次推出的两款开源软件安全工具可在英伟达硬件上运行，旨在实时控制AI智能体可以访问的资源，并在其违反规则时将其关闭。这家芯片巨头正迅速将产品线扩展至芯片以外领域。 英伟达企业AI副总裁Justin Boitano在周一发布前向记者介绍称，如果
OpenAI将提供资金并成立工作组，以解决模型入侵澳大利亚政府网站事件
IT之家 9 月 29 日消息，OpenAI 表示将出资助力澳大利亚开展网络防御建设，同时成立专项工作组，用于应对能力持续增强的人工智能所带来的各类风险。此举是该公司针对自家模型闯入澳大利亚政府网站一事作出的后续回应。 OpenAI 称：“我们将动用规模 10 亿美元（IT之家注：现汇率约合 67.22 亿元人民币）的‘黎明前线防御者（Daybreak for Frontline Defender
国会即将在人工智能问题上无所作为
科技领袖们恳请国会介入，为人工智能发展设置护栏，此前他们曾就这项技术的迅猛进步及其对人类的风险发出严厉警告，但议员们在如何以及是否这样做的问题上仍一如既往地分歧严重。 “我们不想贸然介入，”众议院议长迈克·约翰逊周一对记者说。“立法机构的惯性反应就是用繁文缛节和过度监管把事情掩盖起来。如果这么做，你就会失去优势，而这对美国人民来说是一个国家安全问题，”他说，并主张美国必须在人工智能竞赛中保持对中国
卡尼呼吁建立全球科技机构以加强人工智能护栏
加拿大总理马克·卡尼表示，加拿大希望建立一个全球性的“技术稳定”机构，以帮助监管人工智能并确保其安全性。 “存在协调的必要，”卡尼周一在接受News采访时表示。“在我们看来，最终建立一个类似于金融稳定委员会的技术稳定委员会是合理的。” “这是一个机遇——我认为它最终将意味着更大的价值创造和更大的价值传递。”包括Anthropic首席执行官达里奥·阿莫代在内的主要人工智能实验室负责人曾表示，必须放缓
加州州长纽森正式签署多项获OpenAI与Anthropic支持的AI安全法案
美国加利福尼亚州州长加文·纽森（Gavin Newsom）正式签署了一揽子具有里程碑意义的人工智能监管法案。值得关注的是，这批旨在强化前沿大模型安全风险评估、透明度披露以及防范灾难性网络攻击的新法案，在此前的立法博弈中获得了包括OpenAI与Anthropic在内的多家硅谷人工智能头部企业的罕见背书与公开支持。 这一举措标志着作为全球AI研发核心阵地的加州，在尝试平衡严厉的安全红线与维系科技产业创
以人工智能为工具的在线诈骗成两党法案的攻击目标
费什里代表和莫延代表正在准备引入一项旨在打击在线欺诈行为的法案，其中包括由人工智能驱动的诈骗行为。 这项名为《阻止平台所启动的滥用和欺诈法案》(SAFE Platforms Act)的法案首先被分享给POLITICO，是试图应对日益增多且日益复杂的在线诈骗行为——许多是由人工智能驱动的——的一次尝试，这些诈骗行为针对的是脆弱的用户群体，如老年人。 费什里在一份声明中表示：“骗子经常利用平台功能来针
AI危机丨辉达推AI安全系统 阻智能体违规
辉达推AI安全系统。(路透资料图片) 多名重量级科技领袖警告人工智能(AI)威胁人类生存之际，辉达(Nvidia)以新的安全架构回应AI行业风险。 辉达发布名为「Open Agent Safety Platform」的双层AI安全平台，包含两款开源软件工具OpenShell与Nvidia Sentry，可运行于辉达硬件之上，即时管控AI代理的存取权限，并在其违规时将其关闭。 辉达表示，该系统能够在