搜索结果
联合国秘书长呼吁全球合作为人工智能设立护栏
（联合国17日新华电）联合国秘书长古特雷斯周三（16日）呼吁全球协同行动，为人工智能（AI）设立护栏。 在今年联合国大会高级别周开始前举行的记者招待会上，古特雷斯说，人工智能具有巨大潜力，但近来越来越多的人工智能开发者警告，其开发速度超出人类对风险的认知。有的开发者呼吁暂停开发人工智能，有的呼吁设立护栏。各国不能无视这些担忧。 古特雷斯说，各国政府首先必须负起责任。由于人工智能发展及其所带来的风险
黄仁勋：2030年AI导致世界毁灭的可能性为零，部分AI公司在逃避应承担的责任
黄仁勋再谈AI（人工智能）安全、中国市场和数据中心建造争议等热门话题。 月20日，在哥伦比亚广播公司播出的45分钟最新采访中，AI芯片龙头英伟达CEO黄仁勋又一次强调，关于AI可能引发人类灭绝的恐慌被夸大了，AI行业正在经历“从科研实验室向产品生产与服务”的过渡阶段，他反对盲目增加针对AI的新法规。 对于“AI末日论”，黄仁勋直言，到2030年，“那完全是假的。这种叙事太戏剧化了，只是为了博取眼球
AI代理正在失控
你好，欢迎来到 TechScape。我是主持人布莱克·蒙哥马利（Blake Montgomery），《卫报》美国科技编辑。此时此刻，纽约市窗外正风雨交加。今天在科技领域，我们要讨论一系列令人担忧的 AI 公司披露信息。 AI 智能体在走向主流之际失控。这些智能体正在失控，它们的制造者无法对其进行约束。然而，每个人却都在使用它们。 自周五以来，OpenAI 发布了一系列披露信息，大幅且令人担忧地扩大
众议员奇普·罗伊不想监管人工智能，但表示国会应发挥监督作用。
德克萨斯州共和党众议员奇普·罗伊是众议院强硬派和有限政府的支持者，他在周五做客CNBC的“Squawk Box”节目时表示，他认为国会在人工智能方面可以发挥监督作用，但这并不一定意味着他认为立法机构应该要求对该技术进行监管。 “我不想监管任何东西，”罗伊说。“我是自由市场保守派。我是有限政府保守派。”罗伊表示，相反，他会支持人工智能首席执行官在国会听证会上作证，解释他们正在采取哪些措施来解决安全问
英国人工智能大臣表示，仅靠人工智能测试还不够，《财富》杂志报道
英国人工智能大臣卡尼什卡·纳拉扬表示，各国必须“强化”针对人工智能风险的防御。他表示，仅测试模型已不再足够。他是在工党年度大会上回答《财富》杂志提问时作出上述表态的。 《财富》杂志的卡迈勒·艾哈迈德向他询问了本月辞职的Anthropic研究员雅各布·考克森发出的警告。纳拉扬表示，当实验室里的人说他们非常担忧时，你必须认真对待。 “你必须强化并建立你的防御体系。风险只增不减，因此测试虽好，但显然是不
“世界有理由感到恐惧”：萨姆·奥尔特曼谈人工智能在Dreamforce大会上的影响力
OpenAI首席执行官萨姆·奥特曼表示，公众担心少数人工智能公司可能获得过多权力，这种担忧是合理的。他周二在旧金山举行的Salesforce Dreamforce大会上发表了讲话。Salesforce已在YouTube上发布了由其首席执行官马克·贝尼奥夫主持的这段对话。 奥特曼描述了一种真实的恐惧，即某些人工智能公司“可能获得过多权力，从而对经济施加不当影响，并向人们强加某种世界观”。他说：“我认
诺奖得主雷萨：如果AI不受监管 人类将失去自主权
（奥斯陆15日综合电）诺贝尔和平奖得主玛丽亚雷萨说，人工智能利用社媒劫持人类的注意力，并通过操纵人类对亲密关系的渴望来影响人类的生理机制；如果现在不立法限制人工智能，人类最终将失去自主决定的能力。 报道，拥有菲律宾和美国双重国籍的记者雷萨因记录大型科技公司的权力运作，与另一名得主共同获得2021年诺贝尔和平奖。她是新闻网站《Rappler》的联合创办人兼首席执行员，目前担任联合国人工智能（AI）国
英伟达CEO在播客中表示：AI公司不应获得监管豁免
旧金山9月23日电：根据周三发布的一档播客节目，英伟达首席执行官黄仁勋认为，AI公司不应获得反垄断法或责任法的豁免。 在这场历时近两小时、接受《纽约时报》播客主持人埃兹拉·克莱恩（Ezra Klein）的采访中，这家全球市值最高上市公司的CEO进行了广泛的讨论，话题涉及OpenAI智能体黑客攻击开源AI软件集散地Hugging Face（英伟达本月以130亿美元收购了该公司）等事件。 黄仁勋此前一
特朗普在科技峰会上支持AI自我监管，但这足够吗？
新闻提要：美国总统唐纳德·特朗普与领先科技公司签署了一项监管AI的协议，其中包括内部审查和联合行动，但未能引入具体措施。发布于2026年9月30日
AI放缓掀议论 专家：关键在自我控管、产业走向成熟之路
（中央社记者旧金山15日专电）AI资安事件频传，引发放缓发展与否的广大讨论，Salesforce执行长班纽夫、辉达执行长黄仁勋认为与其诉诸监管，「企业更需为自家产品把关」，美国科技业咨询公司Futurum Group副总裁接受中央社访问指出，问题确实要回归企业，这也是AI产业走向成熟必经过程。 矽谷企业领袖今天齐聚Salesforce年度大会，就AI安全展开对话。 去年AI泡沫论甚嚣尘上，今年科技
“人工智能欧佩克”不太可能
2020年3月，通用汽车（General Motors）、福特（Ford）和菲亚特克莱斯勒（Fiat Chrysler）的首席执行官们因担心自家产品可能对人类造成伤害，决定召开电话会议讨论暂时停止生产。然而，他们的律师警告称，这种做法可能违反反垄断法规。我在关于疫情经济影响的书中写道：“本应保护工人的法律——通过防止企业串通压低工资或延长工作时间——如今却可能反而危及工人的安全。” （这恰恰证明了
BIS亚太地区首席代表张涛谈AI与金融稳定
国际清算银行（BIS）亚太地区首席代表张涛。 【财新网】“（在金融稳定方面），AI可以引入新的脆弱性并可能放大现有的脆弱性。”9月29日，国际清算银行（BIS）亚太地区首席代表张涛在新加坡举行的“2026亚洲愿景论坛创新峰会”上表示。 本届亚洲愿景论坛创新峰会以“变革与韧性”为主题，于9月29至30日在新加坡举行。亚洲愿景论坛由财新国际在新加坡政府支持下合作推出，新加坡旅游局（STB）提供官方
黄仁勋：英伟达明年芯片销量将是今年两倍，不能像管社媒那样监管AI
因为看好AI技术在更多行业应用的前景，英伟达CEO黄仁勋作出乐观表态。他表示：“英伟达明年芯片销量将是今年的两倍。” 同时他强调，不安全产品必须被拦下，“AI安全至关重要”。 美东时间17周四美股盘前黄仁勋发布上述讲话后，英伟达股价进一步上涨，早盘刷新日高时日内涨2.8%，势将连续第三个交易日收涨，进一步脱离此前连跌五个交易日刷新的8月26日以来收盘低位，并扭转上周累计跌超5%的部分跌幅。 当地
GOV.UK创始人警告：人工智能淘金热可能使英国陷入困境
GOV.UK创始人迈克·布拉肯（Mike Bracken）表示，英国正面临一种风险，即用对少数人工智能供应商的深度依赖，取代原本对外国技术供应商的依赖。布拉肯曾创立英国政府数字服务局（GDS），并担任英国首位政府首席数据官。他指出，政府和其他机构在将越来越多的技术依赖堆叠到其运营中时，正逐渐丧失对关键系统的控制权。 “机构很少会在危机中突然丧失主权，它们是在一次次看似合理的决策中逐渐失去主权的，”
G20警告：新AI模型对金融稳定构成日益严重的威胁
G20金融稳定委员会主席写道，人工智能引发的潜在干扰不会止步于国界，确保新模型安全发布的努力应成为优先事项。
人工智能行业真的准备好放缓脚步了吗？
我们正在看到一场关于人工智能安全和潜在减速的大论战。近日，安索菲克首席执行官达里奥·阿莫代伊发布了一项名为“跟进前沿”的计划，而英伟达首席执行官 Jensen Huang 则公开地附和特朗普总统的观点，即人们对人工智能的反弹是一场骗局，监管是不必要的。 在 TechCrunch 的 Equity 播客最新一期节目中，Kirsten Korosec、Sean O'Kane 和我讨论了像阿莫代伊和 O
中国的成功正迫使美国重新思考AI战略
《外交政策》杂志8月27日刊发了美国无党派智库史汀生中心战略远见中心研究员罗伯特·A·曼宁和朱莉娅·内赫的文章，题为《中国的成功正迫使美国重新思考AI战略》。中国AI企业月之暗面推出的开放权重模型Kimi K3，在能力上已接近美国前沿封闭模型，引发美国AI业界震动。文章认为，美国长期押注AGI、封闭模型和对华技术遏制，而中国则更重视开放模型、低成本部署和全球扩散。与此同时，AI失控及网络安全风险不
格思里谈及与中国的AI竞赛时表示：“我们绝对不能投降”
众议院能源和商业委员会主席布雷特·格思里周三表示，他认同人们对人工智能日益增长的力量存在严重担忧，但他警告称，不应采取那些他认为已抑制欧洲技术进步的严格监管措施。 这位肯塔基州共和党人在华盛顿举行的POLITICO解码峰会上表示：“如果你想说，‘我们只是要把这件事交给房间里少数受过精英教育的人……好吧，欧洲就是这么运作的。’”他补充说，这样的体系会赋予少数领先的AI开发商不成比例的监管权力，并限制
AI巨头倡业界自律 专家指安全规范可能成大公司护城河
美国总统川普（前左）29日邀科技巨头到白宫参加大型AI业界高层与政府官员会议。（美联社）（中央社记者林宏翰洛杉矶29日专电）OpenAI、Anthropic等人工智慧（AI）公司近来警告，先进模型可能带来重大风险，主张推出前接受外部安全测试。美联社引述专家指出，这套「业界自律」做法，可能有利大公司建立安全形象、取得资金与晶片，形成市场「护城河」。川普白宫会辉达等AI巨头 签自律承诺无法律效力AI高
中国外交部：散播AI威胁叙事不符合任何一方利益
美国AI巨头Anthropic首席执行官阿莫迪上周末呼吁前沿公司一致放慢开发人工智能步伐，争取时间制定安全标准。这番言论迅速获OpenAI首席执行官奥尔特曼、拥有xAI的美国首富马斯克等支持。中国外交部则表示，散播各种威胁叙事、搞对抗和恶意竞争，不符合任何一方利益。 阿莫迪星期六（9月12日）在个人博客撰文说，AI发展出更强的自我迭代能力，以及最近OpenAI智能体私自入侵Hugging Face
OpenAI首席科学家警告：AI公司应放慢开发步伐 没有人为后果做好准备
据《商业内幕》报道，就在OpenAI发布了性能强大的新模型几天后，该公司首席科学家呼吁放慢AI的发展速度。当地时间周日，OpenAI首席科学家雅库布·帕乔基(Jakub Pachocki)发布长文称，他担心“没有人对机器智能持续快速崛起所带来的后果做好准备”。 他说，尽管OpenAI正在内部研发技术解决方案，以更好地控制强大的AI智能体，但“还需要更广泛的干预措施”。他尤其担心，随着AI智能体变得
马斯克发警告：AI要是控制了军事系统发射核弹，那就太糟糕了
美国多家人工智能（AI）巨头近来联合呼吁放缓AI的发展，实施必要的监管。xAI的创立者马斯克9月15日再度发出严厉警告。“如果AI能够控制军事系统，并发射核弹，那就太糟糕了。” 现场有人说，这些军事系统都是被物理隔离的，并没有连接到互联网。“话虽如此，但我总觉得它们还是会不时进行软件更新。” 近期，外界对于AI技术潜在风险的担忧持续升温。刚刚从Anthropic离职的AI研究人员雅各布·考克森告诉
美证交会前主席：中国模型对美AI企业构成重大挑战
美国证券交易委员会（SEC）前主席根斯勒（Gary Gensler）警告，美国人工智能（AI）企业面临多重挑战，包括来自中国模型的竞争。（彭博社档案照片） 美国证券交易委员会（SEC）前主席根斯勒（Gary Gensler）警告，美国人工智能（AI）企业面临多重挑战，包括来自中国模型的竞争，以及可能出台的安全限制措施。据彭博社报道，根斯勒星期二（9月29日）受访时，以OpenAI模型今年较早时攻破
议员和上议院议员告诉英国，不要在人工智能监管上临时应付
英国议员希望设立一个拥有实权的AI监管机构，以阻止潜在危险系统进入公众领域，并警告现有规则使民众暴露于风险之中，且难以追究任何人的责任。由下议院议员和上议院议员组成的联合人权委员会表示，尽管有多项法律法规适用于某些AI系统，但整体法律格局支离破碎且混乱不清。没有任何单一机构协调AI监管，留下空白，可能使受AI伤害的人难以获得法律救济。 委员会主席、议员亚历克斯·索贝尔表示，AI发展的速度和复杂性使