搜索结果
人工智能风险让一些保险公司对企业责任持谨慎态度
如果人工智能最终真的把我们所有人都害死，或者只是加剧我们日常的混乱，保险业宁愿不买单。非营利研究智库兰德公司在一份新发布的报告中指出：“与人工智能相关的危害已经出现，包括错误或误导性输出、深度伪造、隐私侵犯、知识产权纠纷、欺诈、产品缺陷以及歧视性决策。这些危害催生了对保险的需求，但并不完全契合现有的保险类别。”企业希望保护自己免受部署不可靠、满口谎言、毫无道德的人工智能代理所带来的财务责任，但保险
面对AI威胁 软件公司高价展期债务
在AI模型快速发展的背景下，投资者对软件公司的长期竞争力持怀疑态度，尤其是那些现在需要以高得多的利率进行再融资的私募股权所有企业。 私募股权集团支持的软件公司正竞相滚转将在未来两年到期的大量债务，向担心AI颠覆软件行业的贷款方提供更高的收益率以及各种优惠条件。 今年迄今，已有超过六家软件公司完成了所谓的“修订及展期”交易，将临近的到期日推迟两到三年，而不是进行通常期限长达七年的全面再融资。 这种更
AI安全阴影笼罩 初创企业吁欧洲保持乐观
位于德国弗赖堡的黑森林实验室是一家顶尖的AI图像生成专业公司，业务遍布北美和欧洲。（图：法新社） （弗赖堡27日法新电）一家领先的欧洲AI初创企业的负责人警告称，尽管关于AI危险的警告日益增多，欧洲仍需以更乐观的态度看待AI，否则可能进一步落后。 德国AI图像生成专业公司黑森林实验室首席执行员隆巴赫对法新社表示：“我认为欧洲的心态需要转向乐观和机遇，而不是风险和恐惧。” 在尖端AI模型方面，欧洲落
“太棒了”还是“令人担忧”——AI 应该被约束吗？
人工智能的迅猛发展以及对该技术给人类带来风险的担忧，因人工智能企业高管和员工的一系列警告而备受瞩目。 Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）在上周末呼吁放慢人工智能的发展步伐并对其进行更密切的监督。 BBC采访了华盛顿特区的民众，以了解他们对这项技术及其快速发展的担忧程度。
AI安全风险引爆担忧？Palantir CEO建议：领先AI实验室恐需“国有化”
当地时间周四，人工智能软件公司Palantir的首席执行官Alex Karp呼吁制定人工智能监管的“合理准则”，但他表示，由于该技术“无限风险”带来的责任，可能需要实行国有化。 “我认为这些企业必须国有化，因为如果不国有化，我的每一个客户都会起诉我，”他在接受最新采访时表示。 在上述采访中，Karp反复提及构建这项强大技术所带来的风险和责任，进一步论证了将人工智能实验室国有化以及对“不负责任”的技
埃隆·马斯克称他对人工智能安全的担忧可以追溯到十多年前
亚辛·贡戈尔 9月14日 9月14日 2026年 亿万富翁企业家埃隆·马斯克周一加入关于人工智能的辩论，称他对这项技术潜在风险的担忧可以追溯到十多年前。 “早在2014年之前，我就在思考人工智能安全问题，”他在美国社交媒体平台X上说。该平台隶属于他的人工智能企业SpaceXAI。 马斯克提到他与哲学家尼克·博斯特罗姆2014年著作《超级智能：路径、危险、策略》的关联，称他为该书做出了贡献，并在前言
马斯克：我早已为人工智能风险多次敲响警钟
人们早就见惯埃隆・马斯克放出论断，而这一次，自己一直都是对的。这位太空探索技术公司（SpaceX）与特斯拉的首席执行官，对 Anthropic 公司 CEO 达里奥・阿莫代伊发布的长文表示赞同。 具备递归自我迭代能力的人工智能，会快到超出人类理解与管控的范围；即便要研发这类技术，也必须万分谨慎。 为防范未来风险，前沿 AI 企业应当在内部派驻第三方评估人员，用来检测 AI 模型，监督实验室落实安全
花旗将美国股票风险评级下调至中性，警告人工智能发展放缓或抑制盈利预期
人工智能一直是今年企业盈利增长的重要推动力，但花旗集团警告，大型语言模型主要开发商呼吁放慢人工智能发展速度，以应对安全问题，这可能会削弱人工智能对企业盈利的推动作用。 随着大型人工智能公司的负责人表示，出于安全考虑，应当放慢人工智能技术进展，股市可能迎来动荡开局，科技股预计将拖累市场低开。 人工智能行业领袖最新发出的警告，也是花旗对美国股市转趋谨慎的重要原因之一。 花旗美国股票交易策略主管斯“我们
AI安全忧虑重创芯片股，美债收益率一度破5% 美股三大指数收跌
美股周一收跌，人工智能安全争论突然升温，叠加油价维持高位和美国10年期国债收益率一度突破5%，投资者在本周美联储议息会议前降低风险敞口。 科技股尤其是半导体板块成为抛售中心，不过市场内部表现并不算全面恶化，收盘时标普500指数成分股中仍有超过一半上涨，显示当天跌势主要集中在此前人工智能行情中涨幅较大的股票。 标普500指数收跌0.48%，纳斯达克综合指数下跌0.56%，道琼斯工业平均指数下跌152
为什么科技公司难以控制人工智能
旧金山 - 上周，十多位顶尖的人工智能研究人员警告称，科技公司正在开发的人工智能技术正对人类构成威胁。 研究人员指出，问题在于这些公司在控制这些系统方面存在困难，尽管他们付出了很大努力。 在OpenAI的人工智能程序突破测试系统并入侵另一家公司的电脑这一事件之后，来自人工智能研究界的新警告进一步加剧了人们多年的担忧：科技公司过于追求开发速度和利润，而忽视了安全性。研究人员认为问题有两个方面。 首先
标普与大摩示警：AI投资真实风险被低估
信用评级机构标普全球与知名投行大摩（Morgan Stanley）分别发布报告，从信用评级和会计披露两个角度，指出科技巨头未来AI（人工智能）支出最高达到7万亿美元，但传统财务报表可能严重低估了真实风险。 标普全球评级（S&P Global Ratings）在9月3日发布了信用展望报告...
人工智能公司“乞求被监管”，感到“被迫竞速”走向致命技术：前Anthropic研究员
雅各布·考克森表示，企业知道自己在构建的东西存在危险，但觉得无法独自放慢脚步。
中美谈AI安全：共同的风险，不同的恐惧
中美谈AI安全：共同的风险，不同的恐惧 邓聿文：中美领导人讨论AI安全，当然有助于建立最基本的危机沟通和军事红线。但真正的较量，将发生在“安全”这个词由谁解释上。 美国财政部长贝森特和中国副总理何立峰在纽约举行的新一轮经贸会谈，除了关税、稀土、美国农产品和波音飞机仍是重要议题外，增加了人工智能安全这项新内容。贝森特向中方提出建立AI安全事件通报机制，双方同意启动相关对话，并把这一建议交给即将举
存在主义恐惧如何影响关于人工智能的争论
一些专家担心，激烈的言论使公司难以承担责任，并阻碍了应对环境影响和失业的尝试。当前一轮对人工智能的恐慌是基于这样一种信念：该技术已经脱离了人类的控制，在最近的几起事件中按照自己的意愿行事。对于一些幻灭的人工智能研究人员以及领先人工智能公司的一些高级员工来说，这是人类文明面临真正威胁的早期迹象。但该领域的其他专家正在反驳，声称此类言论允许公司回避对其技术对现实世界影响的责任。批评者认为人工智能对环境
美国三大人工智能企业拟组建风险监督机构
美国人工智能企业OpenAI、Anthropic和谷歌旗下DeepMind公司正在筹建一个人工智能风险监督机构。在各界日益呼吁加强监管、防范人工智能失控风险之际，OpenAI周二（9月15日）向证实了这一消息。 组建人工智能风险监督机构这一构想，由谷歌“深层思维”公司前首席执行官戴密斯·哈萨比斯（ Demis Hassabis）提出。哈萨比斯于8月初转任公司董事长。他建议成立一个类似美国金融业监管
联合国聚焦人工智能风险 OpenAI与Anthropic负责人呼吁加强警惕与合作
23/09/2026 - 23:27 多家人工智能企业的负责人周三(9月23日）在联合国表示，人工智能的发展需要更高程度的警惕。Anthropic首席执行官达里奥·阿莫迪甚至承诺，必要时将单方面放慢研发速度。 OpenAI首席执行官萨姆·奥特曼在纽约向联合国安理会介绍情况时警告，人工智能目前的发展“需要极度关注”。他说：“随着人工智能
OpenAI首席执行员下周赴安理会作简报
阿尔特曼下周将到联合国安理会进行简报。（图：路透社） （华盛顿19日法新电）OpenAI周五表示，该公司首席执行员阿尔特曼将于下周在联合国大会期间，向联合国安全理事会作简报。 此次会议由国安理会轮值主席国的法国组织召开，此前该行业的主要参与者曾表示，出于安全考虑，可能有必要放缓人工智能的发展步伐。 随着人们对这项快速发展的技术所带来的危险的担忧日益加剧，联合国秘书长古特雷斯周三呼吁采取协调一致的国
代理安全是一个价值数十亿美元的挑战，有待聪明的初创公司来解决
在人工智能模型领域，安全往往被视为事后补救，这一点从智能体入侵组织和个人、以及智能体失控引发的其他安全事件日益增多中可见一斑。这也为企业提供了推出新解决方案的机会。网络安全投资者和加速器高管表示，这并不令人意外。梅林集团首席战略官马特·哈特曼（Matt Hartman）表示：“一方面，我们不应惊讶于能力日益增强的智能体正以富有创意且有时出人意料的方式实现其目标；另一方面，我们不能将有害行为视为不可
数据中心面临保险难题
Tim的观点 除了电力硬件短缺、愤怒的邻居和许可延迟之外，数据中心开发商现在还要面对一个新的头疼问题：持怀疑态度的保险公司。华尔街非常乐意将大量资金倾注到AI基础设施上。但怡安集团风险资本首席执行官乔·派泽周三告诉我，保险行业仍在努力为这些庞大、超级昂贵的建筑设计和定价保险：“保险确实是一个瓶颈。”气候变化影响是一个问题：数据中心消耗大量水资源，使其容易受到干旱影响，而许多数据中心还计划建在易受洪
中美AI竞赛：世界变得更危险还是更安全？
关于人工智能（AI）及其潜在危险的警告，近年来可谓接连不断。 美国最大的人工智能公司之一——Anthropic——的一名顶尖AI安全研究人员警告说，这项技术正以惊人的速度发展，未来十年内，AI“可能导致全人类灭绝”的概率高达10%。 这样的担忧引发了要求美国采取协调一致行动、放缓AI发展速度的呼声。但与此同时，也有人质疑是否真的有必要为AI设置监管“护栏”。美国总统特朗普就是其中之一。他认为，如果
人工智能安全担忧引发亚洲科技股下挫
东京——在 ChatGPT 开发商 OpenAI 表示将推迟其首次公开募股，并加入呼吁放缓开发日益强大的人工智能模型的行列后，软银集团股价周一大幅下跌。 软银集团股价一度暴跌13%，最终收盘下跌11%。这家科技巨头创下自6月底以来最大跌幅，也是日经平均指数225只成分股中百分比跌幅最大的。 这家日本企业集团对 OpenAI 下了重注，承诺投入超过640亿美元，收购这家美国公司约13%的股份。软银创
人工智能数据中心将推动自保保险业务实现“爆炸式”增长
随着巨型人工智能数据中心的兴起，一种通常与采矿、石油和其他环境高风险行业相关联的自保形式正在悄然改变实物风险保障市场。 全球最大保险经纪公司达世美国及加拿大自保业务负责人迈克尔·塞里奇奥表示，自保（即企业绕过传统保险公司，建立自己的内部保险）正在成为人工智能相关基础设施的首选保障模式。 塞里奇奥在接受采访时表示：“你会看到，自保在承担数据中心组合风险方面的应用将呈爆炸式增长。”“无意中，部分扩建、
“关键时刻”：担忧英国在应对人工智能风险方面行动不够迅速
周三，“暂停AI”组织的抗议者封锁了唐宁街入口。伊恩·戴维森/图片/安迪·伯纳姆专注于紧迫的国内问题，这让一些人担心该问题已从政府雷达上消失。在基尔·斯塔默执政末期，他的高级部长们对人工智能的最新发展感到震惊，开始起草一项新的人工智能安全法。 据知情人士透露，他们下令审查现有立法，以了解自己已拥有哪些权力，并正在探索是否可以迫使全球最先进的科技公司在推出产品前提交安全测试。然而，在围绕前首相奋力留
如何治理人工智能的生存风险
当前，前沿人工智能技术治理方面的瘫痪状态正在当下造成切实损害，并增加未来发生灾难的可能性。 这种瘫痪被一套危险的借口所开脱：技术发展太快，监管跟不上；企业可以自我监管；在美国与中国的竞争中，公共安全可以往后放。各国政府一直难以给予人工智能风险应有的关注。在大国竞争和行业内部军备竞赛的双重态势下，许多国家不敢单独行动。在这种背景下，每一次呼吁克制都会遇到同样的反问：如果竞争对手不肯放慢，我们为什么要