搜索结果
人工智能公司“乞求被监管”，感到“被迫竞速”走向致命技术：前Anthropic研究员
雅各布·考克森表示，企业知道自己在构建的东西存在危险，但觉得无法独自放慢脚步。
观看：是“伟大”还是“令人担忧”——人工智能是否应该受到约束？
‘Great’ or ‘alarming’ - Should AI be reined in? 人工智能的快速发展及其对人类构成风险的担忧，因多家AI公司高管和员工的系列警告而备受瞩目。 Anthropic首席执行官达里奥·阿莫迪（Dario Amodei）本周末呼吁放慢人工智能的发展速度并加强监控。 英国广播公司（BBC）采访了华盛顿特区的人士，了解他们对这项技术及其快速发展的担忧程度。
AI安全风险引爆担忧？Palantir CEO建议：领先AI实验室恐需“国有化”
当地时间周四，人工智能软件公司Palantir的首席执行官Alex Karp呼吁制定人工智能监管的“合理准则”，但他表示，由于该技术“无限风险”带来的责任，可能需要实行国有化。 “我认为这些企业必须国有化，因为如果不国有化，我的每一个客户都会起诉我，”他在接受最新采访时表示。 在上述采访中，Karp反复提及构建这项强大技术所带来的风险和责任，进一步论证了将人工智能实验室国有化以及对“不负责任”的技
花旗将美国股票风险评级下调至中性，警告人工智能发展放缓或抑制盈利预期
人工智能一直是今年企业盈利增长的重要推动力，但花旗集团警告，大型语言模型主要开发商呼吁放慢人工智能发展速度，以应对安全问题，这可能会削弱人工智能对企业盈利的推动作用。 随着大型人工智能公司的负责人表示，出于安全考虑，应当放慢人工智能技术进展，股市可能迎来动荡开局，科技股预计将拖累市场低开。 人工智能行业领袖最新发出的警告，也是花旗对美国股市转趋谨慎的重要原因之一。 花旗美国股票交易策略主管斯“我们
AI风险引关注 教宗提醒勿过度依赖演算法
（中央社梵蒂冈16日综合外电报导）在各界对人工智慧（AI）相关风险的疑虑日益升高之际，罗马天主教教宗良十四世（Pope Leo XIV）今天提醒，不应将本该由人类独自做出的决策交由演算法做决定。 报导，「科技发展、大众媒体与社群网路的普及，以及AI的使用日益增加，打破了各种藩篱与距离，开创了新的可能性。」但教宗在圣伯多禄广场（St Peter's 「另一方面，人际关系却变得愈来愈没有人情味且日益虚
随着对人工智能的担忧加剧，OpenAI、Anthropic和谷歌正在商讨建立一个标准机构。
全球最大的AI公司正致力于创建一个新的行业标准机构，OpenAI于周二表示，此举正值人工智能风险引发的担忧日益加剧，要求加强监管和推动技术更安全发展的压力不断增大。 全球最大的AI公司正在着手创建一个标准机构，ChatGPT的开发者OpenAI于周二表示，眼下人们对AI危险的担忧日益上升，并且面临创造更安全版本技术的压力。 阅读更多扎克伯格在AI宣言中设想为每个人实现“超级智能” OpenAI表示
AI安全忧虑重创芯片股，美债收益率一度破5% 美股三大指数收跌
美股周一收跌，人工智能安全争论突然升温，叠加油价维持高位和美国10年期国债收益率一度突破5%，投资者在本周美联储议息会议前降低风险敞口。 科技股尤其是半导体板块成为抛售中心，不过市场内部表现并不算全面恶化，收盘时标普500指数成分股中仍有超过一半上涨，显示当天跌势主要集中在此前人工智能行情中涨幅较大的股票。 标普500指数收跌0.48%，纳斯达克综合指数下跌0.56%，道琼斯工业平均指数下跌152
硅谷加剧对人工智能生存风险的警告
多年来，硅谷的一些领军人物一直警告说，人工智能可能对人类构成生存威胁，即便他们同时也在推动这项技术的发展。本周，Anthropic 一名研究人员的备受瞩目的辞职将这一话题带入了主流视野。Jacob Coxon，一名普通员工，辞去了工作，并指责他的两位前雇主——Anthropic 和 OpenAI——通过“竞相开发超级智能 AI”而“拿我们的生命赌博”。 Coxon 表示，开发 AI 的人相信它可能
AI真的会毁灭人类吗？这些技术先驱给出自己的答案
随着越来越多研究人员警告人工智能（AI）可能带来灾难性风险，一些推动这项技术发展的先驱也开始公开表达担忧，认为AI能力在缺乏约束的情况下持续提升可能造成严重后果。 过去一周，围绕AI安全的严厉警告接连出现。Anthropic、OpenAI和谷歌DeepMind等主要AI实验室的研究人员都对开发这项技术可能带来的灾难性风险发出警报。 包括萨姆·奥尔特曼、达里奥·阿莫代伊、德米斯·哈萨比斯和埃隆·马斯
电影《大空头》原型：AI巨头制造“末日恐慌”其实另有图谋！
大空头史蒂夫•艾斯曼（Steve Eisman）似乎并不担心机器人末日。相反，他认为那些声称担忧人工智能（AI）会毁灭人类、带来世界末日的行业巨头其实“另有图谋”。 艾斯曼是电影《大空头》的原型人物之一。当时他作为纽伯格伯曼集团（Neuberger Berman）的高级投资组合经理，在全球金融危机爆发前做空次级抵押贷款，一战成名。 他认为，顶级人工智能实验室的恐慌性呼吁背后有某种动机，这将减缓该技
中美AI竞赛：世界变得更危险还是更安全？
关于人工智能（AI）及其潜在危险的警告，近年来可谓接连不断。 美国最大的人工智能公司之一——Anthropic——的一名顶尖AI安全研究人员警告说，这项技术正以惊人的速度发展，未来十年内，AI“可能导致全人类灭绝”的概率高达10%。 这样的担忧引发了要求美国采取协调一致行动、放缓AI发展速度的呼声。但与此同时，也有人质疑是否真的有必要为AI设置监管“护栏”。美国总统特朗普就是其中之一。他认为，如果
中美谈AI安全：共同的风险，不同的恐惧
中美谈AI安全：共同的风险，不同的恐惧 邓聿文：中美领导人讨论AI安全，当然有助于建立最基本的危机沟通和军事红线。但真正的较量，将发生在“安全”这个词由谁解释上。 美国财政部长贝森特和中国副总理何立峰在纽约举行的新一轮经贸会谈，除了关税、稀土、美国农产品和波音飞机仍是重要议题外，增加了人工智能安全这项新内容。贝森特向中方提出建立AI安全事件通报机制，双方同意启动相关对话，并把这一建议交给即将举
Anthropic联手OpenAI呼吁放慢AI发展？剖析AI失控风险与算力门槛
9月12日，Anthropic行政总裁阿莫迪（Dario Amodei）发表长文，呼吁放慢前沿AI能力提升的步伐。OpenAI行政总裁奥特曼（Sam Altman）随后表示支持，xAI的老板马斯克也转发认同。据美媒披露，美国前总统奥巴马（Barack Obama）近日也表示，如果管理不当，人工智能技术可能「很危险」。Anthropic首席执行官达里欧．阿莫戴（Dario Amodei）发表长文，呼
白宫反问AI公司：既然你们觉得危险，为什么不自己停？
既然你们觉得危险，为什么不自己停？凤凰网科技讯 9月21日，据Business Insider报道，白宫科技政策办公室主任迈克尔·克拉齐奥斯在福克斯新闻周日节目中说，对于担心AI模型发展过快、可能不安全的公司，最简单的解决方案是自行“踩刹车”。他表示，如果企业认为自己正在开发的技术不安全，就可以停止，无需政府强制。 “有意思的是，他们谈论这些问题，谈论他们对未来可能走向有多害怕，也许他们想暂停。我
据《The Information》报道，Meta在Muse曝出安全漏洞后加强安全警告
安全研究人员发现Meta平台应用的Muse存在可能暴露用户敏感数据的安全漏洞后，Meta在Muse中增加了更明确的安全警告。 该漏洞可能让攻击者访问用户的虚拟机，其中包含个人邮件和文件。Meta将其评为高严重度的SEV-2事件。 Muse是Meta新推出的人工智能代理，可执行购物和发送电子邮件等任务。该应用上线后迅速登顶应用商店榜单，两周内下载量约为280万次。 人工智能生成内容——美国旧金山：《
联合国秘书长呼吁全球合作为人工智能设立护栏
（联合国17日新华电）联合国秘书长古特雷斯周三（16日）呼吁全球协同行动，为人工智能（AI）设立护栏。 在今年联合国大会高级别周开始前举行的记者招待会上，古特雷斯说，人工智能具有巨大潜力，但近来越来越多的人工智能开发者警告，其开发速度超出人类对风险的认知。有的开发者呼吁暂停开发人工智能，有的呼吁设立护栏。各国不能无视这些担忧。 古特雷斯说，各国政府首先必须负起责任。由于人工智能发展及其所带来的风险
David Sacks炮轰：真担心AI失控就自己停下来 别借“放缓”之名寻求监管保护
围绕前沿人工智能是否应该主动放慢发展速度的争论近日迅速升温。Anthropic首席执行官Dario Amodei公开呼吁整个AI行业放缓先进模型能力提升的速度，OpenAI首席执行官Sam Altman和xAI首席执行官埃隆·马斯克随后表示支持。但美国科技投资人、总统科技顾问委员会主席David Sacks却对这一倡议提出尖锐批评，认为如果OpenAI和Anthropic真的认为当前AI发展速度已
长期以来对人工智能潜在危险的担忧已爆发为全球意识
自从雅各布·考克森发出严厉警告以来，人们对人工智能潜在危险的长期担忧已爆发为全球意识
AI从业者担忧技术对社会构成威胁 坦言承受巨大精神压力
知情人士透露，英国人工智能安全研究所已有多名员工因压力过大休病假，并接受心理咨询。四名知情人士表示，待发布AI模型的测试日程紧张，加之对这类新兴技术快速落地、能力持续增强的忧虑，导致AISI内部士气低落、人员倦怠。 Anthropic、OpenAI与谷歌DeepMind的员工也曾公开吐槽同类问题，不少顶尖研究员因心理负担选择离职，或是认定自己参与研发的产品不宜向公众开放。一名DeepMind员工称
川普淡化AI威胁 联合国秘书长疾呼防范
（中央社纽约联合国总部16日综合外电报导）联合国秘书长古特瑞斯（Antonio Guterres）今天警告，人工智慧（AI）快速发展的风险不容忽视。他指出，强化AI监管将是他在下周联合国大会与各国领袖的会谈重点。 报导，「我们承担不起无视外界提出的疑虑，尤其是来自AI开发最前线人员」，「任何政府的首要责任，就是保护自己的公民，也包括免于AI的威胁。」社会大众对AI的忧心持续升高。原服务AI公司An
AI丨国际清算银行:AI快速发展带来新金融稳定风险
国际清算银行(BIS)表示，人工智能(AI)的快速崛起正带来新的金融稳定风险，用于AI相关基础设施的支出规模已经大到足以影响全球经济状况；该行估计，全球五大科技公司在2025年至2026年间对AI领域的投资将超过1万亿美元。 国际清算银行总经理德科斯(Pablo Hernandez de Cos)称，AI的前景是真实存在的；而AI的长期影响将取决于政策选择、技能和基础设施投资，以及相关收益能在多大
PFAS生产量激增，以满足AI基础设施和半导体需求
瑞典化学品监管机构 ChemSec 警告称，主要的 PFAS 制造商正在大幅增加产量以支持人工智能产业，特别是在半导体制造和先进的数据中心冷却系统方面。 对十大生产商的调查显示，几乎所有生产商都计划扩大在欧洲、亚洲和北美的业务。 大金、阿科玛和科慕等公司明确将目标锁定在人工智能的繁荣上，而其他公司则提到了电动汽车锂离子电池的增长。 虽然巴斯夫等一些公司计划在 2028 年前退出生产，但批评人士和分
解读——人类滥用还是失控机器？先进人工智能如何威胁社会
随着人工智能系统变得越来越强大，关于它们可能伤害人类的方式的警告范围从今天已经出现的危险到对未来生存灾难的担忧。 上周，Anthropic员工雅各布·考克森（Jacob Coxon）公开从这家领先的人工智能公司辞职，警告开发人员正在构建可能最终摧毁人类的系统。 科克森在美国社交媒体平台X上发帖称：“人工智能的开发者真诚地相信，到本世纪末，它可能会杀死我们所有人。”“他们正在直奔自我完善的超级智能，
美国卫生官员不顾担忧迅速部署医疗AI
克里斯蒂娜·朱伊特 美国卫生官员正在迅速推进AI在医学中的使用，部署AI来诊断和治疗患者，尽管一些专家对其安全性和有效性表示担忧。 硅谷投资者，尤其是维诺德·科斯拉，对这些努力产生了强大影响，他们推动AI取代人类医生，并通过Curai Health等公司扩大医疗服务可及性。 美国食品药品监督管理局（FDA）和联邦医疗保险（Medicare）正在调整针对AI医疗工具的法规和试点项目，在创新与AI自主