搜索结果
随着对人工智能的担忧加剧，OpenAI、Anthropic和谷歌正在商讨建立一个标准机构。
全球最大的AI公司正致力于创建一个新的行业标准机构，OpenAI于周二表示，此举正值人工智能风险引发的担忧日益加剧，要求加强监管和推动技术更安全发展的压力不断增大。 全球最大的AI公司正在着手创建一个标准机构，ChatGPT的开发者OpenAI于周二表示，眼下人们对AI危险的担忧日益上升，并且面临创造更安全版本技术的压力。 阅读更多扎克伯格在AI宣言中设想为每个人实现“超级智能” OpenAI表示
Breakingviews - 评论：AI前沿发展放缓可能让第二梯队获得优势
Anthropic首席执行官达里奥·阿莫代伊希望以护栏措施抵御对人类构成的威胁。 此类监管将把更多投资——今年达1万亿美元——从开发AI模型转向部署AI模型，从而支撑数据中心需求。英伟达、SK海力士等公司的挑战者将从中受益。
特朗普拒绝AI减速呼吁：赢得AI就赢得一切
美国总统特朗普明确拒绝科技界要求放缓人工智能发展的呼声，将AI领导权定性为国家安全核心议题，并以竞争对手赶超为由，力挺美国维持技术优势。 据英国《金融时报》报道，特朗普周日在爱尔兰Doonbeg高尔夫球场对记者表示，"我们在AI领域领先……坦率地说，我希望保持这一局面，因为谁赢得AI，谁就赢得一切。"他承认可以设置一些"护栏"，但同时将安全警告定性为"负面力量"在炒作"不会发生的事情"。 此番表态
特朗普试图叫停人工智能监管推进
他说，美国已经做得够多了；此前周末有领导人呼吁放缓人工智能的生产。 周一上午，美国总统唐纳德·特朗普试图压制美国进一步监管人工智能的新兴势头，称美国在防止人工智能带来灾难性风险方面已经做得足够多。 此文发布之际，科技领袖们周末呼吁该行业放缓人工智能的生产，导致科技股周一暴跌。 “人工智能唯一需要的控制或‘护栏’，就是一位强大而聪明的（高智商！）总统，而美国恰恰拥有这样的人，而且绰绰有余，”特朗普在
报告：AI失控个案创纪录 监察组织促立法强制通报及干预
（伦敦30日综合电）英国《卫报》引述监察数据报道，人工智能失控、欺骗人类及无视指令的个案近来创下新高，案例的严重程度不断恶化。 一些监察组织促请政府强制科企通报，并引入紧急权力限制AI服务。 获英国政府AI安全研究所（AISI）资助的“失控观察站”组织透过平台X的用户通报，监察AI失控的真实个案，并说7月份由企业及个人用户报告的AI失控个案按月倍增至逾300宗，今年则已录得逾1600宗个案，当中包
特朗普称美国对人工智能企业拥有广泛监管权力，并指控“阴谋”令中国受益
美国总统唐纳德·特朗普周一断言，联邦政府对人工智能公司拥有广泛的监管权，并声称美国国内一场针对技术基础设施的协同行动主要让中国受益。 “人工智能唯一需要的控制或‘护栏’，就是一位强大而聪明（高智商！）的总统，而美国恰恰拥有这一点，而且绰绰有余，”特朗普在其社交媒体平台Truth Social上写道，回击了日益高涨的加强对该行业监管的呼声。 这位美国总统认为，他的政府已介入，以阻止科技高管推行可能造
在科技之国的中心，选民对AI产生警惕
在科技产业的重心地带，选民们对人工智能持负面态度。根据 Politico 及其合作伙伴的最新民意调查，绝大多数加州选民认为先进的人工智能可能对人类构成威胁。 加利福尼亚州萨克拉门托——即便是硅谷的“后院地区”，也在为人工智能带来的潜在风险做好准备。 根据 Politico 及其合作伙伴的最新民意调查，加州选民对人工智能普遍持悲观态度，他们认为这项快速发展的技术对人类构成了严重威胁。这种担忧在加州这
Anthropic 和 OpenAI 指望山姆大叔让它们大到不能倒
观点 幸运也好，偶然也罢，Anthropic在公众心中埋下了一颗种子：AI落入坏人之手是危险的，若不受约束，将对人类构成生存威胁。当流行文化充斥着对恶性AI的指涉时，主流媒体欣然接受了这一叙事。新闻标题不言自明，种子就此扎根。但面临最大威胁的并不是人类——至少目前还不是。真正面临威胁的是美国模型制造巨头Anthropic和OpenAI，尽管它们获得了数千亿美元的投资，却距离盈利还有数年之遥，并且完
盖茨、奥尔特曼、马斯克，为何都在担忧这件事
9月25日，微软创始人比尔·盖茨在一条NBC即将播出的采访中发出警告：人工智能（AI）是一种足够强大的工具，但如果被怀有恶意的人利用，“足以引发导致十亿人死亡的事件”。他认为，保障AI安全光靠企业自我监管不够，必须要执法部门和政界人士参与讨论。这是本月内又一位科技巨头公开表达对AI安全的担忧。此前，Anthropic首席执行官达里奥·阿莫代伊发文呼吁，各国政府和前沿企业应放慢AI能力提升速度，合作
科技领袖就人工智能放缓问题持对立立场
科技领袖在监管人工智能问题上持对立立场，表明行业内部裂痕日益加深。OpenAI首席执行官萨姆·奥尔特曼——上周他不仅呼吁美国进行监管，还呼吁华盛顿和北京之间达成一项协议——表示他的公司正在与Anthropic和谷歌合作，以遏制围绕这项技术的担忧。 然而，英伟达首席执行官黄仁勋与Meta首席执行官站在一起，拒绝协调人工智能放缓的呼吁，称没有必要对人工智能安全进行监管。专家担心，在中期选举之前，美国进
新诉讼指控Anthropic、OpenAI等四巨头达成非法协议放缓AI开发
该诉讼于周五向美国加利福尼亚北区联邦地区法院提起。诉状认为，这些头部 AI 企业达成协同减速共识的行为涉嫌违反反垄断法，此举还会降低消费者购买 AI 付费订阅服务所能获得的价值。 诉状称，这场协同行动主要发生在 9 月 12 日。当日 Anthropic 首席执行官达里奥・阿莫代发布一篇文章，呼吁全行业开展合作，放缓技术迭代速度，把重心放在强化安全措施上。 大量失控 AI 智能体有可能仅用短短六个
观看：是“伟大”还是“令人担忧”——人工智能是否应该受到约束？
‘Great’ or ‘alarming’ - Should AI be reined in? 人工智能的快速发展及其对人类构成风险的担忧，因多家AI公司高管和员工的系列警告而备受瞩目。 Anthropic首席执行官达里奥·阿莫迪（Dario Amodei）本周末呼吁放慢人工智能的发展速度并加强监控。 英国广播公司（BBC）采访了华盛顿特区的人士，了解他们对这项技术及其快速发展的担忧程度。
“不能由少数人控制”：萨提亚·纳德拉加入AI放缓之争
在人工智能巨头们因担心人类最终可能失去控制而呼吁“放缓”人工智能发展之际，微软老板萨蒂亚·纳德拉也支持有必要采取审慎的做法，称随着创造者追求进步的同时确保安全，先进的人工智能系统必须牢牢处于人类的监督之下。微软董事长兼首席执行官萨蒂亚·纳德拉。 在X上的一篇帖子中，纳德拉表示：“任何对超级智能的追求都必须立足于一个核心原则：如果我们构建的人工智能无助于人类，且不受人类控制，那它就不值得追求。”他进
甲骨文就美国数据中心援引不可抗力条款，凸显AI基础设施风险
甲骨文就一座正在建设中的美国大型数据中心宣布援引不可抗力条款，凸显了AI基础设施建设所面临的风险，并加剧了人们对若泡沫破裂将引发财务后果的担忧。该设施所在地的官员已推迟了为该项目供电所需的许可证，甲骨文可能会寻求推迟支付租金。 超大规模云服务商正竞相建设数据中心，但随着公众反对声浪的增大，以及针对为这些庞大站点供电的规划项目所遭遇的阻力，它们面临着日益严峻的挑战。正如Semafor的商业与金融编辑
特朗普与国会抵制日益增长的人工智能监管呼声
科技界领袖正就人工智能的迅猛发展及其对人类构成的潜在威胁发出紧急警报。随着警告称AI模型可能失控并导致人类灭绝，相关担忧已升至顶点，使该技术可能毁灭全人类的恐惧正式进入主流舆论视野。 为应对上述风险，包括OpenAI、Anthropic和Google DeepMind在内的AI巨头已展开安全对话，并致力于组建行业标准机构。随着业界日益担忧该技术可能很快变得强大到难以掌控，Anthropic与Ope
人工智能灾难日益逼近
Anthropic、谷歌和OpenAI都对生物安全感到担忧。它们已制定保障措施，防止其系统被滥用，但这些限制并不完美。 唐纳德·特朗普下令联邦机构停止使用Anthropic的人工智能技术，同时要求该公司与政府合作六个月。
Mistral首席执行官称美国人工智能安全辩论掩盖了竞争对手的“疏忽”
Mistral首席执行官Arthur Mensch指责全球领先的人工智能公司利用关于技术安全性的辩论，作为其“疏忽”的掩护。“我们在美国看到的辩论，一直是我们一些竞争对手疏忽的掩护，”Mensch告诉CNBC的Annette Weisbach，并补充说，有必要建立能够控制AI代理的系统。 Mensch并非唯一批评美国AI安全讨论的人。前白宫加密货币事务负责人David Sacks，现任总统科学技术
特朗普全力拥抱人工智能 MAGA群情激愤
2021年1月6日，艾米·克雷默（Amy Kremer）站在白宫附近，敦促MAGA支持者阻止唐纳德·特朗普所称的选举“被偷走”。如今，她再次动员总统的支持者——这一次，是加入一场反对其支持人工智能议程的抗议。 距中期选举仅剩数周，美国总统对大型科技公司的支持正在疏远一批曾经忠诚的支持者。“我不是绵羊，我不会盲目跟随，”这位前茶党活动人士、Women for Trump创始人上周在西弗吉尼亚州坚定支
AI超级智能的放缓
还记得科技领袖们曾告诉员工“快速行动，打破常规”吗？这似乎也将是AI的发展方式。但在一个失控AI代理成为现实的夏天之后，研究人员警告说AI可能杀死我们所有人，一些领先的美国AI公司公开表示，是时候踩刹车，并“调整前沿”的尖端AI开发步伐了。 他们的动机可疑，但主要AI公司——包括Anthropic、OpenAI、谷歌、微软和X——的领导人至少在口头上支持超级智能放缓的想法。 这些AI公司真的会放缓
Amodei写道，协调进度需要反垄断豁免。Altman表示OpenAI不会等待豁免。这两条言论现已成为诉讼的一部分。
四名消费者于9月18日在加州北区联邦法院提起集体诉讼，被告包括Anthropic、OpenAI、SpaceXAI和谷歌。 《布伊斯诉Anthropic PBC案》指控这四家公司达成横向协议，以减缓彼此竞争产品的改进速度，此举违反了《谢尔曼法》第一条。 豁免程序是该案的核心。阿莫迪（Amodei）的文章称，政府调解将有所帮助，且某些安全对话需要狭义的豁免。而诉状中的回应是：不存在此类豁免，国会未颁布
OpenAI寻求国会指导，以确认行业整体减缓AI开发进度的合法性
OpenAI已向国会成员寻求指导，以确认如果各家AI实验室协调一致地减缓前沿AI的开发进度，是否会违反美国反垄断法，特别是《谢尔曼反垄断法》（Sherman Antitrust Act）。 该公司担心，实验室之间在安全领域的协调工作可能会被视为限制产出。 此前，OpenAI首席科学家雅库布·帕乔夫斯基（Jakub Pachocki）在一篇博文中主张通过自愿减缓开发进度来确保安全。 为此，美国国会于
知名计算机教授抨击工智能实验室狂妄的“救世主”情节，呼吁国会调查末日主义意识形态
过去几个月里，OpenAI和Anthropic两家领先的前沿人工智能实验室表现出了一些狂妄的行为。他们不仅宣传其代理系统的威力，还公开讨论技术可能导致人类灭绝的问题。这种弥赛亚式的思维模式让他们不仅不道歉，反而要求政府放慢潜在竞争对手的速度，以确保其领先地位。我呼吁国会启动公开的事实调查任务，以揭露OpenAI和Anthropic正在进行的研究项目、其运作方式及具体目的。调查应关注以下三点：首先，
大型人工智能公司正试图掌控就业途径，大学不应随波逐流 | Ella Hafermalz
大学需要保护其在教育领域的地位，以确保学生拥有独立的就业途径。 像OpenAI这样的人工智能公司正渗透进从教育到就业的路径中。 不久之后，它们可能会完全掌控这一过程，这对学生来说将是灾难性的结果。我们知道学生们在学校和大学里都在使用人工智能。在与我所教学生的交流中，我惊讶于许多人对它的信任。 他们不仅在学习上寻求帮助，甚至在处理个人问题时也会求助于ChatGPT等工具。有些人甚至在没有人工智能的情
特朗普竟污蔑：令人作呕的阴谋，只有中国会高兴
近日，美国多名科技企业家呼吁人工智能（AI）企业放缓发展前沿技术。Anthropic公司首席执行官阿莫迪称，考虑到安全风险，AI企业需要放缓开发最先进模型的节奏。美国企业家马斯克及OpenAI首席执行官奥尔特曼也附议这一观点。但将AI建设视为经济增长契机的美国总统特朗普不乐意了。 据《华盛顿邮报》9月15日报道，特朗普周一猛烈抨击对失控AI的担忧，“AI接管世界、毁灭人类，以及所有其他坏事情，都是