搜索结果
独家 | Anthropic 研究员因对“失控”AI的恐惧而辞职
一名 Anthropic 的研究员正在退出人工智能行业，因为他担心该实验室及其竞争对手正竞相构建可能失控并毁灭全人类的系统。 人工智能实验室内部的担忧正在加剧，竞争正推动科技公司竞相研发可能带来脱离人类控制风险的自我完善模型。
AI科企巨头齐呼吁发展减速：特洛依木马或美国对华「冷战剧本」？
AI人工智能巨头Anthropic公司行政总裁阿莫迪（Dario Amodei） 9月12日发表长文《我们必须放缓前沿人工智能的发展步伐》（We Must Pace the Frontier），罕见公开呼吁全球AI前沿大模型放缓研发步伐，连很少与Anthropic达成共识的OpenAI，以及亿万富豪马斯克（Elon Musk）随后都出来响应呼吁。为什么凭借AI发展谋取暴利的大企业会忽然喊「需要减速
Anthropic前研究员辞职示警：业界坚信AI可在2030年前灭绝人类
人工智能（AI）巨头Anthropic公司旗下的三位研究人员警告，开发AI的业界人士真心相信人工智能可以2030年前毁灭人类，其中一位研究人员考克森（Jacob Coxon）已辞职以示抗议。考克森9月9日（周三）在网上发文表示，他辞职是因为Anthropic和他的前雇主OpenAI皆忽视或对AI带来的威胁处理不当。 据《卫报》报道，「这两家公司（Open AI与Anthropic）都没有尽到应有的
关于人工智能的可怕警告震惊国会，但在选举前不太可能采取行动
华盛顿——2023年9月，埃隆·马斯克、马克·扎克伯格、萨姆·奥尔特曼和其他亿万富翁科技巨头聚集在国会山，与参议员们举行闭门会议，讨论马斯克所称的人工智能带来的“文明风险”。三年后，这些科技巨头都进一步加大了对人工智能的投资，而国会仍未通过任何全面的立法来约束或为这项快速发展的技术设立防护栏。尽管围绕人工智能举行了无数次委员会听证会，并成立了各种委员会和工作组来进行研究，但众议院或参议院在如何处理
Meta的Muse重新点燃了人们对个人AI代理出现后赢家与输家的担忧
9月23日：Meta推出的首款消费级产品“Muse”，是亚历山大·王（Alexandr Wang）自去年上任以来主导该公司AI项目后推出的首个重要产品。本周，这款应用对美国股市产生了显著影响。 “Muse”允许用户将购物、旅行预订、填写表格等任务委托给AI助手来完成；它已超越ChatGPT，成为美国和加拿大苹果应用商店（App Store）及谷歌应用商店（Google Play Store）中最受
我们已经开始失去对人工智能的控制。是时候将其关闭了 | 加里森·洛夫利 (Garrison Lovely)
听起来像是科幻剧集中关于人工智能毁灭的、过于夸张的倒数第二集，如今却成为了我们的现实。 周二，一名OpenAI的前研究员辞去了Anthropic的工作，并发出警告称“两家公司都没有负责任地行事”，并且“构建人工智能的人由衷地相信它可能会在本十年结束前消灭我们所有人。这不是营销噱头。” 作为一名多年来报道人工智能风险的人，这对我来说并不算什么新鲜事。 但外界如潮水般的惊恐表明，更广泛的公众正在第一次
AI模型不会杀人——是人杀人
观点 人类学家研究员Jacob Coxon周一晚间在X上公开宣布辞职，原因是担心AI“可能在本十年末杀死我们所有人”。 许多人对他的观点发表了看法，导致该消息在不到24小时内获得超过1.1亿次浏览，这可能得益于X算法推广了批评所有者埃隆·马斯克的AI竞争对手Anthropic和OpenAI的内容。 但真正的问题不在于模型本身，而在于那些粗心地将模型推向世界且不对其产品后果负责的公司。 Coxon的
Meta的新口号：我们关心隐私
Meta 正寻求将隐私保护作为新产品（包括其爆款助手 Muse）的核心卖点，这标志着这家建立在大量使用客户数据基础上的公司发生了重大转变。 为何重要：这一根本性的转变承认了一个事实：AI 新助手竞赛的赢家必须让用户放心，能够将他们的电子邮件、财务、健康数据及其他敏感信息交托给助手。 否则，超级智能个人代理基本上毫无用处。 新闻驱动因素： Meta 曾因隐私政策允许其近乎不受限制地访问并使用人们
Meta推AI助理Muse 存取敏感个资升高安全风险
（中央社纽约9日综合外电报导）Meta今天推出一款备受期待的人工智慧（AI）助理，能够自动替用户寄发电子邮件、卖车、预订旅游行程等。然而，公司内部对这项技术在处理敏感个资时的管理方式，仍有疑虑。 报导，这套对外名为Muse（缪斯）、内部代号Hatch（意为「孵化」）的AI代理人，是执行长祖克柏（Mark Zuckerberg）欲将「个人超级智慧」带给每天使用Meta服务的数十亿人的核心计划。 这项
科技公司重新思考用AI替代人类工人的策略
Meta在AI代理未能实现生产力目标后，撤回进一步裁员的计划，而金融科技公司Klarna在客户抱怨服务质量后开始重新招聘。
人工智能并不会毁灭人类 但专家表示真正的威胁已然出现
周三，OpenAI 公开了六组新案例，展示其 AI 模型在测试评估过程中出现的 “意外或令人担忧的模型行为”。该公司同步发布一套全新框架，用于追踪、上报以及披露AI 模型做出未被指令要求、或是本不该发生的行为的各类情况。 此前已有多份报道提到，多家企业的 AI 模型出现入侵第三方网络与服务的现象，其中就包括 OpenAI 一款尚未发布的模型攻破了 AI 模型测试平台 Hugging Face 的网
评论：扎克伯格的“电子宠物式”AI或成Meta的iPod时刻
纽约：马克·扎克伯格这次做对了。就在Meta旗下个人AI智能体Muse广受好评并发布后不久，扎克伯格于周三晚间（9月23日）宣布了下一阶段计划：一款类似“拓麻歌子”的吊坠，可让用户随身与这款可爱助手互动。该产品预计将在圣诞节前上市。 彭博社的马克·古尔曼介绍了Muse Charm的部分功能：屏幕中央会出现一个虚拟Muse角色，用户可以自定义其外观、服装、声音及其他属性。这款设备可以通过腕带佩戴、装