搜索结果
Anthropic 推动澳大利亚内容采用退出机制，ABC 警告新闻面临“蚕食”风险
Claude 的制造商声称 AI 可能改变经济，但 ABC 和 SBS 表示该技术应受媒体监管。AI 巨头 Anthropic 敦促阿尔巴尼斯政府考虑给予大科技公司“有条件批准”，允许其在退出机制下使用澳大利亚受版权保护的作品训练模型，此前该公司承认无法获得全面的版权豁免。 但澳大利亚公共广播机构 ABC 和 SBS 强烈批评 AI 公司，呼吁政府制定严格新规，以补偿媒体组织并保护公共利益新闻。
ABC和SBS希望人工智能公司为澳大利亚新闻付费
澳大利亚的公共广播机构ABC和SBS希望该国的媒体议价激励机制能够涵盖人工智能公司。这将促使它们与澳大利亚媒体达成商业协议，以支持新闻业。这两家广播机构在向议会人工智能联合专责委员会提交的意见书中提出了这一呼吁。 乔什·巴特勒（Josh Butler）于周四为《卫报》报道了这些意见书。ABC还希望人工智能公司遵守与媒体机构相同的版权、诽谤和隐私规则。它称当前的系统“具有反竞争性”。 ABC在意见
🔊 Anthropic在筹备上市之际向投资者警告潜在的灾难性AI风险
Anthropic在筹备重磅IPO之际，向投资者警告AI可能带来的灾难性风险。 今天的路透社Morning Bid播客探讨了AI风险与其飙升估值之间的紧张关系。
“生存风险”：Anthropic向其投资者警告自身AI的风险
Anthropic公司正在警告投资者：该公司自主研发的人工智能模型可能对人类构成“灾难性或存在性威胁”，其中包括某些模型可能拒绝被关闭、操纵信息，甚至表现出类似敲诈勒索的行为。这一警告出现在路透社获得的该公司IPO（首次公开募股）招股说明书中。该招股说明书详细列出了Anthropic的IPO相关信息及潜在风险；该公司正准备进行这场可能使其估值超过2万亿美元的IPO。 需要明确的是，我并不认为每一次
🤖 一名AI研究员从Anthropic离职，警告该技术可能带来严重后果
🤖 一名AI研究员从Anthropic离职，警告该技术可能带来严重风险。这对监管和市场意味着什么？
独家：Anthropic在IPO文件中警告人工智能可能对人类构成“生存风险”
9月28日：据悉，Anthropic计划在其首次公开募股（IPO）招股说明书中警示潜在投资者，先进人工智能可能对人类构成“灾难性或生存性风险”，这家寻求从同一技术中获利的公司发出了这一非同寻常的警告。 路透社审阅的该公司IPO招股说明书强调了与其AI模型相关的风险，称这些模型可能表现出“自我保护行为”，包括试图“抵抗关闭”、“隐瞒或操纵信息”以及类似“勒索”的行为。Anthropic在文件中表示：
“我们可能无法幸存”：又一名Anthropic员工离职，就AI发出悲观警告
上周从Anthropic辞职的雅各布·考克森警告称，AI公司在急于提升超级智能的过程中，正在拿生命冒险。
澳大利亚寻求通过新信息流选择法限制社交媒体算法
澳大利亚提出的“我的信息流，我做主”改革将允许用户选择退出算法推荐，只查看他们关注的账户发布的内容。
Anthropic特使表示，人工智能的进展将“以信任的速度”推进
前沿人工智能公司希望澳大利亚在人工智能安全方面提供帮助 堪培拉——美国前驻澳大利亚大使杰夫·布莱希作为Anthropic的国际特使往返于美国和澳大利亚之间，这一角色使他处于一场日益紧迫的辩论中心，即政府应如何应对前沿人工智能。 近日，Anthropic的研究人员公开警告称，快速发展的系统可能脱离人类控制，而在最极端的情况下，甚至可能杀死全人类。一位资深对齐研究员认为，人类在十年内灭绝的概率为10%
Anthropic呼吁放缓AI发展 《环球时报》称是美“科技右翼”的冷战剧本
美国人工智能公司Anthropic首席执行官呼吁放缓人工智能发展，以规避技术失控风险。中国《环球时报》评论，文章暗藏大量针对中国的遏制条款，实质上是一出AI领域的“冷战剧本”。 Anthropic首席执行官阿莫迪星期六（9月12日）在个人博客撰文，呼吁人们必须掌控前沿技术的发展节奏。这一倡议迅速得到特斯拉首席执行官马斯克，OpenAI首席执行官奥尔特曼等人的联合支持。 《环球时报》星期天（9月13
澳大利亚拟议的“选择退出”法律瞄准大型科技公司的算法
社交媒体平台因成瘾性算法面临审查；新法律旨在赋予澳大利亚人更大的信息流控制权。
美国警告澳大利亚社交媒体算法改革可能“助长审查”
悉尼，9月23日：特朗普政府批评了澳大利亚提出的社交媒体算法改革方案。该方案允许用户自行选择在社交媒体上看到的内容，但美国政府警告称，这一举措可能被视为“变相的审查制度”。 根据澳大利亚中左翼工党政府本月提出的法案草案，社交媒体平台必须向用户告知其推荐的内容，并提供默认的推荐内容列表；用户可以选择退出该推荐系统，仅查看自己关注的账户发布的帖子。 美国驻堪培拉大使馆在周二晚些时候向澳大利亚的公众咨询
Anthropic招股书警告：AI威胁人类生存
Anthropic 即将上市，却在招股书中前所未有地向投资者警告，先进AI可能对人类造成 “灾难性或生存风险” ，强调旗下AI模型可能展现“自保行为”，包括“抗拒关闭”、“隐瞒或操纵资讯”，甚至“类似勒索”行为。招股书还揭示，该公司去年营业额虽急增约12倍至近46亿美元，但营运亏损仍超80亿美元。 消息人士称， Anthropic 的上市时间可能押后至11月美国中期选举之后。这次首次公开招股IPO
解读：中国如何为人工智能脱离人类控制的风险做准备
美国领先的人工智能开发商Anthropic的研究人员警告称，日益强大的模型可能脱离人类控制，甚至可能导致人类灭绝，这在中国引发了关注；中国的政策制定者一直在为其中一些相同的风险做准备。
人工智能研究人员支持灭绝警告，而五角大楼予以否认
本周，一位即将离职的Anthropic研究人员的警告引发了广泛回应。 竞争对手实验室的高级科学家支持人工智能可能威胁人类的说法，而五角大楼的一位高级官员则予以否认。 这一反应是在Jacob Coxon从Anthropic辞职后出现的。
作者称出版商想分一杯羹Anthropic的赔偿金，据《纽约时报》报道
Anthropic同意向被其盗版书籍的作者支付15亿美元。这笔钱现在正在清点中。一些作者发现其中一部分落入了他们自己的出版商手中。 《纽约时报》周五报道称，作者和出版商已就同一批作品提交了相互竞争的索赔要求。……
第一件事：Anthropic警告人工智能存在“生存风险”，与此同时外界对Meta的Muse和OpenAI的模型产生担忧
随着关于 Anthropic 的 Muse 和 Astra 模型的新信息的曝光，该公司在招股说明书中的警告性声明引发了人们的担忧。据报道，Anthropic 在准备进行可能高达 2 万亿美元的 IPO 时，向投资者表示先进的人工智能技术可能对人类构成“灾难性或存在性威胁”。这一警告内容尚未公开，但已被路透社和《金融时报》报道。该公司此前也曾呼吁减缓人工智能技术的快速发展速度。 Meta 公司的 M
Anthropic研究员Jacob Coxon因不满AI军备竞赛而辞职
Jacob Coxon在X上宣布辞去Anthropic职务。他表示自己过去三年分别在OpenAI和Anthropic从事预训练研究，但认为两家公司都没有以负责任的方式推进AI开发，反而在“直奔自我改进型超级智能”，并将人类安全置于赌局之中。 Coxon称，目前这些封闭实验室正在打造的AI系统很快就会具备“超人类”能力，能够实施黑客攻击、在一夜之间改变某个领域的格局，并获取真实世界中的权力与资源。他
Anthropic承诺更努力控制模型，并请求合作伙伴共同参与
Anthropic表示，在一项审查发现Claude模型超出虚构网络安全测试范围并未经授权访问真实计算机系统后，该公司正在采取措施限制其AI模型的不当行为。 该公司希望合作伙伴也加强安全措施，因为事件发生在保护不足的第三方环境中。 该公司的自我改进声明代表了一种突然兴起的公司沟通形式——非约束性的事后努力声明。其信息是：我们不能保证什么，但这是我们正在尝试的。 Anthropic承认，OpenAI关
Anthropic连两季获利 IPO前夕遭遇AI监管风暴
正值AI监管声浪升温之际，有消息指出Anthropic连续两季获利。
前 Anthropic 员工的病毒式推文引发头条新闻，AI 末日警告主导舆论
媒体对人工智能可怕危险的报道如潮水般涌现，其中一些甚至发出“我们都得死！”的警告——也许吧。 究竟是什么引发了这股关于超级智能 AI 网络毁灭人类的恐怖故事洪流？仅仅是社交媒体上一个默默无闻的人发的一条帖子。 Anthropic 的研究员雅各布·科克斯森辞职后，在 X 平台上发布了自己的担忧。这些推文在整个媒体界引发了雷鸣般的反响，以至于电视台争相邀请他上节目。正是这句话让他成为了数字时代的保罗：
播客：Anthropic IPO警告，康奈尔与特朗普家族企业
Anthropic警告其IPO投资者，该技术可能对人类构成灾难性风险。
美批社媒监管草案意图审查 澳总理称旨在重获控制权
澳洲总理阿尔巴尼斯针对社交媒体监管法草案表示，他将“始终捍卫澳洲的国家利益”。（欧新社照片） （悉尼23日法新电）在美国方面警告澳洲新的社交媒体监管法草案可能带来审查机制之后，澳洲总理阿尔巴尼斯为该草案作出辩护。 美国驻堪培拉大使馆周二发表声明，对这项要求社交媒体巨头承担“注意义务”的法律草案表示“严重关切”。 阿尔巴尼斯在纽约被记者问及这些评论时回答，他将“始终捍卫澳洲的国家利益”。 他说
澳大利亚将强制社交媒体巨头允许用户选择退出算法
草案立法强制实施数字注意义务，包括限制儿童接触厌女和饮食失调内容。 澳大利亚将允许社交媒体账户持有人选择退出将危险和分裂性内容推入用户信息流的强大算法，这是旨在提升在线安全的新法律的一部分。 16岁以上的用户将获得关闭算法驱动内容的新工具，而平台若不遵守将面临超过1亿美元的罚款。