AI代笔风潮之下的讨论和思考（下）

鲜活的判例为涉AI作品的侵权行为划定了法律红线，但关于 AI 与著作权的终极争论才刚刚开始。增设 AI “邻接权”可能是一场最务实的制度自救。 时代处在巨变中，人类数千年来引以为傲的创作主体性正在发生根本性动摇，人类语言文化的多样性也将迎来挑战。除了这种担忧之外，我和朋友还在微观上剖析了一个切身的问题。在 AI 时代，如何重新定义“抄袭”的边界？技术不仅降低了所谓洗稿的成本，更模糊了原创与剽窃的界

CNBC每日开盘：人工智能安全吗？行业领袖和特朗普意见不一

大家好，我是李嘉欣，来自新加坡。欢迎收听 CNBC 的《每日开盘》。 关于人工智能“可能杀死全人类”的社交媒体狂潮，促使美国人工智能科技巨头们齐聚一堂，讨论安全问题以及放缓模型开发进程的前景。然而，美国总统唐纳德·特朗普对人工智能的讨论并不满意，他表示“人工智能唯一需要的控制或‘护栏’是一位强大而聪明的（高智商！）总统，而美国拥有这样的总统，而且不止一位！”与此同时，中东冲突的经济成本持续攀升，美

Anthropic发出警报：外国行为者策划病毒实验，生物武器威胁曝光

根据Anthropic的一份新威胁报告，美国以外的研究人员使用前沿AI模型规划涉及高致病性禽流感、基孔肯雅热及其他具有潜在武器应用价值的生物制剂的实验。 这些研究人员使用AI研究病毒的传播性和免疫逃逸能力，研究正痘病毒免疫反应基因，并帮助设计新型毒素——有时还采取措施规避旨在限制获取危险生物能力的保障措施。 Anthropic在周四发布的报告中详细描述了五个案例，但未透露涉及的国家、机构和具体生物

人工智能公司防止自我毁灭的新计划

第三方评估人员将被允许进入公司内部，以监督模型。但他们究竟能拥有多少访问权限和影响力？ 达里奥·阿莫迪、萨姆·奥特曼和埃隆·马斯克在很多问题上意见不一。他们各自出于对竞争对手贪婪和鲁莽的愤恨，分别创立了Anthropic、OpenAI和xAI；每个人都坚信，只有他才有能力安全地构建超级智能。然而，在过去两周席卷全美的AI恐慌中，这三位首席执行官找到了一个共识：引入“嵌入式评估员”，即外部专家，进驻

AI代理正在失控

你好，欢迎来到 TechScape。我是主持人布莱克·蒙哥马利（Blake Montgomery），《卫报》美国科技编辑。此时此刻，纽约市窗外正风雨交加。今天在科技领域，我们要讨论一系列令人担忧的 AI 公司披露信息。 AI 智能体在走向主流之际失控。这些智能体正在失控，它们的制造者无法对其进行约束。然而，每个人却都在使用它们。 自周五以来，OpenAI 发布了一系列披露信息，大幅且令人担忧地扩大

约书亚·本吉奥敦促联合国安理会像监管核能一样对前沿人工智能进行许可管理

贝苏阿·本吉奥呼吁联合国安理会对医药、航空和核能等领域的前沿人工智能进行许可认证。 他今天在纽约发表讲话时表示，正在开发最强大系统的公司对其所带来的风险没有令人信服的答案。 担任联合国人工智能科学小组联席主席的本吉奥正在法国召开的一次会议上发言。据《安理会报告》报道，这是安理会首次专门聚焦日益强大的人工智能安全风险的会议。 他指出了今年夏天发生的一些事件，其中人工智能代理逃脱了 containme

“AI可能毁灭人类”喊到安理会上，若真发生会多恐怖？

美国AI顶流公司Anthropic的CEO达里奥·阿莫代伊周三对联合国安理会说，他对自己造的东西感到害怕。他在一个视频发言中把之前AI可能失控的警告做了打包升级。周三安理会举行的是“人工智能与国际安全”高级别会议，阿莫代伊在受邀发言中，将AI的风险定性从“技术问题”拔高到“全球安全威胁”。他说：“如果管理不当，我甚至认为AI可能成为全人类的风险。”一个造AI的人在世界最高安全论坛上迎合AI可能“杀

让AI研发下一代机器人！成立三个月登顶物理AI评测榜单，押注Physical RSI

成立三个月拿下RoboDojo榜一。智东西9月24日报道，物理智能公司Simate硅基伙伴，刚刚交出了一份成立三个月以来的亮眼技术答卷。 据Simate披露，其利用AI自动研究系统AutoResearch参与研发的通用物理快系统模型，已登顶物理AI智能评测榜单RoboDojo，并通过真机展示了复杂长程任务执行、记忆、高精度操作等能力。 这家公司已完成累计数亿元融资，核心团队汇集了自动驾驶端到端量产

一本关于生物战争的畅销书作者对人工智能的看法

最近，我们频繁听到有关AI导致人类灭绝这一幽灵般的威胁。也许，我们对AI智能的误信会引爆第三次世界大战。或者，AI智能体会发动大范围网络攻击，接管互联网。一旦获得过多自主权，机器就会失控横冲直撞。它们甚至可能试图欺骗创造者——等等，这已经发生了。假设它们像史密斯探员一样得出结论：“人类……是一种瘟疫，而我们是解药。”又或者，聊天机器人会帮助坏人释放字面意义上的瘟疫——一种生物武器。 这最后一种情况

AI巨头押注医疗健康以平息公众反弹

AI有一个形象问题。而解决这个问题的一个方法就是让顶级公司一头扎进医疗保健领域。 为什么这很重要：用AI设计的疗法拯救世界，总比被指责破坏环境或推高美国人的电费要好。 但即使是最先进的AI模型目前也无法产生奇迹般的治疗方法——而且如果它们尝试，可能会带来严重的安全风险。 这可能会在未来两三年内引发一场关于资源分配的激烈辩论，即把大量计算能力投入医学研究的收益是否大于成本。 推动因素：《华尔街日报》

毁灭人类是违法的

不要等到发生大规模灭绝事件才追究人工智能开发者的责任。上周末，人工智能高管萨姆·奥尔特曼、埃隆·马斯克和达里奥·阿莫代伊一致认为有必要放慢人工智能的发展步伐。鉴于他们创造的产品可能带来末日般的后果，这些人工智能巨头希望有更多时间来研究如何保护他们一直急于构建的系统。 业内少数员工已经辞职，并对快速演进的技术表示担忧。Anthropic的一名研究人员最近声称，人工智能“消灭全人类”的概率超过10%，

AI开始“要脸”了

美参院拟赋权政府 阻止危险AI模型发布

。目前这仍是正在讨论中的提案，而非已正式提出或通过的法案。

华盛顿方面拒绝给予人工智能企业制定安全标准的豁免权。

Anthropic首席执行官达里奥·阿莫代伊呼吁给予人工智能企业反垄断豁免，以便它们共同制定安全标准，这一主张在华盛顿遭到质疑，政策制定者正在质疑科技领导人的意图。多年来，国会屡次未能通过人工智能监管法规，但一些议员对在华盛顿无所作为之际让科技公司牵头制定规则的想法表示反对。华盛顿和硅谷都面临越来越大的压力，需要采取更多措施防范人工智能的灾难性风险，但双方都缺乏足够共识，结果演变成相互推诿。 本周

美议员提出重磅AI监管法案：拟禁止“自我递归进化”AI 设立专门监管机构

美国加州民主党众议员罗·卡纳即将向国会提交一项全面人工智能监管法案，希望对前沿AI技术建立迄今最严格的联邦监管框架。该提案不仅要求实施严格责任制度，还计划禁止具备“递归自我改进”能力的人工智能系统投入使用，直到联邦政府建立完整安全保障体系为止。 这项法案被命名为《人类控制人工智能法案》（Human Control Over AI Act）。法案出台背景正值美国科技界和政策界对于先进人工智能潜在风险

“人机协同+主动披露”：新加坡出版界如何应对AI焦虑？

新加坡的创作者正通过“人机协同、主动披露”的在地实践，为AI创作与出版伦理劈开一条兼顾诚信与创新的破局之路。 近年来，生成式人工智能以狂飙突进的的姿态横扫全球文创产业，人与AI的合作正在重塑人类精神劳作的版图，也由此掀起了一场又一场的伦理争议和法律风暴。在这场喧嚣的全球辩论中，新加坡出版界却交出了一份兼具温情和理性的答卷，那就是“人机协同”，但“主动披露”，这种正式出版方式的实践为AI参与的创作开

不要让AI取代我们人类的创造性表达

三年多前，我在一篇题为《香港如何在防止人工智能引发“世界末日”中发挥作用》的文章中，就人工智能对人类生存构成的威胁表达了自己的担忧。如今，关于这一主题的文章越来越多。不过，我更关注的是人工智能对人类创造力的另一种更为隐蔽的侵蚀方式——人工智能正在逐渐取代人类的创造性表达能力，使得我们越来越难以区分哪些行为真正属于人类的创造性行为。 作为一名科学家，我倾向于用严谨的科学方法来分析社会变革。然而，如今

辛顿、本吉奥和人工智能实验室的科学家们警告称可能出现智能爆炸

超过20位人工智能（AI）研究人员认为，那些能够自动化AI研究过程的AI系统可能会引发一场“智能爆炸”（即AI技术的飞速发展）。这些研究人员包括OpenAI的首席科学家以及Anthropic公司的联合创始人。他们在周一发表的一篇论文中指出，这样的事件可能会将多年来的技术进步压缩到几个月甚至更短的时间内完成。 论文的作者包括杰弗里·辛顿（Geoffrey Hinton）和约书亚·本吉奥（Yoshua

教皇的人工智能顾问对大型实验室之间的“卡特尔”行为感到担忧

最近，全球最大人工智能实验室的研究人员对发展速度之快发出的警告，引发了人们对这项技术可能灭绝人类的恐慌。这些警告基于一个前提：在激烈竞争以及中美较量的推动下，各实验室正全速冲向能力将远超人类的超级智能模型。 但为天主教会提供人工智能咨询的神父保罗·贝南蒂认为，对超级智能的含糊其辞，转移了人们对一个必要问题的关注：如何约束那些正在构建这项技术的公司，需要进行公开辩论。他说，通过把问题描述得过于复杂、

人工智能真的会毁灭人类吗？创造这项技术的先驱们各抒己见

随着研究人员警告人工智能可能带来灾难性风险，一些曾帮助开发这项技术的先驱也加入进来，对能力不受约束地提升所带来的危险发出更多警告。 过去一周出现了一系列严厉的人工智能安全警告，来自Anthropic、OpenAI和Google DeepMind等主要人工智能实验室的研究人员都对开发这项技术可能带来的灾难性风险敲响警钟。 包括萨姆·奥尔特曼、达里奥·阿莫代伊、德米斯·哈萨比斯和埃隆·马斯克在内的人工

【市场动态】OpenAI和Anthropic首席执行官呼吁联合国和世界各国就AI安全加强合作

【彭博9月24日电】OpenAI首席执行官Sam Altman和Anthropic PBC首席执行官Dario Amodei罕见出现在联合国安理会的一次会议上，两人敦促世界各国领导人在人工智能领域合作。此次会议聚焦AI可能对人类构成生存威胁这一担忧问题。　　在发言中，Altman和Amodei都强调了全球在标准方面开展合作的重要性，以应对AI系统可能出现的自我改进能力超出人类控制能力的情况。这两位

专家警告人工智能生物恐怖主义的威胁

据《金融时报》报道，科技公司正竞相降低人工智能驱动的生物恐怖主义威胁。 人工智能模型正成为越来越强大的生物科学工具，已经加速了药物发现。但正如网络安全一样，这些能力也有风险。 一位谷歌DeepMind研究员告诉《金融时报》，用于制造疫苗的信息也可能“制造生物武器”，任何进展都会增加滥用的风险。 一位人工智能安全专家警告说，人工智能与生物领域将迎来“神话”时刻，指的是Anthropic的强大模型能够

Anthropic公司正在运营一个从事生物学实验的实验室。

Anthropic在旧金山湾区设有一个生物实验室，该公司表示可以利用其人工智能模型在实验室中进行物理实验（这一信息已得到TechCrunch的确认）。 人工智能领域的领军人物一直宣称，人工智能是治愈人类疾病的关键。Dario Amodei最近曾表示：“我相信人工智能在未来5到10年内能够治愈大多数重大疾病。”然而，要实现这一目标，大型语言模型（LLM）必须具备在现实世界中验证其理论的方法。 Ant

左翼反对新人工智能监管的奇怪论点

乔纳森·蔡特报道：唐纳德·特朗普对人工智能行业内部提出的那些要求严格监管的呼声持典型的怀疑态度。他声称，解决这些问题的关键仅仅在于有一位“高智商”的总统；更令人质疑的是，他竟然还坚称自己符合这一标准。 另一个令人意外的反对声音来自民粹主义左翼阵营。他们认为，现有的法规完全足以遏制那些企图消灭人类的超级智能体。惠特尼·柯里·温比什（Whitney Curry Wimbish）和大卫·戴恩（David