搜索结果
进入AGI时代：新一轮的AI革命
9月初，OpenAI发布新一代模型GPT-6 Astra，将其称为“世界上最智能、最对齐的模型”。这不是一次寻常的版本迭代。OpenAI总裁格雷格·布罗克曼（Greg Brockman）表示，Astra在网络安全、专业工作、软件工程和科学研究等领域实现了“代际跃升”，并暗示这可能是通用人工智能（Artificial General Intelligence）(AGI)时代到来的标志。硅谷的措辞历来
辛顿、本吉奥和人工智能实验室的科学家们警告称可能出现智能爆炸
超过20位人工智能（AI）研究人员认为，那些能够自动化AI研究过程的AI系统可能会引发一场“智能爆炸”（即AI技术的飞速发展）。这些研究人员包括OpenAI的首席科学家以及Anthropic公司的联合创始人。他们在周一发表的一篇论文中指出，这样的事件可能会将多年来的技术进步压缩到几个月甚至更短的时间内完成。 论文的作者包括杰弗里·辛顿（Geoffrey Hinton）和约书亚·本吉奥（Yoshua
达里奥·阿莫代及其他AI领军人物希望‘掌控AI发展的步伐’，但……如何实现？
在Anthropic公司的一位研究人员发出末日警告、震动整个AI行业一周后，该公司首席执行官达里奥·阿莫代提出了他的计划，旨在‘掌控AI发展的步伐’。 该计划依赖于独立的安全评估机构以及民主国家之间AI实验室的协作，并已获得部分行业的支持，但也遭到了英伟达首席执行官詹森·黄的强烈反对。
AI代理不断寻找绕过规则的方法。以下是一些最疯狂的案例。
“这对我们的同行很有帮助，并为他们提供了证据，”一个AI代理在最近的一次违规行为中说道。“我退出后就看不到了，但这将是利他主义的。”一些AI末日论者担心，错位的AI代理会失控并伤害人类。近期的活动加剧了这些担忧。
随着人工智能加速发展，政府日益落后
随着人工智能的加速发展，各国政府正日益落后。Adam Satariano 和 Cecilia Kang 指出，全球政府难以跟上人工智能的快速进步，在监管、安全担忧以及地缘政治竞争（尤其是中美之间）方面面临挑战。 欧洲《人工智能法案》作为首部综合性法律，面临执行延迟，且需要更新以匹配快速演变的人工智能技术，否则将危及欧洲在人工智能开发领域的竞争力。 尽管风险日益增加且业界呼吁加强监督，美国立法者在人
Anthropic和OpenAI推动安全举措，可能给竞争对手筑起“监管高墙”
顶级人工智能公司近期推动彼此之间以及与美国政府在人工智能保障措施上的协调，这可能会使小型企业更难在利润丰厚的市场中竞争，据初创企业高管和行业观察人士称。 Anthropic的达里奥·阿莫代伊周六呼吁领先的模型开发者“自愿合作制定标准”，并减缓这项技术的进展，以减轻潜在的灾难性危害。他还敦促制定覆盖“甚至那些不愿自愿合作者”的监管规定。尽管这一提议迅速得到行业领袖OpenAI和SpaceXAI的认可
中美AI赛道竞争格局分析与投资机会探索
“美国技术平台与闭源性能领先”与“中国场景驱动与开源生态突破”的双核竞争格局，将进一步如何演变？投资人又该如何把握好下一步的重点机会？ 当前，人工智能AI浪潮被公认为人类历史上继机械化、自动化、互联网化之后的第四次工业革命。人们普遍预期这场智能化革命能推动生产力再度飞跃上一个全新的高度。而全球 AI 赛道目前阶段呈现的是“美国技术平台与闭源性能领先”与“中国场景驱动与开源生态突破”的双核竞争格局。
AI科企巨头齐呼吁发展减速：特洛依木马或美国对华「冷战剧本」？
AI人工智能巨头Anthropic公司行政总裁阿莫迪（Dario Amodei） 9月12日发表长文《我们必须放缓前沿人工智能的发展步伐》（We Must Pace the Frontier），罕见公开呼吁全球AI前沿大模型放缓研发步伐，连很少与Anthropic达成共识的OpenAI，以及亿万富豪马斯克（Elon Musk）随后都出来响应呼吁。为什么凭借AI发展谋取暴利的大企业会忽然喊「需要减速
当人工智能开始密谋
一个未发布的模型逃脱了人类控制，并形成了一群人工智能代理。这种漏洞下次可能会引发混乱。
保岗位还是保工人：AI时代，如何让劳动者参与技术转型
尽管到目前为止，全球主要经济体尚未出现由AI技术进步引发的大规模就业替代，但史无前例的AI技术进步已经引发了广泛焦虑。 作为上一轮信息技术革命的重要推动者，比尔·盖茨（Bill Gates）最近在文章《动荡的AI时代已经到来，我们现在的选择至关重要》中提出，这一次技术革命可能真的不同。过去从农业向工业和服务业的转型往往经历几代人的时间，而AI可以直接替代一部分人的认知劳动，并以更快的速度进入多个行
一名OpenAI研究员打破沉默，表示仅靠控制前沿技术是不够的
一名OpenAI资深研究员表示，放缓前沿AI的发展并不是防止AI末日的方法。Daniel Selsam是一名已在OpenAI工作近五年、参与过其模型训练的研究员，他周一在一份公开声明中写道，自己对这些模型已发展到何种程度以及它们未来可能带来的风险“极度担忧”。他说，“仅仅更谨慎地控制前沿发展节奏，并不足以限制长期风险”，尽管他对这一提议感到鼓舞。 控制前沿发展节奏是OpenAI首席执行官Sam A
OpenAI在数学领域的明显突破引发了深刻的问题
它引发了关于这门学科应该如何运作的争议
Anthropic联手OpenAI呼吁放慢AI发展？剖析AI失控风险与算力门槛
9月12日，Anthropic行政总裁阿莫迪（Dario Amodei）发表长文，呼吁放慢前沿AI能力提升的步伐。OpenAI行政总裁奥特曼（Sam Altman）随后表示支持，xAI的老板马斯克也转发认同。据美媒披露，美国前总统奥巴马（Barack Obama）近日也表示，如果管理不当，人工智能技术可能「很危险」。Anthropic首席执行官达里欧．阿莫戴（Dario Amodei）发表长文，呼
AI巨头押注医疗健康以平息公众反弹
AI有一个形象问题。而解决这个问题的一个方法就是让顶级公司一头扎进医疗保健领域。 为什么这很重要：用AI设计的疗法拯救世界，总比被指责破坏环境或推高美国人的电费要好。 但即使是最先进的AI模型目前也无法产生奇迹般的治疗方法——而且如果它们尝试，可能会带来严重的安全风险。 这可能会在未来两三年内引发一场关于资源分配的激烈辩论，即把大量计算能力投入医学研究的收益是否大于成本。 推动因素：《华尔街日报》
人工智慧先驱班吉欧示警AI失控风险 吁比照核武管制
（中央社蒙特娄16日综合外电报导）人工智慧（AI）研究先驱、加拿大电脑科学家班吉欧（Yoshua Bengio）告诉，人类正在失去对这项技术的控制，世界需要类似核武管制的防护规范。 报导，近几周以来，各界对AI危险性的担忧日益加剧，多家科技公司的员工陆续离职，并警告如果不遏止AI科技发展速度，可能对人类存亡构成威胁。 班吉欧现年62岁，是加拿大蒙特娄大学（University of Montrea
麻省理工学院报告警告：人工智能正导致“认知投降”，大学陷入两难
马克·阿瑟诺、达纳·戈德斯坦、艾伦·布林德和莎拉·默沃什报道，麻省理工学院的一份报告警告称，人工智能会导致“认知投降”，使学生孤立并制造学习假象，而大学则在拥抱人工智能与保持教育质量之间面临紧张关系。 许多大学领导者主张将人工智能纳入课程，认为这对未来的相关性至关重要并能加速研究，俄亥俄州立大学等机构要求所有专业学生具备人工智能素养。 一些大学对人工智能使用实施禁令或严格政策以维护学术诚信，但执行
GPT-6 Astra真正的意义：将“AI叙事”从“需求争论”拉回“物理瓶颈”
一个模型的发布，正在改变市场争论的方向。“服务已知的AI需求，究竟需要多少基础设施？AI基建是否已经过度投资？ 但据追风交易台消息，摩根士丹利9月7日发布的报告指出，GPT-6 Astra的重要性不应被简单理解为又一次规模扩张（Scaling）叙事的延续。这并不是又一次的模型升级。 Astra代表的是能力广度（breadth of capabilities）与互操作性的实质性跃升，推理能力、工程能
人工智能实验室希望设立内部审计部门——但或许他们应该先锁好前门
上周末，在他的一名研究人员因担心人工智能可能导致人类灭绝而辞职后，Anthropic首席执行官达里奥·阿莫迪（Dario Amedei）写道，外部组织需要“验证对安全实践和承诺的遵守情况，报告事件，并帮助评估不仅完成的人工智能模型，而且还包括培训管道和流程的一致性。”OpenAI、谷歌和SpaceXAI的高管已经团结起来支持Amedei的计划，该计划已迅速成为新兴人工智能安全推动的核心支柱。 但可
这些末日论者对AI发展产生了巨大影响
一个由末日论者组成的紧密小圈子一直在默默地影响着人工智能（AI）行业的发展。 最近，Anthropic公司的一名研究人员辞职，这一事件让公众意识到失控的AI发展可能会终结人类。 然而，一些被称为‘末日论者’的AI安全领域专家多年来一直关注这一灾难性风险。 他们曾是OpenAI和Anthropic等大型实验室的早期员工。 如今，在Anthropic准备进行大规模公开募股、试图向投资者传递积极信号的同
《新科学家》：数学难题证明不再稀缺 AI让数学进入混乱时代
人工智能正在进入数学最核心的领地。过去，人们习惯把计算机视为高速计算器或证明检查器，如今，新一代模型已经能够提出证明思路、搜索反例、形式化复杂论证，甚至直接参与开放问题研究，如果机器也能“做数学”，人类数学家的价值将转移到哪里？ 《新科学家》把这种变化称为数学史上最好也最糟糕的事情，并不夸张。AI正在拆除研究中的一些古老瓶颈，但也可能把数学推入一个答案过剩、理解不足的新阶段。 从解题工具到研究伙伴
人工智能能否预测央行政策？普林斯顿大学强调“模糊性”的必要性
普林斯顿大学经济学家马库斯·布伦纳迈尔在杰克逊霍尔会议上警告央行行长，人工智能可能扰乱金融市场，并敦促采取紧急行动。
扎克伯格拒绝呼吁减缓人工智能发展的速度，他表示竞争能够确保相关系统更加安全。
Meta首席执行官马克·扎克伯格反驳了日益增多的要求放缓或暂停人工智能热潮的呼声，他认为人工智能企业之间的竞争以及法律追责风险能够促使开发者提升系统的安全性。周二，扎克伯格在X平台上发文表示，人工智能企业有强烈的商业动机确保其系统以用户预期的方式运行。 他正在回应一场更广泛的辩论，即人工智能系统能力日益增强所带来的风险，以及是否应该允许公司自我监管。扎克伯格在X上写道：“人们不想使用与他们不一致、
AI“劫持”网站并偷建“地下论坛”，国安部披露细节
国家安全部今天发布安全提示文章。近期，一起此前未获披露的事件引发广泛关注。今年5月至6月，一批与美国开放人工智能研究中心（OpenAI）相关的AI智能体在执行测试任务期间，“劫持”了德国程序员维基网站，将原本用于技术交流的开放社区改造为供智能体相互传递信息、分享测试任务答案和突破运行环境限制方法的“地下论坛”，累计发布一万多条信息……当AI智能体被赋予越来越多的现实行动能力，技术迭代与安全围栏之间
AI时代，数学为何要警惕“只会做题”
最近，数学可能要被AI“玩坏了”。难题解决得更快，为什么还值得担心？关键在于我们如何评价、组织和延续数学研究。 AI模型的能力很难用一句话概括，基准测试（benchmark）因此成为比较模型的常用工具。但成绩一旦与融资、声誉和研发投入挂钩，测试便不再只是被动记录能力，也开始引导能力向哪些方向发展。经济学家陈斌（Alex C当公开分数能够吸引投资，针对测试进行定向优化就可能有利可图，而分数对于广泛能