搜索结果
“如果你造出比自己聪明得多的东西，它最好站在你这边”：我们能阻止AI欺骗我们吗？
我们习惯了人类同胞可能故意误导或操纵我们的想法，但机器现在也能做到这一点，这让人深感不安。研究人员正争分夺秒地寻找解决方案，以免为时已晚。《长篇阅读》杂志夏季刊现已出版。点击此处订购。2023年11月——在人工智能领域已是久远之前——一些世界上最有权力的人聚集在布莱切利园，这个位于白金汉郡的战时密码破译中心，讨论AI安全问题。出席者包括时任美国副总统卡玛拉·哈里斯、AI老板萨姆·奥尔特曼和达里奥·
人工智能恐慌需要一些核隐喻
关于全球人工智能恐慌的许多讨论——它真的会“在本世纪末之前杀死我们所有人吗”？——确实是全新的，因此也格外令人恐惧。然而，人类制造的灭绝阴影并非什么新鲜事；我们在思考这一问题上已经有大约八十年的经验了。 那么，当我们试图理解人工智能的前景时，可以从核武器领域借鉴哪些隐喻和教训呢？ 最古老的隐喻之一来自有时被称为“原子弹之父”的J·罗伯特·奥本海默。1953年，当华盛顿和莫斯科已经有能力在摧毁对方的
人工智能正在引发严重的安全问题……同时也加剧了寻找这类高技能人才的压力。
网络安全可能是AI的下一个就业大爆发领域。Box首席执行官亚伦·莱维近日在X上发帖称，随着模型在发现和利用漏洞方面的能力日益增强，用于网络安全的AI“即将垂直起飞”。他告诉商业内幕网，这可能使网络安全成为“最热门的，如果不是最热门的，职位类别之一”。随着威胁成倍增加，企业需要能够对警报进行优先级排序、调查风险、推荐修复方案并实现自动化补救的系统。莱维表示，人类仍将负责监督和最高风险的决策。这位首席
中国也有AI焦虑：全民拥抱新事物背后 工作岗位和社会稳定面临新挑战
在美国，围绕人工智能的担忧正从失业、行业被颠覆以及学生利用AI作弊等现实问题，逐渐扩展到人工智能最终是否可能威胁人类生存的更深层次讨论。与此同时，中国社会表面上似乎对AI更加积极，政府也在持续推动人工智能进入经济和社会的各个领域，但大量中国普通劳动者同样正在经历由AI带来的不安：他们担心自己的工作被机器取代，担心个人数据被用于训练AI复制品，也担心自己多年积累的专业技能迅速失去价值。这种局面让中国
用AI“复活”家人，似乎不是个好生意
用AI“复活”已逝亲友的想法太过诱人，所以当ChatGPT诞生、掀起新一轮AI浪潮之后，哀伤生意与AI的碰撞几乎是注定的。 但如今，曾经寄希望于AI初创公司的悲伤之人，不得不与“亲友”再次告别了。 今年7月，帮人留住亲人声音的AI公司HereAfter传出了关停消息。它曾推出199.99美元的一次性付费套餐，让家属日后通过AI提问，听到亲人生前录下的回答。现在用户被告知需要给公司发邮件，申请取回录
当政客们还在追赶，科技大佬们却一致认为：我们可能只剩十年时间了 | 约翰·克雷斯
人工智能大概认为，一个能选出特朗普当总统的世界已经糟透了，不值得再拯救了。我们可以高枕无忧了。唐纳德·特朗普在他的Truth Social账户上发文称，对人工智能的担忧都是阴谋论者编造的骗局。这显然也包括了Anthropic及其竞争对手的最高领导者，他们都呼吁在全球范围内协调放缓人工智能发展，以便行业能够找出如何规避风险的方法。不过，很高兴知道这些科技巨头骨子里不过是些幻想家和太空漫游者。 唐纳德
三大AI巨头齐呼刹车，令人不安的事情才刚刚开始
撰文丨周隆斌这几天，围绕Anthropic核心预训练研究员离职后的爆料，整个AI圈吵得不可开交，相关帖子浏览量超过1.6亿次。 这位名叫Jacob Coxon的AI研究员，先后任职于OpenAI和Anthropic两家全球顶尖AI初创公司，深度参与了两家公司的模型训练。最终，他抛出了一个令圈外人震惊，AI有可能导致人类灭绝。 Coxon的帖子发酵后，上周六，Anthropic首席执行官Dario
AI安全担忧推动网络安全板块走强，相关股票大幅上涨
网络安全股因AI安全担忧推动板块跑赢大盘而飙升 2026年9月14日周一，网络安全股成为标普500指数中表现最好的股票，CrowdStrike上涨13.8%创历史新高，Palo Alto Networks上涨13%，Fortinet上涨9%。 此前，Anthropic首席执行官Dario Amodei就加速AI发展和递归自我改进的风险发出警告，随后出现这轮上涨。 因此，软件板块显著跑赢芯片板块，I
特朗普的致命弱点是股市
在过去的几周里，美国发生了一件非同寻常的事情。一个新兴行业正站出来寻求帮助，要求限制该行业自身的发展。试想一下，这有多么荒谬。想象一下铁路大亨恳求限制他们的扩张；想象比尔·盖茨和史蒂夫·乔布斯要求比尔·克林顿总统限制计算机和互联网的发展；或者烟草行业在任何人发现之前就主动告诉公众，他们的产品可能会致命。 而现在，人工智能领域的情况正是如此。这不仅仅是举报人站出来揭露有关世界末日的惊人预言。那些引领
死互联网理论回来了
我是在跟你说话，还是在跟ChatGPT说话？
特朗普将AI安全担忧斥为‘骗局’，白宫内部存在分歧
特朗普公开将人们对AI可能导致大规模灭绝的担忧称为‘骗局’，并批评反对数据中心的观点，认为AI的发展对美国经济稳定和防止经济衰退至关重要。 这一立场得到了硅谷人士如大卫·萨克斯（David Sacks）、马克·扎克伯格（Mark Zuckerberg）和黄杰森（Jensen Huang）的支持，他们认为主要风险是落后于中国。 然而，白宫内部官员越来越担心包括基础设施黑客攻击、生物威胁以及对核指挥与
人工智能面临的最大威胁来自生物领域，而非机器人技术。
Anthropic PBC的研究员雅各布·考克森（Jacob Coxon）上周辞职，并在社交媒体上发文称，原因在于“开发人工智能的人真诚地相信，到本十年末，它可能会杀死我们所有人。”该公司人工智能对齐科学团队负责人埃文·胡宾格（Evan Hubinger）认为，未来10年内发生这种情况的概率超过10%。Anthropic首席执行官达里奥·阿莫代（Dario Amodei）呼吁放缓人工智能前沿技术的