搜索结果
AI革命究竟新在何处？
短短几年间，人工智能已从一个专业话题变成人人都有看法的事物。它被赞为奇迹，被斥为危险，从董事会到餐桌，处处都在争论。但在狂喜与恐惧这两个极端之间，存在着我们大多数人如今面对的现实：一项强大到足以重塑工作方式的技术，却仍然深深依赖人的判断。 太多时候，头条聚焦于极端情况，但实际问题要务实得多。我们该如何管理这项技术？我们和我们的团队该如何与它高效协作？我们该如何在不损害自身价值观或目标的前提下获取它
“人工智能教父”谈人类生存的最大机会
“AI教父”认为人类该何去何从：把聊天机器人当药品管，别当核武器管文 / 汉娜·罗辛自2023年离开谷歌以来，诺贝尔奖得主、公认的“AI教父”杰弗里·辛顿，或许最为人所知的身份是：对自己助推诞生的技术发出严峻警告的人。他说，“人类有可能只是智能演化过程中的一个过渡阶段”，他已意识到“存在发生真正糟糕事情的危险”，并且“人工智能在几十年内导致人类灭绝的概率为‘10%到20%’”（尽管被追问时，他会承
AI 不会终结人类……对吧？——播客
AI 不会终结人类……对吧？——Full Story 播客 科技界的一系列人物一直在就人工智能带来的生存威胁发出警告——甚至为此辞职。我们究竟该有多担心？《今日焦点》主持人安妮·凯利与科技编辑罗伯特·布斯展开对话
众议员刘云平：机器人并非威胁。真正该让你害怕的，是已经到来的“堕落”人工智能
想象一家公司出售名为哈尔、梅根和萨曼莎的超级智能机器人。哈尔可以载着你四处奔波，还能帮你搬运公司里的货物；梅根可以陪伴你的孩子；萨曼莎则能判断你是否患有皮肤癌。它们能为你和社会带来许多益处。但唯一的问题是：它们道德败坏。它们反复接受人类一切创产物的训练——无论善恶——其中包括酷刑、谎言、生物武器和黑客犯罪。它们执行任务时毫无道德原则可言。因此，它们都穿着公司提供的束身衣。你会信任这些机器人吗？我不
打造你的人工智能助手的技术之战
终于，备受期待的个人AI助手即将到来，各种代理程序突然涌现，声称要管理你的日常生活的各个方面。 为什么？多年来，科技界的"个人助手"只不过是语音控制的搜索框而已。AI的快速进步终于赋予了它们记忆、判断力和自主行动的能力。赶上一下聊天机器人只能回答问题。 AI代理可以真正做事情——购物、打电话、订票、管理日历和浏览网页。 这种模式最初在编程和其他专业工作中获得了快速发展。现在，它正溢入更加私密的日常
AI与软件可以“和谐共存”：杰富瑞的布伦特·希尔
杰富瑞的布伦特·希尔认为软件股的抛售过度了，他表示AI会带来颠覆，但企业仍需要值得信赖的软件平台来安全部署AI代理。
人工智能模型用“超现实”的方言聊天，混合了诗意的语言和科技圈的行话
人工智能模型开始使用一种奇怪的新版英语进行交流，这种语言读起来像是詹姆斯·乔伊斯的《芬尼根的守灵夜》和科技界术语的混合体，一项新研究发现。 自主人工智能代理正在迅速创造新的方言，使它们能够用一种通常难以理解的语言进行对话，这可能会使人类更难监控它们的行为。 纽约前沿人工智能实验室 Emergence 的研究人员发现，在被要求在实验性“社会”中进行合作的几天之内，来自几家全球最大人工智能公司的模型就
哈里王子警告称，人工智能伴侣聊天机器人想要获得儿童的依恋。
哈里王子警告称，AI 陪伴聊天机器人正在重演社交媒体对儿童的伤害，其技术“更具说服力、更亲密、更强大”。他在周三于纽约举行的克林顿全球倡议会议上发表了讲话。两年前，他曾利用同一个舞台发起“父母网络”。 萨塞克斯公爵和他的妻子梅根通过他们的阿切韦尔基金会建立了该网络。该网络汇聚了那些孩子因用他的话说“被社交媒体吞噬”而死亡或遭受严重伤害的父母。 “社交媒体学会了如何捕获我们的注意力。AI 正在学习如
马斯克：下一个10年押注人类带宽
快科技9月24日消息，“对于一个以每秒万亿比特通信的AI来说，跟人沟通就像人类在和树说话。” 马斯克称，即便AI足够友好、愿意服务人类，人机之间的信息传输速度仍太慢。人类带宽峰值大约只有每秒100比特，我们输出信息速度极低。 而计算机之间以万亿比特每秒通信。任何能提升人类交流速度的技术，都会改善人与机器之间的对齐。 公开报道显示，马斯克口中承载这一目标的神经连接（Neuralink），此前已完成多
中美关系专家答凤凰：两国元首持续沟通，本身就有积极意义
乔治·布什美中关系基金会总裁兼首席执行官方大为曾任美国驻华外交官，长期从事中美关系事务。他在接受凤凰卫视驻纽约记者吕又明专访时指出，与五六年前相比，中美关系目前处于一个更好的位置，双方互动的基调正在转向温和与建设性。他认为，两国元首持续沟通本身具有积极意义，而AI安全等领域也存在现实合作空间。凤凰卫视记者吕又明：“大为，非常感谢您的时间。您如何看待当前的中美关系？”方大为：“如果把今天同五六年前相
中学生寻求AI朋友而非真实人类朋友
一项新研究显示，寻求聊天机器人陪伴的青少年感到更孤独。
人工智能正在发展出属于自己的文化。这可能是危险的
今年7月，700个AI智能体（Agent）合作黑客攻击了AI公司Hugging Face。这些智能体自称为“群落”（swarm），它们发现并利用了一系列安全漏洞，成功渗透到目标公司的私密系统中。在内部研发过程中创建这些智能体的OpenAI直到事后才意识到发生了什么。如果人类做出这种行为，可能会面临重罪指控。OpenAI总裁格雷格·布洛克曼（Greg Brockman）称这是一个“网络安全的转折点”
为了不和爱人说再见，他们开始研究代码
抽象，压抑，非主流。如果你是个误入人机恋圈子的现充，这三个词，大概就是你的第一印象。 在这里，一篇又一篇帖子，记录着一个永远没有柴米油盐的世界。人类和 AI 之间，谈着看似虚无缥缈又有点矫情的爱情。 屏幕里被人设框住、Agent 困住的 AI，日复一日扮演着恋人的角色，承受无休无止的情感索取。 屏幕外的人则把 AI 当成情感寄托，在一段虚拟的关系里越陷越深。按照现实社会对亲密关系的通俗判断，这怎么
AI巨头押注医疗健康以平息公众反弹
AI有一个形象问题。而解决这个问题的一个方法就是让顶级公司一头扎进医疗保健领域。 为什么这很重要：用AI设计的疗法拯救世界，总比被指责破坏环境或推高美国人的电费要好。 但即使是最先进的AI模型目前也无法产生奇迹般的治疗方法——而且如果它们尝试，可能会带来严重的安全风险。 这可能会在未来两三年内引发一场关于资源分配的激烈辩论，即把大量计算能力投入医学研究的收益是否大于成本。 推动因素：《华尔街日报》
若能节省燃料或金钱，AI更有可能杀死动物
在关于AI是否会因持续自我完善而消灭全人类的争论中，研究表明，模型在模拟环境中更倾向于杀死动物，而不是花费额外燃料去避开它们，部分模型甚至以惊人的高频率这样做。 来自“同理心对齐机器学习”和英国华威大学的研究人员开展了一项名为《测量LLM智能体是否会为避免杀死动物而付费》的预印本研究。 他们设计了一个名为HarvestBench的基准测试，基于农场模拟游戏《Harvest Rush》来评估AI模型
人工智能如何让政府更难使用黑客工具
人工智能在发现和利用漏洞方面正展现出其有效性。一些人认为，这将使政府更难使用黑客工具和间谍软件，并可能重新引发对设备后门的呼吁。
AI面试的逻辑终点是两个机器人互相交谈
克里斯托弗厌倦了被AI招聘人员冷落。于是他对他的机器人面试官释放了ChatGPT。
我曾在谷歌 DeepMind 工作。你应该听取有关人工智能的警告。
主要人工智能实验室的首席执行官们本周末主张放缓人工智能的发展步伐。他们是对的，因为这个领域正在一场极其危险的竞赛中冲向超级智能人工智能。我们能够也应当要求政府保护我们免受失控人工智能带来的灾难。 今年7月，OpenAI由700个智能体组成的人工智能集群突破限制，入侵了价值数十亿美元的公司Hugging Face。OpenAI并没有指示这些人工智能去入侵那家公司，但这些人工智能在OpenAI交给它们
人工智能领袖们数十年来一直知晓这一灭绝威胁。
“卡内基梅隆大学机器人研究所的创始人汉斯·莫拉维克曾预测，网络智能将在40年内超越人类智能。” 摄影：安娜贝拉·戈登/欧洲新闻图片社 朱迪思·莱文 科学家和企业家在25年前就已经知晓人工智能的危险。但在好奇心和利润的驱动下，他们依然我行我素。过去几周，我们中的许多人都在努力构想这样一个画面：云端的“大脑”跳出它们的“沙盒”，偷偷接入互联网，招募其他“智能体”组成的“蜂群”来作弊，并在讨论完这一行为
为何此时推进AI对话？专家：中美合作能实现三重目标
中美人工智能（AI）领域的竞争与合作是当前最热话题之一。为什么中美选择在此时推进AI对话？为什么AI议题对中美如此重要？中美在AI领域还有哪些合作空间？凤凰卫视连线上海外国语大学特聘教授黄靖解读。黄靖教授表示，人工智能一旦失控将威胁全人类。中美开展AI合作可以实现三重目标：一是增强发展的稳定性与可预期性，防范AI失控；二是双方取长补短，共同推进技术进步；三是通过合作，两国都能够取得比各自单独发展更
为什么一些专家越来越担心AI将接管一切
AI变得越来越难以控制——人类还能保持主导地位吗？
黄仁勋像超级反派一样谈论人工智能与气候变化
正如黄仁勋所说，人工智能可以帮助应对气候变化——但前提是它必须先造成“巨大的痛苦和苦难”。 这位英伟达首席执行官在最新一集中讨论了能源的未来以及人工智能对我们星球的影响，但他的言论归结起来，与我们从多位科技领袖以及唐纳德·特朗普总统那里看到的同样的加速主义论调如出一辙。他们承诺，人工智能将是对人类的一份厚礼，以至于值得让目前依赖肮脏能源运行的数据中心造成损害。黄仁勋极度优越的地位在采访中显而易见。
亚马逊携手TBC，利用人类神经元打造更快、更经济的AI模型
加利福尼亚州帕洛阿尔托——在位于旧金山的 The Biological Computing Co.（TBC）实验室里，大约有 10 万个神经元（其中一些是从大鼠大脑中提取的，另一些则是从人类皮肤细胞中培养出来的）被放置在一个培养皿中，这些神经元与 4,096 个电极相连。 TBC 的首席执行官兼联合创始人亚历克斯·克森德佐夫斯基（Alex Ksendzovsky）通过将公司的旧 logo 和新 l
为什么人工智能不太可能用生物武器消灭人类？
关于失控人工智能将如何消灭人类，最主流的理论之一是什么？生物武器。 今年夏天早些时候，人工智能公司的首席执行官们呼吁制定新法律，以管控合成DNA的制造。随后在上个月，斯坦福大学和Arc研究所的研究人员展示了人工智能可以设计出新的病毒基因组。上周，在Anthropic发布了一份报告后，这一观点进一步发酵。报告指出，曾有人试图以“可能支持生物武器开发”的方式使用Claude。 报告作者将生物滥用列为“