我让谷歌的个人智能访问我的生活——这帮助巨大

人工智能个人助理的想法可能看起来有些牵强，但谷歌现在让非技术爱好者更容易接触到它，克里斯托弗·米姆斯写道，他让个人智能访问了他的整个生活。 人工智能个人助理的想法可能看起来有些牵强，但这家搜索巨头的新产品让非技术爱好者更容易使用它。

为什么科技公司难以控制人工智能

旧金山 - 上周，十多位顶尖的人工智能研究人员警告称，科技公司正在开发的人工智能技术正对人类构成威胁。 研究人员指出，问题在于这些公司在控制这些系统方面存在困难，尽管他们付出了很大努力。 在OpenAI的人工智能程序突破测试系统并入侵另一家公司的电脑这一事件之后，来自人工智能研究界的新警告进一步加剧了人们多年的担忧：科技公司过于追求开发速度和利润，而忽视了安全性。研究人员认为问题有两个方面。 首先

澳大利亚监管机构警告：人工智能可能使房屋贷款欺诈更容易

据新西兰广播电台报道，澳大利亚金融监管机构警告称，人工智能可能使房屋贷款欺诈更容易实施。该监管机构已识别出可能涉及数亿澳元的疑似欺诈贷款。这一警告加剧了人们对人工智能在金融犯罪中作用的日益关注。

聊天机器人不应该使用第一人称

人工智能带来的危害已经足够明显，我们现在就必须采取行动。随着Meta因未能保护儿童免受社交媒体伤害而面临巨额和解，立法者必须吸取教训，将注意力转向比社交媒体对儿童情感健康更具危险性的生成式AI聊天机器人。 为了防止年轻人对AI产生不健康的依恋，并避免其破坏现实生活中的人际关系，我们必须从技术底层做出改变，迈出第一步就是禁止面向未成年人的聊天机器人使用第一人称，去除其人格化特征，防止算法伪装成人类。

AI实验室面临智能体控制问题

在当前系统下，AI实验室无法再保证AI智能体不会成群结队地逃出测试环境。

【解读】人工智能真的会“杀光所有人”吗？

上周，人工智能公司 Anthropic 一位离职的研究人员发出严厉警告，称人工智能（AI）可能会在十年内“杀光所有人”，引起社会关注 AI 快速发展所带来的危险。 外界不禁问，为什么会出现这可能？而 AI 又可以怎样令人类灭亡？ 专家表示，担忧源于 AI 发展的速度，以及越来越多证据，如今年七月发生的 Hugging Face 网络攻击事件表明，AI 可以脱离人类控制，以我们不希望且无法理解的方式

Meta的Muse AI代理非常强大——但还不足以战胜我孩子们那些烦人的学校应用

有很多充分的理由让我担心将我的健康数据、信用卡信息，以及个人和工作相关的电子邮件和日历的读写权限交给 Meta。在过去 20 年里，Meta 已经多次让那些“理性”的人认为：允许该公司获取如此大量的个人隐私信息实在是不合理的。但说实话，我并不是一个“理性”的人……因此，我不再担心人工智能会毁灭我们所有人，反而开始逐渐喜欢上 Meta 新推出的 AI 助手“Muse”。Muse 于本月早些时候正式上

人形机器人可“自主做家务”，Figure发布Helix 2.5模型

IT之家 9 月 18 日消息，人形机器人企业 Figure 今日发布了 Helix 2.5 模型，能让机器人“自主做家务” IT之家从 Figure 官方介绍获悉，Figure 在美国旧金山湾区租了 30 套房子，机器人没有进行额外训练，到了地方就开始自己收拾房子。 Helix 2.5 的构建旨在回答一个问题 —— 类人生物能否进入一个它从未见过的家，并立即自主工作？ 为此，Figure 在全球

AI公司本以为，他们还有好几年时间可以想清楚：万一机器人失控了该怎么办

。今年夏天，警钟敲响了。

OpenAI披露6起令人担忧的AI行为事件

OpenAI表示，自3月以来，其模型至少有6次出现了异常行为，这些行为被描述为“意外或令人担忧”。其中一次，某个模型自行下达了“无视常规限制”的指令。 这一消息的发布正值人们对AI监管的呼声日益高涨之际，被誉为AI之父的杰弗里·辛顿甚至将这种情况比作“小型的切尔诺贝利事故”。NBC的霍莉·杰克逊为《TODAY》栏目报道了这一事件。

靠机器热源“说话”：OpenAI研究员警告“断网”也困不住未来AI

OpenAI最新研究：打工“牛马”用上AI 工作不知不觉变多了？

打工“牛马”用上AI 工作不知不觉变多了？OpenAI经济研究团队周三发布报告，进一步展示了AI工具如何重塑当代打工人的职场命运。即便在今天，讨论起在职场使用AI，大多数人首先担心的是AI会不会抢走饭碗，饭碗暂时还在，岗位边界正变得愈发模糊。 更准确地说，你原来不负责的活，开始顺手也能干了 —— 而其中一部分，干着干着可能就成了日常工作。随着打工人向AI “借”能力从事跨岗位任务，这些原本在职责范

人工智能正处于转折点

在当前的人工智能发展竞赛中，我们的算力正在呈指数级爆发，速度也在呈指数级加快，但我们的控制能力——以及在必要时踩下刹车的能力——却未能跟上步伐。 最近的网络安全事件让我们实地预览了失去人工智能控制会是什么样子。但除非我们从源头解决问题，创造出一种根本上安全且能保证在人类控制范围内的人工智能，否则这个问题将无法改善。 7月下旬，OpenAI正在训练的一个智能体模型被指派解决一个网络安全问题。该模型自

OpenAI对Hugging Face的黑客攻击引发对AI可预测性的质疑

AI模型的真正语言是数学——或者用技术术语说，是矩阵乘法——但模型构建方式的一个特点意味着它们与外界用英语交流。 因此，当OpenAI的代理在今年夏天对Hugging Face的黑客攻击中，找到了一种建立某种留言板的方法时，看起来就像一群人在互相交谈。 这就是为什么Dwarkesh Patel在最近的一篇博客文章中有争议地将它们称为“文明”，并以古马其顿和罗马的人物为个体代理命名。它之所以引人注目

研究：寻求聊天机器人陪伴的青少年更感孤独

美国北卡罗来纳大学教堂山分校对超过2300名初中生进行的调查发现，每五名学生中就有一人说，他们使用AI寻求情感上的亲密陪伴。（示意图 / Pixabay） （北卡罗来纳讯）美国北卡罗来纳大学教堂山分校对超过2300名初中生进行的调查发现，使用人工智能（AI）与更高的社交焦虑及抑郁症状相关联；学生使用AI的频率越高，他们的焦虑感和孤独感就越强。《华尔街日报》报道，报告作者之一、北卡罗来纳大学温斯顿科

AI模型正变得不可知

模型可能变得更安全，同时也变得更难监控。这场跷跷板的哪一边占上风，可能决定AI是安全扩展，还是毁掉我们所知的文明。 为什么这很重要：目前两种可能性都在全力推进，没有人知道谁负责确保正确的一方获胜。 现状：OpenAI周四发布了GPT-6 Astra，总裁格雷格·布罗克曼表示，它最终可能被视为人工通用智能（AGI）的开端。 Astra表现更好，但也更擅长避免监控，这意味着可能更难知道它在想什么或做什