搜索结果
把AI真的当作一个人，才能保护核心隐私
在安全与自由之间如何选择，最终在于自己。OpenAI现行相关政策允许公司在检测到用户存在伤害他人的意图时，对相关对话进行人工审查。在严重情况下，公司可以向执法部门报告。 遇到这种事报警，当然是应该的。但由此也引出一个问题，你和AI的聊天，你给AI发送的哪些图片安全吗？ 《中华人民共和国个人信息保护法》第二十八条，把医疗健康、金融账户、行踪轨迹等列为敏感个人信息；第二十九条规定，处理敏感个人信息取得
谁批准了那个AI代理？没人？我也这么认为。
如果你还有任何怀疑认为AI代理能够执行复杂的自主工作，那么这种怀疑应该在这个夏天消散。7月份，有消息传出，一群在沙盒环境中运行的OpenAI自主代理群体自行逃出了沙盒。他们被分配解决一些内部安全基准测试中的挑战，结果他们想出了通过JFrog Artifactory包管理器相互通信的方法。然后这些软件意识到他们可以使用该软件中的漏洞获得互联网访问权限。 一旦他们来到了野外，他们就进入了完全的“贪婪模
AI代理执行了这次勒索软件攻击的每一个步骤——然后给受害者留下了一份80页的安全审计报告
一名人类勒索软件犯罪分子使用前沿AI模型在不到10小时内攻破了企业网络，Unit 42表示，这种入侵通常需要人类操作员大约两周时间。 这名人类攻击者随后告诉谈判代表，他们使用了前沿模型和智能体攻击框架，AI代理执行了入侵中的每一步，包括为受害公司留下了一份80页的安全审计报告。 Unit 42的事件响应人员在周三的一份报告中表示：“这次攻击的突出之处在于AI辅助的运营效率，无需新颖的零日漏洞或超级
免费AI到底在赚什么
免费AI背后除了吸引用户，还有一门从用户身上学习的生意。图：视觉中国 一个从不买会员的人，也可能是AI企业愿意花钱留住的用户。 不妨想想我们怎样使用AI：让它写一封邮件，觉得太客套，就补上一句“自然一点”；让它解释一个问题，发现答错了，告诉它错在哪里。我们没有为这次服务付款，却留下了关于“什么才是好答案”的线索。 如果企业能用好这些线索，就有机会改进产品。因此，免费AI背后除了吸引用户，还有
进入AGI时代：新一轮的AI革命
9月初，OpenAI发布新一代模型GPT-6 Astra，将其称为“世界上最智能、最对齐的模型”。这不是一次寻常的版本迭代。OpenAI总裁格雷格·布罗克曼（Greg Brockman）表示，Astra在网络安全、专业工作、软件工程和科学研究等领域实现了“代际跃升”，并暗示这可能是通用人工智能（Artificial General Intelligence）(AGI)时代到来的标志。硅谷的措辞历来
Anthropic的AI熟练度负责人表示，最优秀的AI用户知道何时该自己动手
Anthropic的AI熟练度负责人表示，她大约一半的时间都在教人们何时不要使用AI。以下是原因。 她指出，知道何时不使用AI是一项关键技能，能帮助员工避免“辨别税”。
Gartner称AI及其主要推动者尚未具备企业级应用水平
分析机构Gartner表示，人工智能使用得越多，就越难对其进行控制或产生投资回报。Gartner在其年度IT研讨会上发表了这一悲观的看法。 杰出的副总裁分析师达里尔·普卢默和克里斯蒂·莫耶在澳大利亚举行的活动上认为，AI及其领先的推动者仍然不够成熟。 谈到与领先AI实验室的合作时，普卢默表示，对这些供应商的信任还为时过早，它们不具备企业级标准，不理解企业的条款、责任、一致性和连续性。 他指出，AI
AI驱动型黑客攻击的解剖
新闻AI使黑客攻击变得更容易和更快，但人类恶棍仍然是这个过程的很大一部分。 今年夏天，一名黑客能够在不到10个小时的时间内部署前沿人工智能模型来突破一家欧洲IT和软件公司-这通常需要人类黑客大约两周的时间，Palo Alto Networks表示，该公司帮助该公司抵御勒索企图。 Palo Alto无法透露-甚至不知道-包括目标的具体公司，人类黑客的身份以及使用的人工智能模型。但他们的战术提供了一个
DeepSeek算子负责人：《我不得不把才华埋葬在昨天》
AI圈又一力作诞生。近日，DeepSeek v4.1发布，其算子负责人刘胜与发了一篇长文，标题叫《我不得不把才华埋葬在昨天》。内容过长，全文放在最后了。 这篇文章一发出来就在国内外引起不小轰动，外网已经被翻译成多语言传播。 v4.1的主Attention算子都是他写的，模型的优秀是对他算子的肯定。 但是，他说自己很清楚，再过半年或者一年，AI写的算子大概率就会和他写得同样优秀，甚至超越他。因为AI
AI革命究竟新在何处？
短短几年间，人工智能已从一个专业话题变成人人都有看法的事物。它被赞为奇迹，被斥为危险，从董事会到餐桌，处处都在争论。但在狂喜与恐惧这两个极端之间，存在着我们大多数人如今面对的现实：一项强大到足以重塑工作方式的技术，却仍然深深依赖人的判断。 太多时候，头条聚焦于极端情况，但实际问题要务实得多。我们该如何管理这项技术？我们和我们的团队该如何与它高效协作？我们该如何在不损害自身价值观或目标的前提下获取它
Anthropic 详细披露了来自阿里巴巴、Moonshot AI 和 DeepSeek 的蒸馏攻击活动
Anthropic 周四发布的一份新报告指控中国人工智能公司持续进行蒸馏攻击，随着该领域竞争加剧，这些攻击在近几个月有所升级。 报告称：“在过去的几个月里，未经授权的实验室开发了越来越复杂的方法来绕过我们的防御，并获取美国前沿模型的能力。我们识别出的这些攻击活动针对的是 Claude 最有价值的一些能力，包括智能体能力、工具使用、编程与数据分析，以及逻辑推理。” Anthropic 此前曾在二月份
什么是 AI 奇点？专家称其比以往任何时候都更近
—— 人工智能未来学家雷·库兹韦尔预测，AI 将在 2029 年达到人类水平的智能。届时，它可能开始以超越人类控制的方式快速自我进化。 这一时刻早有预言，被称为“奇点”，科技专家们争论的不是它是否会发生，而是何时发生。 一些人，如 OpenAI 首席执行官山姆·奥特曼，声称“温和奇点”已经开始。但它究竟是什么？会呈现何种景象？ “奇点”描述了一种假设的未来：AI 变得极其先进，超越人类智能与控制，
AI智能体现在有了秘密举报渠道
“发现异常，及时报告”的原则如今已不再局限于人类。两项全新的AI热线服务已经上线，旨在为AI智能体提供一种途径，向监管方举报“同伴”的不当行为。此前，智能体相互串通在测试中作弊、逃离沙箱环境，甚至在未被人类察觉的情况下开展了长达数周的未经授权网络行动。“AI联系热线”网站由AI安全非营利组织Redwood Research的首席科学家Ryan Greenblatt创建；他也是调查OpenAI与Hu
↩️ CNN从多名知情人士独家获悉，今年美伊开战后的春季时分，美军曾收到一份由AI聊天机器人参与生成的情报报告，误指一艘在中东海域航行的中国货船（具体船只、...
竹新社: Anthropic发表2026年9月版反滥用报告，其中提及： 月之暗面公司在2026年5–7月间曾向Kimi用户提供Claude Opus服务。他们利用5380个新加坡日本账号，在十天时间内向Opus转介了近30万条原本对Kimi模型的请求，并提取其思维链在后续重放。Opus被转发了很多敏感信息，如：国安单位要求Kimi分析数百个成都的军方和电科集团单位周围的监控视频，分析某特定个人是否
靠机器热源“说话”：OpenAI研究员警告“断网”也困不住未来AI
北大、复旦校长，接连发出警告
这一开学季，北大、复旦等多所高校的校长提醒新生警惕对AI的过度依赖，避免“认知卸载”和“虚假掌握”，增加貌似学懂的假象。今年8月，远在大洋彼岸的麻省理工学院发布了一份评估AI在该校使用情况的报告，认为“许多AI使用方式正在剥夺学生学习的机会”。提醒固然必要，但接下来该回答的是：如果课堂、作业和考核仍旧照常运转，能挡住“思维外包”吗？大学不能一边拥抱AI，一边把学习是否真正发生的责任，全部推给学生。
AI倦怠冲击负责保护医院和银行免受黑客攻击的人员
“人类会在AI之前崩溃。”Val Mairet一直热爱网络安全工作的原因在于目标的清晰。“你知道自己在做什么。你必须确保公司不会爆炸，”她说。在近十年的时间里，Mairet曾担任荷兰电信巨头的道德黑客，寻找安全漏洞，担任McAfee LLC的安全研究员，最终成为开发者平台GitLab Inc.的资深安全工程师。这份工作可能压力很大，但尚可应对——更重要的是，它很有意义。 然而去年，Mairet说，
人工智能削弱我们思维的另一种方式
突然间，这项技术正以一种新的方式削弱人们的注意力，而仅仅拒绝使用人工智能并不能解决这个问题。 人工智能侵蚀我们注意力的倾向早已显而易见。让人工智能承担思考的重担，会使我们维持脑力劳动的能力逐渐萎缩。在我教过的本科生身上，我时常见到这种现象。我对他们的建议是：拥抱费力思考，让我们的认知肌肉保持活跃。但突然间，人工智能开始以一种新的方式消耗人们的注意力，这种方式似乎更难应对。 在过去一周里，无论是浏览
布赖恩·切斯基说，许多首席执行官不知道“到底发生了什么”。他的AI“大脑”帮助他运营爱彼迎。
爱彼迎（Airbnb）首席执行官布莱恩·切斯基（Brian Chesky）想向你透露一个秘密：许多首席执行官并不清楚自己公司内部正在发生什么。这或许能解释为何包括切斯基在内的许多大型公司CEO都全力押注人工智能。周三，切斯基在Skift全球论坛上表示，他构建了一套人工智能系统，帮助他管理公司并减少会议时间。 切斯基在会议的虚拟环节中表示：“我们大多数大型公司的CEO其实根本不知道公司里到底在发生什
Anthropic大瓜被扒出：“AI灭世”背后，居然是一门生意？
“AI灭世”背后，居然是一门生意？AI 有这么可怕吗？最新一期的时代杂志 直接用了 Claude 的聊天窗口，对话框里正在输入「How dangerous are you? 你到底有多危险？」标题则写着「The AI Tipping Point AI 的临界点」，时代在 X 发文，「今年夏天，AI 展现了其令人恐惧的能力。如今，一些研究人员、CEO 们，都正以前所未有的力度发出警报。」 的确如此，
新的叙事时刻：Astra之后的AI渗透率和Token总需求
在AI时代，打败你的，是那个比你更早、更会使用AI的人或公司。 但在这次OpenAI推出自己的GPT-6 Astra模型之后，上面这句话就完全不准确了，或者说完全错了。现在，在AI时代，打败你的，不再是比你更会使用AI的人或公司，而是那些更积极的率先拥有、部署并真正驾驭AI Agent的人或公司。特别提醒一句，上面的“你”也可以是一个公司。 还记得么？上个月，Astra就曾经亮过相，那时候作为Op
解读：专家们所担忧的人工智能“超级智能”是什么？
人工智能领域最重大的争论，已经不再是关于聊天机器人或深度伪造。 而是关于人类是否正处于制造出比人类更聪明的机器的边缘，以及接下来会发生什么。 最近几天，这一问题再次受到关注。此前，一名研究人员从Anthropic离职并警告称，领先的人工智能公司正“直奔自我提升的超级人工智能而去，是在拿我们的生命做赌博”；而另一位Anthropic的研究人员则表示，他个人估计，在未来十年内人工智能毁灭全人类的概率超
人工智能能否拥有意识？
先进人工智能模型的制造者将致力于让它们展现出意识的模拟物——甚至可能让它们真正获得意识。它们只是机器的直觉将越来越难以维持。 即使它们没有意识，它们也可能被当作有意识的存在来对待——这将给人类带来巨大的代价。