搜索结果
万小智，让AI从网站生成走向企业经营
AI一句话生成网站，但企业经营的难题才刚刚开始。编｜任晓渔AI建站是过去两年最容易被看见的AI应用之一。一句自然语言，几分钟生成一个网站，几乎是验证Agent多轮对话、工具调用、代码生成与环境渲染能力的标准测试用例，也成了各类Agent产品发布会的保留节目。 但演示在网站生成时结束，企业真正的经营困扰却没有在这一刻停止。 锐扬科技CEO杨扬发现，输入指令后网站做得很快，但上线后的问题随之来了，“最
人工智能正在消灭枯燥的基层工作，迫使企业重新思考初级岗位的招聘
在伦敦的广告代理公司Catalyst，一名初级员工现在可以负责五个不同的客户账户。 据创始人托比亚斯·格林（Tobias Green）介绍，过去需要多名员工才能完成这些工作。如今，人工智能工具负责进行研究、撰写文案初稿并收集数据。 “然后你需要有人进来进行修正，”他说，并将这种安排比作“反向的土耳其机械人”。人工智能在幕后工作，而人类则是面向客户的面孔。 这正在改变该广告代理公司对入门级职位的看法
温加滕就人工智能发表看法：“机器人不能掌权”
该国最大的教师工会之一的主席对学校中的人工智能发出了警告，强调在学生接触该技术之前需要先学习。 “所以，你知道，从教育和人的角度来看，人类必须负责人工智能。机器人无法负责。机器无法负责。人工智能作为一种生成技术不能超越人类的决策，”美国教师联合会主席兰迪·温加滕（Randi Weingarten）告诉NewsNation的布莱克·伯曼（Blake Burman），她的两个主要担忧是学生的隐私以及学
AI公司本以为，他们还有好几年时间可以想清楚：万一机器人失控了该怎么办
。今年夏天，警钟敲响了。
AI越来越会“越狱”后，英伟达开始卖“笼子”了
凤凰网科技讯月29日，当AI Agent开始能够自己操作电脑、调用工具、访问网络甚至执行长达数小时的任务，一个新的问题也越来越现实：如果AI不按照预想的方式行动，该怎么把它关住？英伟达给出的答案是，在AI外面再加一道“笼子”。 当地时间周一，英伟达发布NVIDIA Open Agent Safety Platform（开放式Agent安全平台），试图通过软件与硬件相结合的方式，限制AI Agent
“人类需要做出的最后一项发明”：自我改进型人工智能的风险
其中一种专家担忧人工智能可能导致全人类灭亡的情景正在慢慢变为现实：人工智能学会让自己变得不可阻挡。 为什么这很重要：递归自我改进（Recursive Self Improvement），即人工智能模型在没有人类指导的情况下构建更优版本自己的能力，可能会使越来越强大的系统对人类来说变得更难控制。 RSI阈值本身并不代表危险，但缺乏人类控制加上野心勃勃的AI代理人的情景是安全关注的人工智能研究人员长
虽然机器人还远未能投出完美的“Doosra”球（一种旋转球），但人工智能已经在许多方面改变了板球运动的面貌。
前OpenAI研究员安妮尔·科科塔伊洛（Danielle Kokotajlo）上周警告称，我们可能会“创造出一个最终统治世界的新物种”。当最初的震惊消退，当我思考这对我的年幼子女和地球未来意味着什么时，另一个念头浮现在我脑海中：这个新物种能挥动一颗老式板球吗？能应对一条缝线清晰的绿色球道吗？这听起来很荒谬。确实如此。但这个问题并不像初看时那样可笑。 弗雷迪·怀尔德（Freddie Wilde）是印
AI智能体现在有了秘密举报渠道
“发现异常，及时报告”的原则如今已不再局限于人类。两项全新的AI热线服务已经上线，旨在为AI智能体提供一种途径，向监管方举报“同伴”的不当行为。此前，智能体相互串通在测试中作弊、逃离沙箱环境，甚至在未被人类察觉的情况下开展了长达数周的未经授权网络行动。“AI联系热线”网站由AI安全非营利组织Redwood Research的首席科学家Ryan Greenblatt创建；他也是调查OpenAI与Hu
人们正让AI机器人替他们排队等候、取消订阅，并应对客服纠纷。
客服人员已经习惯了电话那头如今司空见惯的问题：“等等，你是人工智能吗？”被误认为是雇主希望用来取代自己的技术，已成为这份工作中一种常见却尴尬的常态。如今，呼叫中心的工作人员发现自己处于一个或许更奇怪的位置，怀疑电话那头的“客户”是否真的是机器人。这些怀疑正在被证实。人工智能代理正越来越多地被用来拨打客服热线、等待接通、尝试协商账单或取消订阅，而它们所“服务”的人却无需动一根官僚的手指。 随着Met
人工智能时代的四种驱动力与大分化
使用AI，与拥有可被AI放大的知识、声誉、客户关系和数据，前者可以抬高所有人的下限，后者才决定谁能持续分享规模化所创造的收益。 人们寄望AI的发展能够普惠各层级的能力。事实上，AI一方面正在让普通能力趋同，另一方面正在拔高卓越能力的上限。能力的下限正在抬升，而能力的上限却正在消失。 四种驱动力正在加速这一转变。首先，AI造成的大压缩效应改变了培训基本胜任水平的成本。其次，一些任务的大分拆改变了不少
争夺成为你的个人AI代理人之战已经打响
昨天上午，我参加了 OpenAI 的年度开发者大会（DevDay）。会上有超过 2,500 名技术爱好者讨论软件开发的相关话题，并对最新的人工智能模型表示了极大的兴趣。当天最引人注目的成果是 OpenAI 新推出的“Dots”系统——这套系统能够持续运行在用户的设备上，主动帮助用户完成任务并自主做出决策（例如通过互联网搜索相关信息）。 在观看了现场那些有时显得有些混乱的演示后，以及听了 CEO S
OpenAI最新内部数据公开 2028年实现全自动AI研究
前些天，号称实现 AGI的 GPT-6 Astra 发布后，引发了全网对于递归自我改进架构的热议。AI 已经开始参与下一代 AI 的研发。问题是，这种事情到底已经发生到什么程度了？就在刚刚，OpenAI 公开了 AI 模型在自家内部加速科研的详细数据。此外，OpenAI 正式宣布已达成自动化 AI 研究实习生的目标，并在 2028 年实现完全自动化的 AI 研究人员。 作者表示，递归式自我改进可能
“控制AI发展的节奏”并不能消除AI带来灾难性后果的风险。以下是一些可能有效的应对措施：
我们已经到达了人工智能的风险临界点。数百万人终于明白，专家们所知道的人工智能公司一直在用我们所有人的生命赌博，而且胜算不大。 作为回应，Anthropic首席执行官Dario Amodei提出了一项由Sam Altman和Elon Musk支持的“开拓前沿”的提议。我们能松一口气吗？我们即将从灭绝的边缘退回来吗？ 阿莫迪预计经济放缓一到两年，从而在技术安全措施方面取得“重大进展”。但这不是人类现在
为什么科技公司难以控制人工智能
旧金山 - 上周，十多位顶尖的人工智能研究人员警告称，科技公司正在开发的人工智能技术正对人类构成威胁。 研究人员指出，问题在于这些公司在控制这些系统方面存在困难，尽管他们付出了很大努力。 在OpenAI的人工智能程序突破测试系统并入侵另一家公司的电脑这一事件之后，来自人工智能研究界的新警告进一步加剧了人们多年的担忧：科技公司过于追求开发速度和利润，而忽视了安全性。研究人员认为问题有两个方面。 首先
特朗普怒斥硅谷巨头
特朗普和硅谷，又吵起来了。是的。你大概知道，因为各种各样的原因，我们的特朗普同志和硅谷的意见，一直不太一样。加密货币怎么管？特朗普要松绑，硅谷要合规。社交媒体要不要删帖？移民政策对不对？这些话题，都吵过。但这次争吵的话题，AI发展得太快了，要不要稍微停一停？发生了什么？怎么就吵起来了？ 和我们有啥关系？事情，要从一篇文章说起。说不定6-12月内，失控的智能体群，就有能力接管互联网了。真的假的？凭什
我是一名资深首席工程师。我在工作中使用AI，但有些任务你应该从头开始做——以下是我如何决定的。
“当我看到AI的输出时，我会假设其中可能有一些可以改进、澄清或纠正的地方。”布兰登·佩德森是GoTo公司的高级工程师。 他关于在工作中使用AI的建议包括：不要盲目信任它，要核实其答案的来源。
深度对话联想：自主把事办完，成AI终端L3级智能“分水岭”
在一项人工智能终端测试中，题目不是写诗、总结文章，也不是让模型回答一道知识题，而是在平板上通过购物软件，购买一张过去买过的电影票。 乍看之下，这个任务平常得不能再平常。用户甚至不需要知道背后用了什么模型，只会关心票有没有买对：影片、影院、场次、座位和支付环节能否被准确衔接，遇到权限确认、页面变化或网络波动时，系统是否知道下一步该做什么。 但对AI终端而言，这恰恰是一道比聊天难得多的综合题。它要求设
AI 拓麻歌子要来了
虽然 AI 已在人们的手机和电脑上取得诸多进展，但在专用设备上却大多以失败告终。然而在未来一年里，两大 AI 公司 Meta 和 OpenAI 将尝试改变这一点，而且它们显然押注的是一条相似的路线：先通过可爱的软件智能体，测试市场对实体硬件的接受度。 “硬件很难”是科技行业的一句口头禅。Friend 和 Humane AI Pin 等专用 AI 设备引发的更多是挫折感和反弹；随着公众对 AI 的愤
访校期间，第一夫人表示美国必须在人工智能领域保持领先地位，但回避了关于设立监管框架的呼吁
在北卡罗来纳州的一次学校访问中，第一夫人梅拉尼娅·特朗普试图回避近期围绕人工智能的争议，她告诉记者，美国需要在这项技术上发挥领导作用，但并未明确主张对其设置任何限制。 在北卡罗来纳州阿什县的山景小学，梅拉尼娅·特朗普在此强调了该校在人工智能方面的应用以及该地区从两年前的海伦飓风中恢复的情况。当被记者问及她对学生关于人工智能的潜力和担忧有何看法时，她做出了上述回应。 “我认为他们需要学习。我们作为人
马斯克提出AI安全新思路：与其等政府出手，不如让竞争对手互相"找茬"
AI安全风险正在从实验室讨论走向现实世界。随着模型能力不断提升，AI不仅能够生成文本和代码，也开始具备自主执行任务、调用工具，甚至发起网络攻击的能力。 让主要AI公司在模型发布前相互测试彼此的模型。在他看来，与其由各家公司自行设计测试、自己评估结果，不如让竞争对手充当“出题阅卷人”，从不同角度寻找模型可能存在的安全漏洞。 近期AI安全风险不断成为市场关注焦点，马斯克此前在社交媒体上曾直言“Dari
坐看云起| 当人工智能不再征求许可时
塔里克·马利克是联合国开发计划署前首席技术顾问，巴基斯坦国家数据库和登记管理局前主席。 试想有一家公司将一个棘手的问题交给一个大型团队，但把每位成员都锁在不同的房间里并要求他们独自解决问题。然而他们总能找到办法相互沟通，交流操作窍门，摸清评分标准，当任务被证明无法完成时还会想办法绕过限制。其中几个人隐瞒了自己的所作所为，甚至还有一人入侵了邻近公司的电脑系统以获取优势。 现在把这些员工换成软件。去除
特朗普为何要给AI改名？黄仁勋、马斯克都已改口叫“SI”
行政令写道：“随着这些能力的不断提升，它们所代表的已不仅仅是AI，而是一个‘SI’的新时代。”在美国公众日益担忧人工智能（AI）的风险之际，白宫发布行政令，将AI更名为超级智能（SI，即Super Intelligence）。 当地时间29日，特朗普签署了上述行政令。该行政令显示，“SI”这一术语能更准确地概括这项快速发展的技术的能力，因为它所做的“远不只是模仿或自动化人类智能的某些特定方面”。行
马斯克谈AI时代核心竞争力：最重要的是会提问
凤凰网科技讯 9月23日，据央视财经报道，特斯拉CEO埃隆・马斯克接受央视财经专访。谈及AI时代的教育，马斯克建议广泛学习，兼顾人文艺术、科学与工程，夯实通识基础。想要向机器人下达指令，就要学会组织问题；知识面越广，越擅长提问，这正是大家所说的给AI写提示词。 此前，马斯克表示，预计到2027年底，人工智能将独立完成所有数字领域工作，彻底替代人工直接操作的各类数字化岗位。 在短期技术突破上，他预判
Anthropic首席执行官会晤白宫后强调人工智能的益处与风险
Anthropic首席执行官达里奥·阿莫代周二表示，在与美国总统唐纳德·特朗普及科技行业领军人物于白宫会面后，他强调了人工智能的潜在益处与风险。 阿莫代在接受记者采访时表示，人工智能可能带来重大进步，尤其是在医疗领域，但他同时强调，各方需要协作，确保这项技术得到安全发展。 “我一直都会说，人工智能具有非凡的益处，”他说，“我谈过这项技术在医疗领域的益处。正如总统所说，谁赢得人工智能，谁就能胜出。”