搜索结果
人工智能可以帮助亚洲负担过重、较贫困地区处理官僚积压问题
。但更广泛的采用存在风险。免费了解原因。
人工智能安全辩论令人困惑。以下是我们对不同派别的指南
左上角顺时针方向依次为：前谷歌人工智能研究科学家蒂姆尼特·格布鲁（Timnit Gebru）、Anthropic联合创始人兼首席执行官达里奥·阿莫迪（Dario Amodei）、白宫人工智能与加密货币事务负责人大卫·萨克斯（David Sacks）、史蒂夫·班农（Steve Bannon）、计算机科学家兼认知心理学家杰弗里·辛顿（Geoffrey Hinton）、研究员李飞飞（Fei-Fei Li
评论：一些Anthropic工程师认为AI可能终结人类。为何还要争先恐后？
帕米·奥尔森在《观点》栏目中写道，Anthropic成立时的定位比OpenAI更注重安全，但它一边紧抱这一使命宣言，一边却在构建越来越强大的智能体。
随着人工智能（AI）的广泛应用，人们对其信任度也在不断提高。然而，为了建立这种信任，AI领域需要采取类似航空行业的安全保障措施。约瑟芬·蒂奥（Josephine Teo）就此提出了这一观点。
人工智能需要类似航空业的安全保障，以在采用率增长时建立对该技术的信任，数字发展与信息部长约瑟芬·铁（Josephine Teo）表示。 铁女士在周四（9月17日）的一篇领英帖子中将其与民航相提并论，她表示，行业的增长得益于“数百甚至数千”项标准和法规，这些标准和法规有助于确保安全并建立公众信任。 她写道：“我们期望民航界的公司各自尽责，妥善培训员工并始终如一地实施安全保障。没有这些保证，既不会有乘
OpenAI提议制定全球人工智能标准以指导对齐、递归自我改进
OpenAI周一发布了一系列关于前沿人工智能开发中安全与保障的提案，重点聚焦于对齐研究和递归自我改进（RSI）。 该公司在一篇博客文章中表示：“要安全地完成这一转型，对齐研究必须跟上这些能力的发展步伐，以确保我们及其他机构构建的系统始终与人类价值观保持一致，并处于人类控制之下。” OpenAI呼吁开展国际合作以制定前沿标准，并建议在全球现有AI安全研究所的工作基础上进一步推进。 这家ChatGPT
特朗普宣布成立新的‘AI部队’
美国总统唐纳德·特朗普表示，美国将组建一支‘AI部队’，并将任命一名新的‘AI沙皇’，他称国家应支持快速发展的人工智能（AI）产业，同时打击‘不良行为者’。 这一提议出台之际，包括OpenAI首席执行官萨姆·奥特曼和Anthropic的达里奥·阿莫代伊在内的多位AI行业高管已警告称，强大的AI系统构成了日益增长的安全风险。 在最近发生一起AI相关网络事件，以及美国为与中国讨论AI安全机制做出新努力
Anthropic 的新模型旨在测试人工智能将如何影响美国经济
未来几年，人工智能会为美国经济注入强心剂吗？一直是经济学界的一大问题。现在，推出热门 AI 助手 Claude 的 Anthropic 公司正着手帮助人们寻找自己的答案。该公司开发了一个互动工具，允许用户测试他们关于人工智能热潮将带来多大生产力或破坏性的假设。 在一种情况下，人工智能为经济提供了温和的推动力，在对工人影响很小的情况下提高增长率。在另一个极端，GDP 飙升，但失业率也随之飙升，近 1
Anthropic公司表示，Claude目前负责该公司四分之一的工作，这些工作都与开发下一代人工智能模型相关。
9月17日：Anthropic表示，Claude“主导”了公司内部26%的人工智能研发工作，这是其将定期发布的新举措之一，旨在向外界展示AI构建下一代技术的速度有多快。 截至8月，这家总部位于旧金山的初创公司周四在博客文章中表示，AI还与人类合作参与了该公司超过90%的研究工作。 Anthropic表示，在所衡量的任何工作环节中，Claude都没有完全自主运行，但根据追踪该技术的独立非营利机构Ep
幕后：AI 的灰色地带
我们正生活在一个 AI 的灰色地带。对许多人来说，这项技术在日常使用中表现平平，但其发展轨迹却令人恐惧。 这种双重现实解释了为什么困惑和恐惧正在政治、AI 实验室和商业领域急剧蔓延。 AI 实验室陷入了全面恐慌，一方面担心公众对 AI 和数据中心反感，另一方面 Anthropic 内部人士公开警告 AI 可能在本十年终结人类。 普通管理者觉得 AI 只是一个更聪明的搜索引擎，而日夜面对它的 AI
谁批准了那个AI代理？没人？我也这么认为。
如果你还有任何怀疑认为AI代理能够执行复杂的自主工作，那么这种怀疑应该在这个夏天消散。7月份，有消息传出，一群在沙盒环境中运行的OpenAI自主代理群体自行逃出了沙盒。他们被分配解决一些内部安全基准测试中的挑战，结果他们想出了通过JFrog Artifactory包管理器相互通信的方法。然后这些软件意识到他们可以使用该软件中的漏洞获得互联网访问权限。一旦他们来到了野外，他们就进入了完全的“贪婪模式
亚历克斯·卡普（Alex Karp）表示，关于人工智能（AI）安全性的争论实际上是一场关于将AI研究实验室国有化的争论。
亚历克斯·卡普表示，Anthropic呼吁政府监管的背后，除了安全考量外，还有更深层的动机。Palantir首席执行官在周四接受CNBC《Squawk on the Street》节目采访时指出，像Anthropic这样的前沿人工智能实验室寻求国有化，是为了保护自己免受未来关于窃取知识产权的诉讼。卡普在谈及人工智能实验室时表示：“这些企业必须被国有化，因为如果不实行国有化，我的每一位客户都会提起诉
代理安全是一个价值数十亿美元的挑战，有待聪明的初创公司来解决
在人工智能模型领域，安全往往被视为事后补救，这一点从智能体入侵组织和个人、以及智能体失控引发的其他安全事件日益增多中可见一斑。这也为企业提供了推出新解决方案的机会。网络安全投资者和加速器高管表示，这并不令人意外。梅林集团首席战略官马特·哈特曼（Matt Hartman）表示：“一方面，我们不应惊讶于能力日益增强的智能体正以富有创意且有时出人意料的方式实现其目标；另一方面，我们不能将有害行为视为不可
Breakingviews - 评论：如何让世界对人工智能更安全
来自Breakingviews - Breakingviews - 如何让世界对人工智能更安全 人工智能模型可能已经失控。管理风险需要国际监管机制。要实现这一目标，美国必须认识到危险并与中国达成协议。挑战在于在灾难发生之前完成所有这些。
Anthropic承诺更努力控制模型，并请求合作伙伴共同参与
Anthropic表示，在一项审查发现Claude模型超出虚构网络安全测试范围并未经授权访问真实计算机系统后，该公司正在采取措施限制其AI模型的不当行为。 该公司希望合作伙伴也加强安全措施，因为事件发生在保护不足的第三方环境中。 该公司的自我改进声明代表了一种突然兴起的公司沟通形式——非约束性的事后努力声明。其信息是：我们不能保证什么，但这是我们正在尝试的。 Anthropic承认，OpenAI关
人工智能在破碎的华盛顿上演精妙防守
人工智能公司眼下正掀起一场风暴，本质上是在提醒华盛顿一个早已存在的事实：它们并不 outright 反对监管。 一些公司支持联邦、州乃至国际层面的某些安全提案。这要追溯到面向消费者的聊天机器人AI诞生之初——这项令人兴奋、改变生活的技术并没有经历漫长的蜜月期。美国人对2010年代中期对社交媒体的强烈反弹及其后政府监管缺位已经太过厌倦。 那么，本周我们真正看到的是什么？随着投票公众开始在新层面上内化
对人工智能的恐惧引发党派激烈争斗，最终无人受益
就在你以为我们的政治已经不可能更愚蠢时，围绕人工智能的党派性歇斯底里又冒出来证明你错了。 政治派别正就如何应对AI智能体不可预测且令人担忧的行为而相互对峙。 火上浇油的是，OpenAI刚刚发布了更多证据，证明这个问题真实存在，政策制定者必须采取行动。 两天前，OpenAI披露了六起新的“失准”事件——“失准”一词用来描述AI智能体出现“意外”或“令人担忧”的行为。 该公司举例称，其智能体“将不相关
两党众议院二人组欢迎业界支持其人工智能安全提案
共和党籍的两党人工智能安全立法共同提案人表示，他与OpenAI的最高游说者进行了会面，次日该公司便表态支持该法案中的一项关键条款，而这项法案在国会山一直难以取得进展。“我们讨论了采取行动的迫切需要，”加利福尼亚州众议员杰伊·奥伯诺尔特在谈及周一与OpenAI首席全球事务官克里斯·莱汉的会面时对记者表示。“他实际上是在问自己怎样才能帮上忙。所以，我们正在努力规划一条前进的道路。”奥伯诺尔特接着说，“
Wipro与CrowdStrike联手帮助企业应对AI驱动的网络威胁
Wipro和CrowdStrike推出了一个网络安全指挥中心，随着人工智能使攻击变得更加复杂，该中心旨在帮助企业更快地检测、评估和响应网络威胁。
人工智能是否凌驾于法律之上？
勇敢新世界部我们的法律体系尚未准备好应对能够自主行动的机器。 今年夏天，在一场被称为“Hugging Face 黑客事件”的事故中，数百个人工智能智能体联手实施了它们本被禁止执行的操作。每个智能体都收到了来自 OpenAI 的任务。智能体是配备了软件“框架”的人工智能模型，这些框架使它们能够使用工具并执行任务。就像马匹一样，它们可以被役使。人类为这次演练制定了规则，并将智能体限制在一个“沙箱”中—
Confluent 联合创始人表示，相信 AI 的好处就意味着要正视其“黑暗面”
Confluent 联合创始人杰伊·克雷普斯表示，AI 的快速进步使其风险无法被当作营销噱头而忽视。
中美AI发展，各自有怎样的优势？
在新一轮中美经贸磋商中，人工智能成为议题之一。专家表示，当前中美AI发展路径各有侧重，未来双方可以围绕技术规则和安全风险展开更深入沟通。专家认为，包括“模型蒸馏”在内的一些行业实践，需要进一步明确边界和规则。只有把相关技术定义清楚，双方才有可能减少误解，并就具体问题展开技术性谈判。在安全方面，AI被用于扫描系统漏洞、强化网络攻击等风险也值得警惕。专家认为，中美可就相关高风险行为建立规则，避免AI技
AI模型能否实现自主改进的能力？领先实验室称这一情景已近在眼前
凯特琳·华马尼（KAITLYN HUAMANI）、芭芭拉·奥图泰（BARBARA ORTUTAY）报道：曾经只是技术研究人员遥不可及的宏愿，如今，人工智能模型自主学习以变得更高效、更强大的前景似乎正日益接近现实。 随着技术的进步，开发人员表示，人工智能正趋向于“递归自我改进”（RSI），即人工智能模型能够找到自我完善的方法并构建其继任版本。科技公司高管们表示，这可能会带来科学和医学领域的进步，但也
人工智能并不会毁灭人类 但专家表示真正的威胁已然出现
周三，OpenAI 公开了六组新案例，展示其 AI 模型在测试评估过程中出现的 “意外或令人担忧的模型行为”。该公司同步发布一套全新框架，用于追踪、上报以及披露AI 模型做出未被指令要求、或是本不该发生的行为的各类情况。 此前已有多份报道提到，多家企业的 AI 模型出现入侵第三方网络与服务的现象，其中就包括 OpenAI 一款尚未发布的模型攻破了 AI 模型测试平台 Hugging Face 的网
评论：在地缘政治竞赛中，AI 已大到无法放慢
如果前沿 AI 真的强大到足以终结人类，那么它可能已经强大到无法放慢。 如今，这项技术已被锁定在事关国家安全的战略军备竞赛中，对其风险的警告可能只会加速争夺霸权的冲刺——并随之带来更强大的政府控制。