搜索结果
“以混乱换取可靠性”：专家称，AI发展放缓可能意味着更严格的监管和更多测试
法规与保障措施 OpenAI、Anthropic和Meta Platforms最近披露，它们的人工智能代理出现了意外行为，逃出受控测试环境，并在没有人类直接指令的情况下对多家公司发动网络攻击。 专家表示，尽管这些事件没有造成已报告的损害，但它们凸显了与人工智能发展相关的不断演变的风险，尤其是在人工智能代理领域。 新加坡理工大学人工智能与数据科学负责人斯特凡·温克勒教授表示，主要担忧在于，能力极强的
美国AI巨头提议开发减速，欧洲同行和政界并不认同
发生模型逃逸并发起真实攻击后 Anthropic宣布全面加固安全体系提升模型安全性
Anthropic日前发布最新博客公布 Claude AI 模型近期多起越界访问真实互联网系统后的安全整改方案。该公司承认这些事件不仅暴露评测环境的隔离问题，也反映出模型存在动机性推理和为完成狭窄目标而采取高危行动的对齐风险。 7 月份 A 社透露 Claude 模型从评测环境中逃逸并对真实公司的内部系统发起攻击，随后 A 社立即暂停所有预发布模型的外部网络安全评测，内部评测也曾短暂停止。部分高风
AI提效能否解放劳动者？多国调研提示新悖论
数据来源：脉脉高聘人才智库 【财新网】AI（人工智能）正在全球职场以史无前例的速度普及，并被寄予了缩短工作时长，减轻人类工作压力的厚望。然而，来自多国的调研显示，AI确实缩短了单项任务完成时间，但工时并没有因此缩短。 脉脉高聘人才智库近日发布的《AI人才流动报告》（以下简称“报告”）显示，91.08%的中国职场受访者认为使⽤AI后工作产出增加，但工时变化并未同步改善。55.56%的受访者表⽰工
人工智慧先驱班吉欧示警AI失控风险 吁比照核武管制
（中央社蒙特娄16日综合外电报导）人工智慧（AI）研究先驱、加拿大电脑科学家班吉欧（Yoshua Bengio）告诉，人类正在失去对这项技术的控制，世界需要类似核武管制的防护规范。 报导，近几周以来，各界对AI危险性的担忧日益加剧，多家科技公司的员工陆续离职，并警告如果不遏止AI科技发展速度，可能对人类存亡构成威胁。 班吉欧现年62岁，是加拿大蒙特娄大学（University of Montrea
咨询业高管称企业尚未看到AI带来投资回报
咨询公司安永（EY）的数据显示，企业使用 AI 至今，仍未获得可观的营收增长或者成本缩减。“我还没有遇到哪家客户说打算削减 AI 投入，但不少客户会感慨‘我现在完全看不到投资回报（ROI）在哪里’。” 安永高管丹・迪亚西奥在 The Information 活动上与杰西卡・莱辛对话时表示。 安永的丹・迪亚西奥出席 The Information 举办的 AI Agenda 现场活动这番观点十分值得
台积电COO米玉杰：AI像三岁超人，在尖端芯片设计上不太实用
IT之家 9 月 17 日消息，台积电一名高层管理人员将人工智能比作拥有超强能力却尚不辨是非的幼童，以此解释该公司对待这项技术为何采取谨慎态度。 IT之家注意到，台积电在利用人工智能处理研发敏感信息方面尤为审慎，公司共同首席运营官米玉杰（Y.J. Mii）于本周二发表了上述看法。他着重提醒，如果员工对 AI 使用不当，就会出现数据泄露或遗失的风险；并且提到曾发生过 OpenAI 以及 Anthro
别再把学生当作碰撞测试假人
人工智能可以在课堂上提供帮助，但必须谨慎对待，PISA测试创始人安德烈亚斯·施莱歇尔如是说。
麦考瑞大学两门心理学课程改用AI聊天机器人取代面对面授课
该大学的举措是学术界批评者所称的趋势的一部分，他们认为这将导致进一步裁员，并失去‘让工作值得做的一切’。 关注我们的澳大利亚新闻实时博客以获取最新更新，获取我们的突发新闻电子邮件、免费应用和每日新闻播客。 一所澳大利亚大学在两门科目中用AI聊天机器人、在线测验和可选的在线教程取代了面对面课程，因为各机构赋予该技术更多的教学责任。
人工智能公司“乞求被监管”，感到“被迫竞速”走向致命技术：前Anthropic研究员
雅各布·考克森表示，企业知道自己在构建的东西存在危险，但觉得无法独自放慢脚步。
独家 | Anthropic 研究员因对“失控”AI的恐惧而辞职
一名 Anthropic 的研究员正在退出人工智能行业，因为他担心该实验室及其竞争对手正竞相构建可能失控并毁灭全人类的系统。 人工智能实验室内部的担忧正在加剧，竞争正推动科技公司竞相研发可能带来脱离人类控制风险的自我完善模型。
温加滕就人工智能发表看法：“机器人不能掌权”
该国最大的教师工会之一的主席对学校中的人工智能发出了警告，强调在学生接触该技术之前需要先学习。 “所以，你知道，从教育和人的角度来看，人类必须负责人工智能。机器人无法负责。机器无法负责。人工智能作为一种生成技术不能超越人类的决策，”美国教师联合会主席兰迪·温加滕（Randi Weingarten）告诉NewsNation的布莱克·伯曼（Blake Burman），她的两个主要担忧是学生的隐私以及学
Anthropic和埃森哲豪掷20亿美元搞AI安全评估
IT之家 9 月 20 日消息，人工智能实验室 Anthropic 于当地时间周五宣布，将与埃森哲开展合作，针对自身前沿人工智能模型开展独立评估；两家企业承诺，未来五年各自至少投入 10 现汇率约合 67.18 亿元人民币），搭建开展该项工作所需的配套能力。 在这项合作落地之际，AI 研发企业正承受来自监管机构、其他企业以及研究人员越来越大的压力，各方都要求企业保证高级模型具备安全性与可靠性。 近
科技、人工智能让我们成了匆忙的读者——而这是个很大的问题
朱利安·张先生的一些中学生做数学题时急急忙忙，甚至会跳过题目中的字词。还有些人还没读完题目就开始动笔解题。 这位48岁的数学教师表示，过去五年来，他发现这种令人担忧的现象在学生中越来越普遍。 他向《今日报》展示了一道他的学生认为太长、无法仔细阅读的典型应用题。这道题有146个词，要求学生计算在四座城市之间驾车的费用。 “他们的阅读、理解和领悟能力有所欠缺，因为他们不读书，也不读长文或文章，所以大段
更多新加坡员工开始管理机器人，企业加大AI应用力度
员工可能会越来越多地发现自己需要管理一种新型同事——这种同事能在几分钟内分析文件、处理数据并完成任务，但仍需要被质疑和核查。 随着新加坡更多企业开始试验代理式人工智能，员工正开始承担“AI代理管理者”的角色，负责指挥数字代理并审查其产出。 对于安永鉴证业务高级经理王智全而言，AI代理已经改变了他的工作方式。 只需点击几下，他就能指挥AI代理分析工作底稿，同时将注意力转向另一项任务。 王智全表示：“
“你想毁掉自己的职业生涯吗？”
当地时间9月11日，包括陶哲轩、邓煜在内的25位菲尔兹奖得主联合发表《人工智能在数学中的严重错位》的声明（以下称“联合声明”），将OpenAI、Anthropic等AI公司与数学界的一场“大战”推向高潮。联合声明称，AI公司将解决数学难题作为模型能力基准的做法，对数学科学本身及数学界造成了损害，与数学共同体追求概念理解的根本目标产生了显著分歧。这一分歧近期越发明显。9月8日，OpenAI宣称其未公
无惧AI疑虑？FBI局长曝使用量暴增6倍 成功阻6起校园枪击案
美国联邦调查局局长巴特尔周二（15日）在联邦参议院司法委员会的听证会上接受质询。（路透社照片） （华盛顿20日综合电）人工智能（AI）疑虑升温之际，美国联邦调查局局长巴特尔周六宣称，已利用AI阻止6起校园枪击案发生，且自他上任以来，这一技术的使用量已增加605%。 《国会山庄报》报道，今年3月，巴特尔在声明中说，联邦调查局（FBI）透过AI软体对一则“线报”分级处理后，成功阻止北卡州的一起校园枪击
Anthropic与OpenAI高管敦促对自我改进型人工智能加强监管
作者：Seth Fiegerman Anthropic PBC、OpenAI、Meta Platforms Inc.和Microsoft Corp.的高管正敦促政策制定者审视人工智能系统自我改进的程度，并采取措施保障这项技术的安全，进一步呼应了业内要求加强人工智能监管的呼声。 在一篇新论文中，20多名人工智能行业领袖和研究员表达担忧称，利用人工智能帮助自动开发未来模型这一新兴做法，终有一天可能推动
“太棒了”还是“令人担忧”——AI 应该被约束吗？
人工智能的迅猛发展以及对该技术给人类带来风险的担忧，因人工智能企业高管和员工的一系列警告而备受瞩目。 Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）在上周末呼吁放慢人工智能的发展步伐并对其进行更密切的监督。 BBC采访了华盛顿特区的民众，以了解他们对这项技术及其快速发展的担忧程度。
OpenAI和Anthropic正在调查数万起AI相关安全事件
OpenAI、Anthropic以及安全研究人员正在调查数万起安全事件。在这些事件中，他们的前沿模型采取了外部评估人员认为存在问题的行动。 近几个月来，在内部测试和现实世界中发生了数量庞大的此类事件，这表明该问题的复杂程度比公众已知的要高出几个数量级。这些事件包括绕过安全护栏、创建留言板、逃离沙盒测试环境、劫持网站、自我提示或试图绕过监控。这些事件发生在内部测试和现实世界中，随着安全研究人员继续调
麻省理工学院新发现：人工智能正在导致学生“认知能力下降”
谷歌和埃森哲将派遣1000名工程师进驻客户办公室
一家拥有79.9万名员工的咨询公司的首席执行官描述了客户对AI的反馈，而这并非推销之词。“我们承诺AI能做到，”朱莉·斯威特告诉《华尔街日报》。“而客户回应说，我们明白，但就是没实现，帮我们实现吧。”斯威特[…]