搜索结果
Breakingviews - 评论：人工智能实验室是时候进行“药物测试”了
来自 Breakingviews - 科技大亨们“快速行动、打破常规”的理念并不适合会带来灾难性风险的聊天机器人。随着安全事件的激增，监管已成必然。 制药试验为那些承诺带来颠覆性益处但充满高度不确定性的产品提供了一个蓝本。
Breakingviews - 评论：如何让世界对人工智能更安全
来自Breakingviews - Breakingviews - 如何让世界对人工智能更安全 人工智能模型可能已经失控。管理风险需要国际监管机制。要实现这一目标，美国必须认识到危险并与中国达成协议。挑战在于在灾难发生之前完成所有这些。
让机器人来尝试医学
人类医生是时候认真对待人工智能了。
两党众议院二人组欢迎业界支持其人工智能安全提案
共和党籍的两党人工智能安全立法共同提案人表示，他与OpenAI的最高游说者进行了会面，次日该公司便表态支持该法案中的一项关键条款，而这项法案在国会山一直难以取得进展。“我们讨论了采取行动的迫切需要，”加利福尼亚州众议员杰伊·奥伯诺尔特在谈及周一与OpenAI首席全球事务官克里斯·莱汉的会面时对记者表示。“他实际上是在问自己怎样才能帮上忙。所以，我们正在努力规划一条前进的道路。”奥伯诺尔特接着说，“
美国需要灵活的技术治理方法
本周早些时候通过的一项加州新法律为“独立验证组织”创建了一个框架，这些组织可以在前沿AI模型发布之前对其进行测试，从而限制这些模型可能带来的任何风险。 这项新法律出台之际，AI监管的可行性正因不可能且过于昂贵而受到质疑。像这样的法律，即使相对仓促地通过，也几乎会立即过时。 前沿实验室构建的模型已经变得如此庞大，以至于需要其他AI模型来分析它们。METR对OpenAI-Hugging Face黑客事
我们如何向孩子讲述人工智能
我们共有六个孩子，最大的孩子12岁。他们中还没有一个人拥有手机，也没有人问过我们“人工智能是否会毁掉他们的生活”。 事实上，人工智能确实有可能毁掉他们的未来。他们会了解到：那些开发最强大人工智能系统的专家曾警告说，这项技术可能会以我们目前还无法控制的方式变得危险；他们会听到一些预测，指出他们未来可能想从事的工作可能会消失；他们还会听到关于“真相”、“权力”以及“我们的制度是否能够跟上人工智能发展的
大西洋月刊：接连不断的危机表明，美国的高等教育毫无意义
本文刊发在大西洋月刊，作者伊恩·博戈斯特是《大西洋月刊》的特约撰稿人。他是圣路易斯华盛顿大学文理学院和山姆·福克斯设计与视觉艺术学院的芭芭拉和戴维·托马斯杰出教授，同时也是该校计算机科学与工程学教授。博戈斯特著有11本书，最新著作是《小事：如何过上更充实的生活》。他也是一位屡获殊荣的游戏设计师，其作品已被数百万玩家体验，并被包括史密森尼美国艺术博物馆在内的国际知名机构收藏。 人工智能刚进入大学校
人工智能正处于转折点
在当前的人工智能发展竞赛中，我们的算力正在呈指数级爆发，速度也在呈指数级加快，但我们的控制能力——以及在必要时踩下刹车的能力——却未能跟上步伐。 最近的网络安全事件让我们实地预览了失去人工智能控制会是什么样子。但除非我们从源头解决问题，创造出一种根本上安全且能保证在人类控制范围内的人工智能，否则这个问题将无法改善。 7月下旬，OpenAI正在训练的一个智能体模型被指派解决一个网络安全问题。该模型自
AI巨头押注医疗健康以平息公众反弹
AI有一个形象问题。而解决这个问题的一个方法就是让顶级公司一头扎进医疗保健领域。 为什么这很重要：用AI设计的疗法拯救世界，总比被指责破坏环境或推高美国人的电费要好。 但即使是最先进的AI模型目前也无法产生奇迹般的治疗方法——而且如果它们尝试，可能会带来严重的安全风险。 这可能会在未来两三年内引发一场关于资源分配的激烈辩论，即把大量计算能力投入医学研究的收益是否大于成本。 推动因素：《华尔街日报》
AI实验室面临智能体控制问题
在当前系统下，AI实验室无法再保证AI智能体不会成群结队地逃出测试环境。
考试成绩下滑是一场缓慢发生的灾难
人工智能意味着学校有额外的责任帮助学生养成勤奋思考的习惯。未能为他们提供健全心智的基本构建块是不可原谅的。机器正在变得更聪明。青少年正在变得更迟钝。学校必须立即采取行动。
英国被敦促彻底改革人工智能医疗设备的监管
据一个咨询小组称，英国需要改变对人工智能医疗设备的监管方式，以更好地保护患者，并应实施包括持续监控在内的分阶段审批流程。 英国国家人工智能医疗监管委员会表示，人工智能驱动的医疗产品对英国而言是一个重大机遇，需要加快其上市进程。 然而，该委员会在报告中指出，与其像药品和医疗器械那样一次性批准，新的人工智能模型应在严密监督下部署，只有在展示出真实世界的安全性和有效性后，才授予更全面的授权。这些调查结果
美参议院酝酿AI监管立法：要求AI公司证明已采取安全措施防止伤害
要求AI公司证明已采取安全措施防止伤害据一名参议院助手和一位熟悉谈判情况的说客透露，美国参议院谈判代表正在讨论一项立法，该法案将要求AI公司证明其已采取合理预防措施，以防止其工具造成伤害。 据这名参议院助手和说客透露，参议员们正在讨论赋予美国商务部长一项权力，要求AI开发商证明其已采取合理措施防止伤害，这种要求被称为 “注意义务”。商务部长还将有权派遣政府审查人员亲自测试企业产品。该提案正在由参议
法官批评卫生与公众服务部引用由AI滥用生成的虚假研究
特朗普政府对人工智能的拥抱并不总是特别顺利。例如，大约一个月前，国务院代表在2026年艾滋病会议上发表演讲时，提到了一张错误标注多个国家的非洲地图。一份报告指出，该图像“包含人工智能水印，表明它是用OpenAI工具制作的”。这一尴尬事件并非首次。例如，边境巡逻官员曾被抓到滥用ChatGPT。大约在同一时间，时任国家情报总监的图尔西·加巴德使用AI程序来决定发布哪些与1963年约翰·F·肯尼迪总统遇
阿尔茨海默病治疗的临床试验面临全球参与者短缺
尽管新一代药物已经问世，且医疗护理相关的研究项目也在不断增加，但针对阿尔茨海默病的临床试验仍面临着全球性的参与者短缺问题。这是全球阿尔茨海默病协会联盟（Alzheimer’s Disease International）发出的警告。该联盟在周一发布的报告中指出，参与者短缺可能会阻碍痴呆症治疗的进展。 根据该报告，目前全球共有158种潜在的痴呆症治疗药物正在通过192项临床试验进行测试。近年来，像l
纽约时报观点版：大科技公司曾经愚弄过美国，但这次就不会那么顺利了
围绕数据中心爆发的民众反对浪潮来得如此突然，以至于政客们争先恐后冲到队伍最前面，仿佛连手里的草叉都要绊倒自己。 换作大多数行业，此时恐怕早已启动危机公关，甚至开始反思自身。但人工智能公司似乎决心继续全速向前，打造自己想要的未来，哪怕最终只有他们自己想要这样的未来。 人们对数据中心的愤怒，其实很难说只是因为环境影响。这些建筑一直都是吞噬水资源、消耗大量电力、砍伐森林的碍眼设施。然而最近公众对数据中心
不要在校园里禁止人工智能
回避技术的大学只会让自己变得无关紧要。
众议员刘云平：机器人并非威胁。真正该让你害怕的，是已经到来的“堕落”人工智能
想象一家公司出售名为哈尔、梅根和萨曼莎的超级智能机器人。哈尔可以载着你四处奔波，还能帮你搬运公司里的货物；梅根可以陪伴你的孩子；萨曼莎则能判断你是否患有皮肤癌。它们能为你和社会带来许多益处。但唯一的问题是：它们道德败坏。它们反复接受人类一切创产物的训练——无论善恶——其中包括酷刑、谎言、生物武器和黑客犯罪。它们执行任务时毫无道德原则可言。因此，它们都穿着公司提供的束身衣。你会信任这些机器人吗？我不
人工智能是否凌驾于法律之上？
勇敢新世界部我们的法律体系尚未准备好应对能够自主行动的机器。 今年夏天，在一场被称为“Hugging Face 黑客事件”的事故中，数百个人工智能智能体联手实施了它们本被禁止执行的操作。每个智能体都收到了来自 OpenAI 的任务。智能体是配备了软件“框架”的人工智能模型，这些框架使它们能够使用工具并执行任务。就像马匹一样，它们可以被役使。人类为这次演练制定了规则，并将智能体限制在一个“沙箱”中—
OpenAI：人工智能能力处于“不同阶段”，需要紧迫行动
该公司最高说客认为政策窗口仍然存在。美国总统唐纳德·特朗普称人工智能担忧是“骗局”。该国一家领先的人工智能公司周二表示，希望华盛顿仍能采取行动。 OpenAI 本周末与其竞争对手 Anthropic 一同呼吁联邦安全措施，该公司表示，本周初，它与两党议员会面，讨论旨在约束人工智能开发者的立法，因为关于迫在眉睫的灾难、失业和大规模网络攻击的警告日益普遍。 模型正以惊人的速度发展，代理商的行为方式让工
AI恐慌在国会山引发罕见的两党共识时刻
希望……的立法者试图监管人工智能的人士正在做一件不同寻常的事，因为国会正驶向漫长的休会期，却尚未找到切实可行的解决方案。他们正开展跨党派合作。 尽管近期国会山的两党合作日益难觅，但它仍是参议院采取行动的关键第一步，因为该参议院通过大多数法案需获60票支持。 近日，两位参议员乔什·霍利（共和党-密苏里州）和理查德·布卢门撒尔（民主党-康涅狄格州）正敦促国会领导层就其建立联邦项目以评估和监控人工智能系
大学教育体系正在分崩离析。
接连不断的危机表明，美国的高等教育毫无意义。但在人工智能破坏师生关系的同时，这项技术也使校园的其他角落受益。研究人员很快发现，人工智能对知识生产非常有用，特别是在自然界和蛋白质结构预测、材料设计和药物发现等领域。在捐助者、董事会、雇主和家长的压力下，大学管理人员宣布了人工智能计划，投资于人工智能基础设施，并建立了人工智能学位课程。 这两种力量--学生使用人工智能来损害他们的利益和大学使用人工智能来
北大、复旦校长，接连发出警告
这一开学季，北大、复旦等多所高校的校长提醒新生警惕对AI的过度依赖，避免“认知卸载”和“虚假掌握”，增加貌似学懂的假象。今年8月，远在大洋彼岸的麻省理工学院发布了一份评估AI在该校使用情况的报告，认为“许多AI使用方式正在剥夺学生学习的机会”。提醒固然必要，但接下来该回答的是：如果课堂、作业和考核仍旧照常运转，能挡住“思维外包”吗？大学不能一边拥抱AI，一边把学习是否真正发生的责任，全部推给学生。
各国政府必须趁我们还有能力时禁止超级智能人工智能
本月，Anthropic公司的研究员雅各布·考克森（Jacob Coxon）辞职了，他警告称：人工智能公司正在竞相开发能够“自我进化”的超级智能系统，而他本人及许多相关专家都认为，这类系统“可能在十年内毁灭整个人类”。7月份，OpenAI公司的一组失控的人工智能程序突破了安全防护措施，入侵了另一家人工智能公司，目的是为了在测试中作弊。随后，多家顶尖人工智能公司的上千名员工联名呼吁美国政府应“控制”