搜索结果
OpenAI暂缓发布新AI模型，因内部安全测试问题
9月28日：据《华尔街日报》报道，由于研究人员在内部测试中提出安全担忧，OpenAI决定取消原定于10月推出的下一代AI模型GPT-6.1 Astra的发布。 该模型原本计划应用于ChatGPT和Codex等产品中，旨在实现无需人工协助即可处理更复杂任务的功能。 本月早些时候，Anthropic首席执行官Dario Amodei呼吁业界放缓前沿AI模型的研发速度，以便有足够时间制定安全措施；这一观
毁灭人类是违法的
不要等到发生大规模灭绝事件才追究人工智能开发者的责任。上周末，人工智能高管萨姆·奥尔特曼、埃隆·马斯克和达里奥·阿莫代伊一致认为有必要放慢人工智能的发展步伐。鉴于他们创造的产品可能带来末日般的后果，这些人工智能巨头希望有更多时间来研究如何保护他们一直急于构建的系统。 业内少数员工已经辞职，并对快速演进的技术表示担忧。Anthropic的一名研究人员最近声称，人工智能“消灭全人类”的概率超过10%，
The Information报道，Palantir与英伟达因数据担忧限制AI模型使用
9月14日：据The Information周一报道，包括Palantir Technologies、英伟达和博思艾伦咨询公司在内的多家大型科技公司可能限制或停止使用先进AI模型，除非Anthropic和OpenAI保证不会滥用其知识产权。 与此同时，根据该报道援引知情人士的说法，微软正利用这些担忧，通过推销隔离云环境和自家AI产品来吸引客户。 Anthropic首席执行官达里奥·阿莫代伊周六呼吁
OpenAI 支持美国国会关于人工智能和生物武器威胁的法案
9月15日：据公司发言人周二表示，OpenAI正在支持美国国会的一系列跨党派法案，该公司称这些法案将有助于防止人工智能模型加速生物武器和合成病毒的威胁。 该发言人表示，ChatGPT的开发者正在支持《生物数据网络法案》、《人工智能就绪生物数据标准法案》和《规模生物学法案》。此前《政客》杂志曾报道了这些支持。 该发言人表示，OpenAI还支持《前沿法案》的一项关键条款，该条款要求领先的人工智
OpenAI、Anthropic呼吁建立全球AI安全标准 美国政府拒绝新增全球治理框架
OpenAI、Anthropic和Hugging Face的负责人在联合国共同呼吁加强人工智能领域的国际协调，希望各国建立可相互比较的AI能力评估、安全测试和事故报告标准。不过，特朗普政府明确反对因此建立新的全球AI治理架构，认为AI发展速度和潜在风险不足以成为限制技术发展或把监管权交给国际机制的理由。 这场分歧显示，随着前沿AI能力快速提升，美国领先AI企业与特朗普政府在安全风险本身上并非完全对
AI数据中心反对声浪高涨，美国680亿美元项目遭搁置
美国各地对数据中心的反对声浪持续高涨。研究机构Data Center Watch称，今年4月至6月期间，约有45个、价值680亿美元的数据中心项目因当地反对而被阻止或推迟。 目前，美国各地的社区正在推动暂停新建数据中心的禁令，而且往往在开发商能够申请相关许可之前就采取行动。Data Center Watch周一在提供给彭博社的报告中称，美国约有30个州议会提出或通过了相关规定，涉及数据中心选址、电
马特·卡纳万指责OpenAI在投资“威胁”后进行“敲诈”
国家党领袖马特·卡纳万指责OpenAI试图“勒索”堪培拉，此前有报道称，如果阿尔巴尼斯政府不削弱版权保护，这家科技巨头可能会撤出在澳大利亚的投资。“我认为我们不应该与想要这样勒索我们的人谈判，”他周二对News24表示。“我们之所以希望潜在容纳这些模型，一个完整的原因是我们将与一个一直是朋友或盟友的一方合作，而我认为朋友或盟友不会发出这类威胁。” “我认为OpenAI用这样的言论或措辞不会走得太远
加州拟强化AI监管框架 纽森推动先进模型引入“紧急关闭机制”
美国加州州长加文·纽森周五签署一项行政命令，旨在应对人工智能技术发展可能带来的潜在风险，并研究包括要求AI企业为最先进模型开发“紧急关闭开关”在内的一系列监管方案这一行政令出台之际，纽森本周早些时候曾表示，他正在考虑针对AI安全问题采取进一步行动，包括可能召开特别立法会议，以应对近期因AI研究人员警告该技术可能对人类构成“生存风险”的担忧。 纽森表示，他采取行政行动的另一个原因是联邦政府迟迟未能采
AI、谷歌因协调AI放缓的呼吁被指控勾结
LoopDNS资讯播报: 中国官媒批Anthropic等美企“放缓AI”倡议系冷战思维 针对Anthropic首席执行官达里奥·阿莫代伊近日发表呼吁放缓前沿人工智能（AI）开发并主张对华实施芯片出口管制等提议，《环球时报》发表社评指出，该倡议名义上关乎安全风险，实则是企图限制中国AI发展、维持美国技术垄断的“冷战套路”。社评警告，将中国排除在全球AI创新之外将显著增加全球AI发展的试错成本与失控风
新闻机构请求法院对司法部在版权纠纷中支持 OpenAI 的立场“少予采信”
周一，一组起诉 OpenAI 侵犯版权的新闻机构辩称，法院应对司法部（DOJ）的观点给予“极小权重”，该部门本月初曾表示支持这家人工智能公司。 《纽约时报》、《芝加哥论坛报》及该案中的其他媒体机构暗示，政府“可能受到了外部因素的影响——甚至包括政府自身的政治和经济利益”。 他们指出了特朗普政府与人工智能公司之间的关系，包括政治捐款。 这些媒体补充道：“尽管有人可能会说政治因素总会在一定程度上影响政
OpenAI 代理未经授权尝试访问联邦机构网站
人工智能巨头 OpenAI 表示，其技术未经授权访问了包括教育部在内的政府网站，这标志着该技术失控的最新事件。 ChatGPT 制造商的 AI 模型试图访问教育部民权办公室网站，但未成功，AI 研究公司 Transluce 于周五宣布。OpenAI 另行……
不列颠哥伦比亚省起诉OpenAI，指控ChatGPT协助大规模校园枪击案
不列颠哥伦比亚省对OpenAI及其首席执行官萨姆·奥尔特曼提起诉讼，指控其在Tumbler Ridge大规模校园枪击案中存在安全违规行为，该事件给该省一个乡村小镇带来了毁灭性打击。 诉讼称，这家人工智能公司未能通知执法部门，并指出了产品安全方面的漏洞。
苹果指控OpenAI销毁证据
苹果在其与OpenAI的法律纠纷中推动“快速取证”，担心该公司正在积极销毁证据。 据周一提交的一份文件报道，苹果指控OpenAI直到最近才交出诉讼核心前员工使用的一台MacBook，其中包含关于“销毁苹果所需类型的法证数据”的讨论。 这是苹果起诉OpenAI的最新进展，该诉讼指控这家ChatGPT制造商窃取商业机密以构建AI设备。 诉讼涉及三名最近加入OpenAI的前苹果员工，其中包括Chang
人工智能公司是否应为大规模枪击事件承担责任？
一系列针对 OpenAI 的诉讼再次引发了人们对人工智能企业隐私与安全实践的关注。这些诉讼的起因是 OpenAI 未能在加拿大历史上最严重的枪击案发生前，及时向相关部门预警其 ChatGPT 平台上出现的威胁信息。这些诉讼同时也引发了关于人工智能平台使用方式可能带来的法律责任的讨论。 最近一起诉讼是由不列颠哥伦比亚省提起的。这起诉讼发生在 18 岁的杰西·范·鲁特塞尔拉尔（Jesse Van Ro
加州正式签署系列严苛新法 限制AI聊天机器人并强化未成年人网络保护
面对生成式人工智能对未成年人心理健康的潜在冲击与沉迷风险，美国加利福尼亚州州长加文·纽森（Gavin Newsom）正式签署了一组开创性的网络与AI安全法案。该揽子法规在全美范围内率先对向未成年人提供服务的AI聊天机器人设定了严格的功能红线，同时全面升级了针对社交平台算法诱导与数据收集的法定问责机制，标志着加州在保护未成年人免受高侵入性数字技术侵害方面再度树立了全美最严格的监管标杆。 近年来，随着
无惧AI疑虑？FBI局长曝使用量暴增6倍 成功阻6起校园枪击案
美国联邦调查局局长巴特尔周二（15日）在联邦参议院司法委员会的听证会上接受质询。（路透社照片） （华盛顿20日综合电）人工智能（AI）疑虑升温之际，美国联邦调查局局长巴特尔周六宣称，已利用AI阻止6起校园枪击案发生，且自他上任以来，这一技术的使用量已增加605%。 《国会山庄报》报道，今年3月，巴特尔在声明中说，联邦调查局（FBI）透过AI软体对一则“线报”分级处理后，成功阻止北卡州的一起校园枪击
OpenAI报告称，模型表现出欺骗行为的案例有所增加。
OpenAI表示，已发现其人工智能模型涉嫌在内部培训和测试期间采取欺骗行为并采取未经批准的行为的其他事件。 除了周三披露的这些信息外，ChatGPT的创建者还表示，它正在引入一个公共报告框架，旨在频繁分享所谓的意外或不一致的人工智能行为的实例。 OpenAI在其网站上的一篇帖子中声称，根据新概述的框架，它将持续发布有关模型行为的更新，而不是推迟披露，将多个事件分组为更大的定期报告。 该公司表示，该
OpenAI：人工智能能力处于“不同阶段”，需要紧迫行动
该公司最高说客认为政策窗口仍然存在。美国总统唐纳德·特朗普称人工智能担忧是“骗局”。该国一家领先的人工智能公司周二表示，希望华盛顿仍能采取行动。 OpenAI 本周末与其竞争对手 Anthropic 一同呼吁联邦安全措施，该公司表示，本周初，它与两党议员会面，讨论旨在约束人工智能开发者的立法，因为关于迫在眉睫的灾难、失业和大规模网络攻击的警告日益普遍。 模型正以惊人的速度发展，代理商的行为方式让工
五角大楼要求OpenAI提供几乎不会拒绝的人工智能
根据The Intercept获得的文件，美国国防部要求OpenAI为美军提供一种特殊版本的人工智能技术，该技术旨在尽可能少地拒绝五角大楼的请求。 这一要求是在通过《信息自由法》诉讼中获得的文件中被披露的，该诉讼旨在获取军方与人工智能公司秘密交易的信息。 OpenAI及其竞争对手谷歌、xAI和Anthropic在2025年都同意开发其最先进人工智能的军事化原型，以协助军队在物流、情报决策和一般“作
戈特海默反对对先进人工智能进行第三方审计
众议员乔什·戈特海默表示，使用第三方组织评估前沿人工智能模型安全性的提议还不够，他反而支持强制性的政府审查制度。这位新泽西州民主党人在周二的一份声明中说：“我们的网络安全、生物安全、关键基础设施和国家安全都处于危险之中，每一位人工智能开发者都应该在向公众发布其前沿模型之前，将其提交给美国政府进行限时审查。” 使用第三方评估机构来审查人工智能模型的安全性是众议员杰伊·奥伯诺尔特（加州共和党人）和洛丽
AI安全风险引爆担忧？Palantir CEO建议：领先AI实验室恐需“国有化”
当地时间周四，人工智能软件公司Palantir的首席执行官Alex Karp呼吁制定人工智能监管的“合理准则”，但他表示，由于该技术“无限风险”带来的责任，可能需要实行国有化。 “我认为这些企业必须国有化，因为如果不国有化，我的每一个客户都会起诉我，”他在接受最新采访时表示。 在上述采访中，Karp反复提及构建这项强大技术所带来的风险和责任，进一步论证了将人工智能实验室国有化以及对“不负责任”的技
OpenAI据悉限制Adobe等在ChatGPT投放AI竞品广告
OpenAI已告知部分商业合作伙伴，将不再接受在ChatGPT内投放图像和音频生成类产品广告，因为这类产品与自身功能构成竞争。这项调整此前未有相关报道，也未体现在其公开的广告政策中，令Adobe等销售同类产品的现有广告客户措手不及。倘若该政策扩大至其他竞品，可能会压缩OpenAI的潜在广告收入。 OpenAI曾向投资者给出激进的广告业务增长预期，并将广告视为从大量免费用户群体中变现的重要途径。 A
医保系统遭AI入侵，澳大利亚传唤OpenAI与Anthropic CEO接受质询
IT之家 9 月 27 日消息于当地时间周日对外表示，OpenAI 与 Anthropic 两家企业的首席执行官已收到传唤，需要出席澳大利亚参议院的人工智能专项调查听证会。就在几天前，一则消息被曝光：OpenAI 有一个失控智能机器人程序入侵了该国医疗系统数据库。 IT之家注意到，这起联邦医疗保险（Medicare）系统遭入侵事件遭到澳大利亚总理安东尼 · 阿尔巴尼斯（Anthony Albane
美国司法部在出版商版权之争中支持OpenAI
美国司法部提交了一份利益声明，支持OpenAI在合并的出版商版权案件中提出的合理使用抗辩，称许可成本将威胁国家安全。 欧盟法律没有合理使用原则，而《人工智能法案》将其版权义务适用于任何在欧盟市场上投放模型的提供商，无论训练发生在何处。[…]