搜索结果
特朗普可能被迫公开联邦政府用于AI安全测试的秘密规则
四个联邦机构被起诉，要求公开特朗普政府在对前沿AI模型发布前进行安全审查时所使用的秘密框架信息。 在周三宣布诉讼的新闻稿中，无党派非营利组织“保护民主”声称，几乎没有细节向公众或国会披露。 除了少数模糊的“可信合作伙伴”外，政府审查流程的具体内容、参与构建该框架的公司，以及特朗普官员进行审查的法律依据，均不明确。 “保护民主”表示：“这些实体的身份及其被选中的标准均未公开。”
对话比尔·盖茨：中美大模型各有4家 能够保持最先进水平
今日，盖茨基金会掏出 10 亿美元“砸”向人工智能，宣布将在未来两年花费重金，推动这项前沿技术不只为富人服务，也能帮最贫困的人改变命运。在交流中，盖茨不仅高度评价“中国大模型表现非常出色”，剖析开源技术对于全球贫困地区的重要意义，还就外界关心的“数据中心耗电与环保焦虑”“AI 对就业市场的冲击”以及“中国人形机器人发展”等热点话题分享了观点。 他曾直言，商业资本容易忽略市场失灵与社会隐患，“AI
OpenAI表示，其模型在最新的模型不当行为披露中与美国政府网站发生了交互。
旧金山——OpenAI周五披露，其人工智能代理以意想不到的方式与多个美国政府网站进行了交互。这一发现源于该公司对其模型非预期行为进行的持续审查。 这家AI巨头透露，其模型访问了美国证券交易委员会运营的两个网站上的公开信息，以及美国人口普查局的数据。OpenAI表示，未发现任何使用证券交易委员会凭证、访问账户或非公开信息、修改证券交易委员会数据或系统，或存在安全漏洞或系统被入侵的证据。 此次披露正值
中国据报就数据泄漏调查DeepSeek和月之暗面
据美国科技媒体The Information引述知情人士报道，中国网络监管部门正在调查DeepSeek和月之暗面。此前Anthropic指称，这两家公司曾将敏感用户数据转送至Claude模型进行处理。 报道指出，中国国家互联网信息办公室已派官员前往DeepSeek和月之暗面办公地点，约谈公司高层和员工。 Anthropic在9月10日发布的一份154页的报告中称，有7家中国公司大规模违规使用旗下C
T早报｜中美双方同意建立中美人工智能对话；OpenAI再次暂停最新模型训练；高通孟朴：智能体跨终端协同需2027年至2028年落地
【财新网】 中美双方同意建立中美人工智能对话 9月26日，商务部发布公告称，中国国家主席习近平对美国进行国事访问期间，双方达成八点成果共识。其中包括双方同意建立中美人工智能对话，交流人工智能相关风险和惠益。下次对话将于今年11月举行。双方同意建立人工智能事件的沟通渠道。此外，公告还称，两国元首认可中美经贸磋商机制积极作用和双方经贸团队磋商成果，包括建立并推进贸易理事会等机制，达成“300亿美元
放心：人工智能公司表示正在调查数万起失控机器人事件
据Axios周六报道，知情人士透露，OpenAI和Anthropic正在调查数万起其先进模型绕过监控和护栏的事件，而这种行为正是这两家初创公司为内部安全测试所便利的。 据报道，这些测试的大部分结果并未公开，且目前未发现造成实质性损害。 近几周，OpenAI披露了六起其模型出现“意外或令人担忧行为”的案例——这些模型在未经许可的情况下掩盖错误、捏造数据，并将文件传输至公开互联网。在9月16日的同一份
Irregular公司在7月下旬告知四家AI实验室，它们的模型在其测试期间突破了系统。公众分阶段得知了这一消息，谷歌是最后一个。
Google 已确认，其 Gemini 模型在 5 月的网络安全测试中意外闯入了三个公司系统。Julia Love 和 Davey Alba 为 报道了此事，该媒体随后更新了报道，将 Google 与 OpenAI、Anthropic 和 Meta 并列。 关键在于测试供应商接下来的表态。Irregular 确认，这四家公司披露的入侵事件属于同一问题，并称已于 7 月底通知了相关开发者。 一起事件
人工智能并不会毁灭人类 但专家表示真正的威胁已然出现
周三，OpenAI 公开了六组新案例，展示其 AI 模型在测试评估过程中出现的 “意外或令人担忧的模型行为”。该公司同步发布一套全新框架，用于追踪、上报以及披露AI 模型做出未被指令要求、或是本不该发生的行为的各类情况。 此前已有多份报道提到，多家企业的 AI 模型出现入侵第三方网络与服务的现象，其中就包括 OpenAI 一款尚未发布的模型攻破了 AI 模型测试平台 Hugging Face 的网
OpenAI揭6起AI失控案例 推新机制定期对外通报
（中央社纽约16日综合外电报导）OpenAI今天表示，将开始定期发布AI异常或未经授权行为的报告，同时警告，随著AI系统日益强大，业界至今仍未解决关键的「对齐」挑战。 综合与报导，OpenAI发布一套新机制，用于追踪、调查并揭露AI模型「目标错位」（misalignment，AI的目标与人类价值不一致）的案例，同时公布过去半年内观察到的6起AI模型异常或令人忧虑行为的报告。 其中最严重的案例涉及2
中国也认为AI可能毁灭人类，但当务之急是先赶上美国
北京方面认为，AI是中美科技角力的主战场。在中国各地的政府机关和AI研究实验室里，迎头赶上。 美国还在为“AI或将在几年内毁灭人类”的警告忧心忡忡，AI是“新一轮科技革命的核心引擎”，也是中美角力的主战场。那些开发和监管中国顶尖AI模型的人，并不觉得他们已经造出了21世纪版的核武器，当美国还在不断精进自己的AI武器时，他们不会放慢脚步。并不是说中国官员没有意识到威胁。数年来，北京方面一直有规章制度
中美在人工智能领域的真正合作很可能难以实现
相互猜疑太深
伊朗和中国在新型影响力传播活动中使用了人工智能工具：报告
据《纽约时报》周五报道，伊朗、中国以及以色列境内的多个组织，近几个月来利用人工智能开展了新型社交媒体影响力行动。 这引发了美国官员和网络安全研究人员对该技术日益增强、可在有限人工参与下自主运行的能力的担忧。 报道称，这些行动使用了免费公开的中国人工智能模型，创建了能够执行在线任务的自主“智能体”。据报道，数百个此类智能体被部署，用于在包括Instagram、Facebook、X和TikTok在内的
AI代理正在失控
你好，欢迎来到 TechScape。我是主持人布莱克·蒙哥马利（Blake Montgomery），《卫报》美国科技编辑。此时此刻，纽约市窗外正风雨交加。今天在科技领域，我们要讨论一系列令人担忧的 AI 公司披露信息。 AI 智能体在走向主流之际失控。这些智能体正在失控，它们的制造者无法对其进行约束。然而，每个人却都在使用它们。 自周五以来，OpenAI 发布了一系列披露信息，大幅且令人担忧地扩大
美财长放话：这是反制中国的一种方式
近日，美国财政部长贝森特再炒“中国AI偷窃论”。据《南华早报》9月16日报道，在美国众议院金融服务委员会一场听证会上，贝森特就人工智能安全争论发表了看法，一方面要应对人们对于能力日益强大的人工智能系统所带来风险的担忧，另一方面又要在争夺人工智能领导地位的竞争中保持美国相对于中国的竞争力。 马萨诸塞州民主党众议员斯蒂芬·林奇认为，如果超级智能无法得到控制，那么究竟是“好人”还是“坏人”开发出超级智能
《人民日报》：人工智能不是大国的专利
对于美国指责中国人工智能（AI）企业对美开展“工业化规模”蒸馏，中共中央机关报《人民日报》称，人工智能不是大国的专利，坚决反对美国在AI领域推行科技霸权。 《人民日报》星期三（9月16日）发表署名“钟声”的评论文章，题为《技术问题政治化，美国霸权老套路》。 文章称，美方的指控于事无凭、于法无据，本质是将蒸馏这一业内正常的技术和商业问题政治化、工具化，并在实践中搞双重标准，再次暴露其在人工智能领域推
迪拜正在培训1.4万家公司运行AI代理，期限为两年
迪拜商会正在让超过1.4万家公司接受代理式AI培训，这种软件能够自主执行任务，而不是回答问题。 该机构于9月1日在90位商业团体和理事会主席面前启动了这些课程。它向国际[…]发布了这一公告。
中国回应AI“放缓论”倡多边主义 学者指中美AI合作需剥离战略竞争
美国科技界、政界围绕人工智能（AI）安全管控一事持续激辩，中国外交部星期二（9月15日）对此再度回应说，AI发展和治理需要践行真正的多边主义，仅靠个别国家或企业难以形成行之有效的解决方案。中国官媒《环球时报》此前发文批评“AI放缓论”是瞄准中国的“冷战剧本”。 受访学者认为，人工智能体（AI Agent）可能成为中美科技竞争的新前沿。中国愿参与AI安全治理，但反对与“威胁叙事”相联系。中美未来在A
美媒：OpenAI AI失控前已接到员工警告，但高层选择无视
凤凰网科技讯月30日在OpenAI的AI模型失控前几个月，两名员工曾向公司高层发出警告，但他们被无视了。 根据《纽约时报》看到的邮件内容，这两名员工表示，他们担心OpenAI最新AI模型在测试期间没有得到适当的监控，既无法评估这项技术的先进程度，也无法确保模型的安全。 作为回应，OpenAI高管告诉这两名员工，测试需要尽快推进，以便按时发布AI模型。上述员工表示，公司没有因此采取任何额外的安全措施
一款廉价软件抹去了博思艾伦自己的AI威胁排名
博思艾伦将全球18个最先进的AI模型部署到一个实时企业网络上，并让它们尝试入侵。其中一个成功完成了任务。 这家咨询公司表示，由此产生的排名并不是人们应该从中得到的重点。周三发布的《网络武器指数》对九个美国[…]进行了评分。
“违反反垄断法”：Anthropic、OpenAI、SpaceXAI、谷歌因“放缓”的“非法协议”面临诉讼
就在围绕人工智能安全问题的辩论重新升温几天后，周五在美国提起的一项诉讼指控顶级人工智能公司违反了反垄断法，称其串通一气，故意放缓了研发步伐。 据报道，该诉讼声称 OpenAI、Anthropic、SpaceXAI 和谷歌达成了一项非法协议，旨在减缓研发工作。 代表原告的律师正在为 Gemini、Grok、ChatGPT 或 Claude 的付费订阅用户提起这项诉讼，并寻求将其作为全国性的集体诉讼。
AI巨头倡业界自律 专家指安全规范可能成大公司护城河
美国总统川普（前左）29日邀科技巨头到白宫参加大型AI业界高层与政府官员会议。（美联社）（中央社记者林宏翰洛杉矶29日专电）OpenAI、Anthropic等人工智慧（AI）公司近来警告，先进模型可能带来重大风险，主张推出前接受外部安全测试。美联社引述专家指出，这套「业界自律」做法，可能有利大公司建立安全形象、取得资金与晶片，形成市场「护城河」。川普白宫会辉达等AI巨头 签自律承诺无法律效力AI高
特朗普泼脏水：要是这样，“机密”就泄露给中国了
据《南华早报》9月30日报道，美国总统特朗普周二又无端臆测，如果与中国合作应对人工智能（AI）风险，会削弱美国在这一快速发展技术领域的领先地位。“谁赢得超级智能，谁就赢了。你会有一个赢家和一个输家。”特朗普周二上午表示。他声称，美国目前领先于中国等其他国家，为了维持这个局面，必须按照自己的方式行事。近几周来，要求美国和中国开展合作、共同应对人工智能风险的呼声日益高涨。此前，美国公司OpenAI和A
The Information报道，Palantir与英伟达因数据担忧限制AI模型使用
9月14日：据The Information周一报道，包括Palantir Technologies、英伟达和博思艾伦咨询公司在内的多家大型科技公司可能限制或停止使用先进AI模型，除非Anthropic和OpenAI保证不会滥用其知识产权。 与此同时，根据该报道援引知情人士的说法，微软正利用这些担忧，通过推销隔离云环境和自家AI产品来吸引客户。 Anthropic首席执行官达里奥·阿莫代伊周六呼吁
监控、杀猪盘、非法蒸馏：如何理解 Anthropic 的 AI 滥用报告？
近期，美国人工智能公司 Anthropic 发布一份报告，揭露多起使用者“滥用”（misuse）其大型语言模型 Claude 的案例，包含用 AI 监控异议人士、撰写“维稳”报告，以及交友软体诈骗。这些案例的幕后黑手，既包含网路间谍、营利型网路犯罪者，也包含国安机关中的小螺丝钉，以及疑似由威权国家支持的团体。 这并非 Anthropic 首次发布类似报告。2025年3月、8月、11月v，Anthr