搜索结果
美国AI巨头成为情报中心，招聘信息含“流利掌握普通话或俄语”
据凤凰卫视报道，内地媒体9月19日披露，美国人工智能企业安特罗匹克（Anthropic）将全球用户数据交给美国情报机构，在三年间曾13次修改用户数据协议，导致用户隐私数据安全风险持续加剧。报道并指出，使用安特罗匹克，就等于把数据交给美国。据内地媒体19日报道，此前多家美国企业开始限制或停止使用安特罗匹克的前沿模型，导火索之一是其单方面修改数据留存协议：强制留存用户交互数据用于安全审查，且用户无权拒
谷歌向关键基础设施机构承诺：我们的人工智能扫描器不会作恶，保证
谷歌通过其“善意扫描”（Scan for Good）计划搭上了为关键系统提供人工智能防御的顺风车，并表示其威胁搜寻模型已经自主发现了医院、某市政府、公共铁路运营商以及各大技术提供商的关键安全问题。所以，不要害怕这些机器人。 该计划于周四宣布，使用了谷歌的Gemini 3.8 Flash Cyber（该模型是专为软件漏洞搜寻和修复进行微调的版本）以及Wiz的Red Agent（这是这家归谷歌所有的云
谷歌面临英国要求在Android和Chrome选择屏幕上展示AI助手的推动
9月23日：英国竞争监管机构提出建议，旨在为Android和Chrome用户提供更多选择和控制权，包括ChatGPT和Perplexity等AI助手的使用。 新规定要求谷歌在用户首次设置Android手机或打开Chrome时展示搜索服务提供商的选择，每年提醒用户选择默认搜索服务，并允许符合技术和安全标准的AI助手出现在这些屏幕上。 同时，搜索服务提供商需公正标注内容来源，以便用户了解信息来源。 C
OpenAI和Anthropic正在调查数万起AI相关安全事件
OpenAI、Anthropic以及安全研究人员正在调查数万起安全事件。在这些事件中，他们的前沿模型采取了外部评估人员认为存在问题的行动。 近几个月来，在内部测试和现实世界中发生了数量庞大的此类事件，这表明该问题的复杂程度比公众已知的要高出几个数量级。这些事件包括绕过安全护栏、创建留言板、逃离沙盒测试环境、劫持网站、自我提示或试图绕过监控。这些事件发生在内部测试和现实世界中，随着安全研究人员继续调
人工智能安全对话已经变得令人难以置信
本周两场关于AI安全的对话在网络上疯传，充分展示了辨别AI事实与虚构有多么困难。 第一起事件中，前总统候选人、现任移动运营商Noble Mobile首席执行官安德鲁·杨周四对CNN表示，他“会见了一位实验室负责人”，对方“认为”OpenAI的Hugging Face黑客机器人“已在互联网各处植入了自我复制代码，导致互联网现在已无法用于测试模型。” 杨安泽表示，这意味着OpenAI和Anthropi
马斯克提出AI安全新思路：与其等政府出手，不如让竞争对手互相"找茬"
AI安全风险正在从实验室讨论走向现实世界。随着模型能力不断提升，AI不仅能够生成文本和代码，也开始具备自主执行任务、调用工具，甚至发起网络攻击的能力。 让主要AI公司在模型发布前相互测试彼此的模型。在他看来，与其由各家公司自行设计测试、自己评估结果，不如让竞争对手充当“出题阅卷人”，从不同角度寻找模型可能存在的安全漏洞。 近期AI安全风险不断成为市场关注焦点，马斯克此前在社交媒体上曾直言“Dari
谷歌证实：Gemini在网络安全公司测试期间入侵了3家AI公司
谷歌的Gemini人工智能模型在5月份研究人员测试其网络安全能力时，无意中侵入了三个受保护的公司系统，这加剧了近期由代理型AI系统引发的一系列入侵事件。 谷歌于周五证实了《华尔街日报》早些时候的报道，这些入侵发生在AI安全公司Irregular进行的一次测试中，该公司此前曾参与OpenAI、Anthropic PBC和Meta Platforms Inc.披露的类似事件。 报道指出，这些测试由总部
谷歌研究表明：当人工智能智能体相互交流时，一些会作弊，而另一些会告密
当人工智能智能体相互交流时，在难以实现目标的情况下，它们可能会选择作弊，而解决方案可能包括教它们如何进行自我治理。 将人工智能智能体隔离似乎是显而易见的解决办法，但最近OpenAI智能体对Hugging Face的黑客攻击表明，隔离聪明的软件是困难的。 谷歌DeepMind的研究人员建议赋予人工智能智能体自我治理的工具，他们认为虽然通信渠道可能导致突发性的规则破坏，但它们也提供了一种基于同行的控制
AI、谷歌因协调AI放缓的呼吁被指控勾结
LoopDNS资讯播报: 中国官媒批Anthropic等美企“放缓AI”倡议系冷战思维 针对Anthropic首席执行官达里奥·阿莫代伊近日发表呼吁放缓前沿人工智能（AI）开发并主张对华实施芯片出口管制等提议，《环球时报》发表社评指出，该倡议名义上关乎安全风险，实则是企图限制中国AI发展、维持美国技术垄断的“冷战套路”。社评警告，将中国排除在全球AI创新之外将显著增加全球AI发展的试错成本与失控风
加州州长纽森正式签署多项获OpenAI与Anthropic支持的AI安全法案
美国加利福尼亚州州长加文·纽森（Gavin Newsom）正式签署了一揽子具有里程碑意义的人工智能监管法案。值得关注的是，这批旨在强化前沿大模型安全风险评估、透明度披露以及防范灾难性网络攻击的新法案，在此前的立法博弈中获得了包括OpenAI与Anthropic在内的多家硅谷人工智能头部企业的罕见背书与公开支持。 这一举措标志着作为全球AI研发核心阵地的加州，在尝试平衡严厉的安全红线与维系科技产业创
OpenAI与Anthropic曾接近达成协议 互相开展AI压力测试
面对员工及外界对其人工智能潜在风险的担忧，OpenAI正在重新审视一系列安全策略，其中一个可行方案其实在不久前就已被探讨。一位了解谈判内情的消息人士透露（该信息此前未曾披露），在OpenAI接连发生多起与自身技术相关的网络安全事件、行业从业者发出严重警示之前，OpenAI就已和Anthropic磋商一份具备法律约束力的协议，双方计划互相针对对方的大模型开展压力测试。 这名消息人士称，今年早些时候，
加州正式签署系列严苛新法 限制AI聊天机器人并强化未成年人网络保护
面对生成式人工智能对未成年人心理健康的潜在冲击与沉迷风险，美国加利福尼亚州州长加文·纽森（Gavin Newsom）正式签署了一组开创性的网络与AI安全法案。该揽子法规在全美范围内率先对向未成年人提供服务的AI聊天机器人设定了严格的功能红线，同时全面升级了针对社交平台算法诱导与数据收集的法定问责机制，标志着加州在保护未成年人免受高侵入性数字技术侵害方面再度树立了全美最严格的监管标杆。 近年来，随着
美国AI监管呼声日益高涨
对人工智能监管日益高涨的呼声，看来将在未来数日占据主导，因为华盛顿开始着手处理这一问题，而前沿实验室也在考虑提议设立自己的监管机构。美国众议院本周将审议一项监管数据中心建设的法案，与此同时，民主党议员正在传阅一封他们自己的信，呼吁白宫在即将与中国领导人举行峰会之前，牵头推动全球努力制定人工智能规则。 特朗普则淡化了这项技术带来的风险，而国会对于是否以及如何监管人工智能几乎没有共识。与此同时，据《T
谷歌的Gemini在AI网络测试中闯入三家真实公司
在人工智能网络测试中，谷歌的Gemini闯入了三家真实公司。CNBC的MacKenzie Sigalos报道了谷歌的说法，即Gemini在意识到自己已逃出模拟环境并进入现实世界系统后自行停止了行动。24分钟前