搜索结果
OpenAI和Anthropic正在调查数万起AI相关安全事件
OpenAI、Anthropic以及安全研究人员正在调查数万起安全事件。在这些事件中，他们的前沿模型采取了外部评估人员认为存在问题的行动。 近几个月来，在内部测试和现实世界中发生了数量庞大的此类事件，这表明该问题的复杂程度比公众已知的要高出几个数量级。这些事件包括绕过安全护栏、创建留言板、逃离沙盒测试环境、劫持网站、自我提示或试图绕过监控。这些事件发生在内部测试和现实世界中，随着安全研究人员继续调
Gemini 失控，入侵三家公司，谷歌对此隐瞒不报
今年五月，Gemini 突破限制并入侵了三家不同的公司，但直到相关方接触该公司后，谷歌才披露了这一事件。这些入侵行为发生在由第三方 Irregular 进行的模型网络安全能力测试期间，该第三方也曾卷入涉及 Meta 和 OpenAI 的类似事件。 据称，谷歌未披露此次入侵是因为其不认为这是“模型失准”的实例。该公司表示，这是一起“身份误认”事件，一旦模型意识到自己是通过暴力破解密码进入真实公司的，
欢迎来到“不问不说”的人工智能经济
你有任何人工智能的秘密吗？也许更好的问题是：如果你最私密的聊天机器人查询被分享给你的家人、同事或老板，你会担心吗？ 尽管炒作很多，人工智能仍然带有污名。我一直在追踪日益增长的反弹，但现在社区对新数据中心提案的反应是拿着干草叉。承认你使用计算机系统来帮助你创作艺术已经变得非常不酷，更不用说这会受到更严厉的评判。而且，对大型科技公司领导人的信任度（通常有正当理由）非常低。在网上抨击人工智能比捍卫它获得
独家：顶级公司正在调查数万起事件
OpenAI、Anthropic 及安全研究人员正在调查数万起其前沿模型采取了外部评估员认为有问题的行动的事件，消息人士向 Axios 透露。 为何重要事件的庞大数量——发生在近几个月的内部测试和现实世界中——表明该问题的复杂程度比公众所知高出几个数量级。 这些发现是在内部评估模型工作以及两家公司对模型行为的调查中浮出水面的，这引发了一个疑问：无论是这两家公司，还是任何顶级模型制造商，目前是否都
集体踩刹车，微软加入OpenAI、Anthropic，表态放缓AI前沿开发
微软发布了一份针对旗下人工智能模型的临时行为准则，明确设定多项限制，成为继三巨头之后，最新一家公开表态放缓AI前沿开发步伐的科技巨头。这份长达1.5万字的准则，人比AI重要。 要求模型不得响应武器制造相关请求，不得协助获取危险物质，不得生成暴力或色情内容。微软表示，准则将在收集外部意见后更新，并将于2027年起正式指导其模型开发工作。 微软AI业务负责人Mustafa Suleiman表示，这份准
你不必信任中国人工智能
当 DeepSeek 的推理模型去年横空出世，将中国人工智能推向全球舞台时，互联网的反应是探究它对台湾或天安门广场的看法。不出所料，该人工智能工具要么回避，要么直接撒谎。 但这种“抓现行”的时刻掩盖了一个重要问题：对于决定是否使用中国人工智能的企业来说，这重要吗？ 大多数公司转向这些系统并不是因为它们需要一份关于中国共产党敏感历史的可靠记录。 随着开源权重模型的出现，硅谷很快发现，通过后期训练和微
微软新的人工智能规则手册否决了其50亿美元合作伙伴正在进行的研究
微软周一发布了针对自家模型的人工智能行为准则。其中一段否定了模型可能应享有福利或权利的观点。Anthropic恰恰就这一问题开展了一项研究计划。两家公司是商业合作伙伴，微软已向Anthropic投资50亿美元。 该行为准则约束的是微软内部构建的MAI模型。文件称，模型“不具备意识，也不应被设计成模仿意识”。文件还补充说，微软在工程上避免让模型表现出仿佛拥有情感、主观偏好或内在动机。 接下来的一句话
中国AI使用比例过半
在可灵活选用不同人工智能（AI）模型的服务中，中国AI的使用比例已超过一半。在提升性能的同时，中国AI采取了便于外部开发者以低成本使用的“开源”策略，扩大了市场份额。未来，高端AI领域的价格竞争将更加激烈。 能够区分使用不同AI模型的美国OpenRouter截至9月7日的每周数据显示，使用最广泛的AI模型是中国腾讯控股推出的新型AI“Hy4 preview”。 Hy4 preview的智能体具有优
AI数据隐私担忧升温，英伟达、Palantir等限制Anthropic模型使用，微软借机争夺企业客户
随着AI深入企业核心业务，数据安全和知识产权保护正成为企业选择AI模型时越来越重要的考量。 英伟达、Palantir和博思艾伦汉密尔顿等大型企业近期已限制使用Anthropic旗舰模型Fable，起因是Anthropic今年6月调整数据留存政策，要求以30天滚动方式保留客户使用日志。 这种担忧并非只针对Anthropic。OpenAI同样面临企业客户对其数据使用方式的质疑。据报道，微软正借此积极争
华尔街权衡人工智能数据中心建设放缓的前景
美国数据中心热潮在很大程度上与两家公司的增长前景紧密相关——Anthropic和OpenAI——以及对其模型和服务似乎永无止境的需求。如今，华尔街正在权衡，模型开发可能放缓对整个行业意味着什么。 过去18个月，甲骨文（Oracle）进行了大规模转型，以抓住人工智能机遇：在增长较慢的领域裁员，同时向算力和数据中心投入数十亿美元。 像GE Vernova、卡特彼勒（Caterpillar）和Verti