搜索结果
OpenAI将允许外部团体在训练期间测试其模型
据彭博社报道，在周二发布的一篇博客文章之前，OpenAI宣布将允许第三方机构在模型训练和评估期间（而不仅仅是模型发布之前）进行技术安全评估。OpenAI目前正在与包括METR和Redwood Research在内的多个机构进行谈判。 十天前，OpenAI的承诺更为具体：Sam Altman曾在9月12日表示，会为独立评估人员提供办公空间、工作证和笔记本电脑，并允许他们公开自己的评估结果。不过在最新
OpenAI因'严重'网络安全风险将限制Astra模型
OpenAI正准备发布其最新的网络安全关键型大语言模型Astra。该公司预计很快将提供该模型，但将限制对其最尖端网络安全功能的访问。 Astra能够发现比目前公开可用的最先进OpenAI模型更多的安全漏洞。然而，内部测试发现该模型能够在最少人工输入的情况下执行复杂的网络攻击，这促使公司增加了安全层。 在Hugging Face事件后，OpenAI采取额外预防措施，正在预览其采取的措施，同时向潜在客
据《财富》报道，OpenAI将在数日内预览GPT-6 Cyber
据《财富》周四援引多位知情人士报道，OpenAI将在数日内预览一款专注于网络安全的AI模型GPT-6 Cyber，并推出一款旨在帮助客户更安全、更自动地部署该模型的新产品。
OpenAI 想谈谈《联邦党人文集》
这家AI巨头担心无所不能的机器人可能对我们的宪法权利意味着什么。
据报道，OpenAI 正准备预览 GPT-6 Cyber 安全模型
据《财富》杂志周四报道，引述多位知情人士透露，OpenAI 正准备在未来几周内预览 GPT-6 Cyber，这是一个专为网络安全工作构建的模型。 据《财富》报道，除了该模型外，OpenAI 还计划推出一款新产品，帮助客户更安全、自动地部署它。 该产品尚未命名，《财富》称这将是公司同类产品中的首款。此外，一小部分客户已通过 Daybreak Red 获得早期测试访问权限。 Daybreak 是 Op
OpenAI董事会新增一位著名的AI末日论者
致力于使AI系统符合人类利益并处于人类控制之下的颇具影响力的AI研究员保罗·克里斯蒂亚诺将加入OpenAI基金会董事会。 “我现在认为存在一个重大的风险，即AI能力的快速加速会在极短时间内导致灾难性的、不可逆转的失控。 我认为整个AI行业，包括OpenAI，目前并未走上将这一风险降低到可接受水平的轨道。 我加入是因为我相信，如果OpenAI能够应对这一挑战，我们就能显著降低风险。” 克里斯蒂亚诺写
OpenAI推出面向金融服务的ChatGPT，直指华尔街初级银行家工作
OpenAI推出了专为金融服务设计的全新ChatGPT版本，旨在攻克华尔街劳动强度最高的一些任务，包括研究公司、分析财务数据以及生成投资银行家赖以生存的演示文稿。 这款于周四亮相的产品名为“金融服务版ChatGPT”（ChatGPT for Financial Services），是其企业级产品ChatGPT Work的定制版本，由OpenAI与“设计合作伙伴”摩根士丹利和Evercore合作打造
OpenAI 想知道人工智能行业放缓是否合法
据知情人士向《连线》杂志透露，OpenAI 近几周已向国会议员寻求明确指导，询问协调整个行业放缓前沿人工智能开发是否合法。 知情人士称，人工智能实验室之间在安全方面的实质性协调可能触犯反垄断法，这给让大型科技巨头参与这项努力带来了重大障碍。 上周末，OpenAI 首席科学家雅库布·帕霍茨基发表博客文章，认为人工智能研究领域的最佳前进道路包括“协调以减缓未来发展”，他认为这对于确保自我改进的人工智能
OpenAI首席游说代表将在国会山与议员会面
Inside Congress 新闻简报 您了解国会山政治与政策的首选。 注册 2小时前 OpenAI的最高游说者周一前往国会山，与议员们会面，此时全国对人工智能的焦虑情绪弥漫。 公司发言人向POLITICO透露，该公司的首席全球事务官克里斯·勒汉计划与参众两院的两党成员会面，包括领导层成员。 此次访问几天前，OpenAI首席执行官萨姆·奥特曼与Anthropic首席执行官达里奥·阿莫代伊共同呼吁
FT：OpenAI考虑在IPO之前一轮融资获得1.
2万亿美元估值。近期，公司围绕新的资本扩充计划举行了多次对话。
OpenAI又要融资了：1.2万亿美元估值，谁还敢接下一棒？
OpenAI正在就新一轮私募融资与投资者展开初步接触，潜在估值或达1.2万亿美元以上。在已累计募资逾1800亿美元、现有大股东普遍面临资本支出压力的背景下，谁能为这轮融资压阵，成为最大悬念。 本周据The Information报道，OpenAI目前正与投资者就新一轮私募融资进行早期谈判，该公司在此轮融资中的估值可能达到1.2万亿美元或更高。 就在此轮融资消息传出前，OpenAI首席执行官Sam
OpenAI 支持美国国会关于人工智能和生物武器威胁的法案
9月15日：据公司发言人周二表示，OpenAI正在支持美国国会的一系列跨党派法案，该公司称这些法案将有助于防止人工智能模型加速生物武器和合成病毒的威胁。 该发言人表示，ChatGPT的开发者正在支持《生物数据网络法案》、《人工智能就绪生物数据标准法案》和《规模生物学法案》。此前《政客》杂志曾报道了这些支持。 该发言人表示，OpenAI还支持《前沿法案》的一项关键条款，该条款要求领先的人工智
OpenAI寻求国会指导，以确认行业整体减缓AI开发进度的合法性
OpenAI已向国会成员寻求指导，以确认如果各家AI实验室协调一致地减缓前沿AI的开发进度，是否会违反美国反垄断法，特别是《谢尔曼反垄断法》（Sherman Antitrust Act）。 该公司担心，实验室之间在安全领域的协调工作可能会被视为限制产出。 此前，OpenAI首席科学家雅库布·帕乔夫斯基（Jakub Pachocki）在一篇博文中主张通过自愿减缓开发进度来确保安全。 为此，美国国会于
两党众议院二人组欢迎业界支持其人工智能安全提案
共和党籍的两党人工智能安全立法共同提案人表示，他与OpenAI的最高游说者进行了会面，次日该公司便表态支持该法案中的一项关键条款，而这项法案在国会山一直难以取得进展。“我们讨论了采取行动的迫切需要，”加利福尼亚州众议员杰伊·奥伯诺尔特在谈及周一与OpenAI首席全球事务官克里斯·莱汉的会面时对记者表示。“他实际上是在问自己怎样才能帮上忙。所以，我们正在努力规划一条前进的道路。”奥伯诺尔特接着说，“