搜索结果
OpenAI希望咨询顶尖数学家，以避免再次失误
在将一系列引人注目的数学成果转化为声誉危机后，OpenAI正在咨询人类数学家，以寻找一条不那么灾难性的前进道路。 周一，该公司宣布成立一个新的独立数学家小组，负责就其与数学研究及更广泛数学界的互动向OpenAI及其他AI公司提供建议，包括如何呈现和发布新成果。这一突然的举措让许多数学家感到意外。研究人员表示，这是一个良好的第一步，但许多人表示，他们仍然对小组具体将做什么、如何……存在基本疑问。
OpenAI聘请Patreon联合创始人Sam Yam领导创作者产品团队
“我们将与OpenAI的创作者们共同开发，并向他们提供一套新工具的早期访问权限，我认为这些工具对创作者及其社区来说将具有极高的价值，”Sam Yam在The Patreon上写道。Yam于13年前创立了Patreon并担任其技术总监。周二，他宣布加入OpenAI，负责领导创作者产品团队。 两位前Patreon高管也将跟随他加入：产品负责人Drew Rowny和工程负责人Shannon Ma。 据T
OpenAI将让第三方机构更早介入AI模型安全评估
OpenAI计划让第三方机构在人工智能（AI）模型开发周期的更早阶段评估安全风险，此举旨在继续努力应对围绕AI潜在危害的担忧。这家ChatGPT开发商周二将在博客文章中宣布，计划在新AI模型的训练、评估和推出过程中，让外部机构开展技术安全评估。 OpenAI还列出了其认为此类评估要有效开展所需优先关注的事项，包括“强有力的独立机制、科学严谨性、稳健的安全实践和明确的责任”。负责该公司大部分与外部专
OpenAI已开始允许部分客户仅在AI生效时付费
OpenAI已开始允许其部分最大客户仅在其AI实际完成工作时付费。 Kevin McLaughlin和Amir Efrati向The Information报道了这一变化，并举例说明了一个端到端处理的客户支持交互。 该安排仅限于选定的主要客户，而非普遍提供，且OpenAI尚未宣布……
OpenAI发布Astra模型，宣称迎来‘通用人工智能新时代’
Astra发布前几天，OpenAI首席执行官萨姆·奥尔特曼曾称AGI是‘无关紧要的营销术语’。OpenAI总裁格雷格·布罗克曼在公司发布最新模型Astra后宣称，世界已进入通用人工智能的新时代，该模型被其描述为‘全球最智能、最对齐的模型’。 布罗克曼于周四发表上述言论，这家旧金山公司发布该模型仅数周前，其开发中的其他模型发生的一起严重AI安全事件引发了国际关注，并导致Astra的训练暂停。
FT：OpenAI考虑在IPO之前一轮融资获得1.
2万亿美元估值。近期，公司围绕新的资本扩充计划举行了多次对话。
美国人工智能领袖警告联合国：若无全球应对可能面临危险
OpenAI负责人萨姆·奥特曼周三告诉联合国安理会，人工智能的发展使其“好处更加切实，但风险和代价也更加迫在眉睫”。
OpenAI高管：Astra需求太猛，新的Pro订阅或被迫暂停
GPT-6 Astra的发布正在引发一场算力与容量危机。Astra的用户需求已超出历史经验，公司可能不得不暂停新的Pro订阅。 Tibo在X平台发文称，“Astra的需求真的是前所未有。我们已经在拉动所有能拉的杠杆来维持服务，但直到现在，我从未见过任何类似的情况——而我们此前已经经历过非常陡峭的增长。”他表示，首要原则是确保现有用户的服务质量，但如果需求持续，“我们可能不得不暂时暂停新的Pro订阅
Anthropic、OpenAI、谷歌秘密磋商筹建AI安全标准机构
据知情人士透露，早在 Anthropic 首席执行官达里奥・阿莫代伊上周六呼吁 AI 企业协同开展技术测试与审计之前，Anthropic、OpenAI 与谷歌就已经展开磋商，计划携手成立一家 AI 行业标准机构。 知情人士称，OpenAI 首席执行官山姆・奥特曼本周早些时候在公司全员员工大会上表示，他支持设立 AI 行业测试与审计机构，但他认为，主要 AI 实验室必须在美国政府不提供支持的前提下，
OpenAI呼吁美国在全球技术标准制定中发挥领导作用
人工智能巨头OpenAI周一呼吁美国牵头开展一项国际努力，为前沿人工智能制定全球技术标准，包括递归自我改进，即系统能够自主增强自身能力。
OpenAI CEO奥尔特曼联合国演讲：AI可能走向文艺复兴，也可能带来工业革命式动荡
IT之家 9 月 24 日消息，月 23 日，OpenAI CEO 萨姆 · 奥尔特曼（Sam Altman）在联合国安理会就 AI 议题发表讲话，讨论 AI 发展带来的机遇与风险，并呼吁加强国际合作，建立针对前沿 AI 系统的能力评估、风险评估、安全防护和人类监督标准。 他表示，随着 AI 能力的快速提升，相关技术的潜在收益和风险都逐渐变得更加直接且显现。他提出，AI 可能更像一场充满创造力与发
AI丨美国三大科企据报研究成立AI安全标准机构
人工智能安全等问题引起市场关注，The Information报道，美国三大科技企业Anthropic、OpenAI和谷歌正讨论合作成立一个AI安全标准机构。 随着市场对AI模型网络攻击及可控性问题担忧日益加剧，多间AI科技企业已表示关注安全问题，并拟放慢AI发展步伐。报道指，三大机构早于7月时已开会研究有关成立独立机构的事宜，旨在为AI技术测试和审核创建一个协作框架。 Anthropic行政总裁
OpenAI的新安全聘用人员表示，失去对AI的控制将是“灾难性的”，并且“大多数人可能会死亡”
“如果我们构建超级智能而没有更强大的对齐，我预计我们将永久失去对它的控制。如果发生这种情况，那么大多数人可能会死亡。” OpenAI的新安全聘用人员保罗·克里斯蒂亚诺警告说，如果人类失去对AI的控制，将面临灾难性的AI风险。
据彭博新闻社报道，OpenAI正在与Anthropic和谷歌就人工智能安全展开合作。
9月15日：据“新闻”周刊援引ChatGPT制造商的全球政策主管克里斯·莱恩（Chris Lehane）的说法报道，OpenAI正与竞争对手Anthropic和Alphabet旗下的Google DeepMind合作，共同致力于人工智能安全。 在美国主要人工智能实验室的负责人周末团结一致呼吁暂停该技术发展后，全球对人工智能的生存风险的担忧日益加剧。 据报道，莱恩表示，OpenAI已与Anthrop
两党众议院二人组欢迎业界支持其人工智能安全提案
共和党籍的两党人工智能安全立法共同提案人表示，他与OpenAI的最高游说者进行了会面，次日该公司便表态支持该法案中的一项关键条款，而这项法案在国会山一直难以取得进展。“我们讨论了采取行动的迫切需要，”加利福尼亚州众议员杰伊·奥伯诺尔特在谈及周一与OpenAI首席全球事务官克里斯·莱汉的会面时对记者表示。“他实际上是在问自己怎样才能帮上忙。所以，我们正在努力规划一条前进的道路。”奥伯诺尔特接着说，“