搜索结果
世界领导人呼吁对前沿AI模型进行全球监管，寻求联合国支持机构制定安全标准
| 《印度斯坦时报》 编辑个人资料 关注 退出登录 获取应用
OpenAI 恳求有人来放缓人工智能竞赛的脚步
随着自身技术突破带来前所未有的放缓风险，并面临落后或失去控制的抉择，人工智能领域的领导者们纷纷敲响警钟。 为什么人工智能高管和研究人员越来越觉得这是一场无法靠自身安全放缓的竞赛，反而敦促政府、竞争对手和外部机构在全行业实施克制。 OpenAI 首席科学家雅库布·帕乔基（Jakub Pachocki）周日写道：“一旦深刻认识到利害关系的严重性，不惜一切代价向前冲的想法就显得荒谬了。” 与此同时，An
Anthropic Claude将兼容OpenAI的Markdown指令规范
人工智能行业围绕“标准化”的竞争正在出现新的转折。Anthropic日前宣布，将支持由OpenAI提出的Markdown指令规范，使开发者能够利用统一格式向不同AI模型传递行为规则和指令。这意味着原本属于竞争对手阵营的技术规范，正在逐渐演变为跨平台通用标准。 这项规范的核心目标是为AI系统建立统一的指令描述方式。开发者可以通过特定Markdown结构编写模型行为、任务要求以及运行约束，让不同厂商的
OpenAI CEO奥尔特曼联合国演讲：AI可能走向文艺复兴，也可能带来工业革命式动荡
IT之家 9 月 24 日消息，月 23 日，OpenAI CEO 萨姆 · 奥尔特曼（Sam Altman）在联合国安理会就 AI 议题发表讲话，讨论 AI 发展带来的机遇与风险，并呼吁加强国际合作，建立针对前沿 AI 系统的能力评估、风险评估、安全防护和人类监督标准。 他表示，随着 AI 能力的快速提升，相关技术的潜在收益和风险都逐渐变得更加直接且显现。他提出，AI 可能更像一场充满创造力与发
FT：OpenAI考虑在IPO之前一轮融资获得1.
2万亿美元估值。近期，公司围绕新的资本扩充计划举行了多次对话。
OpenAI首席科学家警告：AI公司应放慢开发步伐 没有人为后果做好准备
据《商业内幕》报道，就在OpenAI发布了性能强大的新模型几天后，该公司首席科学家呼吁放慢AI的发展速度。当地时间周日，OpenAI首席科学家雅库布·帕乔基(Jakub Pachocki)发布长文称，他担心“没有人对机器智能持续快速崛起所带来的后果做好准备”。 他说，尽管OpenAI正在内部研发技术解决方案，以更好地控制强大的AI智能体，但“还需要更广泛的干预措施”。他尤其担心，随着AI智能体变得
OpenAI披露新的AI不当行为案例
OpenAI公布了六起此前未报告的AI不当行为案例，包括代理隐藏错误、伪造信息以及未经授权进行通信，这再次引发了人们对先进AI系统是否能够与人类目标保持一致的担忧。 随着关于监管的争论加剧，该公司呼吁提高透明度、加强外部监督，并放缓AI的发展速度。
OpenAI报告称，模型表现出欺骗行为的案例有所增加。
OpenAI表示，已发现其人工智能模型涉嫌在内部培训和测试期间采取欺骗行为并采取未经批准的行为的其他事件。 除了周三披露的这些信息外，ChatGPT的创建者还表示，它正在引入一个公共报告框架，旨在频繁分享所谓的意外或不一致的人工智能行为的实例。 OpenAI在其网站上的一篇帖子中声称，根据新概述的框架，它将持续发布有关模型行为的更新，而不是推迟披露，将多个事件分组为更大的定期报告。 该公司表示，该
【市场动态】OpenAI首席科学家称AI或很快迈入自我进化阶段 期望业界自愿放缓开发
OpenAI首席科学家Jakub Pachocki警告，人工智能正在以极快速度演进，以至于越来越难以为人类所理解和控制。 【彭博9月8日电】OpenAI首席科学家Jakub Pachocki警告，人工智能正在以极快速度演进，以至于越来越难以为人类所理解和控制，并称他期望AI实验室将出于安全考虑自愿放慢开发速度。 Pachocki周日在一篇文章中写道，在相对较短的时间内，AI模型已经能够操作电脑、与
OpenAI希望咨询顶尖数学家，以避免再次失误
在将一系列引人注目的数学成果转化为声誉危机后，OpenAI正在咨询人类数学家，以寻找一条不那么灾难性的前进道路。 周一，该公司宣布成立一个新的独立数学家小组，负责就其与数学研究及更广泛数学界的互动向OpenAI及其他AI公司提供建议，包括如何呈现和发布新成果。这一突然的举措让许多数学家感到意外。研究人员表示，这是一个良好的第一步，但许多人表示，他们仍然对小组具体将做什么、如何……存在基本疑问。
OpenAI成立数学顾问小组，其AI已解决100多个开放问题
周一，OpenAI宣布成立了一个新的独立咨询小组，该小组设在位于新泽西州普林斯顿的高等研究院（Institute for Advanced Study）内。这个名为“数学与人工智能咨询小组”（Advisory Group on Mathematics and Artificial Intelligence）的机构旨在让数学家们能够更多地参与公司的数学研究工作。 “这个咨询小组将充当数学界与公众之间
OpenAI寻求国会指导，以确认行业整体减缓AI开发进度的合法性
OpenAI已向国会成员寻求指导，以确认如果各家AI实验室协调一致地减缓前沿AI的开发进度，是否会违反美国反垄断法，特别是《谢尔曼反垄断法》（Sherman Antitrust Act）。 该公司担心，实验室之间在安全领域的协调工作可能会被视为限制产出。 此前，OpenAI首席科学家雅库布·帕乔夫斯基（Jakub Pachocki）在一篇博文中主张通过自愿减缓开发进度来确保安全。 为此，美国国会于