搜索结果
美国三大人工智能企业拟组建风险监督机构
美国人工智能企业OpenAI、Anthropic和谷歌旗下DeepMind公司正在筹建一个人工智能风险监督机构。在各界日益呼吁加强监管、防范人工智能失控风险之际，OpenAI周二（9月15日）向证实了这一消息。 组建人工智能风险监督机构这一构想，由谷歌“深层思维”公司前首席执行官戴密斯·哈萨比斯（ Demis Hassabis）提出。哈萨比斯于8月初转任公司董事长。他建议成立一个类似美国金融业监管
AI丨美国三大科企据报研究成立AI安全标准机构
人工智能安全等问题引起市场关注，The Information报道，美国三大科技企业Anthropic、OpenAI和谷歌正讨论合作成立一个AI安全标准机构。 随着市场对AI模型网络攻击及可控性问题担忧日益加剧，多间AI科技企业已表示关注安全问题，并拟放慢AI发展步伐。报道指，三大机构早于7月时已开会研究有关成立独立机构的事宜，旨在为AI技术测试和审核创建一个协作框架。 Anthropic行政总裁
报道：Google、OpenAI和Anthropic拟组建前沿AI标准机构
The Information援引知情人士报道，谷歌、OpenAI和Anthropic正在推进一项成立人工智能（AI）安全标准机构的计划，该机构将不受政府监督。目标是在今年底前或2027年初启动。 暂定计划是将这一自律组织命名为“前沿AI标准机构”（Standards Authority for Frontier AI）。工作组成员已接洽数位“知名”人士担任首席执行官。接洽对象包括前风险投资人、曾
Anthropic、OpenAI、谷歌秘密磋商筹建AI安全标准机构
据知情人士透露，早在 Anthropic 首席执行官达里奥・阿莫代伊上周六呼吁 AI 企业协同开展技术测试与审计之前，Anthropic、OpenAI 与谷歌就已经展开磋商，计划携手成立一家 AI 行业标准机构。 知情人士称，OpenAI 首席执行官山姆・奥特曼本周早些时候在公司全员员工大会上表示，他支持设立 AI 行业测试与审计机构，但他认为，主要 AI 实验室必须在美国政府不提供支持的前提下，
AI风险丨谷歌OpenAI和Anthropic传成立安全标准机构
谷歌、OpenAI和Anthropic传成立AI安全标准机构。(路透资料图片) 外电引述消息人士报道，谷歌(Google)、OpenAI和Anthropic正推进一项计划，筹建一个新人工智能(AI)安全标准机构，暂定名称为「前沿人工智能标准机构」(SAFA)，目标是在2026年底或2027年初启动，并在没有政府直接监督的情况下独立运作。 消息指出，该机构计划为前沿AI模型制定自愿性的安全和安全保障
OpenAI、谷歌和Anthropic将于2027年初前成立人工智能安全组织：报道
在关于人工智能风险的激烈辩论中，据报道，OpenAI、Anthropic 和 Google 正计划合作成立一个 AI 安全组织。据 The Information 报道，这些 AI 巨头可能会在 2027 年初启动该项目。这个自律性组织暂定名为“前沿 AI 标准局”。 此计划的提出，距离前 Anthropic 研究员 Jacob Coxon 对 AI 公司敲响警钟仅数周时间，他声称 Claude
顶尖人工智能公司正在寻求监管。以下是国会可能不会给予的原因。
随着人工智能游说阵营开始接受强制性独立审计，批评者警告称存在利益冲突和“监管俘获”的风险。OpenAI周二表态支持一项日益流行的提案，旨在应对人工智能的危险——该提案要求顶尖AI开发商嵌入独立监督机构，以确保其产品安全。 这一想法仍面临障碍，包括一位关键议员的抱怨，称独立监督机构权力太弱，无法施加有意义的改变。 其他批评者，包括风险投资家、学者以及唐纳德·特朗普总统的前人工智能事务负责人，对一些监
随着对人工智能的担忧加剧，OpenAI、Anthropic和谷歌正在商讨建立一个标准机构。
全球最大的AI公司正致力于创建一个新的行业标准机构，OpenAI于周二表示，此举正值人工智能风险引发的担忧日益加剧，要求加强监管和推动技术更安全发展的压力不断增大。 全球最大的AI公司正在着手创建一个标准机构，ChatGPT的开发者OpenAI于周二表示，眼下人们对AI危险的担忧日益上升，并且面临创造更安全版本技术的压力。 阅读更多扎克伯格在AI宣言中设想为每个人实现“超级智能” OpenAI表示
消息称扎克伯格与特朗普通话 反对建立全国AI监管机构
据《商业内幕》报道，Meta CEO马克·扎克伯格(Mark Zuckerberg)上个月在一次此前未被报道的电话中，向美国总统特朗普表达了对建立全国性AI监管机构计划的担忧。此举标志着这位全球顶尖科技企业高管参与到了一场充满争议的白宫AI政策辩论中。 扎克伯格与特朗普在美国建立AI监管机构的计划，由诺贝尔奖得主、谷歌DeepMind科学家德米斯·哈萨比斯(Demis Hassabis)推动，并得
美参院拟赋权政府 阻止危险AI模型发布
。目前这仍是正在讨论中的提案，而非已正式提出或通过的法案。
万斯谈美国AI新动向：好奇怪，看起来像特洛伊木马
美国多家人工智能（AI）巨头近来联合呼吁放缓AI的发展，实施必要的监管，以管控风险。但是美国总统特朗普认为这没有必要，美国必须保持在AI领域的领先地位。美国副总统万斯也认为，这些监管要求像是“特洛伊木马”。 据美国哥伦比亚广播公司（CBS）9月15日报道，“这确实是我们关注的问题，但我们希望确保监管措施既明智又审慎，并充分考量其中的风险。显然，AI带来了风险，也带来了诸多益处。” “坦白说，那么多
华尔街日报：传黄仁勋等科技大咖游说川普挡AI监管
（中央社华盛顿18日综合外电报导）英国「独立报」引述华尔街日报报导，包含黄仁勋在内的科技业执行长据说曾游说美国总统川普，反对建立针对人工智慧的新联邦管制措施。 据报导，Google DeepMind执行长哈萨比斯和Anthropic执行长阿莫戴近日提议成立专责机构监督AI安全后，引发业界部分反弹声浪。 川普在自家社群媒体平台「真实社群」发文称AI安全疑虑是一场「骗局」，他说若实施严格管制，将使中国
Anthropic和埃森哲豪掷20亿美元搞AI安全评估
IT之家 9 月 20 日消息，人工智能实验室 Anthropic 于当地时间周五宣布，将与埃森哲开展合作，针对自身前沿人工智能模型开展独立评估；两家企业承诺，未来五年各自至少投入 10 现汇率约合 67.18 亿元人民币），搭建开展该项工作所需的配套能力。 在这项合作落地之际，AI 研发企业正承受来自监管机构、其他企业以及研究人员越来越大的压力，各方都要求企业保证高级模型具备安全性与可靠性。 近
AI安全风险引爆担忧？Palantir CEO建议：领先AI实验室恐需“国有化”
当地时间周四，人工智能软件公司Palantir的首席执行官Alex Karp呼吁制定人工智能监管的“合理准则”，但他表示，由于该技术“无限风险”带来的责任，可能需要实行国有化。 “我认为这些企业必须国有化，因为如果不国有化，我的每一个客户都会起诉我，”他在接受最新采访时表示。 在上述采访中，Karp反复提及构建这项强大技术所带来的风险和责任，进一步论证了将人工智能实验室国有化以及对“不负责任”的技
OpenAI、Anthropic和谷歌就人工智能安全问题已进行了数周的讨论。
OpenAI 全球政策主管克里斯·莱恩（Chris Lehane）周二告诉记者，该公司数周来一直与竞争对手 Anthropic 和 Google DeepMind 合作，共同应对人工智能安全问题，这是《华尔街日报》首次报道的。据报道，莱恩正在华盛顿与美国议员合作，处理与人工智能相关的灾难性风险。 此前，Anthropic 首席执行官达里奥·阿莫代（Dario Amodei）于周六发表了一篇题为《人
OpenAI、Anthropic呼吁建立全球AI安全标准 美国政府拒绝新增全球治理框架
OpenAI、Anthropic和Hugging Face的负责人在联合国共同呼吁加强人工智能领域的国际协调，希望各国建立可相互比较的AI能力评估、安全测试和事故报告标准。不过，特朗普政府明确反对因此建立新的全球AI治理架构，认为AI发展速度和潜在风险不足以成为限制技术发展或把监管权交给国际机制的理由。 这场分歧显示，随着前沿AI能力快速提升，美国领先AI企业与特朗普政府在安全风险本身上并非完全对
Anthropic和OpenAI推动安全举措，可能给竞争对手筑起“监管高墙”
顶级人工智能公司近期推动彼此之间以及与美国政府在人工智能保障措施上的协调，这可能会使小型企业更难在利润丰厚的市场中竞争，据初创企业高管和行业观察人士称。 Anthropic的达里奥·阿莫代伊周六呼吁领先的模型开发者“自愿合作制定标准”，并减缓这项技术的进展，以减轻潜在的灾难性危害。他还敦促制定覆盖“甚至那些不愿自愿合作者”的监管规定。尽管这一提议迅速得到行业领袖OpenAI和SpaceXAI的认可
特朗普政府设立新型 AI监管机构的行政令陷入停滞
据两名看过草案的知情人士透露，特朗普政府近几周在内部传阅一份行政令草案，提议为顶尖大模型 AI 企业设立一家行业自律监管组织。起草这份行政令，是朝着落地该监管机构迈出的重要一步，但项目仍面临重大阻碍。这份行政令想要定稿，还需要包括总统在内的一众高级官员的认可；另外三名知情人士表示，近期相关推进工作已经陷入停滞。美国总统唐纳德・特朗普于 3 月在白宫仪式上签署文件。 该构想源自上个月谷歌 DeepM
OpenAI首席执行员下周赴安理会作简报
阿尔特曼下周将到联合国安理会进行简报。（图：路透社） （华盛顿19日法新电）OpenAI周五表示，该公司首席执行员阿尔特曼将于下周在联合国大会期间，向联合国安全理事会作简报。 此次会议由国安理会轮值主席国的法国组织召开，此前该行业的主要参与者曾表示，出于安全考虑，可能有必要放缓人工智能的发展步伐。 随着人们对这项快速发展的技术所带来的危险的担忧日益加剧，联合国秘书长古特雷斯周三呼吁采取协调一致的国
美国正在考虑制定关于人工智能安全方面的反垄断指导方针，美国司法部高级官员表示
美国副司法部长斯坦利·伍德沃德表示，特朗普政府正在考虑是否更新有关网络安全的机构间反垄断指导，以应对人工智能构成的新一波威胁。 伍德沃德周四在纽约举行的一次活动上表示，现有的指导方针明确了公司可以在不违反禁止反竞争行为的规则的情况下协调黑客风险的程度。虽然硅谷领导人最近几天呼吁豁免反垄断审查，以便他们能够在安全问题上合作，但伍德沃德表示，到目前为止，还没有人就此事联系他的办公室。 该部门三号官员、
中美拟建立高危人工智能事件通报机制 以防范重大国家安全风险
尽管美中两国在诸多领域存在战略竞争，但据科技媒体报道，美国正寻求与中国建立一套安全通报机制，以便在发生可能引发严重国家安全威胁的人工智能危险事件时向对方发出预警。 这一设想由大西洋理事会与安全探索国际组织联合提出。该机制的核心目标在于，通过设立专门的预警渠道，确保两国能够在严重人工智能安全事件演变成地缘政治危机或军事冲突前及时取得联系。报道指出，由于人工智能技术的快速演进，自动化系统极有可能在不受
花旗将美国股票风险评级下调至中性，警告人工智能发展放缓或抑制盈利预期
人工智能一直是今年企业盈利增长的重要推动力，但花旗集团警告，大型语言模型主要开发商呼吁放慢人工智能发展速度，以应对安全问题，这可能会削弱人工智能对企业盈利的推动作用。 随着大型人工智能公司的负责人表示，出于安全考虑，应当放慢人工智能技术进展，股市可能迎来动荡开局，科技股预计将拖累市场低开。 人工智能行业领袖最新发出的警告，也是花旗对美国股市转趋谨慎的重要原因之一。 花旗美国股票交易策略主管斯“我们
Anthropic，OpenAI提出的AI风险评估器可能没有足够的力量来防止灾难
人工智能领域最重要的新职位可能配有办公室工牌、公司笔记本电脑，并能接触Anthropic、OpenAI等AI领军企业大语言模型中最受严密保护的一些系统。但这个职位可能并不附带阻止它们的能力。 Anthropic首席执行官达里奥·阿莫代伊提议在前沿AI公司内部常设第三方安全评估人员，作为减缓能力日益强大的模型推进速度计划的一部分。此前，Anthropic前研究员雅各布·考克森辞职并警告称，前沿实验室
标普与大摩示警：AI投资真实风险被低估
信用评级机构标普全球与知名投行大摩（Morgan Stanley）分别发布报告，从信用评级和会计披露两个角度，指出科技巨头未来AI（人工智能）支出最高达到7万亿美元，但传统财务报表可能严重低估了真实风险。 标普全球评级（S&P Global Ratings）在9月3日发布了信用展望报告...