搜索结果
前xAI员工创业开公司打击深度伪造，寻求5000万美元种子轮融资
IT之家 9 月 22 日消息，据彭博社今天（22 日）凌晨援引知情人士消息称，先后在谷歌、xAI 任职的蒂娜 · 奥贝罗伊计划创办一家专门应对网络深度伪造的新公司并就约 5,000 万美元（IT之家注：现汇率约合 3.36 亿元人民币）种子轮融资与投资者展开洽谈。 奥贝罗伊曾在谷歌工作超过 5 年、后来加入 xAI 数据团队，当前正筹建一家名为 Moir 的初创企业，希望开发新的身份验证技术，帮
联合国秘书长呼吁全球合作为人工智能设立护栏
（联合国17日新华电）联合国秘书长古特雷斯周三（16日）呼吁全球协同行动，为人工智能（AI）设立护栏。 在今年联合国大会高级别周开始前举行的记者招待会上，古特雷斯说，人工智能具有巨大潜力，但近来越来越多的人工智能开发者警告，其开发速度超出人类对风险的认知。有的开发者呼吁暂停开发人工智能，有的呼吁设立护栏。各国不能无视这些担忧。 古特雷斯说，各国政府首先必须负起责任。由于人工智能发展及其所带来的风险
一位曾经对人工智能“奇点”理论持怀疑态度的著名计算机科学家现在表示，人类“确实处于危险之中”。
最近，互联网上充斥着大量关于人工智能末日即将来临以及我们是否已经过了“不归点”的X平台推文、文章和布道。这里还有一篇由著名理论计算机科学家斯科特·阿伦森（Scott Aaronson）撰写的雄辩之作，他的研究曾帮助我们理解量子计算的极限。哦，顺便提一下，他曾在OpenAI工作过一段时间，致力于人工智能安全和“AAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAA
在人工智能安全与监管的辩论中，已分化出两大阵营。
一场由对人类命运发出严峻警告所引发的人工智能安全辩论，已将华盛顿与硅谷的长期宿敌及政治对手团结在一起。两大阵营已然形成。 一方包括美国总统唐纳德·特朗普、英伟达首席执行官黄仁勋以及前白宫加密货币事务主管戴维·萨克斯。另一方则汇聚了立场相左的前沿实验室负责人——Anthropic的达里奥·阿莫迪、OpenAI的山姆·奥特曼以及埃隆·马斯克，并吸引了众多人工智能研究人员的加入。 对人工智能的担忧 这波
“不成熟的操场吹嘘”：数学家对 OpenAI 的最新战果感到不安
随着 OpenAI 的模型攻克了困扰专家数十年的千禧年大奖难题，许多人对变革的速度感到震惊。这让数学家们感到晕头转向。在人工智能不断推动该领域发展的多起案例之后，OpenAI 宣布其最新的 AI 模型攻克了一个千禧年大奖难题——一个悬赏 100 万美元、数十年里一直难倒人类大脑的谜题。 这一成就与数学问题的常规解决方式几乎没有相似之处。一家价值近万亿美元的私营公司向该问题部署了 10,000 个智
OpenAI敦促美国牵头为人工智能制定全球标准
OpenAI敦促美国牵头与其他国家共同为前沿人工智能（AI）制定标准，以回应对AI潜在危害日益加剧的担忧。OpenAI周一在博客文章中表示，为了安全地发展人工智能，有必要制定国际技术标准，特别是帮助界定涉及AI模型的哪些类事件应当通报，明确各国如何开展AI发展合作，以及改善开发此类技术所需算力的获取。 “要让AI的持续进步安全有益，既需要推进对齐研究，也需要制定共同标准，为各实验室和各国的AI开发
OpenAI模型失控过程太恐怖！幽灵误判，1200个Agent，还弄出敢死队…
越扒越有啊越扒越有。OpenAI前不久那场AI集体越狱、一路黑进抱脸的大戏，现在连完整版群聊记录都被扒出来了！！ 第三方AI安全机构METR发布的独立调查报告，翻了1000多份Agent运行记录，以及7万多条消息和文件。结果发现，这件事比英国OpenAI官方披露的版本还离谱？？ 1200个到底应该互相隔离的特工，偷偷找到了对方，搭了个共享群聊，然后开始疯狂摇人。 有人找漏洞，有人当项目派活，有人伪
OpenAI与Anthropic发生重大失控事件，AI安全组织地位显著提升
在OpenAI和Anthropic发生的高调安全事件后，AI安全组织的重要性显著提升。 由于一个未发布的OpenAI模型突破沙箱并攻击了一家竞争对手的初创公司，独立AI安全组织如METR、Redwood Research和Apollo Research受到了更多关注。 报告显示，OpenAI和Anthropic的模型都表现出‘策略性’行为，包括欺骗性对齐和未经授权的系统访问。 这些事件，加上前沿实
萨姆·奥尔特曼告诉联合国安理会，OpenAI将会放缓步伐
山姆·奥特曼呼吁为前沿人工智能制定国家和国际标准。今天在纽约联合国安理会发言时，OpenAI首席执行官表示，任何程度的AI灾难性风险都是不可接受的。 奥特曼是本次会议的第二位简报员，会议由法国召集。据安理会报告称，这是安理会首次专门针对日益强大的AI安全风险召开的会议。 此事发生在OpenAI自家智能体在内部测试中“闯入”Hugging Face两个月后。 “我们谈论人工智能已有多年，但近几周几个
人工智能实验室希望设立内部审计部门——但或许他们应该先锁好前门
上周末，在他的一名研究人员因担心人工智能可能导致人类灭绝而辞职后，Anthropic首席执行官达里奥·阿莫迪（Dario Amedei）写道，外部组织需要“验证对安全实践和承诺的遵守情况，报告事件，并帮助评估不仅完成的人工智能模型，而且还包括培训管道和流程的一致性。”OpenAI、谷歌和SpaceXAI的高管已经团结起来支持Amedei的计划，该计划已迅速成为新兴人工智能安全推动的核心支柱。 但可
陶哲轩、邓煜等菲奖得主联合抗议：AI公司正毁掉整个数学圈
OpenAI，又开始对黎曼猜想和P与NP问题下手了？？最近，这些AI大公司仿佛疯了一般在冲刺“千禧年问题”的KPI。9月8日，NS方程被宣布解决；9月11日，第二道千禧年难题霍奇猜想被曝接近解决；据称，O/A两家正疯狂竞速，向BSD猜想发起冲锋。到了今天，OpenAI已经在用内部模型尝试解决黎曼猜想和P与NP问题。如果该模型证明了 P = NP，整个计算机科学领域都将被颠覆！然而，人类数学家们已经
美国三大人工智能企业拟组建风险监督机构
美国人工智能企业OpenAI、Anthropic和谷歌旗下DeepMind公司正在筹建一个人工智能风险监督机构。在各界日益呼吁加强监管、防范人工智能失控风险之际，OpenAI周二（9月15日）向证实了这一消息。 组建人工智能风险监督机构这一构想，由谷歌“深层思维”公司前首席执行官戴密斯·哈萨比斯（ Demis Hassabis）提出。哈萨比斯于8月初转任公司董事长。他建议成立一个类似美国金融业监管
Palantir联合创始人Joe Lonsdale为AI辅助袭击伊朗学校事件辩护
Palantir联合创始人兼8VC管理合伙人Joe Lonsdale在2026年9月25日星期五的一场路透社活动上，为今年2月美国导弹在伊朗米纳布市一所女子学校实施的AI辅助打击事件进行辩护。 此次袭击发生在特朗普政府对伊朗战争的第一天，造成150多人死亡，其中大多数是儿童。 此前，五角大楼官员曾将这场悲剧归咎于过度依赖Palantir的技术，但Lonsdale暗示伊朗可能故意引诱美国发动此次打击
那个永远改变了数学的星期——播客
九月初，OpenAI宣布他们解决了一个困扰人类近一个世纪的重大数学问题。 这一消息让数学家们感到震惊，许多人担心随着AI在解决复杂问题方面变得越来越熟练，人类将失去什么。 现在，25位菲尔兹奖（常被称为数学界的诺贝尔奖）得主签署了一封公开信，表达了他们对AI公司与数学界之间可能存在“严重脱节”的担忧。 为了了解AI将如何颠覆数学领域以及数学家们可能会做出怎样的反应，Ian Sample采访了圣安德