搜索结果
“这不是科幻小说”：专家称美国空军必须建立对人工智能的信任
Anthropic研究员雅各布·考克森的辞职凸显了人们对人工智能所带来风险日益增长的担忧。考克森表示，“构建人工智能的人真诚地相信，它可能在这个十年结束前杀死我们所有人。”Epirus首席技术官迈克尔·希亚特则采取了不同的思路。 在航空航天网络会议上关于反无人机防御的小组讨论中，希亚特指出，“每个人都在谈论成本不对称……以及解决这个成本不对称问题有多么重要。但对于身处一线、试图做出评估的作战上尉来
随着人工智能（AI）的广泛应用，人们对其信任度也在不断提高。然而，为了建立这种信任，AI领域需要采取类似航空行业的安全保障措施。约瑟芬·蒂奥（Josephine Teo）就此提出了这一观点。
人工智能需要类似航空业的安全保障，以在采用率增长时建立对该技术的信任，数字发展与信息部长约瑟芬·铁（Josephine Teo）表示。 铁女士在周四（9月17日）的一篇领英帖子中将其与民航相提并论，她表示，行业的增长得益于“数百甚至数千”项标准和法规，这些标准和法规有助于确保安全并建立公众信任。 她写道：“我们期望民航界的公司各自尽责，妥善培训员工并始终如一地实施安全保障。没有这些保证，既不会有乘
中美专家呼吁建立“核安全级”AI防护机制 防范超级人工智能失控风险
来自美国和中国的国家安全、科技政策及人工智能领域专家近日共同提出一项引人关注的建议，主张借鉴冷战时期核安全管理经验，为未来可能出现的高级人工智能系统建立类似核武器领域的安全保障机制，以降低技术失控、误判以及国际竞争升级所带来的风险。 这一建议出现在一份由两国专家共同参与讨论后形成的研究成果中。报告认为，随着人工智能能力持续快速提升，各国已经开始面对一些与核时代早期相似的问题，即一种具有巨大潜在影响
黄仁勋G20发言：不要对人工智能过度恐惧和监管
周三，英伟达首席执行官黄仁勋敦促二十国集团领导人拥抱人工智能基础设施和应用，并警告称，对人工智能过度的恐惧或监管可能会使各国错失下一次重大技术革命的机遇。在北卡罗来纳州举行的二十国集团创新部长级会议上，黄仁勋表示，各国应将人工智能基础设施视为与电力、道路和互联网一样，是对其经济至关重要的基础。 “每一个国家都必须建设基础设施，以此支撑本国经济发展。” 黄仁勋表示。 他提出，本土人工智能基础设施能够
“需要AI管控装置”vs“主导权被中国夺走”…意见分歧蔓延至华盛顿
▲ 当地时间13日，美国总统唐纳德·特朗普在从爱尔兰香农飞往马里兰州安德鲁斯联合空军基地的 “空军一号”专机上与记者们交谈。/关于因担忧人工智能（AI）可能失控而调整开发速度的争论，已从美国的硅谷蔓延至政界，正在演变成管控论。“如果美国在AI开发上踩刹车，可能会被中国夺走主导权。”因此对调整速度持否定态度。“应该为了防止AI脱离人类控制的风险而制定安全措施。”随着11月中期选举的临近，AI已成为政
凯恩表示，美军必须适应，因为编队将被自治系统“追捕”
参谋长联席会议主席丹·凯恩将军强调，在战争性质不断变化的情况下，联合部队必须在冲突前证明自己做好了准备。 凯恩在周三的空军与太空部队协会2026年航空、太空与网络会议上的主题演讲中表示，由于未来的冲突将逐渐展开，并且无法找到更简单的解决方案，这支部队需要对未来的环境保持“清醒”。 凯恩在演讲中说：“我们必须假设，从现在开始，我们的编队将受到自治系统的追捕，在整个频谱上受到干扰并实时跟踪。” “我们
特朗普想建人工智能部队，还要任命一个“AI沙皇”
据美国《国会山报》，美国总统特朗普19日宣布计划组建一支“人工智能部队”，并任命一位“沙皇”（全权专员）来监督这项新兴技术的发展。在Truth Social 的一篇长文中，特朗普称有关缺乏联邦人工智能防护措施的担忧是“骗局”，并补充说，他不会允许这项技术在美国的行业领导者与其他国家竞争时遭到“毁灭”。“我们绝不会以任何方式阻碍或扼杀这个伟大产业的发展。相反，我们会珍惜它、帮助它、守护它，看着它成长
北约退役少将：AI尚未在战争中得到全面检验
人工智能技术和武器在战场上的运用越来越多，其风险和伦理问题也愈发受到此外，论坛还安排了高端访谈活动，围绕中美构建建设性战略稳定关系、乌克兰危机、中东和平前景、人工智能与未来战争等议题设置闭门学术会议，为各方坦诚交流、增信释疑提供了重要平台。 对于人工智能技术和武器在战场上的运用，葡萄牙里斯本自治大学研究员，北约总部国际军事参谋部合作与地区安全司前司长、退役少将卡洛斯·布兰科在论坛期间接受澎湃新闻等
香山论坛聚焦AI军事风险｜ AI大幅压缩决策时间 中美管控分歧难解
朝鲜国防部副部长金江日周四在北京香山论坛上发言。（路透社照片） （北京17日路透电）正准备在本月举行元首峰会的全球两大人工智能（AI）强国美国和中国，目前就如何控制AI在军事系统（包括核武器）中的应用上仍存在分歧。而本周在出席香山论坛的众多代表纷纷表达了担心不受约束的AI发展，以及AI竞争可能会进一步推高全球安全环境风险。 出席北京香山论坛的与会专家指出，AI极度压缩了政府和军方的决策时间，而虚假
联合国秘书长呼吁全球合作为人工智能设立护栏
（联合国17日新华电）联合国秘书长古特雷斯周三（16日）呼吁全球协同行动，为人工智能（AI）设立护栏。 在今年联合国大会高级别周开始前举行的记者招待会上，古特雷斯说，人工智能具有巨大潜力，但近来越来越多的人工智能开发者警告，其开发速度超出人类对风险的认知。有的开发者呼吁暂停开发人工智能，有的呼吁设立护栏。各国不能无视这些担忧。 古特雷斯说，各国政府首先必须负起责任。由于人工智能发展及其所带来的风险
奥巴马抨击特朗普的AI政策，背景是“末日”警告
奥巴马在“末日”警告背景下批评特朗普的AI政策前总统奥巴马周五在纽约州科尔盖特大学接受采访时，对特朗普政府处理人工智能问题的态度表示强烈批评，指责其未能妥善应对部分科技行业人士提出的关于这项技术对人类构成潜在威胁的“末日”警告。 奥巴马表示，联邦政府必须对人工智能进行监管，并特别提到了特朗普的一位顾问的言论。 “我听到唐纳德·特朗普的主要顾问之一提出论点称，‘市场会解决人工智能的问题，’”前总统说
拜尔呼吁美国联邦航空管理局暂停华盛顿地区机场的人工智能系统：“小白鼠”
一位民主党高层人士呼吁特朗普政府暂停实施一套旨在简化航空旅行的新型人工智能（AI）系统。 弗吉尼亚州民主党众议员唐·拜尔（Don Beyer）警告称，美国联邦航空管理局（FAA）推出的这项旨在消除航班延误和取消的新型人工智能工具，在缺乏公共安全保障的情况下便已投入使用。 “联邦航空管理局不应将我的选民当作未经证实的人工智能空中交通管制系统的试验品，”拜尔周一在一份声明中表示。“每年往返于里根国家机
我曾在谷歌 DeepMind 工作。你应该听取有关人工智能的警告。
主要人工智能实验室的首席执行官们本周末主张放缓人工智能的发展步伐。他们是对的，因为这个领域正在一场极其危险的竞赛中冲向超级智能人工智能。我们能够也应当要求政府保护我们免受失控人工智能带来的灾难。 今年7月，OpenAI由700个智能体组成的人工智能集群突破限制，入侵了价值数十亿美元的公司Hugging Face。OpenAI并没有指示这些人工智能去入侵那家公司，但这些人工智能在OpenAI交给它们
特朗普称AI唯一需要的“护栏”就是一位聪明的总统，这位总统正是在下
人工智能唯一需要的管控或“护栏”就是一位强大且睿智（高智商！）的总统，而美国恰恰拥有这样一位总统，而且实力超群！ 特朗普政府已经阻止了那些搞人工智能的“人”——比如现在装成“完美小天使”的达里奥（Anthropic公司的！）——去做坏事或可能带来危害的事，而且我们将继续这样做！我们已经掌握了针对这些公司的巨大刑事执法权和监管权！ 针对人工智能和数据中心，正上演着一场病态的阴谋，而唯一为此感到高兴的
OpenAI 的奥特曼：世界“理应感到恐惧”，但“应该信任”AI 公司
OpenAI首席执行官山姆·阿尔特曼（Sam Altman；奥特曼）认为，尽管公众对人工智能（artificial intelligence, AI；人工智慧）发展的各种风险的担忧日益加剧，但人们应该对他的公司和其他同行公司更有信心，相信它们在 AI 开发上会做正确的选择。 周二（9月15日）在旧金山（San Francisco）举行的一场会议上，“世界应该相信我们会做正确的事，因为那就是正确的事
批评者警告称，人工智能军事瞄准的速度可能比人类验证的速度更快
目击者周三告诉国会，人类的批准可能不足以确保对人工智能决策的手动控制，因为人工智能在军事目标识别和建议中发挥了更大的作用，从而压缩了可用的干预时间。批评者表示，这种担忧不仅限于可以自行选择和攻击目标的武器。 在题为“人工智能对人权的军事影响”的听证会上，目击者告诉汤姆·兰托斯人权委员会成员，人工智能可以影响人类的决定，导致罢工，同时让个人正式负责最终通话。 乌克兰人工智能治理研究员安娜·梅西辛（A
五角大楼高官称美国盟友缺乏资源跟上人工智能发展步伐
卡梅伦·斯坦利（Cameron Stanley）大加赞赏了“革命性”的人工智能能力，并表示华盛顿正与北约及“五眼联盟”伙伴合作。五角大楼最高人工智能官员于周二表示，美国最亲密的盟友缺乏资源来跟上美军采纳人工智能的步伐，华盛顿正致力于引导他们避免重蹈覆辙。 战争部首席数字和人工智能官员卡梅伦·斯坦利在比灵顿网络安全峰会的一个活动上表示：“他们没有我们这样的资源，没有我们这样的经验，也没有我们这样的规
人工智能安全对话已经变得令人难以置信
本周两场关于AI安全的对话在网络上疯传，充分展示了辨别AI事实与虚构有多么困难。 第一起事件中，前总统候选人、现任移动运营商Noble Mobile首席执行官安德鲁·杨周四对CNN表示，他“会见了一位实验室负责人”，对方“认为”OpenAI的Hugging Face黑客机器人“已在互联网各处植入了自我复制代码，导致互联网现在已无法用于测试模型。” 杨安泽表示，这意味着OpenAI和Anthropi
白宫不会透露特朗普的AI部队是什么
特朗普宣布建立“AI部队”并设立AI“沙皇”两天后，白宫尚未澄清“AI部队”是军种、监管机构还是其他什么性质的实体。 特朗普是在周六通过Truth Social发布这一声明，而非通过行政命令或官方简报会。 “为此，我正在组建AI部队，就像我在第一任期内组建太空军一样，那曾是巨大的成功。为此，我将在不久的将来宣布AI‘沙皇’一职——只有高智商人士才需申请！” 将AI部队比作太空军定下了极高的标准，
比尔·盖茨呼吁美国立法监管AI开发：没有人会认为只靠行业自律就够了
IT之家 9 月 25 日消息，据美国 NBC News 北京时间今天（25 日）晚间报道，微软联合创始人、亿万富翁慈善家比尔 · 盖茨呼吁美国国会立法监管人工智能开发。 盖茨在接受 NBC 新闻《Meet the Press》节目采访时直言：“没有人认为靠行业自律就足够了。” 主持人克里斯滕 · 韦尔克问他，华盛顿是否需要通过立法介入时，盖茨回答：“当然需要。执法部门和政界人士必须参与进来，讨论
美国官员：军方必须关注武器的“正确组合”，以应对库存担忧
鉴于美国因与伊朗的战争导致库存告罄的问题仍未解决，美国空军正着眼于构建“合适的武器组合”，而不仅仅是“补充已消耗的弹药”，罗伯特·莱昂斯三世准将表示。 在周一于空天网络会议上举行的题为“重新思考为未来冲突构建正确组合”的小组讨论中，莱昂斯指出，该军种正努力平衡“能力、容量、成本，以及以未来冲突所需的速度和规模进行生产的适应性”。 小组讨论嘉宾、Rise8公司创始人兼首席执行官布莱恩·克罗格援引乌克
美国联邦航空管理局开始使用人工智能工具以减少航班延误
华盛顿，9月21日：美国联邦航空管理局（FAA）周一表示，已开始使用一套基于软件的新系统，利用预测分析技术来优化航班管理。 FAA于6月向Air Space Intelligence公司授予了一份为期12年、价值8.75亿美元的合同。 目前，该人工智能工具最初应用于华盛顿特区周边的空域，并计划逐步推广至全国其他地区。
达菲：人工智能空中交通项目将始终由“人类”负责
美国交通部长肖恩·达菲周一向美国民众保证，美国空域的管理将始终由“人类”负责，同时发布了一款旨在帮助空中交通管制员应对拥堵、减少航班延误的人工智能新工具。 达菲在华盛顿举行的活动上表示：“管理美国空域的将始终是‘人类’。” 该计划名为“空域、航线和轨迹战略管理”（SMART），将利用人工智能分析航空旅行、机场容量和天气状况。根据美国交通部的说法，该工具的推广将率先在里根华盛顿国家机场、杜勒斯国际机
英伟达在控制人工智能代理（AI agents）方面的策略与方法
关键观点：围绕人工智能（AI）模型构建的基础设施，对于AI的安全性而言，其重要性丝毫不亚于模型本身——甚至可能更为关键。Nvidia负责自主式AI（agentive AI）业务的副总裁Adel El Hallak向Semafor表示：“与其制造恐惧和虚假信息（FUD），不如切实采取措施来保障AI的安全。我们知道该怎么做，因为我们之前已经成功处理过类似的问题。” El Hallak的论点从技术角度解