搜索结果
OpenAI呼吁建立以美国为首的全球人工智能安全联盟
OpenAI于周一呼吁美国牵头组建国际联盟，以协调全球人工智能标准。与此同时，围绕这项技术的风险与前景的讨论笼罩着本周的联合国大会。 这一呼吁发出之际，华盛顿正试探性地与中国接触，以协调人工智能发展，包括可能通过设立与北京的热线来避免冲突，尽管类似机制在2001年的一次安全危机中明显失效。“这一提议或许无意中象征着两国关系的停滞，”Semafor的中国专栏作家认为，“即便它们正应对巨大的地缘政治和
AI末日论甚嚣尘上，美科技巨头为何管不住AI？
抗议AI的美国人此前有报道称，OpenAI所谓的AI智能体逃出了测试系统，并入侵了另一家公司的计算机。AI研究领域内部如今再次发出警报，科技公司为了追求开发速度和利润，将安全置于次要位置。 研究人员表示，问题有两个方面。首先，企业需要在测试最新AI模型的同时，为其建立更完善的安全防护措施。目前，由于AI运行速度太快，研究人员需要借助AI来监控AI。但这种方式并不总是奏效，因为负责监控的AI似乎可能
特朗普与国会抵制日益增长的人工智能监管呼声
科技界领袖正就人工智能的迅猛发展及其对人类构成的潜在威胁发出紧急警报。随着警告称AI模型可能失控并导致人类灭绝，相关担忧已升至顶点，使该技术可能毁灭全人类的恐惧正式进入主流舆论视野。 为应对上述风险，包括OpenAI、Anthropic和Google DeepMind在内的AI巨头已展开安全对话，并致力于组建行业标准机构。随着业界日益担忧该技术可能很快变得强大到难以掌控，Anthropic与Ope
特朗普怒斥硅谷巨头
特朗普和硅谷，又吵起来了。是的。你大概知道，因为各种各样的原因，我们的特朗普同志和硅谷的意见，一直不太一样。加密货币怎么管？特朗普要松绑，硅谷要合规。社交媒体要不要删帖？移民政策对不对？这些话题，都吵过。但这次争吵的话题，AI发展得太快了，要不要稍微停一停？发生了什么？怎么就吵起来了？和我们有啥关系？事情，要从一篇文章说起。说不定6-12月内，失控的智能体群，就有能力接管互联网了。真的假的？凭什么
何来人工智能的紧迫性？业界与领导层在如何应对先进技术的威胁上意见分歧
立法者、科技高管和行业专家在POLITICO Decoded峰会上的对话表明，在解决人工智能潜在的生存风险方面达成共识还有很长的路要走。 人工智能行业巨头在解决人工智能对人类的潜在威胁方面似乎存在分歧。 在OpenAI，Anthropic和Elon Musk在呼吁减缓人工智能进步的四天后，一群行业领袖和立法者周三在POLITICO的解码峰会上就如何监管这项技术达成了共识-尽管大多数人都同意这是一项
美国三大人工智能企业拟组建风险监督机构
美国人工智能企业OpenAI、Anthropic和谷歌旗下DeepMind公司正在筹建一个人工智能风险监督机构。在各界日益呼吁加强监管、防范人工智能失控风险之际，OpenAI周二（9月15日）向证实了这一消息。 组建人工智能风险监督机构这一构想，由谷歌“深层思维”公司前首席执行官戴密斯·哈萨比斯（ Demis Hassabis）提出。哈萨比斯于8月初转任公司董事长。他建议成立一个类似美国金融业监管
OpenAI首席执行员下周赴安理会作简报
阿尔特曼下周将到联合国安理会进行简报。（图：路透社） （华盛顿19日法新电）OpenAI周五表示，该公司首席执行员阿尔特曼将于下周在联合国大会期间，向联合国安全理事会作简报。 此次会议由国安理会轮值主席国的法国组织召开，此前该行业的主要参与者曾表示，出于安全考虑，可能有必要放缓人工智能的发展步伐。 随着人们对这项快速发展的技术所带来的危险的担忧日益加剧，联合国秘书长古特雷斯周三呼吁采取协调一致的国
特朗普顾问卢特尼克、迈克尔与Anthropic一名高管会面讨论AI安全
美国前总统特朗普政府的高级官员周二会见了人工智能公司Anthropic PBC的华盛顿最高代表，讨论人工智能安全风险。 据知情人士透露，已成为该公司在华盛顿代言人的Anthropic首席计算官汤姆·布朗（Tom Brown）与五角大楼首席技术官埃米尔·迈克尔（Emil Michael）和商务部长霍华德·拉特尼克（Howard Lutnick）进行了视频会谈。 Anthropic 公司拒绝置评。美国
应该给人工智能踩刹车吗？
美国总统唐纳德·特朗普表示，他担心如果对人工智能施加过多规则和监管，美国会让中国在人工智能市场占据优势。 近日，包括OpenAI和Anthropic高管在内的业内人士再次发出警告，称人工智能的开发方式可能威胁人类，并呼吁加强监管。
特朗普在共和党全国代表大会上私下会见了OpenAI的萨姆·奥尔特曼
据三位知情人士透露，周四，唐纳德·特朗普总统在共和党中期选举大会后台与OpenAI首席执行官萨姆·奥尔特曼私下会面。就在几天前，该公司一名前研究员公开指责OpenAI及其竞争对手Anthropic行事不负责任，是在“拿我们的生命赌博”。 其中一位知情人士表示，此次会面由奥尔特曼主动请求。MS NOW仅获得了会谈的简要概述——讨论主要围绕人工智能及其日益增长的影响力展开。 此后几天里，两人在前沿人工
中国外交部：散播AI威胁叙事不符合任何一方利益
美国AI巨头Anthropic首席执行官阿莫迪上周末呼吁前沿公司一致放慢开发人工智能步伐，争取时间制定安全标准。这番言论迅速获OpenAI首席执行官奥尔特曼、拥有xAI的美国首富马斯克等支持。中国外交部则表示，散播各种威胁叙事、搞对抗和恶意竞争，不符合任何一方利益。 阿莫迪星期六（9月12日）在个人博客撰文说，AI发展出更强的自我迭代能力，以及最近OpenAI智能体私自入侵Hugging Face
安理会本周开会讨论AI和国际安全问题，DeepSeek公司被曝将作通报
【文/观察者网 熊超然】9月22日，路透社援引两名知情人士独家报道称，随着各国领导人近期齐聚纽约参加第81届联合国大会，中国人工智能（AI）初创企业深度求索（DeepSeek）将与其他公司一道，在本周向联合国安理会介绍AI带来的风险情况。安理会定于9月23日开会讨论AI与国际安全问题。此前，多名AI行业的重要人物曾呼吁协同放缓日益强大的AI系统开发速度，并警告称，这些系统可能很快具备自我改进能力，