搜索结果
OpenAI呼吁建立以美国为首的全球人工智能安全联盟
OpenAI于周一呼吁美国牵头组建国际联盟，以协调全球人工智能标准。与此同时，围绕这项技术的风险与前景的讨论笼罩着本周的联合国大会。 这一呼吁发出之际，华盛顿正试探性地与中国接触，以协调人工智能发展，包括可能通过设立与北京的热线来避免冲突，尽管类似机制在2001年的一次安全危机中明显失效。“这一提议或许无意中象征着两国关系的停滞，”Semafor的中国专栏作家认为，“即便它们正应对巨大的地缘政治和
中美AI竞赛：世界变得更危险还是更安全？
关于人工智能（AI）及其潜在危险的警告，近年来可谓接连不断。 美国最大的人工智能公司之一——Anthropic——的一名顶尖AI安全研究人员警告说，这项技术正以惊人的速度发展，未来十年内，AI“可能导致全人类灭绝”的概率高达10%。 这样的担忧引发了要求美国采取协调一致行动、放缓AI发展速度的呼声。但与此同时，也有人质疑是否真的有必要为AI设置监管“护栏”。美国总统特朗普就是其中之一。他认为，如果
本周中美即达成元首会晤，刚才双方也释放经贸会谈的初步成果（也将是中美元首会晤的初步成果），目前包括：
1、贸易理事会投入运作、非敏感商品互降关税；（这是上次访华的成果，这次走向落地，一鱼两吃）2、AI“共同风险”领域的对话，如建立风险通报机制；（这是上次访华谈了但没谈好的成果，这次更加紧迫，要进一步推进共识，但共识非常有限，双方都想掐死对方，都把AI竞争，看作是国运之争。因此共识进行仅限于“共同风险”领域）2.1、AI相关的出口管制没进展，甚至说“不在议程之上”。 （以上几点目前均符合我在最新周报
美国确认轨道武器，人工智能安全竞赛升温，沙特石油威胁
在本期《国家方略》节目中，吉塔·莫汉探讨了重塑全球力量的新兴技术和地缘政治挑战。美国首次公开证实部署了在轨空间控制武器，但拒绝披露其具体作战能力。这一消息凸显了日益增长的反太空风险、卫星脆弱性以及“凯斯勒综合征”下轨道碎片连锁反应的危险。与此同时，人工智能领域正面临关于能够无需直接人类干预即可进行规划、编码和浏览的自主人工智能代理的激烈辩论，Anthropic 公司披露了内部压力测试边界被突破的情