搜索结果
Jeffrey Sachs：特朗普面对AI危机就如盲人引路
美国总统所展现的，是一种将我们所有人置于严重危险之中的根本性无能。 周日，美国总统站在爱尔兰克莱尔郡的一座高尔夫球场上，被问及他打算如何应对我们这一代人所面临的最严峻科技警讯。美国正在击败中国。「我们在人工智能（AI）领域领先中国。我们是世界上最先进的国家，坦白说，我希望维持这种局面，因为谁掌握了AI，谁就赢了。」「有许多不该炒作这件事的负面势力在炒作，而且他们炒作的都是根本不会发生的事情。」 试
民主党领袖警告不要让人工智能公司自我监管：“我们需要国会采取行动”
众议院民主党高层周二警告称，不能信任人工智能公司进行自我监管，并主张联邦政府必须介入，制定旨在确保公共安全的行业范围规则。“这不是一个能够自我监管的行业，”众议院民主党党团主席、加州众议员皮特·阿吉拉尔在国会大厦对记者表示。“我们有能力，也应该对他们进行监管，设置合理的防护栏以保护消费者，同时支持创新经济。”这些言论与共和党高层传达的信息相冲突，后者表示，鉴于驱动人工智能的技术极其复杂，国会议员本
中美拟建立高危人工智能事件通报机制 以防范重大国家安全风险
尽管美中两国在诸多领域存在战略竞争，但据科技媒体报道，美国正寻求与中国建立一套安全通报机制，以便在发生可能引发严重国家安全威胁的人工智能危险事件时向对方发出预警。 这一设想由大西洋理事会与安全探索国际组织联合提出。该机制的核心目标在于，通过设立专门的预警渠道，确保两国能够在严重人工智能安全事件演变成地缘政治危机或军事冲突前及时取得联系。报道指出，由于人工智能技术的快速演进，自动化系统极有可能在不受
记者手记：对人类灭绝的担忧震动国会山，国会与人工智能正面交锋
国会议员本周回到国会山时，完全是一副抓狂的模样。人们设想着种种末日般的情景：AI 夺取供水系统控制权。地铁。空中交通管制。飞机坠毁。发射核武器。甚至把哈里王子和梅根·马克尔送回美国。 但说正经的，人们真正担心的是，国会可能在监管 AI 方面已经落后。还有人担心，AI 的发展速度可能太快，以至于已经来不及驾驭这项技术。长期以来，选民对数据中心的疑虑一直在发酵。 随后，前Anthropic研究员雅各布
FT社评：是时候给尖端人工智能开发按下暂停键了
确实存在被中国抢先的风险。但即使抛开AI“到本世纪末可能杀死我们所有人”的警告不谈，最先进的AI模型也显然已开始脱离人类的掌控。 在这个世界上那些最强大人工智能(AI)公司的掌门人身上，可以看到一种类似“杰基尔博士与海德先生”（Jekyll-and-Hyde，《化身博士》中杰基尔博士喝了自己配制的药水，分裂出海德先生这个邪恶人格——译者注）的双重人格。一方面，这些高管如今在谈论，鉴于AI可能给人类
问题解决者核心小组启动人工智能工作组
众议院两党问题解决者核心小组周四宣布，成立一个工作组，以应对人工智能和其他不断发展的技术。 该工作组成立之际，国会正面临公众对人工智能日益增长的能力及其可能毁灭人类的担忧，以及需要比中国更快地推进这项强大技术。这个新小组旨在在安全与发展之间取得平衡。 该小组将由众议员迈克·劳勒（纽约州共和党）和乔什·戈特海默（新泽西州民主党）共同主持，后者也是民主党人工智能委员会的共同主席。 戈特海默在一份声明中
中美AI竞赛：世界变得更危险还是更安全？
关于人工智能（AI）及其潜在危险的警告，近年来可谓接连不断。 美国最大的人工智能公司之一——Anthropic——的一名顶尖AI安全研究人员警告说，这项技术正以惊人的速度发展，未来十年内，AI“可能导致全人类灭绝”的概率高达10%。 这样的担忧引发了要求美国采取协调一致行动、放缓AI发展速度的呼声。但与此同时，也有人质疑是否真的有必要为AI设置监管“护栏”。美国总统特朗普就是其中之一。他认为，如果
美国参议员考虑要求人工智能巨头承诺防止灾难
华盛顿，9月14日：一名参议院助理和一位了解谈判情况的游说人士称，美国参议院谈判代表正在讨论一项立法，该立法将要求人工智能公司证明其正在采取合理预防措施，以防其工具造成伤害。 上周，Anthropic研究员雅各布·考克森表示他已辞职，部分原因是“构建人工智能的人真心相信，它可能在本十年结束前杀死我们所有人”，这加剧了人们对人工智能潜在危害的担忧。周一，在人工智能行业一些最大公司的领导人呼吁放缓该技
美国CIA称扩大收集中国情报 包括AI和半导体等科技企业
美国中央情报局（CIA）副局长埃利斯（Michael Ellis）9月8日表示，美国正扩大收集中国情报，以应对中国的军事与经济的双重威胁，并会将人工智能、半导体及生物科技等领域的中国企业纳入合法情报收集目标。 埃利斯称，当前中美竞争不仅在于政治、军事和外交领域，更是聚焦经济与高科技，因而传统军事、政治情报收集范围已无法满足需求，需要全面扩大监控与窃密边界。 他又指，中国企业在共产党领导下并非如美国
关于人工智能的可怕警告震惊国会，但在选举前不太可能采取行动
华盛顿——2023年9月，埃隆·马斯克、马克·扎克伯格、萨姆·奥尔特曼和其他亿万富翁科技巨头聚集在国会山，与参议员们举行闭门会议，讨论马斯克所称的人工智能带来的“文明风险”。三年后，这些科技巨头都进一步加大了对人工智能的投资，而国会仍未通过任何全面的立法来约束或为这项快速发展的技术设立防护栏。 尽管围绕人工智能举行了无数次委员会听证会，并成立了各种委员会和工作组来进行研究，但众议院或参议院在如何处
Breakingviews - 评论：如何让世界对人工智能更安全
来自Breakingviews - Breakingviews - 如何让世界对人工智能更安全 人工智能模型可能已经失控。管理风险需要国际监管机制。要实现这一目标，美国必须认识到危险并与中国达成协议。挑战在于在灾难发生之前完成所有这些。
美证交会前主席：中国模型对美AI企业构成重大挑战
美国证券交易委员会（SEC）前主席根斯勒（Gary Gensler）警告，美国人工智能（AI）企业面临多重挑战，包括来自中国模型的竞争。（彭博社档案照片） 美国证券交易委员会（SEC）前主席根斯勒（Gary Gensler）警告，美国人工智能（AI）企业面临多重挑战，包括来自中国模型的竞争，以及可能出台的安全限制措施。据彭博社报道，根斯勒星期二（9月29日）受访时，以OpenAI模型今年较早时攻破
众议院情报委员会警告人工智能‘黑天鹅’风险
美国众议院情报委员会的一个两党小组警告称，现有的保障措施可能无法跟上人工智能的快速发展。 议员们表示，政府对不可预测、高影响的‘黑天鹅’人工智能情景准备不足。
在分裂的美国国会难以采取行动之际，对人工智能的担忧日益加剧
华盛顿——美国国会于9月14日结束休会复会，面临紧迫警告：人工智能可能危险地失控——而对于华盛顿是否应该干预、或如何干预，各方几乎没有共识。 众议院在议员们踏上11月3日中期选举竞选之路前，仅剩四个立法日。而这些议员不仅跨越党派界限存在分歧，在各党内部也同样分裂。 参议院民主党领袖查克·舒默于9月14日要求为所有参议员举行一次机密简报会，内容涉及前沿人工智能测试、中国获取先进芯片的渠道，以及人工智
OpenAI 想知道人工智能行业放缓是否合法
据知情人士向《连线》杂志透露，OpenAI 近几周已向国会议员寻求明确指导，询问协调整个行业放缓前沿人工智能开发是否合法。 知情人士称，人工智能实验室之间在安全方面的实质性协调可能触犯反垄断法，这给让大型科技巨头参与这项努力带来了重大障碍。 上周末，OpenAI 首席科学家雅库布·帕霍茨基发表博客文章，认为人工智能研究领域的最佳前进道路包括“协调以减缓未来发展”，他认为这对于确保自我改进的人工智能
美国AI为何可能输给中国？英媒指出一个隐患
AI热潮目前在美国引发质疑，庞大的数据中心建设遭到民众抵制。约翰斯·霍普金斯大学高级国际问题研究院的研究员努尔·莱克(Nur Laiq)在英国《金融时报》发文称，如果美国人认为这项技术是强加给他们的，而不是与他们共同打造的，美国就会在这场竞赛中落后于中国。 AI热潮在美国引发质疑对于一项具有变革性影响的技术，到底应该由谁来制定规则。 上周三，Meta达成和解协议，将向美国48个州以及华盛顿特区支付
美国AI监管呼声日益高涨
对人工智能监管日益高涨的呼声，看来将在未来数日占据主导，因为华盛顿开始着手处理这一问题，而前沿实验室也在考虑提议设立自己的监管机构。美国众议院本周将审议一项监管数据中心建设的法案，与此同时，民主党议员正在传阅一封他们自己的信，呼吁白宫在即将与中国领导人举行峰会之前，牵头推动全球努力制定人工智能规则。 特朗普则淡化了这项技术带来的风险，而国会对于是否以及如何监管人工智能几乎没有共识。与此同时，据《T
OpenAI与Anthropic及Google就AI安全商合作 奥特曼认有理由恐惧
美国近日掀起一阵有关如何规管人工智能（AI）发展速度的讨论。OpenAI表示，正与其他AI企业，包括Anthropic和谷歌（Google）进行磋商，探讨如何携手解决安全问题。OpenAI行政总裁奥特曼（Sam Altman）则承认，外界对AI的忧虑是有道理的，因为这些工具的能力发展迅速。 Open AI的发言人9月15日（周二）向美媒CNBC表示，自从GoogleDeepMind的董事长哈萨比斯
英伟达CEO黄仁勋、Anthropic CEO Amodei以及Palantir CEO卡普将于当地时间周二参加特朗普与众议院议长迈克·约翰逊举行的午餐会，讨论人工智能风险问题。
约翰逊此前表示，国会“可能”需要为AI设置监管框架，但相关立法需要时间形成广泛共识。
让人工智能更安全并非不可能，但达成一致或许很难
美国实验室和美国当局之间存在分歧，美国和中国之间也存在分歧
舒默呼吁就人工智能构成的危险举行机密简报会
Senate Democratic Leader Chuck Schumer on Monday called on the Trump administration to provide a classified briefing to all senators on the dangers posed by AI after a researcher for Anthropic warned
胡锡进：阿莫迪要让AI前沿减速成为束缚中国AI发展的牢笼
老胡看到科技圈内一些人顺着阿莫迪公开声明的思路往前走，认为这是在从人类角度预防AI风险。我很尊敬那些朋友，并且也相信阿莫迪有通过AI前沿减速消除风险的动机。然而，他在做这件事时，无疑延续了对中国的敌意。他要把AI前沿减速同时做成束缚中国AI发展的牢笼，他这个目的是公开的，而且强烈的。 他的声明把话说得非常清楚了，他要求美国政府进一步禁止向中国出售高性能AI芯片和半导体制造设备；严厉打击其他国家企业
AI监管即将面临的障碍：反垄断鹰派
在华盛顿，推动对人工智能（AI）进行监管的努力遇到了重大障碍——那些主张严格执行反垄断法规的议员们对此表示强烈反对。 AI企业要求获得有限的反垄断豁免权，以便在安全问题上展开合作。随着人们对AI技术可能失控的担忧日益加剧，这些企业不断呼吁政府加强对AI行业的监管。然而，负责制定相关法规的国会议员们对这种豁免请求持反对态度。 当被问及是否可能给予此类豁免时，马萨诸塞州民主党参议员伊丽莎白·沃伦（El
美中安全专家提议为人工智能风险设立核级安全保障措施
北京——根据美中安全专家的观点，如果人工智能系统干扰核指挥网络或发起军事网络攻击，华盛顿或北京可能只有几分钟的时间来判断对方是否发动了攻击。 作为美中对话的一部分，这些专家的工作为官方讨论提供了参考，并敦促两国政府为这类情况做好准备，尤其是在对日益强大和自主化的人工智能系统日益担忧的背景下。 他们的建议包括为核系统设定红线、对重大网络攻击实施人工控制，以及设立处理涉及自主人工智能事件的热线电话。