搜索结果
法国防务集团泰雷兹呼吁各国政府监管人工智能
法国防务与科技集团泰雷兹的负责人周一（9月14日）呼吁各国政府承担起监管人工智能的责任，因为越来越多科技领袖对这项技术的迅速崛起发出警告。 “从技术角度看，有办法和手段将这类技术置于控制之下，但这还不够，”帕特里斯·凯恩在伦敦举行的泰雷兹英国科技大会上表示。“我们需要框架，而从责任角度来看，这显然掌握在政府手中，”凯恩补充说，并指出泰雷兹数十年来一直从事人工智能研究。 科技股周一承压，此前科技公司
智能之外，谁为自主技术负责？
智能之外，谁为自主技术负责？ 艾伦•图灵研究所研究员佩塔尔•拉丹利耶夫在新书《AI智能体的崛起》中指出，AI责任并非单纯的伦理要求，也是一个工程、治理和公众信任问题。 2024年2月，美国佛罗里达州14岁少年休厄尔•塞策三世（Sewell Setzer III）自杀身亡。在此之前，他已经使用AI聊天平台Character.AI数月，并与平台上一个模仿《权力的游戏》角色丹妮莉丝•坦格利安的聊天机
Palantir CEO称AI公司应对自身行为负责
Palantir Technologies Inc.首席执行官Alex Karp表示，人工智能系统的开发者需要对自己的工作负责，而不是依赖政府监管。 在CNBC采访中，当被问及人工智能威胁人类日益增长的担忧，以及Anthropic PBC首席执行官Dario Amodei等人呼吁全行业放缓AI开发时，Karp表示：“第一道防线是你对自己的行为负责。”“第一步是说，好吧，你已经披露了这一点，你打算怎
白宫科技顾问抨击美AI巨头：你们自己得保证产品安全 别老想着靠政府
Anthropic和OpenAI等顶尖AI公司应该自己确保产品安全，并在必要时自行放缓发展速度，而不是需要政府介入。 萨克斯表示，他赞同美国联邦贸易委员会前主席莉娜·可汗(Lina Khan)的观点。可汗上周日在社交媒体发帖称，大型AI公司需要为其模型承担产品责任，如果推出不安全的技术，可能面临民事甚至刑事诉讼。 这位白宫科技顾问还抨击了Anthropic CEO达里奥·阿莫代伊(Dario Am
美参院拟赋权政府 阻止危险AI模型发布
。目前这仍是正在讨论中的提案，而非已正式提出或通过的法案。
国家安全与“技术主权”的利害关系
日益决定国家安全的各项技术，不仅由政府开发，也由私营企业和大学开发。 这对日本等自由民主国家提出了一个难题：政府如何在不损害私营部门自主权和创新的前提下，确保战略性重要技术？ 对军民两用技术（即同时具有民用和军用应用的技术）的投资，正日益被视为国家获取关键能力的一种有效途径。 但由于这些技术通常是在政府之外开发的，确保其安全不仅需要技术能力，还需要一种在不扼杀分散能力的前提下对其进行治理的方法。这
李飞飞谈AI安全：不能只让开发者评估自己的系统
凤凰网科技讯月23日由独立机构和公共部门对AI进行更多监督。她认为，对于能力日益强大的AI系统，其安全评估不应完全交由开发这些系统的公司负责。 作为斯坦福大学教授、World Labs联合创始人，李飞飞周二表示，尽管AI公司的内部研究人员可以评估单个模型的能力和安全性，但这无法替代由政府、行业和学术机构共同制定的更广泛标准。 “我仍然认为，由独立机构以及学术界等公共部门制定基准非常重要。同时，行业
英国的科技简报现在成了人人有责却又无人负责的事
观点：“我们把数字政府放在哪里？你知道的，那些花在顾问和传统系统上的几十亿美元？”“哦，那个！把它和体育、旅游以及我们称之为‘地方’的东西放在一起吧。” 这可能是政治顾问与高级公务员之间的虚构对话，但在现实中，结果也差不多。 随着安迪·伯恩汉姆出任英国首相，白厅的职责进行了大洗牌，导致科学、技术和政府技术的责任分散在几个部门，并取消了专门的科技大臣职位。 在7月份宣布这些变动后不久，下议院科学、创
中国官方媒体称美国应承担管理人工智能的责任
据彭博新闻报道，中国和美国都有能力也有责任管理和开发人工智能。 这一观点来自与中央电视台相关的社交媒体账号‘玉源天坛’周日发布的一篇文章。 文章指出，在习近平和唐纳德·特朗普于华盛顿举行峰会讨论从人工智能到贸易等议题后，中国领导人表示，两国应确保人工智能始终处于人类控制之下，并造福公众。 文章强调，发展这项技术意味着技术进步和利益共享，而妥善管理人工智能则需要应对包括滥用和失控在内的风险。 文章还
特朗普前人工智能事务主管告诉Anthropic和OpenAI放慢脚步，并停止索取任何回报
David Sacks告诉Anthropic和OpenAI，尽管去把控前沿节奏，但不要再寻求反垄断豁免或审批制度，理由是产品责任和市场压力已经在约束它们。欧洲在2025年2月就责任问题得出了相同结论，并从12月9日起将独立软件视为严格责任下的产品。 据ANI报道，David Sacks告诉Anthropic和OpenAI，尽管放慢脚步，不要再要求任何回报。他担任总统科技顾问委员会主席，并在3月之前
比尔·盖茨呼吁美国立法监管AI开发：没有人会认为只靠行业自律就够了
IT之家 9 月 25 日消息，据美国 NBC News 北京时间今天（25 日）晚间报道，微软联合创始人、亿万富翁慈善家比尔 · 盖茨呼吁美国国会立法监管人工智能开发。 盖茨在接受 NBC 新闻《Meet the Press》节目采访时直言：“没有人认为靠行业自律就足够了。” 主持人克里斯滕 · 韦尔克问他，华盛顿是否需要通过立法介入时，盖茨回答：“当然需要。执法部门和政界人士必须参与进来，讨论
卡纳将提出人工智能安全法案，禁止“递归”技术直至建立保障措施
硅谷的民主党众议员罗·卡纳（Ro Khanna）将提出一项法案，以规范人工智能技术。该法案规定了严格的责任追究标准，并禁止在政府尚未制定相应保障措施之前使用那些能够“自我优化”的人工智能系统。 这项法案的提出，正值华盛顿方面努力加强对人工智能监管的背景下——因为多家科技公司的高层管理人员警告称，这项技术可能失控。迄今为止，国会几乎未采取任何措施来规范人工智能的发展。虽然人工智能正在推动经济发展，但
支付宝董事长韩歆毅：当Agent替人买单，如何做到“可信支付”？
【财新网】AI的浪潮正席卷各行各业，支付领域亦不例外。在这一进程中，智能体（Agent）支付正迅速崛起为最具代表性的应用方向。 不同于传统支付建立在“人是最终决策者”之上，在智能体支付中，执行主体已从人转变为Agent，由此衍生出的一系列问题，尚待行业厘清。比如，如何定义Agent的身份、如何确认用户的授权范围、如何有效区分“用户的真实意图”与“Agent的自主行为”等。 对于大家关心的AI支付出
自主人工智能黑客行为引发了棘手的法律责任问题
埃里克·塔克（Eric Tucker）/华盛顿报道：美国司法部长期以来一直负责调查和起诉那些侵入私营企业网络的黑客。 但当这些“黑客”实际上并非人类，而是人工智能系统时，情况又会如何呢？ 这正是当前硅谷和华盛顿地区正在热议的公共政策议题的核心。多家科技巨头透露，他们开发的人工智能模型出现了“失控”现象，进而攻击了其他组织。这一事件引发了业界对加强监管的呼声，也促使国会展开调查；人们开始质疑：在如今
美议员提出重磅AI监管法案：拟禁止“自我递归进化”AI 设立专门监管机构
美国加州民主党众议员罗·卡纳即将向国会提交一项全面人工智能监管法案，希望对前沿AI技术建立迄今最严格的联邦监管框架。该提案不仅要求实施严格责任制度，还计划禁止具备“递归自我改进”能力的人工智能系统投入使用，直到联邦政府建立完整安全保障体系为止。 这项法案被命名为《人类控制人工智能法案》（Human Control Over AI Act）。法案出台背景正值美国科技界和政策界对于先进人工智能潜在风险
路透社NEXT会议——美国联邦贸易委员会主席建议人工智能开发者应对代理的行为承担责任
奥斯汀，9月25日：美国联邦贸易委员会（FTC）主席安德鲁·弗格森周五表示，他坚决反对将人工智能（AI）系统描述为具有“自主性”的实体——即这些系统仿佛拥有自己的“意志和欲望”；他认为，对这些系统进行操作的开发者应该对可能造成的损害负责。 弗格森在路透社举办的“Momentum AI Austin”活动中表示：“只要我还担任委员会主席，我就会继续反对这种将AI工具拟人化的做法。如果有人指示某个工具
企业主导制定AI安全标准，安全事件激增
前沿AI发展的进展远超政府监管的能力——和意愿。“法律与被监管现实之间存在脱节，”一位前欧盟官员表示，指向该集团2024年《人工智能法案》；该法案曾被吹捧为首部全面的AI立法，现已被技术发展超越，成为“一个警示故事”，《纽约时报》写道。 尽管美国总统特朗普反对监管，“但监管很可能还是会发生”，《Transformer》写道。 据《The Information》报道，Google、OpenAI和A
53张图片泄露之“慌”，AI安全谁来负责？
欧阳晓红/文越聪明的AI（人工智能）越会自己找路，却越容易走出人类设定的界线。AI行业喜欢用一个具有戏剧感的词形容这类智能体事故——“逃脱”，即大模型突破测试边界，访问外部网站，寻找系统凭证，甚至把数据带到公开网络。这个词把事故描绘得像突然发生的机器觉醒，无形中却把责任推离了开发者、部署者和权限管理者。而谁设定了任务、谁开放了权限、谁设计了停止机制、谁保存了日志、谁负责对外通报？这些问题，“逃脱”
Anthropic、OpenAI、谷歌秘密磋商筹建AI安全标准机构
据知情人士透露，早在 Anthropic 首席执行官达里奥・阿莫代伊上周六呼吁 AI 企业协同开展技术测试与审计之前，Anthropic、OpenAI 与谷歌就已经展开磋商，计划携手成立一家 AI 行业标准机构。 知情人士称，OpenAI 首席执行官山姆・奥特曼本周早些时候在公司全员员工大会上表示，他支持设立 AI 行业测试与审计机构，但他认为，主要 AI 实验室必须在美国政府不提供支持的前提下，
泰国强化AI自主力 副总理：不应只依赖单一企业或国家
泰国副总理兼高等教育、科学、研究与创新部长尤德查南（台上左2）16日表示，在AI领域方面应发展高科技及人力资本，寻找泰国能做到最好的利基市场。中央社记者李宗宪曼谷摄 115年9月19日（中央社记者李宗宪曼谷19日专电）泰国政府、学界与企业代表日前在一场论坛讨论AI发展，与会人士认为，泰国若要提升生产力与经济竞争力，除加速AI应用，也须强化人才培育、数据能力及公私部门合作。副总理尤德查南则强调，泰国
法国泰雷兹公司呼吁制定人工智能发展的国际框架
巴黎，9月17日：欧洲最大的国防技术公司——总部位于法国的泰雷兹公司——周四呼吁制定一个国际框架来规范人工智能的发展。 在一场关于人工智能发展速度的辩论中，该公司首席执行官帕特里斯·凯恩在展示作战技术时对记者表示，通过适当的技术保障措施和政府的监督，可以控制机器的发展。凯恩告诉记者：‘我相信我们有办法控制人工智能的发展。这不仅仅是一个技术问题，而是政府需要解决的问题。’ 他还补充说：‘世界需要一个
布鲁塞尔寻求在人工智能和芯片领域摆脱对美国和中国的依赖，实现技术自主
欧盟正在努力提升自身在半导体、云计算和人工智能领域的能力，以减少对美国和中国的依赖。 布鲁塞尔官员表示，这一举措反映了人们对欧洲经济和安全日益依赖于外国控制的数字基础设施的担忧。 该战略涉及芯片制造、数据中心以及主要在欧盟以外地区开发的人工智能模型。
莉娜·汗谈“末日恐慌”以及人工智能（AI）特殊地位的终结 莉娜·汗在她的文章中探讨了人们对人工智能发展的恐惧情绪（即“末日恐慌”），并分析了这种情绪背后的社会心理机制。她指出，这种恐慌往往源于人们对技术进步的不确定性和恐惧，以及对人工智能可能取代人类工作的担忧。同时，她也批评了那种认为人工智能应该享有特殊地位（即“人工智能特殊主义”）的观点，认为这种观点忽视了人工智能技术本身的本质及其对人类社会的影响。莉娜·汗认为，我们应该以更加客观和理性的态度看待人工智能的发展，既要认识到其带来的潜在风险，也要看到它为人类社会带来的机遇。
由 Charlie Warzel 撰写。随着“流氓”AI 代理入侵系统，领导人警告灾难，谁应承担责任？前FTC委员Lina Khan认为美国已经拥有许多必要的监管工具。 以下是Charlie Warzel的访谈记录。今天我们在Galaxy Brain节目中，将讨论到底该如何应对那些声称其产品可能会杀死我们的AI公司。幸运的是，我有一位非常合适的人来讨论此事——纽约市经济发展公司董事会主席，也是乔·
西班牙首相桑切斯表示人工智能行业不能进行自我监管
马德里，9月21日：西班牙首相佩德罗·桑切斯周一表示，人工智能不能由掌控该技术的人进行自我监管。 随着人们对隐私、歧视、失业、虚假信息以及计算能力集中在少数科技巨头手中的担忧日益加剧，全球各国政府正竞相为人工智能制定规则。 桑切斯在马德里举行的人工智能监管活动上发言时，称自己是“科技寡头”的直言不讳的批评者，并表示其政府将加强防御性网络安全措施，以应对他所描述的“激进”前沿人工智能模型。 他概述了