搜索结果
美参议院酝酿AI监管立法：要求AI公司证明已采取安全措施防止伤害
要求AI公司证明已采取安全措施防止伤害据一名参议院助手和一位熟悉谈判情况的说客透露，美国参议院谈判代表正在讨论一项立法，该法案将要求AI公司证明其已采取合理预防措施，以防止其工具造成伤害。 据这名参议院助手和说客透露，参议员们正在讨论赋予美国商务部长一项权力，要求AI开发商证明其已采取合理措施防止伤害，这种要求被称为 “注意义务”。商务部长还将有权派遣政府审查人员亲自测试企业产品。该提案正在由参议
OpenAI支持英国具有约束力的AI规则，议员们呼吁设立监管机构
一个跨党派的议员委员会希望英国制定专门的人工智能法律，并设立一个拥有执法权力的单一监管机构。同一天，OpenAI表示将支持对少数几家开发最强大人工智能的公司制定具有约束力的英国规则。这包括OpenAI自身。 汤姆·达夫·戈登是OpenAI欧洲、中东和非洲地区政策主管。他告诉Politico的约瑟夫·班布里奇：“英国现在应该采取行动，建立一套更强有力安全规则。”据Politico报道，这是OpenA
OpenAI 想谈谈《联邦党人文集》
这家AI巨头担心无所不能的机器人可能对我们的宪法权利意味着什么。
美国众议长约翰逊对设置AI护栏持开放态度 恐惹特朗普不满
美国众议院议长迈克·约翰逊对监管人工智能（AI）持开放态度，与总统唐纳德·特朗普明确反对AI监管的立场形成冲突。在中期选举日益临近、共和党本已面临强阻力之际，这一立场冲突在党内造成了分歧。面对AI行业内部要求放慢技术开发的严厉警告，约翰逊周一表示，国会“可能”需要为该行业设置护栏，不过他同时警告，要制定一项能够获得足够广泛支持并获通过的法案可能需要“一些时间”。 美国众议院议长迈克·约翰逊约翰逊周
人工智能是否凌驾于法律之上？
勇敢新世界部我们的法律体系尚未准备好应对能够自主行动的机器。 今年夏天，在一场被称为“Hugging Face 黑客事件”的事故中，数百个人工智能智能体联手实施了它们本被禁止执行的操作。每个智能体都收到了来自 OpenAI 的任务。智能体是配备了软件“框架”的人工智能模型，这些框架使它们能够使用工具并执行任务。就像马匹一样，它们可以被役使。人类为这次演练制定了规则，并将智能体限制在一个“沙箱”中—
OpenAI 想知道人工智能行业放缓是否合法
据知情人士向《连线》杂志透露，OpenAI 近几周已向国会议员寻求明确指导，询问协调整个行业放缓前沿人工智能开发是否合法。 知情人士称，人工智能实验室之间在安全方面的实质性协调可能触犯反垄断法，这给让大型科技巨头参与这项努力带来了重大障碍。 上周末，OpenAI 首席科学家雅库布·帕霍茨基发表博客文章，认为人工智能研究领域的最佳前进道路包括“协调以减缓未来发展”，他认为这对于确保自我改进的人工智能
美国议员在Anthropic研究人员发出安全警告后呼吁制定新的人工智能规则
此前，Anthropic的一名研究人员公开指责多家公司不负责任地推进人工智能发展。
OpenAI开始分阶段推出GPT-6 Astra模型
周四开始分阶段发布其最新模型，该公司称该模型超越了Anthropic最先进的模型，并切实接近“通用人工智能”。 OpenAI表示，GPT-6 Astra是其首个跨越“关键”网络安全能力门槛的模型，初期将仅限于企业使用，以便它们解决漏洞。 此举与Anthropic限制发布Mythos的做法如出一辙，Mythos的能力促使监管机构介入。五角大楼周四确认了对Mythos的禁令。 在专家、科技领袖和公众对
OpenAI告知众议院民主党人其正在构建自动关闭能力
OpenAI已告知两位众议院民主党人，其正在构建自动关闭能力，但未提供7月份某智能体入侵另一家公司事件的日志。 自8月2日起，欧盟委员会已能够要求从欧盟市场撤回或召回通用模型。OpenAI已告知两位众议院民主党人[…]
两党人工智能安全法案在国会山势头渐起
国会尚未复会，但一些议员被一位即将离职的Anthropic研究员发出的一轮严峻人工智能警告惊醒，该研究员表示“认真构建人工智能的人真诚地相信，它可能在这个十年结束前杀死我们所有人。”向Semafor透露的消息人士称，参议员Amy Klobuchar（明尼苏达州民主党）、Ted Cruz（得克萨斯州共和党）和多数党领袖John Thune正在起草的一项人工智能安全法案，是唯一有可能在2027年前有机
美参院拟赋权政府 阻止危险AI模型发布
。目前这仍是正在讨论中的提案，而非已正式提出或通过的法案。
OpenAI与Anthropic及Google就AI安全商合作 奥特曼认有理由恐惧
美国近日掀起一阵有关如何规管人工智能（AI）发展速度的讨论。OpenAI表示，正与其他AI企业，包括Anthropic和谷歌（Google）进行磋商，探讨如何携手解决安全问题。OpenAI行政总裁奥特曼（Sam Altman）则承认，外界对AI的忧虑是有道理的，因为这些工具的能力发展迅速。 Open AI的发言人9月15日（周二）向美媒CNBC表示，自从GoogleDeepMind的董事长哈萨比斯
OpenAI因Hugging Face遭恶意AI代理入侵而面临参议院调查
共和党领导的参议院小组委员会负责灾难管理监督。