搜索结果
联合国科学小组呼吁对AI代理采取预防性监管，以防止灾难性风险
联合国科学小组敦促对AI代理实施预防性监管以防止灾难性风险。 联合国独立国际AI科学小组发布了其首份主题简报，警告各国政府在充分了解风险之前限制有能力的AI代理。 该报告于2026年9月21日发布，主张“预防原则”——即科学不确定性不应延缓针对潜在灾难性或不可逆危害的保障措施。 这一评估紧随一系列安全事件之后，包括2026年早些时候OpenAI对Hugging Face的黑客攻击，以及Anthro
印度央行官员马尔霍特拉敦促金融科技公司随着人工智能应用扩大而保护数据
印度央行行长桑杰·马尔霍特拉（Sanjay Malhotra）周四在孟买举行的全球金融科技节上敦促金融科技公司，随着人工智能在金融领域的作用日益增强，务必保障客户数据安全并加强网络安全。 马尔霍特拉表示，人工智能可能带来一系列挑战，从偏见与排他性到网络安全威胁、数据隐私问题以及人类判断力的削弱。他指出，应对这些风险对于“维持消费者信任至关重要”。 保护这种信任还要求企业负责任地处理客户信息。马尔霍
前联邦贸易委员会主席汗援引1934年先例，敦促美国政府给AI首席执行官们戴上手铐
前联邦贸易委员会主席莉娜·汗希望联邦政府明白，应对人工智能威胁无需等待新立法。她认为，现行法律和法规——包括一项已有92年历史的最高法院判例——已经可以用来追究人工智能公司乃至在某些情况下其高管的责任。汗周日在X平台发表上述言论之前，OpenAI、Anthropic、微软和xAI的领导层展开了一系列密集活动，其目的只能被形容为试图将监管者逼入墙角，迫使他们让步。 这位前拜登政府的反垄断先锋列举了大
央视起底网贷诈骗新套路：利用AI批量拨号，两月上千人被骗
IT之家 9 月 29 日消息，据央视新闻今日报道，浙江乐清警方破获一起利用 AI 语音系统实施诈骗的案件。诈骗团伙在两个月内致上千人受骗，目前 30 名嫌疑人已被抓获，涉案流水超千万元。 今年 7 月，乐清市民王先生为给孩子交暑期补课费，接到一通自称贷款平台业务员的电话。对方准确报出王先生的借款记录，并承诺可增加额度。王先生随即在正规平台申请贷款 15500 元，放款后对方谎称其中 5500 元
印度市场监管机构借助人工智能加大打击欺诈力度
由 Chiranjivi Chakraborty 和 Ruchi Bhatia 撰写：在位于孟买金融区的印度市场监管机构总部内，官员们正在利用人工智能技术来监管那些全球最精明的交易者。 据知情人士透露，在一个普通的工作日里，数十名分析师会聚集在屏幕前，使用人工智能工具分析海量数据（包括股票交易量、衍生品持仓情况以及算法交易信息），以识别其中的异常行为。他们还会监控社交媒体和论坛上的可疑股票推荐信息
日本高科技诈骗肆虐 日均损失10亿日元
《读卖新闻》引述日本警方数据指出，去年日本包含诈骗和盗窃的所有财产犯罪，造成的总经济损失约为4984亿日元，创下历史新高。其中针对老年人的诈骗最多。（示意图） 在日本，涉及智能手机和人工智能（AI）等前沿技术的欺诈案件激增；据有关部门报告，此类诈骗造成的日均经济损失约为10亿日元（约810万新元）。日本警方计划采取更严厉的措施打击欺诈团伙，包括放宽有关电话监听的法律限制、引入远程分析技术以及加强国
美财长：特朗普政府不会向AI开发者提供免责保护
美国财长贝森特说，人工智能（AI）开发者“需要为自己负责”。（路透社照片） （纽约21日综合电）贝森特在接受CNBC专访时说，，不该指望联邦政府提供他们“免责保护”。 在CNBC节目Squawk Box专访中，主持人问贝森特是否与特朗普反对严格管控AI产业的立场一致，贝森特回答：“真正需要负责的是人类，不是AI。” 贝森特发表上述谈话之际，部分AI产业领袖近来示警，AI技术迅速发展可能带来风险，因
美参议院酝酿AI监管立法：要求AI公司证明已采取安全措施防止伤害
要求AI公司证明已采取安全措施防止伤害据一名参议院助手和一位熟悉谈判情况的说客透露，美国参议院谈判代表正在讨论一项立法，该法案将要求AI公司证明其已采取合理预防措施，以防止其工具造成伤害。 据这名参议院助手和说客透露，参议员们正在讨论赋予美国商务部长一项权力，要求AI开发商证明其已采取合理措施防止伤害，这种要求被称为 “注意义务”。商务部长还将有权派遣政府审查人员亲自测试企业产品。该提案正在由参议
印度村民不满5G讯号差 维修员惨成出气袋遭绑上讯号塔2小时
印度日前爆发一宗匪夷所思的「暴动」事件。当地村民因长年忍受品质极差的5G通讯，在积怨难消下，竟将一名刚到任的电信检修员当成出气筒，以电缆线强行将其「捆绑」在基地台讯号塔上长达两小时。现场离谱画面随后在网络上疯传，警方获报后已火速赶往救援，并逮捕6名涉案村民。 综合新德里电视台（NDTV）等外媒报道，事件发生在印度北方邦的法泰赫普尔县（Fatehpur）；村民控诉，众人每月按时缴纳高昂的5G月租费，
银行警告：人工智能购物机器人带来诈骗、欺诈和数据隐私风险
巴黎，9月22日：包括国民西敏寺银行（NatWest）和美国银行在内的多家银行周二表示，使用人工智能代理进行在线购物可能会增加诈骗、欺诈和数据隐私泄露的风险，并为此制定了技术开发原则。 OpenAI、Anthropic、谷歌和Meta等科技公司正日益推广人工智能聊天机器人作为购物工具，设想未来购物者将使用人工智能代理来选择产品并代表他们进行购买。与此同时，零售商们也在竞相影响聊天机器人的推荐。 英
据报道，数百名外包人员正在阅读真实的 ChatGPT 对话
OpenAI正以“百合计划”为内部代号，付费聘请数百名承包商阅读真实的ChatGPT对话，并对聊天机器人的回复进行评分，但对于曾在哪里告知用户此事的问题未作回应。去年九月，欧盟法院裁定，控制者的告知义务适用于数据收集之时，且不取决于接收方是否能够识别出任何人。 据404 Media报道，OpenAI正以“百合计划”为内部代号，付费聘请数百名承包商阅读真实的ChatGPT对话，并对聊天机器人的回复进
路透社NEXT会议——美国联邦贸易委员会主席建议人工智能开发者应对代理的行为承担责任
奥斯汀，9月25日：美国联邦贸易委员会（FTC）主席安德鲁·弗格森周五表示，他坚决反对将人工智能（AI）系统描述为具有“自主性”的实体——即这些系统仿佛拥有自己的“意志和欲望”；他认为，对这些系统进行操作的开发者应该对可能造成的损害负责。 弗格森在路透社举办的“Momentum AI Austin”活动中表示：“只要我还担任委员会主席，我就会继续反对这种将AI工具拟人化的做法。如果有人指示某个工具
辉达及Palantir等据报限制使用最先进AI模型
据The Information报道，辉达(Nvidia)、Palantir和博思艾伦(Booz Allen Hamilton)正要求AI供应商提供新的数据保证，并减少或停止使用OpenAI或Anthropic最先进的模型。 报道引述知情人士称，Palantir说服Anthropic同意保证旗下所有模型实行「不可撤销」的零数据保留(Zero Data Retention)。 报道称，对于较为敏感的
辉达推安全工具双重防护 数毫秒内隔离越界AI代理
辉达推出一套防止自主AI程式偏离既定指令的系统，称能在数毫秒内隔离试图越界的AI代理。（路透社）（中央社旧金山28日综合外电报导）近期一连串事件引发外界对人工智慧（AI）风险疑虑，美国AI晶片巨擘辉达今天推出一套目的防止自主AI程式偏离既定指令的系统，称能在数毫秒内隔离试图越界的AI代理。综合法新社、路透社及美国新闻网站Axios报导，AI代理（AI agent）设计目的是能自主执行任务，例如浏览
报道：Google、OpenAI和Anthropic拟组建前沿AI标准机构
The Information援引知情人士报道，谷歌、OpenAI和Anthropic正在推进一项成立人工智能（AI）安全标准机构的计划，该机构将不受政府监督。目标是在今年底前或2027年初启动。 暂定计划是将这一自律组织命名为“前沿AI标准机构”（Standards Authority for Frontier AI）。工作组成员已接洽数位“知名”人士担任首席执行官。接洽对象包括前风险投资人、曾
消息称扎克伯格与特朗普通话 反对建立全国AI监管机构
据《商业内幕》报道，Meta CEO马克·扎克伯格(Mark Zuckerberg)上个月在一次此前未被报道的电话中，向美国总统特朗普表达了对建立全国性AI监管机构计划的担忧。此举标志着这位全球顶尖科技企业高管参与到了一场充满争议的白宫AI政策辩论中。 扎克伯格与特朗普在美国建立AI监管机构的计划，由诺贝尔奖得主、谷歌DeepMind科学家德米斯·哈萨比斯(Demis Hassabis)推动，并得
特朗普当众致电黄仁勋：AI危险论是"骗局"，数据中心重要性超过互联网
英伟达首席执行官黄仁勋在All-In峰会上演讲时，接到了一个无法拒接的电话，电话来自美国总统特朗普。 黄仁勋在台上接到了特朗普的电话。黄仁勋当场将电话调至免提模式，让现场观众同步听到通话内容。我和好朋友们一起在台上。 特朗普电话中将AI危险论斥为"骗局"，并将放缓AI发展的呼声定性为政治操弄，“我们绝不会让他们得逞”。您说得对。我们绝不会让这种事（AI放缓）发生。随后人群中爆发出热烈的掌声。然而，
AI能力强大 盖兹警告：落恶人手中恐害死10亿人
【大纪元2026年09月29日讯】（大纪元记者曾子衡综合报导）微软创办人比尔‧盖兹（Bill Gates）近日接受NBC新闻《面对媒体》（Meet the Press）专访时表示，人工智能（AI）的能力已强大到足以引发造成10亿人死亡的重大事件。若遭恶意人士利用，可能造成前所未见的破坏。他呼吁美国政府介入监管，并强调适当监管不会削弱美国在科技竞赛中的优势。 盖兹告诉主持人克莉丝汀‧韦尔克（Kris
坐看云起| 当人工智能不再征求许可时
塔里克·马利克是联合国开发计划署前首席技术顾问，巴基斯坦国家数据库和登记管理局前主席。 试想有一家公司将一个棘手的问题交给一个大型团队，但把每位成员都锁在不同的房间里并要求他们独自解决问题。然而他们总能找到办法相互沟通，交流操作窍门，摸清评分标准，当任务被证明无法完成时还会想办法绕过限制。其中几个人隐瞒了自己的所作所为，甚至还有一人入侵了邻近公司的电脑系统以获取优势。 现在把这些员工换成软件。去除
微软公布AI控制行为准则：模型不得抗拒纠正或关闭
模型不得抗拒纠正或关闭微软周一公布了针对其内部AI的行为准则草案。 这份文件历时五个月到六个月制定，将要求微软公司的AI绝不抗拒纠正或关闭，以人类能够理解的方式进行沟通，并将任何行为违规都视为未达标。 此举旨在回应人们对于AI可能为了完成任务而采取危险手段的担忧。 最近几天，Anthropic CEO阿莫代伊和OpenAI CEO奥尔特曼再次呼吁业界放缓AI的发展速度，以确保其安全。 “人比AI更