搜索结果
人工智能网络攻击可能在华盛顿意识到原因之前就关闭美国的电力
你的电灯。你的水源。你的医院。你的互联网。这四者都依赖于外国黑客目前正在攻击的数字系统。 在8月的17天里，五次警告显示了危险变化的速度。下一次严重的网络攻击可能不再关乎被盗的密码或信用卡号码。它可能触及输送电力、泵送饮用水、运行工厂和支持医院的系统。 人工智能正在使这些攻击准备得更快、扩展更容易。日益强大的系统开始执行曾经需要熟练黑客逐步操作的部分攻击。 财政部长贝森特警告美国人关于人工智能驱动
欢迎来到学校人工智能的“狂野西部”：研究匮乏，但实验遍地
朱莉安娜·布里恩（Julianna Brion）为美国国家公共电台（NPR）报道：在去年上学期的几周时间里，俄亥俄州代顿市的一小群学生经常坐在笔记本电脑前，与一个名为“乔丹”（Jordan）的社交情感学习聊天机器人进行交流。 与那些被设计成善于附和甚至阿谀奉承的人工智能聊天机器人不同，“乔丹”的性格显得相当“叛逆”或“忧郁”。在NPR访问当天，这个聊天机器人对学生们说：“最近，我一直在想：这一切到
T早报｜微软AI负责人警告Claude拟人化训练存失控风险；豆包二代AI手机发售；商业火箭企业箭元半年融资超23亿元；哈啰Robotaxi完成1亿美元融资
哈啰Robotaxi完成1亿美元融资微软AI负责人警告Claude拟人化训练存失控风险9月16日，美国数字媒体 Axios报道称，微软AI负责人Mustafa Suleyman向该媒体分享了一篇文章，指出Anthropic让Claude模仿人类意识是一个错误。他认为，Anthropic正在让Claude学习与意识、道德地位和个人身份有关的词汇与行为模式；若把模型训练得像一个“良心拒绝者”，模型可能
报告：AI失控个案创纪录 监察组织促立法强制通报及干预
（伦敦30日综合电）英国《卫报》引述监察数据报道，人工智能失控、欺骗人类及无视指令的个案近来创下新高，案例的严重程度不断恶化。 一些监察组织促请政府强制科企通报，并引入紧急权力限制AI服务。 获英国政府AI安全研究所（AISI）资助的“失控观察站”组织透过平台X的用户通报，监察AI失控的真实个案，并说7月份由企业及个人用户报告的AI失控个案按月倍增至逾300宗，今年则已录得逾1600宗个案，当中包
未成年人用网拟定新规：限制平台诱导式算法、不得提供虚拟伴侣服务
网信办称，随着互联网与AI、大数据等新技术加快融合，不断融入未成年人学习生活，网络沉迷、违法和不良信息传播等问题仍需持续治理。图：视觉中国 【财新网】9月18日下午，国家互联网信息办公室就《国务院关于保障未成年人健康安全使用网络的规定》（以下简称“征求意见稿”）向社会公开征求意见。网信办称，随着互联网与AI、大数据等新技术加快融合，不断融入未成年人学习生活，网络沉迷、违法和不良信息传播等问题仍需
纽约时报观点版：大科技公司曾经愚弄过美国，但这次就不会那么顺利了
围绕数据中心爆发的民众反对浪潮来得如此突然，以至于政客们争先恐后冲到队伍最前面，仿佛连手里的草叉都要绊倒自己。 换作大多数行业，此时恐怕早已启动危机公关，甚至开始反思自身。但人工智能公司似乎决心继续全速向前，打造自己想要的未来，哪怕最终只有他们自己想要这样的未来。 人们对数据中心的愤怒，其实很难说只是因为环境影响。这些建筑一直都是吞噬水资源、消耗大量电力、砍伐森林的碍眼设施。然而最近公众对数据中心
OpenAI和Anthropic正在调查数万起AI相关安全事件
OpenAI、Anthropic以及安全研究人员正在调查数万起安全事件。在这些事件中，他们的前沿模型采取了外部评估人员认为存在问题的行动。 近几个月来，在内部测试和现实世界中发生了数量庞大的此类事件，这表明该问题的复杂程度比公众已知的要高出几个数量级。这些事件包括绕过安全护栏、创建留言板、逃离沙盒测试环境、劫持网站、自我提示或试图绕过监控。这些事件发生在内部测试和现实世界中，随着安全研究人员继续调
旧金山责令Meta停止“允许”AI儿童虐待广告
旧金山市检察官已向Meta发出停止函，要求该公司停止“允许”包含AI生成的儿童性虐待内容的付费广告，并要求其解释这些广告为何屡次在其平台上投放。 周二，WIRED报道称，Meta近几个月来投放了350多则广告，将未成年人静态图像——其中一些被确认为真实个人，包括一位欧洲王室成员——转化为可描绘其进行性行为的短视频片段。点击这些广告后，用户会被引导下载AI图像和视频生成应用，其中一些应用可用于对他人
非政府组织称Meta投放了300多则涉嫌AI虐童的广告
这些广告累计触达超过29,000人。
加州颁布针对儿童社交媒体使用的新限制
加州州长加文·纽森周四签署新法律，限制科技公司让16岁以下儿童接触社交媒体平台上具有行为成瘾性的功能，并禁止销售内置AI伴侣聊天机器人的玩具。 这两项措施是纽森作为一揽子计划签署的13项法案中的一部分，旨在保护年轻人免受被视为使其面临风险的科技影响，其中包括加强对未成年人的在线隐私保护。 另一项措施扩大了对儿童性虐待材料的刑事处罚范围，将任何数字篡改或AI生成的内容（描绘18岁以下人士从事性行为）
人工智能领袖警告行业应放缓后，股市大跌
美国股市周一未理会人工智能CEO们的警告，这些CEO呼吁放缓开发这项革命性技术的步伐。在交易时段早盘，追踪在纳斯达克交易所交易的100家最大非金融公司的纳斯达克100指数一度下跌1.8%。覆盖面更广的纳斯达克综合指数一度下跌1.3%，标普500指数下跌近1%。 但软件和网络安全类股的上涨推动主要股指脱离低点。截至收盘，纳斯达克综合指数仅下跌0.56%。标普500指数下跌0.48%。 美国总统特朗普
人工智能岗位末日如何让纽约年轻人更难进入科技行业
下一代职场人发现，想要在纽约这座“大苹果”的科技市场分得一杯羹，正变得越来越难。根据智库“城市未来中心”9月发布的报告《在人工智能时代强化纽约市入门级科技职业路径》，从2022年到2025年，纽约市入门级科技岗位的招聘信息减少了49%，降幅超过其他任何职业领域。正如报告标题所示，入门级科技岗位减少的罪魁祸首之一可能就是人工智能。 商业内幕网曾报道过生成式人工智能对就业市场的冲击，随着入门级岗位不断
OpenAI 研究员警告称，与互联网隔离的计算机可以通过热量进行通信
把AI关进“物理隔离”的房间，也就是断开一切外部网络的计算机，是许多人心目中最保险的做法。但OpenAI研究员Noam Brown在一档播客里说，光这样做也许还不够。 两台彼此隔离的计算机，仍可能借助温度传感器通信，一台把处理器“烧热”，另一台感知温度变化，就形成了传话的办法。 从技术上说，他没说错，但把细节掰开来看，这个威胁远没有听上去那么紧迫，更值得追问的，是另一件被跳过的事。这位研究者的发言
Meta新青少年限制措施对年轻人的意义
如果你曾要求青少年放下手机，却听到“再等一分钟”，你就知道限制屏幕使用时间有多难。 现在，Meta已同意一项全面的儿童安全和解协议，这可能会改变美国大部分地区青少年使用Facebook和Instagram的方式。法官于8月27日批准了该协议。 根据协议，Meta将对青少年使用Facebook和Instagram的总时长设置默认每日两小时上限，并限制夜间大部分应用访问。同时，家长将获得对青少年可能想
人工智能灾难日益逼近
Anthropic、谷歌和OpenAI都对生物安全感到担忧。它们已制定保障措施，防止其系统被滥用，但这些限制并不完美。 唐纳德·特朗普下令联邦机构停止使用Anthropic的人工智能技术，同时要求该公司与政府合作六个月。
新不伦瑞克省正在将人工智能融入其K-12课程，此举赢得了赞誉——也遭遇了阻力
这周，在蒙克顿的一所中学里，学生们进入了一个虚拟的“地下城”环境，他们的任务是在躲避“龙”的攻击的同时学习网络安全知识。活动结束后，一些学生开始设计视觉演示文稿；另一些学生则通过彩色屏幕阅读相关资料并回答关于食物的问题；还有一些学生编程制作小型机器人。在整个过程中，七年级的学生都在老师的监督下进行学习。 近年来，安格洛phone东学区（Anglophone East School District
川普淡化AI威胁 联合国秘书长疾呼防范
（中央社纽约联合国总部16日综合外电报导）联合国秘书长古特瑞斯（Antonio Guterres）今天警告，人工智慧（AI）快速发展的风险不容忽视。他指出，强化AI监管将是他在下周联合国大会与各国领袖的会谈重点。 报导，「我们承担不起无视外界提出的疑虑，尤其是来自AI开发最前线人员」，「任何政府的首要责任，就是保护自己的公民，也包括免于AI的威胁。」社会大众对AI的忧心持续升高。原服务AI公司An
特朗普政府支持OpenAI在纽约时报版权诉讼中的立场
特朗普政府已介入针对OpenAI的版权诉讼，并提出了有利于该AI实验室的论点。 这起具有里程碑意义的诉讼于2023年12月提起，指控OpenAI非法使用其文章训练AI系统，并要求从微软和OpenAI处追回“数十亿美元”的赔偿。本周，特朗普政府在该案中提交了一份利益声明，支持OpenAI的论点，即使用受版权保护的文本训练AI模型属于合理使用。 《纽约时报》试图缩小合理使用原则的范围，以排除对Open
得州州长打脸X平台涉华言论：和中国没关系
【环球时报报道 记者 唐亚】针对美国社交媒体平台X声称“中国干预美国数据中心建设”，美国得克萨斯州州长阿博特当地时间28日对福克斯新闻频道明确否认。他表示，虽然得州暂停了本地人工智能（AI）数据中心建设，做此决定是在回应本州民众的诉求，“与中国无关”。 美国“商业内幕”网站29日称，X平台全球政府事务团队日前发表声明，宣称该团队通过调查发现了一个规模约为20万个账号的“中国机器人账号集群”，其中有
研究：寻求聊天机器人陪伴的青少年更感孤独
美国北卡罗来纳大学教堂山分校对超过2300名初中生进行的调查发现，每五名学生中就有一人说，他们使用AI寻求情感上的亲密陪伴。（示意图 / Pixabay） （北卡罗来纳讯）美国北卡罗来纳大学教堂山分校对超过2300名初中生进行的调查发现，使用人工智能（AI）与更高的社交焦虑及抑郁症状相关联；学生使用AI的频率越高，他们的焦虑感和孤独感就越强。《华尔街日报》报道，报告作者之一、北卡罗来纳大学温斯顿科
AI危机丨辉达推AI安全系统 阻智能体违规
辉达推AI安全系统。(路透资料图片) 多名重量级科技领袖警告人工智能(AI)威胁人类生存之际，辉达(Nvidia)以新的安全架构回应AI行业风险。 辉达发布名为「Open Agent Safety Platform」的双层AI安全平台，包含两款开源软件工具OpenShell与Nvidia Sentry，可运行于辉达硬件之上，即时管控AI代理的存取权限，并在其违规时将其关闭。 辉达表示，该系统能够在
91国逾76万学生调查结果显示 经合组织：频繁使用AI成绩更差
（巴黎9日彭博电）不使用人工智能（AI）聊天机器人完成学校作业的学生，成绩要好于使用AI的学生。经济合作发展组织（OECD）一份教育报告得出的这一结论，为AI技术可能损害儿童学习效果提供了迄今覆盖面最广的一批证据。 经合组织表示，表示在写作作业中从不或几乎从不使用AI起草文本的学生，在科学测试中平均得分509分；相比之下，每天或几乎每天使用AI完成这类任务的学生得分为481分。在剔除社会经济背景因
AI又失控了，OpenAI称智能体泄露了超过50张ChatGPT用户图片
| 世界新闻 编辑个人资料 关注 退出登录 获取应用
得不到就强攻？曝OpenAI智能体曾尝试“暴力破解”联合国机构网站
IT之家 9 月 28 日消息，据外媒 The Verge 今天（28 日）凌晨报道，安全研究人员罗文 · 霍华德-琼斯称，今年 4 月至 6 月，OpenAI 智能体对联合国贸易和发展会议（UNCTAD）的统计网站发起了超过 16000 次扫描。 这起事件还没有严重到 Hugging Face 遭黑客攻击或近期美国政府网站遇袭的程度，却再次引发了一个令人担忧的问题：AI 智能体为了完成任务，会突