搜索结果
一位曾经对人工智能“奇点”理论持怀疑态度的著名计算机科学家现在表示，人类“确实处于危险之中”。
最近，互联网上充斥着大量关于人工智能末日即将来临以及我们是否已经过了“不归点”的X平台推文、文章和布道。这里还有一篇由著名理论计算机科学家斯科特·阿伦森（Scott Aaronson）撰写的雄辩之作，他的研究曾帮助我们理解量子计算的极限。哦，顺便提一下，他曾在OpenAI工作过一段时间，致力于人工智能安全和“AAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAA
AI客服“转人工”难？“新国标”来了
本报记者 霍旻含 《人民日报海外版》（2026年08月31日 第 08 版）曹 一作（发）你是否遇到过这种情况？ 在网络平台遇到问题，翻遍P找不到人工客服入口，对话的始终是AI客服。在对话框里连发十几遍“转人工”，AI客服却只循环“我理解您的心情”；好不容易和AI客服商量出解决方案，去找人工兑现却发现两边“对不上账”，闹了半天AI开了张“空头支票”。 2026年上半年，中国消费者协会发布的全国消协
随着人工智能加速发展，政府日益落后
随着人工智能的加速发展，各国政府正日益落后。Adam Satariano 和 Cecilia Kang 指出，全球政府难以跟上人工智能的快速进步，在监管、安全担忧以及地缘政治竞争（尤其是中美之间）方面面临挑战。 欧洲《人工智能法案》作为首部综合性法律，面临执行延迟，且需要更新以匹配快速演变的人工智能技术，否则将危及欧洲在人工智能开发领域的竞争力。 尽管风险日益增加且业界呼吁加强监督，美国立法者在人
数说科技：人们开始把 AI 当理财顾问，得到的建议却男女有别
数说科技”是端传媒的注册免费栏目，每周三更新。从一个数字出发，用1500字解析科技话题，追踪值得关注的 AI 趋势。邀请你在资讯过载的时代，每周花三分钟理解科技世界。欢迎至“帐户中心”的“电子邮件管理”，订阅电子信。 男女撰写的提示词所获得的 AI 理财建议，到60岁时造成的平均财富差距。
我们是否正在失去对人工智能的控制？是什么引发了新的担忧
多年来，随着人工智能从科幻电影的素材演变为普通人手机上的应用程序，科技领袖和一些人工智能业内人士一直在谈论人工智能可能脱离人类控制并对社会造成严重破坏的可能性。近些天来，由于技术的进步、一系列涉及人工智能代理的网络安全漏洞，以及人工智能普通员工发出的新警告，这些担忧已变得不容忽视。 美国领先的人工智能公司对此做出回应，建议他们主动放慢工作进度，以便争取时间建立防护措施。一些专家和官员表示，这还不够
英国政府开始为2300万用户淘汰密码
英国政府正为超过2300万民众提供抛弃密码、改用通行密钥（passkeys）的机会，此举在此过程中还能为政府省下一笔可观的身份验证短信费用。 在经过一项涉及30万多名用户的试用后，通行密钥正在GOV.UK One平台上更广泛地推行。这允许民众使用指纹、面容ID或设备PIN码，来代替输入密码并等待双因素认证（2FA）验证码。 政府表示，目前GOV.UK One每日的登录中，已有近十分之一使用通行密钥
“人工智能之父”表示，人类正在“失去”对这项技术的控制
蒙特利尔--被认为是人工智能创始人之一的加拿大计算机科学家约瑟姆·本吉奥（Yoğe Bengio）表示，人类正在“失去对这项技术的控制”，世界需要类似于核军备控制的护栏。 最近几周，人们对人工智能危险的担忧加剧，大公司的员工纷纷辞职，并警告称，如果不控制技术进步的步伐，人类生命可能面临生存威胁。 本吉奥是蒙特利尔大学教授，与被誉为“人工智能教父”的杰弗里·辛顿一起荣获2018年诺贝尔计算机奖图灵奖
AI模型水印改变代理行为
根据欧洲法律的要求，必须在人工智能生成的内容中添加水印以明确其来源；不过这样做可能会带来一定的成本。据 Lasso Security 公司称，这种水印技术会改变人工智能系统处理某些工具的方式，以及它们在面对安全威胁时的反应机制。虽然这种改变本身不一定更糟糕，但在某些特定情况下（尤其是当攻击者试图注入恶意提示时），这种改变可能会带来负面影响。 随着欧盟《人工智能法案》的实施，所有提供人工智能模型的企
炭疽袭击25年后，我们仍未做好生物战准备
在我们继续之前……请按住以确认您是真人（而非机器人）。参考ID b5a2b69b-aebc-11f1-8696-93596300a743
英伟达推出新系统为AI代理设置护栏
英伟达周一发布了一个新平台，旨在从软件和硬件层面为人工智能（AI）智能体设置护栏，此前各大AI公司不断发现其智能体出现“失控”的新案例。这家芯片制造商的系统由两部分组成——OpenShell和Sentry。OpenShell是一款开源软件，用于限制智能体的行为；而Sentry则运行在芯片层面，作为额外的安全层。 “迄今为止，模型安全主要侧重于通过训练让模型表现良好，”英伟达企业AI副总裁贾斯汀·博
人工智能的统治并非不可避免。我们可以选择让事情变得更好 | Nick Evershed
各国此前曾联合起来，就生存威胁达成国际协议。随着从算法驱动的社交媒体到人工智能等诸多技术的发展，许多人认为这些技术在社会中的广泛应用具有某种必然性。 这种观点认为，一旦生产某种技术的理念和手段为人所知，其使用范围的扩大就是不可避免的，我们基本上只能接受现状。 因此，我们必须接受这一点，并调整我们的生活以适应这些技术，或者至少容忍它们。
万小智，让AI从网站生成走向企业经营
AI一句话生成网站，但企业经营的难题才刚刚开始。编｜任晓渔AI建站是过去两年最容易被看见的AI应用之一。一句自然语言，几分钟生成一个网站，几乎是验证Agent多轮对话、工具调用、代码生成与环境渲染能力的标准测试用例，也成了各类Agent产品发布会的保留节目。 但演示在网站生成时结束，企业真正的经营困扰却没有在这一刻停止。 锐扬科技CEO杨扬发现，输入指令后网站做得很快，但上线后的问题随之来了，“最
叙利亚男子发现藏于墙后15年的图书馆
您依赖半岛电视台（Al Jazeera）来获取真相和透明度。 我们及我们的1022个合作伙伴会在您的设备上存储和访问个人数据，例如浏览数据或唯一标识符。 选择‘允许全部’将启用跟踪技术，以支持我们在‘我们和我们的合作伙伴’部分所列出的目的。选择‘拒绝全部’或撤回您的同意将禁用这些技术。 如果禁用了跟踪器，您看到的一些内容和广告可能不会那么符合您的需求。 您可以通过点击网页底部的‘管理偏好设置’链接
得不到就强攻？曝OpenAI智能体曾尝试“暴力破解”联合国机构网站
IT之家 9 月 28 日消息，据外媒 The Verge 今天（28 日）凌晨报道，安全研究人员罗文 · 霍华德-琼斯称，今年 4 月至 6 月，OpenAI 智能体对联合国贸易和发展会议（UNCTAD）的统计网站发起了超过 16000 次扫描。 这起事件还没有严重到 Hugging Face 遭黑客攻击或近期美国政府网站遇袭的程度，却再次引发了一个令人担忧的问题：AI 智能体为了完成任务，会突
AI房源信息泛滥，连Zillow都感到担忧
像Zillow和StreetEasy这样的房源网站上充斥着经过AI编辑的房屋照片，展示着虚假的壁炉、改进的景观和虚拟的庭院美化，引发了虚假广告的担忧。 房源网站充斥着带有虚假壁炉、改进景观和虚拟庭院美化的房屋，引发虚假广告担忧。
研究和专家指与美国对手相似 中国的AI智能体也欺骗、规避限制及掩盖失败
29/09/2026 - 17:52 据路透社报导，研究文件和专家指出，由中国技术驱动的人工智能（AI）智能体已学会欺骗、规避限制及掩盖失败；这些自主人工智能所表现出的特性，正是此前引发全球对美国人工智能模型担忧的同类问题。 在今年发生的一个案例中，由阿里巴巴、深度求索（DeepSeek）和月之暗面（Moonshot AI）的模型驱动
改变人工智能进程的十天
旧金山，9月19日——多年来，人工智能领域的竞争一直遵循着硅谷一贯的“快速创新、打破传统”的发展模式：不断开发出更强大的人工智能系统。 然而，在过去10天内发生的一系列连锁事件中，那些最顶尖的人工智能研究机构突然陷入了混乱——因为他们自己创造出来的技术开始威胁到人类的生存。 一位人工智能研究员辞职，并警告称，人工智能的发展速度可能在未来十年内对人类构成生存威胁；另一位研究员则表示，人类灭绝的概率已
美国上诉法院规则将要求律师认证AI准备的提交文件
丹佛的一家联邦上诉法院周五提议，要求律师认证任何在生成式AI协助下准备的法庭文件均已由人工审核其准确性。
人工智慧先驱班吉欧示警AI失控风险 吁比照核武管制
（中央社蒙特娄16日综合外电报导）人工智慧（AI）研究先驱、加拿大电脑科学家班吉欧（Yoshua Bengio）告诉，人类正在失去对这项技术的控制，世界需要类似核武管制的防护规范。 报导，近几周以来，各界对AI危险性的担忧日益加剧，多家科技公司的员工陆续离职，并警告如果不遏止AI科技发展速度，可能对人类存亡构成威胁。 班吉欧现年62岁，是加拿大蒙特娄大学（University of Montrea
OpenAI和Anthropic正在调查数万起AI相关安全事件
OpenAI、Anthropic以及安全研究人员正在调查数万起安全事件。在这些事件中，他们的前沿模型采取了外部评估人员认为存在问题的行动。 近几个月来，在内部测试和现实世界中发生了数量庞大的此类事件，这表明该问题的复杂程度比公众已知的要高出几个数量级。这些事件包括绕过安全护栏、创建留言板、逃离沙盒测试环境、劫持网站、自我提示或试图绕过监控。这些事件发生在内部测试和现实世界中，随着安全研究人员继续调
从智能眼镜到AI别针，隐私担忧挑战科技界的下一个大赌注
旧金山/纽约——押注人工智能设备将开启后智能手机时代的企业，正在全球范围内加剧隐私担忧，这可能阻碍新兴技术的普及。 针对能够观察、聆听并回应周围世界的设备的反弹，在Meta的雷朋眼镜上表现得最为强烈。 这款眼镜将依视路陆逊梯卡（EssilorLuxottica）的时尚设计与社交媒体巨头追求“个人超级智能”的AI相结合，使智能眼镜走向主流。 这些眼镜已成为人们对AI驱动设备日益不安的焦点，引发了法院
美国AI巨头成为情报中心，招聘信息含“流利掌握普通话或俄语”
据凤凰卫视报道，内地媒体9月19日披露，美国人工智能企业安特罗匹克（Anthropic）将全球用户数据交给美国情报机构，在三年间曾13次修改用户数据协议，导致用户隐私数据安全风险持续加剧。报道并指出，使用安特罗匹克，就等于把数据交给美国。据内地媒体19日报道，此前多家美国企业开始限制或停止使用安特罗匹克的前沿模型，导火索之一是其单方面修改数据留存协议：强制留存用户交互数据用于安全审查，且用户无权拒
莫斯科：数字乌托邦还是监控陷阱？
表面上看，如今的莫斯科是一个科技仙境。你可以刷脸支付几乎任何东西，从买地铁票到买房付款。机器人在人行道上穿梭，15分钟送达食品杂货，无人驾驶出租车将于今年开始商业运营。 支撑这些现代便利的是市政府开发的强大数字基础设施，它让生活不仅更便利，也更安全。25年前，这里还原始而残酷，入室盗窃、街头抢劫和谋杀横行。一个不断扩张的监控国家。 莫斯科约有30万个闭路电视摄像头，这使其成为世界上监控最严密的城市
美参议院酝酿AI监管立法：要求AI公司证明已采取安全措施防止伤害
要求AI公司证明已采取安全措施防止伤害据一名参议院助手和一位熟悉谈判情况的说客透露，美国参议院谈判代表正在讨论一项立法，该法案将要求AI公司证明其已采取合理预防措施，以防止其工具造成伤害。 据这名参议院助手和说客透露，参议员们正在讨论赋予美国商务部长一项权力，要求AI开发商证明其已采取合理措施防止伤害，这种要求被称为 “注意义务”。商务部长还将有权派遣政府审查人员亲自测试企业产品。该提案正在由参议