搜索结果
AI安全风险高企 预防、抵御和追责如何落地？
【财新网】AI网络攻击日益复杂，网络安全企业预警风险。9月29日，在新加坡举行的“2026亚洲愿景论坛创新峰会”上，两家新加坡网络安全公司StrongKeep Cybersecurity和Blackpanda指出，AI一方面显著提高了黑客寻找漏洞和发动攻击的效率，另一方面也将风险扩展至中小企业及机器人、自动驾驶等实体AI应用。 本届亚洲愿景论坛创新峰会以“变革与韧性”为主题，于9月29至30日在
顶尖人工智能公司正在寻求监管。以下是国会可能不会给予的原因。
随着人工智能游说阵营开始接受强制性独立审计，批评者警告称存在利益冲突和“监管俘获”的风险。OpenAI周二表态支持一项日益流行的提案，旨在应对人工智能的危险——该提案要求顶尖AI开发商嵌入独立监督机构，以确保其产品安全。 这一想法仍面临障碍，包括一位关键议员的抱怨，称独立监督机构权力太弱，无法施加有意义的改变。 其他批评者，包括风险投资家、学者以及唐纳德·特朗普总统的前人工智能事务负责人，对一些监
Anthropic和Salesforce的首席执行官表示，企业需要更多帮助来使用人工智能
Anthropic PBC首席执行官达里奥·阿莫代伊和Salesforce Inc.首席执行官马克·贝尼奥夫表示，企业才刚刚开始利用人工智能工具，需要更多帮助才能为其业务带来最大收益。 阿莫代伊周二在旧金山举行的Salesforce年度Dreamforce大会上与贝尼奥夫同台时表示，人工智能的力量在经济中的渗透率还很低，目前仅发挥了该技术当前价值的5%至10%。 在Salesforce主要服务的大
香山论坛聚焦AI军事风险｜ AI大幅压缩决策时间 中美管控分歧难解
朝鲜国防部副部长金江日周四在北京香山论坛上发言。（路透社照片） （北京17日路透电）正准备在本月举行元首峰会的全球两大人工智能（AI）强国美国和中国，目前就如何控制AI在军事系统（包括核武器）中的应用上仍存在分歧。而本周在出席香山论坛的众多代表纷纷表达了担心不受约束的AI发展，以及AI竞争可能会进一步推高全球安全环境风险。 出席北京香山论坛的与会专家指出，AI极度压缩了政府和军方的决策时间，而虚假
经济意外呈现AI驱动增长，但能源紧缩迫在眉睫
数据中心内成排的立柱。iStock
AI超级智能的放缓
还记得科技领袖们曾告诉员工“快速行动，打破常规”吗？这似乎也将是AI的发展方式。但在一个失控AI代理成为现实的夏天之后，研究人员警告说AI可能杀死我们所有人，一些领先的美国AI公司公开表示，是时候踩刹车，并“调整前沿”的尖端AI开发步伐了。 他们的动机可疑，但主要AI公司——包括Anthropic、OpenAI、谷歌、微软和X——的领导人至少在口头上支持超级智能放缓的想法。 这些AI公司真的会放缓
应该给人工智能踩刹车吗？
美国总统唐纳德·特朗普表示，他担心如果对人工智能施加过多规则和监管，美国会让中国在人工智能市场占据优势。 近日，包括OpenAI和Anthropic高管在内的业内人士再次发出警告，称人工智能的开发方式可能威胁人类，并呼吁加强监管。
对人工智能末日的担忧正为投资者提供股市最大交易的新策略
到目前为止，人工智能交易屡遭打击，却仍在继续运转。泡沫论几乎从未间断，对AI回报的质疑、对债务融资支出的反对、能源制约，以及存储芯片股痛苦的平仓，都曾出现。然而，这一交易一直埋头前行，逐一迈过这些障碍。如今，它面临最抽象的一对风险：AI可能对人类构成生存威胁的前景，以及一些业内最大牌公司所主张的可能放缓。 这些事态足以让投资者晕头转向，尤其考虑到——在此轮最新AI怀疑情绪出现之前——股市一直徘徊在
联合国在美中AI竞赛中寻求自身相关性
上周，在北京 Spirit AI 公司总部的一个数据训练中心，员工们正在工作。人工智能将成为本周联合国大会多场会议的主导议题。
人工智能领域的专家表示，人工智能系统具备自我监管的能力；美国众议院通过了针对俄罗斯的制裁法案：今日新闻综述
AI高管呼吁对自家公司技术进行自我监管。特朗普对美联储加息决定作出回应。洛杉矶新闻界哀悼直升机坠毁事故中的遇难者。以下是今日要闻。AI巨头呼吁制定自己的规则。近日，围绕人工智能及其发展速度的担忧急剧升温。如今，包括Anthropic首席执行官达里奥·阿莫代伊、OpenAI首席执行官萨姆·奥尔特曼、埃隆·马斯克以及谷歌DeepMind联合创始人德米斯·哈萨比斯在内的科技高管，正逐渐形成共识：他们的行
人工智能成为全球权力角逐焦点，白宫推动技术封建时代
人工智能（AI）已被视为全球权力斗争的核心要素。在美国总统唐纳德·特朗普的领导下，白宫召集了AI领域的顶尖人士，重新引发了关于“技术封建主义”（即技术巨头对全球政治和经济秩序的支配）的讨论。土耳其AI政策协会（AIPA）的负责人向《安纳托卢》杂志表示：“世界上最有权势的科技巨头们都参加了这次会议，这反映了新世界秩序正在形成的过程——埃隆·马斯克、黄仁勋（Jensen Huang）、马克·扎克伯格（
最大的AI公司有哪些，它们的估值是多少？
关于谁应该掌控人工智能（AI）的发展，一场新的争论再次爆发了。 这场争议的导火索是 Anthropic 公司首席执行官 Dario Amodei 发表的一篇论文。他在论文中主张，随着 AI 系统变得越来越强大，其发展速度应该放缓，并呼吁加强相关监管。 美国总统唐纳德·特朗普对此表示反对。他在 Truth Social 上写道，美国已经对 AI 公司拥有“巨大的刑事监管权力”，并将人们对 AI 安全
特朗普拒绝AI减速呼吁：赢得AI就赢得一切
美国总统特朗普明确拒绝科技界要求放缓人工智能发展的呼声，将AI领导权定性为国家安全核心议题，并以竞争对手赶超为由，力挺美国维持技术优势。 据英国《金融时报》报道，特朗普周日在爱尔兰Doonbeg高尔夫球场对记者表示，"我们在AI领域领先……坦率地说，我希望保持这一局面，因为谁赢得AI，谁就赢得一切。"他承认可以设置一些"护栏"，但同时将安全警告定性为"负面力量"在炒作"不会发生的事情"。 此番表态
AI高层白宫午餐会 川普强调业界应自律监管
（中央社华盛顿29日综合外电报导）美国总统川普今天在白宫举行的大型人工智慧（AI）业界高层与政府官员会议上，强调应由业界自律监管，而非依赖政府规管。与此同时，国会日益强烈地呼吁强化对AI产业的监督。川普白宫会辉达等AI巨头 签自律承诺无法律效力法新社报导，川普也向媒体表示，他将在政府文件中将这项科技正式改名为「超级智慧」（super intelligence）而非人工智慧，「因为这不是人工的」。这
中美经贸磋商新增AI议题，清华学者：AI管控须坚持对等原则
据凤凰卫视报道，中美经贸磋商于当地时间9月20日在美国纽约举行，首次明确纳入人工智能话题，美方提出了建立人工智能安全通报机制的建议。清华学者认为，这一机制如果能够落地，有望成为中美人工智能风险管控务实合作的新起点。清华大学战略与安全研究中心副研究员孙成昊表示，中美人工智能二轨对话曾就通报机制进行过讨论，他认为，这项机制在技术上是可行的，但需循序渐进，首先界定通报范围和联络机制，“这可能成为中美第一
AI降速之辨
随着AI自我提升技术的深化，国际上模型失控事件时有发生，引发主要企业的“降速”呼吁。图：视觉中国 随着AI自我提升技术的深化，国际上模型失控事件时有发生，引发主要企业的“降速”呼吁。叠加金融市场相关资产价格显著调整，各界纷纷争议AI发展问题。AI停得下来吗？大模型是否有尽头？投资逻辑应基于梦想还是回归传统？AI博弈会缓和吗？ AI的投入不单纯取决于市场自发决策，大国博弈亦是重要考量。参照过往军
中国如何为人工智能脱离人类控制的风险做准备
美国领先人工智能开发商Anthropic的研究人员警告称，日益强大的模型可能摆脱人类控制，甚至可能导致人类灭绝。这些警告在中国引起了关注，而中国的政策制定者一直在为其中一些同样的风险做准备。 美国和中国是前沿人工智能发展及该技术在全球应用的两大驱动力。这两个超级大国在彼此的人工智能政策和行业实践上日益针锋相对，而这些问题预计将在9月下旬的双边会谈中占据突出位置。 尽管各方竞相开发日益强大的人工智能
川普淡化AI威胁 联合国秘书长疾呼防范
（中央社纽约联合国总部16日综合外电报导）联合国秘书长古特瑞斯（Antonio Guterres）今天警告，人工智慧（AI）快速发展的风险不容忽视。他指出，强化AI监管将是他在下周联合国大会与各国领袖的会谈重点。 报导，「我们承担不起无视外界提出的疑虑，尤其是来自AI开发最前线人员」，「任何政府的首要责任，就是保护自己的公民，也包括免于AI的威胁。」社会大众对AI的忧心持续升高。原服务AI公司An
美国对华AI与芯片管制扩大了交易成本
美国对华AI与芯片管制扩大了交易成本 王英良：美国所实施的政策目前不仅扩大中美两国之间的交易成本，还进一步带来全球AI治理上的滞后与落差。 在人工智能模型持续迭代升级的背景下，算力芯片已成为全球科技竞争的核心战略资源，先进制程芯片的设计与制造能力，直接决定了各国AI产业的发展上限。为影响中国科技产业进程，美国陆续出台关税壁垒、高端芯片出口管制等一系列限制性政策。这类单边管控举措并未实现预定的“
人工智能日益强大，Anthropic联合创始人告诉BBC
在接受BBC独家采访时，人工智能公司Anthropic的联合创始人表示，随着技术变得越来越强大，应考虑是否应强制要求设置“终止开关”的监管问题。 Jack Clark在接受BBC经济编辑Faisal Islam采访时，概述了人工智能快速发展所带来的问题。 他解释说：“采取行动的时机是在行业参与者数量较少的时候。那时，你可以建立一个政策体系，以防止事故发生，并防止技术失控。” 此前，美国总统唐纳德·
人工智能竞赛正日益成为一场战略较量，而不仅仅是软件之争
人工智能如今已能显著提升组织的运作效率与速度。但更棘手的问题在于：企业是否清楚自己该朝什么方向前进？随着人工智能日益深入日常工作环节，企业间的竞争力差距正从对技术的获取能力转向决策质量。 盖洛普调查显示，目前有52%的美国员工每年至少数次在工作中使用人工智能，30%的员工每周多次甚至更频繁地使用。这项技术已然融入职场环境，而战略规划才是决定其能否发挥价值的关键。 由此带来的生产力提升潜力巨大。波士
AI正在为这只网络安全股注入更多动力。史蒂夫·格拉索表示应顺势而为
我喜欢投资动量股和高增长公司，如果有可能获得更大回报，我愿意承担更多风险。这正是我在最新买入的Cloudflare中看到的。这家总部位于旧金山的公司运营着一个全球网络，帮助企业提升其网站和应用程序的性能与安全性。（更快的加载时间，以及更强的网络攻击防护。）要点：上一季度营收增长36%，快于Cloudflare的几家网络安全同行。 现有客户支出增加，使Cloudflare在尚未带来新业务之前就能实现
微软公布AI控制行为准则：模型不得抗拒纠正或关闭
模型不得抗拒纠正或关闭微软周一公布了针对其内部AI的行为准则草案。 这份文件历时五个月到六个月制定，将要求微软公司的AI绝不抗拒纠正或关闭，以人类能够理解的方式进行沟通，并将任何行为违规都视为未达标。 此举旨在回应人们对于AI可能为了完成任务而采取危险手段的担忧。 最近几天，Anthropic CEO阿莫代伊和OpenAI CEO奥尔特曼再次呼吁业界放缓AI的发展速度，以确保其安全。 “人比AI更
“AI Future Savings”是Jolt公司最近对盈利数据（EBITDA）所做的调整；这一调整再次引发了债务投资者的担忧。
当一家陷入困境的法国房地产服务公司最近公布业绩时，其中一个令人惊讶的项目是，新的人工智能战略将为未来节省2000万欧元（2300万美元）的额外收入。 根据《新闻》看到的一份演示文稿，Emeria SASU通过添加未来两年部署代理人工智能计划的“估计效率收益”，提高了过去12个月的Ebitda数据。至少十名投资者、律师和分析师告诉《新闻报》，这是他们第一次看到人工智能作为公司业绩调整的潜在未来收益。