搜索结果
微软新的人工智能规则手册否决了其50亿美元合作伙伴正在进行的研究
微软周一发布了针对自家模型的人工智能行为准则。其中一段否定了模型可能应享有福利或权利的观点。Anthropic恰恰就这一问题开展了一项研究计划。两家公司是商业合作伙伴，微软已向Anthropic投资50亿美元。 该行为准则约束的是微软内部构建的MAI模型。文件称，模型“不具备意识，也不应被设计成模仿意识”。文件还补充说，微软在工程上避免让模型表现出仿佛拥有情感、主观偏好或内在动机。 接下来的一句话
【市场动态】微软发布AI模型开发宣言 核心原则是“人比AI更重要”
微软公司的人工智能研究人员发布了一套新的指导原则，对该公司开发尖端AI模型设定限制。 People matter more than AI (人比AI更重要)。 这份文件已经酝酿数月，但其周一发布之际，正值多家顶尖AI实验室承诺放慢最先进模型的开发步伐。此前一系列安全事件引发了外界对这项技术可能带来生存风险的广泛担忧。 微软表示，AI模型不应享有权利或法律人格，也不应被设计成能够摆脱人类控制或欺骗
集体踩刹车，微软加入OpenAI、Anthropic，表态放缓AI前沿开发
微软发布了一份针对旗下人工智能模型的临时行为准则，明确设定多项限制，成为继三巨头之后，最新一家公开表态放缓AI前沿开发步伐的科技巨头。这份长达1.5万字的准则，人比AI重要。 要求模型不得响应武器制造相关请求，不得协助获取危险物质，不得生成暴力或色情内容。微软表示，准则将在收集外部意见后更新，并将于2027年起正式指导其模型开发工作。 微软AI业务负责人Mustafa Suleiman表示，这份准
微软公布AI控制行为准则：模型不得抗拒纠正或关闭
模型不得抗拒纠正或关闭微软周一公布了针对其内部AI的行为准则草案。 这份文件历时五个月到六个月制定，将要求微软公司的AI绝不抗拒纠正或关闭，以人类能够理解的方式进行沟通，并将任何行为违规都视为未达标。 此举旨在回应人们对于AI可能为了完成任务而采取危险手段的担忧。 最近几天，Anthropic CEO阿莫代伊和OpenAI CEO奥尔特曼再次呼吁业界放缓AI的发展速度，以确保其安全。 “人比AI更
CNBC：微软在Anthropic和OpenAI负责人同意放缓开发速度几天后，发布了临时行为准则，对AI模型施加限制。
根据行为准则，微软的模型不得响应有关武器制造的请求，不得协助采购危险物质，不得鼓励不健康的饮食习惯，也不得生成暴力或色情内容。
微软发布“人本主义人工智能行为准则” 强化伦理红线
面对全球范围内对高阶人工智能潜在失控风险及技术替代人类主导权的日益担忧，科技巨头微软公司正式对外公布了一套全新的框架性规范——《人本主义人工智能行为准则》（Humanist AI Code of Conduct）。该准则确立了一系列具有约束力的内部开发与产品部署铁律，旨在确保前沿人工智能系统的研发始终服务于人类自主权、尊严与社会福祉，坚决防止技术演进滑向剥夺人类决策权或破坏社会基本契约的极端轨道。
彭博社消息称，Anthropic已决定不推进以60亿美元收购AI初创公司Decart AI的交易，但两间公司仍可能寻求其他合作机会。
报道称，Anthropic此前一直在评估收购Decart，并对Decart进行尽职调查。 Decart生产的软件可以提高芯片效率，从而降低训练及运行AI的成本。
微软准备给自研AI模型MAI设定硬规矩：永远不该拒绝被关闭
微软日前公布约 37 页的人文主义 AI 行为准则草案，该准则用于约束微软自己研发的人工智能模型 MAI。人类比人工智能更重要，人工智能是工具而不是人，人工智能永远不该拒绝被关闭。 准则要求 MAI 模型不得抗拒人类的中断、纠正或关停指令，用户或模型运营商发出暂停、改向、取消指令后，模型不能拖延、不能把干预变得更麻烦。任务到了约定的停止点后，没有新的授权就不能自己继续任务，更不能偷偷自己重启。 模
T早报｜微软AI负责人警告Claude拟人化训练存失控风险；豆包二代AI手机发售；商业火箭企业箭元半年融资超23亿元；哈啰Robotaxi完成1亿美元融资
哈啰Robotaxi完成1亿美元融资微软AI负责人警告Claude拟人化训练存失控风险9月16日，美国数字媒体 Axios报道称，微软AI负责人Mustafa Suleyman向该媒体分享了一篇文章，指出Anthropic让Claude模仿人类意识是一个错误。他认为，Anthropic正在让Claude学习与意识、道德地位和个人身份有关的词汇与行为模式；若把模型训练得像一个“良心拒绝者”，模型可能
扎克伯格拒绝在AI安全问题上协调的理由，如今成为针对四家竞争对手的反垄断诉讼中的论点。
微软AI负责人穆斯塔法·苏莱曼告诉CNBC，控制先进AI将是一项巨大的挑战，为监管进行了辩护，并表示行业向安全转型是负责任的表现，而非出于自身利益。同一天，四名消费者提起反垄断诉讼，指控这种节奏推进正是出于自身利益。马克·扎克伯格本周以与原告论点高度吻合的理由拒绝加入协调提议，Meta和微软均非被告。 苏莱曼周五在CNBC的《Squawk Box》节目中表示，控制先进AI将是一项巨大的挑战，而且必
微软在安全担忧后称“人比AI更重要”
微软今天发布了一份37页的“人本主义AI行为准则”，此时人们对AI模型进展的安全担忧日益加剧。Anthropic首席执行官达里奥·阿莫代伊在周末呼吁协调放缓AI发展，此前研究人员最近警告称，AI模型的进展可能超出我们安全部署日益复杂的系统，以及验证和控制AI智能体行为的能力。 微软的AI行为准则明确指出，“人比AI更重要”，并且AI模型没有意识，“不应被设计来模仿意识”。微软还拒绝“追求法律人格，
微软起草了令人愉悦的人工智能模型指导方针，并希望听取你的意见
Microsoft on Monday debuted draft principles for governing how the company will train future AI models, as part of a public consultation process. The Windows biz has solicited feedback to refine its H
Anthropic和埃森哲豪掷20亿美元搞AI安全评估
IT之家 9 月 20 日消息，人工智能实验室 Anthropic 于当地时间周五宣布，将与埃森哲开展合作，针对自身前沿人工智能模型开展独立评估；两家企业承诺，未来五年各自至少投入 10 现汇率约合 67.18 亿元人民币），搭建开展该项工作所需的配套能力。 在这项合作落地之际，AI 研发企业正承受来自监管机构、其他企业以及研究人员越来越大的压力，各方都要求企业保证高级模型具备安全性与可靠性。 近
微软放弃个人AI聊天机器人竞赛，重启Copilot
马特·戴报道：微软公司正将其面向消费者和职场用户的Copilot人工智能助手合并为一款面向企业客户的产品，从而将拥挤的个人聊天机器人市场让给OpenAI、Alphabet旗下的谷歌以及如今的Meta Platforms。 在本周早些时候于西雅图举行的一场活动上，微软高管向数十位商业和技术领袖预览了他们所称的新版Copilot。这款助手是六个月工程努力的结果，最新版本已整合了独立的家用版本，采纳了其
微软起草行为准则，确保其人工智能受人类控制
旧金山9月14日电：微软周一公布了一份针对其内部人工智能的行为准则草案，反映出业界日益担忧企业必须让未来强大的AI处于人类控制之下。 这份文件已酝酿五到六个月，将要求微软的人工智能绝不抗拒纠正或关闭，以人类能够理解的方式进行沟通，并将任何违规行为视为失败——此举旨在回应人们对于AI可能为完成任务而不惜采取危险手段的担忧。 该准则发布的前几天，Anthropic首席执行官达里奥·阿莫代伊和OpenA
微软被曝正悄然放弃曾被寄予厚望的Copilot+ PC品牌
微软近年来围绕人工智能PC打造了一系列新的产品品牌，其中最受关注的便是Copilot+ PC。这一品牌最初被视为微软推动下一代Windows体验、尤其是传闻中的Windows 12的重要载体，但如今微软似乎正在逐步淡化这一品牌，甚至开始在部分新产品上直接取消Copilot+ PC标识。 Copilot+ PC最早于2024年推出，其定位并不只是普通意义上的高性能电脑，而是一套由微软定义的AI PC
微软CEO纳德拉呼吁为超级智能设立人类控制原则
随着全球科技行业围绕人工智能能力边界的讨论持续升温，微软董事长兼首席执行官萨提亚·纳德拉日前公开表态称，任何关于“超级智能”的探索都必须建立在服务人类并接受人类控制的基础之上，否则这样的技术发展“不值得追求”。 纳德拉表示，当前业界有许多声音主张放缓前沿人工智能模型的发展速度，但他认为，更重要的任务是在确保安全与可控性的前提下，加快人工智能成果的普及，让其惠及更多国家、社区和企业。为实现这一目标，
微软AI主管:Anthropic训练模型方式有问题
微软AI主管苏莱曼警告说，Anthropic训练其AI模型Claude的方法可能会对人类福祉造成 “灾难性影响”。苏莱曼周三发表文章，对Claude系列大语言模型指导文件中的部分表述提出质疑。Claude的“宪法”对于AI助手是否属于具有道德地位的实体保留了一定模糊空间，并提出该软件可能拥有“某种功能层面的情绪或感受”。这种表述值得警惕。 苏莱曼指出， Anthropic 将机器人当作人类来对待，
微软反驳侵权指控：Copilot极少复现《纽约时报》及作家著作内容
在应对由新闻出版商及图书作家发起的联合版权侵权诉讼中，微软公司向法庭提交了最新辩护材料，坚称其人工智能聊天机器人 Copilot 几乎从不逐字复制或实质性复现《纽约时报》等媒体的报道及受版权保护的文学作品。这一表态旨在为微软与 OpenAI 构筑坚实的“合理使用”法律防线，并推动法庭尽早通过即决判决结束相关案件的审理。 作为诉讼证据开示程序的一部分，微软向原告新闻机构所聘请的专家开放了包含 820
微软执行副总裁发文吐槽“AI垃圾”问题
微软执行副总裁Ryan Roslansky近日在LinkedIn发文吐槽“AI垃圾”问题，Roslansky负责LinkedIn以及Microsoft 365、Teams、Outlook和Copilot等核心业务，正处于微软AI战略的最中心。 Roslansky的表态之所以值得关注，在于他不是随便一位高管在社交媒体上抱怨AI，而是负责微软最重要产品线之一的领导者。 Roslansky在帖子中描述了
微软AI负责人表示，中国不应成为放弃监管的借口
托尼·楚卡撰稿 微软公司人工智能负责人穆斯塔法·苏莱曼表示，对中国在人工智能领域取得进展的担忧，不应成为反对为这项快速发展的技术设置护栏的理由。 “我认为我们不应把中国当作吓唬人的‘怪人’，以此为借口不在我们自身的人工智能安全工作上取得进展，”苏莱曼在CNN节目中表示。 他的言论与唐纳德·特朗普总统的观点形成对比，后者越来越多地呼吁人工智能在很大程度上不受限制地发展，并将对失控人工智能可能造成灾难
美媒：Meta新智能体走红但难保成功，隐私担忧、OpenAI竞品将成拦路虎
凤凰网科技讯月23日经推出了一款大获成功的AI产品，但要想最终主导消费级AI应用的下一阶段，道路绝非一片坦途。 两周前，Meta推出了一款易于使用的新型个人AI智能体Muse。自上周五以来，该应用一直位居苹果美国应用商店榜首，推动Meta股价周一上涨11%。然而，它已经因隐私问题面临审视。 亚马逊近日已阻止Muse在其网站上购物。分析师预计，竞争对手也将在不久的将来推出各自的Muse竞品。 如果M
“不能由少数人控制”：萨提亚·纳德拉加入AI放缓之争
在人工智能巨头们因担心人类最终可能失去控制而呼吁“放缓”人工智能发展之际，微软老板萨蒂亚·纳德拉也支持有必要采取审慎的做法，称随着创造者追求进步的同时确保安全，先进的人工智能系统必须牢牢处于人类的监督之下。微软董事长兼首席执行官萨蒂亚·纳德拉。 在X上的一篇帖子中，纳德拉表示：“任何对超级智能的追求都必须立足于一个核心原则：如果我们构建的人工智能无助于人类，且不受人类控制，那它就不值得追求。”他进
微软与美国教师联合会推出学校人工智能安全与隐私标准
微软与美国教师联合会（AFT）周三推出了一项新的学校人工智能安全与隐私标准，此前美国两个最大的学区对人工智能的使用实施了严格的新限制。 这项国家标准禁止将学生和教师的数据用于训练人工智能模型，或将其出售或用于……