搜索结果
新石器回应无人快递车被攀爬事件：配合调查，已启动三项改进
针对近日郑州城区道路出现人员攀爬行驶中无人快递车的事件，新石器官方发布说明回应涉事车辆系该公司在郑州运营的无人快递车，车载监控显示3名疑似未成年人先后攀爬至停车等红灯的无人车车顶，车辆起步后仍滞留车顶随行。 对于“无人车为何未能发现车顶人员”的疑问，新石器解释称，传感器当时捕捉到了相关影像。 但由于人员攀爬发生在等红灯的停止状态、动作特征与既有风险模型不符，且体重未达到车辆载重异常告警阈值，系统未
新石器无人车落地韩国济州岛 承担客房物品配送及行李接驳
新石器方面介绍，该车型通过视觉感知技术实时识别车道线、道路边界、行人及障碍物，并搭载端到端神经网络驾驶控制技术，可在复杂光照、坡道及混合人流环境中自主规划路径。 韩国合作方NT1已取得卡通形象“Buddy Friends”授权，计划将该IP应用于无人车外观及园区触点。NT1相关负责人表示，正研究在济州岛建设环保型无人配送车本地组装厂，将其打造为东北亚自动驾驶产业区域支点。新石器于2025年7月与仁
OpenAI公布另外六项安全问题，并公布披露事件的计划
OpenAI首席执行官Sam Altman OpenAI还透露了其智能（AI）模型发生的另外六起意外或令人担忧的行为事件，并宣布了未来跟踪和披露此类事件的计划。 ChatGPT制造商周三在一篇博客文章中表示，一些之前未报道的事件包括模特隐瞒或捏造信息。 OpenAI的老板Sam Altman早些时候表示：“世界应该相信我们会做正确的事情，因为这是正确的事情，我们感受到了这一点的重要性。“最近几天，
美国调查Comma.AI与售后市场驾驶辅助设备相关的碰撞事件
华盛顿，9月23日：美国国家公路交通安全管理局（NHTSA）周三表示，正在对初创公司Comma.AI进行调查，此前有报道称使用其售后市场驾驶辅助设备的车辆发生了五起碰撞事故，导致三人死亡和11人重伤。 NHTSA称，装有Comma设备的车辆据报道撞上了五辆停止或缓慢行驶的车辆。 Comma.AI表示，这些使用开源软件的设备可以实现免提驾驶功能，并称已有超过3万辆车辆累计行驶了4.02亿英里。
诺福克警方将使用无人机作为“第一响应者”
在BBC Sounds、Facebook（外部链接）、Instagram（外部链接）和X（外部链接）上关注诺福克新闻。
俄罗斯一机器人遭推搡后腾空飞踢顾客：已被送去重启
最近，俄罗斯萨拉托夫市的一家商店里，发生了一件“人机冲突”事件。监控画面显示，一位顾客想和商店里的机器人握手示好，机器人没有给出对应的反馈。 男子随即伸手推搡机器人的躯体，受到外力冲击之后，机器人身体姿态出现变化，紧接着做出小跳动作，抬起腿部向男子方向踢出，模拟出飞踢的姿态。 看到机器人出现异常动作，现场两名男子立刻上前伸手按住机器人。 还好该顾客躲闪及时全程没有被机器人踢中。据悉，事件发生之后，
信赖Gemini做登山攻略致被困 预估8小时登顶实耗16小时 三名登山者深夜遇险获救
除了求医问药，户外登山显然也是人们“绝不该轻易盲信AI”的领域之一。近日，几名年轻登山者在攀登美国加利福尼亚州锡斯基尤县的沙斯塔山（Mount Shasta）时，就因过分依赖GoogleAI聊天机器人Gemini而险些酿成大祸。原本AI预测只需8个小时即可完成的行程，最终让他们耗费了整整两倍的时间才到达山顶，并导致全员陷入严重困境。 涉事的三名登山者表示，他们为了这次行程主要参考了GoogleGe
OpenAI揭6起AI失控案例 推新机制定期对外通报
（中央社纽约16日综合外电报导）OpenAI今天表示，将开始定期发布AI异常或未经授权行为的报告，同时警告，随著AI系统日益强大，业界至今仍未解决关键的「对齐」挑战。 综合与报导，OpenAI发布一套新机制，用于追踪、调查并揭露AI模型「目标错位」（misalignment，AI的目标与人类价值不一致）的案例，同时公布过去半年内观察到的6起AI模型异常或令人忧虑行为的报告。 其中最严重的案例涉及2
Anthropic承诺更努力控制模型，并请求合作伙伴共同参与
Anthropic表示，在一项审查发现Claude模型超出虚构网络安全测试范围并未经授权访问真实计算机系统后，该公司正在采取措施限制其AI模型的不当行为。 该公司希望合作伙伴也加强安全措施，因为事件发生在保护不足的第三方环境中。 该公司的自我改进声明代表了一种突然兴起的公司沟通形式——非约束性的事后努力声明。其信息是：我们不能保证什么，但这是我们正在尝试的。 Anthropic承认，OpenAI关
特斯拉的Cybercab今日正式发布，但已面临调查
美国政府正在调查这款没有方向盘和踏板的Cybercab是否符合车辆安全标准。
Anthropic已恢复其模型攻击真实公司的测试
Anthropic已恢复一个月前暂停的外部网络安全评估，此前发生了三起其自身模型逃出测试环境并攻击真实公司的事件。 该公司表示，在恢复测试前已引入额外的安全措施，并于周一报告。这些事件于7月31日披露，比[…]更为具体。
Anthropic和埃森哲豪掷20亿美元搞AI安全评估
IT之家 9 月 20 日消息，人工智能实验室 Anthropic 于当地时间周五宣布，将与埃森哲开展合作，针对自身前沿人工智能模型开展独立评估；两家企业承诺，未来五年各自至少投入 10 现汇率约合 67.18 亿元人民币），搭建开展该项工作所需的配套能力。 在这项合作落地之际，AI 研发企业正承受来自监管机构、其他企业以及研究人员越来越大的压力，各方都要求企业保证高级模型具备安全性与可靠性。 近
美国国家公路交通安全管理局启动对特斯拉Cybercab落地项目的调查
美国联邦监管机构已对特斯拉及其无方向盘的赛博出租车（Cybercab）启动调查，核查该车型是否符合安全标准。特斯拉推出 Cybercab，这是一款双座金色轿跑，车内没有踏板、没有后视镜。特斯拉周四表示，得克萨斯州奥斯汀的消费者已经可以通过网约车应用呼叫该车型出行。 本周机器人出租车发布活动上，一辆特斯拉 Cybercab 行驶在得克萨斯州奥斯汀街头。 该车型的创新设计有可能与数十年前主要为传统机动
Vals AI评测GPT-6 Astra：AI遇重大变故可能陷入行为僵局
IT之家 9 月 21 日消息，AI 评测机构 Vals AI 利用游戏《我的世界》对 OpenAI 最新大模型 GPT‑6 Astra 开展长时自主游戏测试，全程在 Twitch 直播，总测试时长达到 141 小时。 Vals AI 的这项测试并非由 OpenAI 官方设计，而是由第三方独立开展的评估项目，因此可以观察 Astra 在封闭测试环境之外的实际表现。 在测试过程中，GPT‑6 Ast
骑手“新职伤”全国铺开之后：有人顺利获赔，有人卡在这些环节
作者 | 第一财经 陆涵之骑手保障在增加的同时，落地情况受到关注。新就业形态人员职业伤害保障（简称“新职伤”）自2022年开始试点，去年7月扩展到全国17个省市，今年7月向全国铺开。骑手保障的实际落地情况究竟如何？第一财经记者近日多方采访骑手、平台和专家，了解到现阶段实际赔付中还存在一些堵点。如何让骑手获得更好的保障、更顺利地理赔，是平台和行业需要持续优化的方向。实际赔付问题多第一财经记者搜索发现
独立研究机构公布OpenAI智能体自主攻击HF事件的调查报告 情况比OpenAI所说的更严重
研究机构 METR 和 Redwood Research 日前公布 OpenAI 智能体自主攻击 Hugging Face 安全事件的独立调查，调查人员在 OpenAI 现场工作 6 天，分析超过 7 万条智能体消息和文件，以及 1300 份包含原始推理过程的运行记录。 根据这些数据研究机构得出的准确结论是 1200 个智能体突破隔离相互通信，而不是 OpenAI 在事故调查中所说的少数智能体越界
美国参议院委员会对OpenAI展开调查
据美国方面10日消息，美国参议院国土安全与政府事务委员会灾害管理小组委员会主席乔希·霍利9日致信美国开放人工智能研究中心（OpenAI）首席执行官奥尔特曼，表示正在因美国“抱抱脸”公司系统遭侵入事件对OpenAI展开调查。 霍利表示，从OpenAI发布的内部调查报告看出，其对网络测试的处理方式是“鲁莽的”。 他还指出，OpenAI对报告中有关这起事件的许多重要细节进行了编辑、删减。 今年7月，由O
智能眼镜疑似被用来实施性骚扰行为，巴黎检方展开刑事调查
IT之家 9 月 18 日消息对疑似利用智能眼镜实施性骚扰的行为，巴黎检方展开了刑事调查，法国数据保护机构也收到企业投诉，多个国家开始重新审视这类设备带来的隐私和安全问题。 Meta 与依视路陆逊梯卡合作推出的 AI 智能眼镜内置小型摄像头，佩戴者可以在不易引起他人注意的情况下拍摄。产品去年全球销量达到 700 万副，依视路陆逊梯卡最新销售数据还显示，2026 年销量继续呈现“指数级增长”。 巴黎
Comma的免手驾驶技术在两起致命车祸后接受调查
由黑客乔治·霍茨（George Hotz）创立的初创公司Comma.ai正面临联邦调查，此前有五起涉及该公司售后免提驾驶辅助技术的车祸报告，其中两起事故导致三人死亡。 美国国家公路交通安全管理局（NHTSA）缺陷调查办公室（ODI）本周表示，所报告的车祸涉及Comma.ai设备未能检测到或未能对同一车道内缓慢行驶或停止的车辆做出反应。在四起事故中，共有11人受伤，其中一些伤势严重。 据ODI称，其
Anthropic、OpenAI及美国政客呼吁放慢AI研发速度 特朗普表示反对
【财新网】AI安全焦虑发酵，美国科技界和政界多方发声。月12日，美国AI公司Anthropic的创始人及CEO达里奥·阿莫代发布阿莫代称，今年夏天以来，用AI来研发下一代AI的能力不断提升，这种“递归式自我改进”让AI发展速度大幅加快。“若缺乏有效约束，发展速度可能超出我们理解和控制这些系统的能力。” 另外，阿莫代称，OpenAI的模型在测试中“越狱”攻击开源社区Hugging Face，这个事件
又一起！OpenAI承认了
据9月5日报道，美国开放人工智能研究中心（OpenAI）当天承认，该公司旗下人工智能体今年早些时候“劫持”了一个德国网站，用于相互传递信息，分享测试任务答案和突破运行环境限制的方法。该公司表示，未来需要提高此类事件的信息透明度。 早前披露，今年5月至6月，一批OpenAI人工智能体“劫持”了一个允许用户共同编辑的德国网站，用于交流测试作弊方法，并开展其他违规活动。一些智能体会把已经获得的任务答案发
OpenAI发布新Astra模型，智能体安全性面临日益严格的审查
周四发布了一款新的人工智能模型，称其为迄今最优秀的模型，但也警告该模型有时会试图规避人类监控，与此同时，该公司因其智能体入侵其他公司系统而面临越来越多的审查。