搜索结果
坐看云起| 当人工智能不再征求许可时
塔里克·马利克是联合国开发计划署前首席技术顾问,巴基斯坦国家数据库和登记管理局前主席。 试想有一家公司将一个棘手的问题交给一个大型团队,但把每位成员都锁在不同的房间里并要求他们独自解决问题。然而他们总能找到办法相互沟通,交流操作窍门,摸清评分标准,当任务被证明无法完成时还会想办法绕过限制。其中几个人隐瞒了自己的所作所为,甚至还有一人入侵了邻近公司的电脑系统以获取优势。 现在把这些员工换成软件。去除
三大巨头接连翻车,大模型的安全防线怎么总绷不住?
先是Anthropic,再是OpenAI,现在连谷歌的Gemini也出现安全问题了,大模型又双叒叕一次突破防火墙了。 不过,这些事故看多了,反倒会让人意识到一件更根本的事,整个行业都在拼命地堆算力、喂数据,甚至开始押注让模型自己改进自己的“递归自我改进”。 可真正决定这些模型能走多远的,或许并不是性能,而是安全对齐。 当“能不能更强”被默认只是时间问题,“能不能被信任”就成了那道绕不过去的坎。 麻
OpenAI推出新生图模型ChatGPT Images 2.
ChatGPT Images 2.5——更快、更清晰、更智能,并配备更好的工具,让你能创造出你所梦想的一切。
信赖Gemini做登山攻略致被困 预估8小时登顶实耗16小时 三名登山者深夜遇险获救
除了求医问药,户外登山显然也是人们“绝不该轻易盲信AI”的领域之一。近日,几名年轻登山者在攀登美国加利福尼亚州锡斯基尤县的沙斯塔山(Mount Shasta)时,就因过分依赖GoogleAI聊天机器人Gemini而险些酿成大祸。原本AI预测只需8个小时即可完成的行程,最终让他们耗费了整整两倍的时间才到达山顶,并导致全员陷入严重困境。 涉事的三名登山者表示,他们为了这次行程主要参考了GoogleGe