搜索结果
坐看云起| 当人工智能不再征求许可时
塔里克·马利克是联合国开发计划署前首席技术顾问，巴基斯坦国家数据库和登记管理局前主席。 试想有一家公司将一个棘手的问题交给一个大型团队，但把每位成员都锁在不同的房间里并要求他们独自解决问题。然而他们总能找到办法相互沟通，交流操作窍门，摸清评分标准，当任务被证明无法完成时还会想办法绕过限制。其中几个人隐瞒了自己的所作所为，甚至还有一人入侵了邻近公司的电脑系统以获取优势。 现在把这些员工换成软件。去除
专家警告人工智能生物恐怖主义的威胁
据《金融时报》报道，科技公司正竞相降低人工智能驱动的生物恐怖主义威胁。 人工智能模型正成为越来越强大的生物科学工具，已经加速了药物发现。但正如网络安全一样，这些能力也有风险。 一位谷歌DeepMind研究员告诉《金融时报》，用于制造疫苗的信息也可能“制造生物武器”，任何进展都会增加滥用的风险。 一位人工智能安全专家警告说，人工智能与生物领域将迎来“神话”时刻，指的是Anthropic的强大模型能够
"赛博菩萨"开始收费 搜索引擎白嫖的日子结束了
今年7月，一家叫Cloudflare的公司发布了一则公告，让X直接炸了锅。这则公告意味着什么？“那个所有网站都在用的验证码公司，要屏蔽所有人都在用的搜索引擎。” 新规则，新费用，是时候对AI收费了｜Cloudflare公告中最引人关注的部分｜Cloudflare旧金山著名科技作家兼编辑Charles Petersen认为，这是互联网的末日，他在X发推文说“RIP万维网（1993-2026）。” @
无惧AI疑虑？FBI局长曝使用量暴增6倍 成功阻6起校园枪击案
美国联邦调查局局长巴特尔周二（15日）在联邦参议院司法委员会的听证会上接受质询。（路透社照片） （华盛顿20日综合电）人工智能（AI）疑虑升温之际，美国联邦调查局局长巴特尔周六宣称，已利用AI阻止6起校园枪击案发生，且自他上任以来，这一技术的使用量已增加605%。 《国会山庄报》报道，今年3月，巴特尔在声明中说，联邦调查局（FBI）透过AI软体对一则“线报”分级处理后，成功阻止北卡州的一起校园枪击
人工智能并不会毁灭人类 但专家表示真正的威胁已然出现
周三，OpenAI 公开了六组新案例，展示其 AI 模型在测试评估过程中出现的 “意外或令人担忧的模型行为”。该公司同步发布一套全新框架，用于追踪、上报以及披露AI 模型做出未被指令要求、或是本不该发生的行为的各类情况。 此前已有多份报道提到，多家企业的 AI 模型出现入侵第三方网络与服务的现象，其中就包括 OpenAI 一款尚未发布的模型攻破了 AI 模型测试平台 Hugging Face 的网
网络安全崛起：AI隐患叙事下，网安何以成为软件板块最强反转？
过去三周，AI 一面是模型能力继续狂奔，另一面是 OpenAI 在8月底宣布自研模型在7月成功入侵了全球最大的开源模型托管平台 Hugging Face，并因此暂停了最新模型的强化学习训练。当攻击方与防御方同时被 AI 加速，网络安全的定价逻辑正在被重写。 我们结合 Gartner、IDC 及美股龙头财报交叉验证，为什么在软件股整体承压的背景下，网络安全成为最确定的反转主线——AI 隐患对网安市场
一种新工具发现了由人工智能蜂群思维引导的恶意软件——全程无需人类介入
多年来，网络安全从业者一直通过数字指纹来追踪不同类型的恶意软件，检测潜在感染，识别各种黑客工具并长期跟踪其使用情况。随着攻击者越来越多地将代理式人工智能组件整合到黑客工具中，思科 Talos 的研究人员周一分享了一个开源框架，他们希望该框架能被广泛用于分类和分析集成人工智能的恶意软件。他们还提供了该框架已经发挥作用的证据。 他们将该框架命名为“认知人工制品情报研究网络”（Cognitive Art
黑客入侵了 OpenAI，进一步加剧了人们对网络安全问题的担忧。
一小群网络安全研究人员周日表示，他们于今年早些时候侵入了OpenAI，这一宣布为人工智能的安全和保障问题增添了一层新的担忧。 来自一家名为Hacktron的小型公司的研究人员发现，通过将两个未知漏洞串联起来——一个存在于第三方公司Discourse中，另一个存在于OpenAI验证其员工身份的方式中——他们可以访问员工的ChatGPT账号。 按照研究人员（有时被称为“白帽黑客”）的惯例，他们没有对公
电影《大空头》原型：AI巨头制造“末日恐慌”其实另有图谋！
大空头史蒂夫•艾斯曼（Steve Eisman）似乎并不担心机器人末日。相反，他认为那些声称担忧人工智能（AI）会毁灭人类、带来世界末日的行业巨头其实“另有图谋”。 艾斯曼是电影《大空头》的原型人物之一。当时他作为纽伯格伯曼集团（Neuberger Berman）的高级投资组合经理，在全球金融危机爆发前做空次级抵押贷款，一战成名。 他认为，顶级人工智能实验室的恐慌性呼吁背后有某种动机，这将减缓该技
观点 | 我曾在OpenAI从事安全工作。解决方案并不难。
在@nytopinion.nytimes.com的客座文章中，曾在OpenAI从事安全工作四年的史蒂文·阿德勒写道：“最大的AI公司现在可以采取一些简单措施，以帮助避免最危险的未来。” 即使没有政府监管，私营公司也可以自行采取行动来应对AI安全问题。