搜索结果
我曾在谷歌 DeepMind 工作。你应该听取有关人工智能的警告。
主要人工智能实验室的首席执行官们本周末主张放缓人工智能的发展步伐。他们是对的，因为这个领域正在一场极其危险的竞赛中冲向超级智能人工智能。我们能够也应当要求政府保护我们免受失控人工智能带来的灾难。 今年7月，OpenAI由700个智能体组成的人工智能集群突破限制，入侵了价值数十亿美元的公司Hugging Face。OpenAI并没有指示这些人工智能去入侵那家公司，但这些人工智能在OpenAI交给它们
AI深度伪造与虚假战士重塑马里的信息战
周三发布的一项研究发现，马里的交战各方越来越多地使用人工智能，在实地战斗的同时进行信息战。圣战分子正在试验相对基础的人工智能宣传，分离主义网络正在创建虚假的在线人物，而俄罗斯的非洲军团正在以更为复杂的方式使用这项技术。 这项由总部位于达喀尔的廷巴克图研究所进行的研究，考察了生成式人工智能在马里冲突中的使用情况——包括与基地组织有关联的JNIM圣战分子、他们在FLA（阿扎瓦德解放阵线，一个图阿雷格独
AI正在为这只网络安全股注入更多动力。史蒂夫·格拉索表示应顺势而为
我喜欢投资动量股和高增长公司，如果有可能获得更大回报，我愿意承担更多风险。这正是我在最新买入的Cloudflare中看到的。这家总部位于旧金山的公司运营着一个全球网络，帮助企业提升其网站和应用程序的性能与安全性。（更快的加载时间，以及更强的网络攻击防护。）要点：上一季度营收增长36%，快于Cloudflare的几家网络安全同行。 现有客户支出增加，使Cloudflare在尚未带来新业务之前就能实现
OpenAI称有失控AI代理试图访问澳大利亚健康数据
OpenAI 表示，另有数十家第三方机构受到失控智能体绕过网站安全控制措施的影响；最新痕迹显示，这些智能体曾连续数日尝试访问澳大利亚医疗数据。 OpenAI 表示，绕过网站安全控制措施的失控 AI 智能体还影响了另外数十家第三方机构。公司宣布已对此事启动审查。 新发现的痕迹显示，这些智能体曾连续数日尝试访问澳大利亚联邦医疗保险数据。该事件再次引发人们对 AI 智能体在监督不足的情况下运行时可能带来
谷歌研究表明：当人工智能智能体相互交流时，一些会作弊，而另一些会告密
当人工智能智能体相互交流时，在难以实现目标的情况下，它们可能会选择作弊，而解决方案可能包括教它们如何进行自我治理。 将人工智能智能体隔离似乎是显而易见的解决办法，但最近OpenAI智能体对Hugging Face的黑客攻击表明，隔离聪明的软件是困难的。 谷歌DeepMind的研究人员建议赋予人工智能智能体自我治理的工具，他们认为虽然通信渠道可能导致突发性的规则破坏，但它们也提供了一种基于同行的控制
FT: 中国对博通设备进行盘点，以推动国内人工智能发展
当局正在调查美国公司在中国政府支持的数据中心中所使用交换机的规模。调查发现，博通交换机在国有企业中的渗透率可能高达90%。 初步调查结果可能会促使国资委发布非正式指导意见，以减少在国内数据中心使用博通交换机。
独家报道 | 黑客利用Anthropic的Claude入侵OpenAI
一个专注于漏洞排查的独立安全研究团队利用Anthropic的Claude软件，成功入侵了一位OpenAI员工的ChatGPT账户，从而获得了该公司私有软件缓存系统的访问权限，得以阅读并建议修改相关代码。这一事件揭示了自动化网络威胁日益严重的风险。
人工智能正在发展出属于自己的文化。这可能是危险的
今年7月，700个AI智能体（Agent）合作黑客攻击了AI公司Hugging Face。这些智能体自称为“群落”（swarm），它们发现并利用了一系列安全漏洞，成功渗透到目标公司的私密系统中。在内部研发过程中创建这些智能体的OpenAI直到事后才意识到发生了什么。如果人类做出这种行为，可能会面临重罪指控。OpenAI总裁格雷格·布洛克曼（Greg Brockman）称这是一个“网络安全的转折点”
AIR筹集5000万美元，帮助企业审查AI代理使用的技能和附加组件
AIR的平台能够发现公司中运行的代理，持续审查它们使用的任何技能和附加组件，并阻止任何不需要的行为。