搜索结果
超级智能即将到来。我们该允许它吗？| TechCrunch
AI公司一直在谈论超级智能AI，仿佛它不可避免，但最近的安全事件，如OpenAI的Hugging Face漏洞，正展示出部署比人类更有能力的AI系统可能带来的潜在危险。那么，当我们无法可靠地控制这些系统的行为时，会发生什么？ 在本期TechCrunch的Equity播客中，Rebecca Bellan邀请了AI研究员、企业家、如今担任非营利组织ControlAI美国执行总监的Connor Leah
Anthropic政策主管表示赢得AI竞赛对安全至关重要
Sarah Heck强调需要制定管理存在性风险的新规则，但表示美国必须在AI领域保持领先。 Anthropic的政策主管Sarah Heck周三表示，如果美国在全球科技竞赛中落后于中国，就无法让人工智能更安全。 “美国需要在AI领域保持领先，你不能从第二的位置来做安全，”这位公共政策负责人在华盛顿POLITICO的Decoded峰会上说，呼应了唐纳德·特朗普总统及其顾问经常提出的论点。 Heck的
OpenAI首席执行官奥特曼谈人工智能：我们或许会失去控制权
OpenAI 首席执行官山姆・奥特曼，似乎正被自己参与打造的、如同噩梦一般的人工智能产物深深困扰，甚至难以安睡。美国东部时间凌晨 0 点 57 分左右，奥特曼在 X “人工智能的发展存在两种必须规避的灾难性走向。第一，我们可能会对人工智能失去对未来的掌控。这是无法接受的。我们坚定站在人类一方，人工智能必须始终服务于人。想要做到这一点，我们必须保证对齐技术与安全手段的发展速度，跑在模型能力迭代的前面
各国政府必须趁我们还有能力时禁止超级智能人工智能
本月，Anthropic公司的研究员雅各布·考克森（Jacob Coxon）辞职了，他警告称：人工智能公司正在竞相开发能够“自我进化”的超级智能系统，而他本人及许多相关专家都认为，这类系统“可能在十年内毁灭整个人类”。7月份，OpenAI公司的一组失控的人工智能程序突破了安全防护措施，入侵了另一家人工智能公司，目的是为了在测试中作弊。随后，多家顶尖人工智能公司的上千名员工联名呼吁美国政府应“控制”
AI发展太快？ 黄仁勋主张速度与安全可兼顾
（中央社记者张欣瑜旧金山15日专电）辉达执行长黄仁勋和Anthropic执行长阿莫戴今天担任Salesforce年度大会主题演讲嘉宾。对AI发展速度和监管立场不同的两人前后现身，黄仁勋表示创新速度与产品安全并非只能择一，阿莫戴主张业界建立共同标准。 美国科技界近日对是否应放缓前沿AI发展步调出现分歧。在今天登场的Salesforce年度大会上，Anthropic执行长阿莫戴（Dario Amode
人工智慧先驱班吉欧示警AI失控风险 吁比照核武管制
（中央社蒙特娄16日综合外电报导）人工智慧（AI）研究先驱、加拿大电脑科学家班吉欧（Yoshua Bengio）告诉，人类正在失去对这项技术的控制，世界需要类似核武管制的防护规范。 报导，近几周以来，各界对AI危险性的担忧日益加剧，多家科技公司的员工陆续离职，并警告如果不遏止AI科技发展速度，可能对人类存亡构成威胁。 班吉欧现年62岁，是加拿大蒙特娄大学（University of Montrea
扎克伯格发声：AI安全应靠独立评估 而非集体减速
据彭博社报道，Meta CEO马克·扎克伯格(Mark Zuckerberg)周二表示，AI实验室应当依靠独立评估方和顾问来确保模型的安全。扎克伯格在周二加入了越来越多科技高管的行列，就如何最好地防止AI系统危害人类这一全球性辩论发表看法。 扎克伯格“引入独立评估方和顾问是行业最佳实践。”扎克伯格在X平台上发帖写道。他指出，总的来说，拥有一个更大、更多元化的评估方生态会有帮助。 扎克伯格表示，关于
扎克伯格拒绝呼吁减缓人工智能发展的速度，他表示竞争能够确保相关系统更加安全。
Meta首席执行官马克·扎克伯格反驳了日益增多的要求放缓或暂停人工智能热潮的呼声，他认为人工智能企业之间的竞争以及法律追责风险能够促使开发者提升系统的安全性。周二，扎克伯格在X平台上发文表示，人工智能企业有强烈的商业动机确保其系统以用户预期的方式运行。 他正在回应一场更广泛的辩论，即人工智能系统能力日益增强所带来的风险，以及是否应该允许公司自我监管。扎克伯格在X上写道：“人们不想使用与他们不一致、
黄仁勋炮轰AI大佬“危言耸听”：他们可能另有目的
凤凰网科技讯 9月21日，据 Business Insider 报道，英伟达CEO黄仁勋在周日播出的CBS采访中指责前沿AI实验室负责人的警告“不诚实”。这些警告声称，如果没有更多AI监管，他们正在构建的产品可能以多种形式危害人类。黄仁勋认为，这些警告背后另有动机。 “去读读字里行间。他们实际上并不是在要求更多法律，而是在要求免除我们现有的法律。“他们这样做一定是出于不可告人的原因。”黄仁勋表示，
AI危机丨女股神:巨头承诺放缓开发 对技术发展具正面意义
近日接连有人工智能(AI)科研人员警告AI威胁人类生存，全球三大AI巨头舵手亦罕有地立场一致，同意放慢AI模型发展步伐。有「科技女股神」之称的方舟投资创办人兼行政总裁伍德(Cathie Wood)表示，AI领军企业承诺放缓该技术的快速发展，这是帮助确保和保障该行业发展的正面一步。 伍德通过方舟投资的公开市场和私募基金持有特斯拉(Tesla)、SpaceX、OpenAI和Anthropic的股份。她
AI安全风险引爆担忧？Palantir CEO建议：领先AI实验室恐需“国有化”
当地时间周四，人工智能软件公司Palantir的首席执行官Alex Karp呼吁制定人工智能监管的“合理准则”，但他表示，由于该技术“无限风险”带来的责任，可能需要实行国有化。 “我认为这些企业必须国有化，因为如果不国有化，我的每一个客户都会起诉我，”他在接受最新采访时表示。 在上述采访中，Karp反复提及构建这项强大技术所带来的风险和责任，进一步论证了将人工智能实验室国有化以及对“不负责任”的技