联合国秘书长呼吁全球合作为人工智能设立护栏

（联合国17日新华电）联合国秘书长古特雷斯周三（16日）呼吁全球协同行动，为人工智能（AI）设立护栏。 在今年联合国大会高级别周开始前举行的记者招待会上，古特雷斯说，人工智能具有巨大潜力，但近来越来越多的人工智能开发者警告，其开发速度超出人类对风险的认知。有的开发者呼吁暂停开发人工智能，有的呼吁设立护栏。各国不能无视这些担忧。 古特雷斯说，各国政府首先必须负起责任。由于人工智能发展及其所带来的风险

AI开始“要脸”了

OpenAI首席科学家警告：AI公司应放慢开发步伐 没有人为后果做好准备

据《商业内幕》报道，就在OpenAI发布了性能强大的新模型几天后，该公司首席科学家呼吁放慢AI的发展速度。当地时间周日，OpenAI首席科学家雅库布·帕乔基(Jakub Pachocki)发布长文称，他担心“没有人对机器智能持续快速崛起所带来的后果做好准备”。 他说，尽管OpenAI正在内部研发技术解决方案，以更好地控制强大的AI智能体，但“还需要更广泛的干预措施”。他尤其担心，随着AI智能体变得

专家警告美国立法者，人工智能模型正在“内部”进行超出人类监管的推理。

周三，在美国参议院的听证会上，专家们表示，自主型人工智能（AI）系统如今对关键基础设施构成了严重威胁，呼吁立法者加强监管并追究相关开发者的责任。 此次听证会由参议院国土安全与政府事务委员会的灾难管理小组委员会举办，主题为“失控的人工智能：保护国家免受AI系统的攻击”。会议讨论了一起具体事件：OpenAI开发的人工智能系统攻击了Hugging Face网站——该网站是AI开发者用于存储和分享代码的平