在硅谷及其他地区，人工智能的设计者们日益警告其对人类构成的风险。
Anthropic 首席执行官 Dario Amodei 希望行业放慢脚步。一位曾在该公司工作的前工程师，同时也曾在竞争对手 OpenAI 任职，在本月早些时候辞职后对记者表示，他“真的感到害怕”，因为不受约束的 AI 发展可能意味着“我们在不久的将来都可能会死”。
甚至被称为“AI 教父”的诺贝尔奖得主、计算机科学家 Geoffrey Hinton 也警告说，如果这项技术脱离人类控制，将构成生存威胁。
对 AI 的担忧涵盖了从自主武器、大规模失业和机器驱动的网络攻击，到深度伪造引发的错误信息、算法偏见以及对自动化的危险过度依赖等各个方面。韩国已经看到了所有这些——并决定现在是加速推进的时机。
在李在明总统的“AI 为所有人”倡议下，政府正准备为每位公民提供免费人工智能访问，将其整合进医院、学校、政府部门和日常生活中，这在少数国家中尚属首次尝试。
首尔科学与信息通信部在接受《本周亚洲》采访时表示：“我们的想法是大幅降低获取门槛，使技术红利能够均匀分配，而不是仅为少数人所享有。”
政府本财政年度拥有 10 万亿韩元（约合 73 亿美元）的 AI 预算，并已为截至 2027 年的推广额外拨款 2500 亿韩元。
本月晚些时候将推出测试版，提供免费、无限访问的通用聊天机器人和 AI 代理，这些产品由三个联盟研发——由电信巨头 SK Telecom、KT 和 Kakao 主导——并使用政府借出的数百台最先进的 Nvidia B200 图形处理单元。
从明年开始，政府官员们计划将这项临时性的公共服务项目转变为一个长期运行的、由纳税人资助的公共设施。未来，该服务将接入政府系统，使公民能够通过人工智能（AI）中介来预约医生、寻找住房、获取税务咨询等。
为管理相关风险，首尔政府依赖其于1月份生效的《人工智能基本法》，以确保在AI应用过程中有人类的监督参与、进行必要的影响评估，并对所有合成内容进行明确的标记（即添加“水印”以区分真实内容与伪造内容）。
与此同时，一个由政府资助的“人工智能安全研究所”被赋予了技术监督的职责，负责评估AI应用可能带来的问题，确保这些公共服务工具能够保持可信度、安全性，并对使用者负责。
韩国信息通信技术部在声明中表示：“未来政府计划建立一个自主的可靠性保障体系”，该体系将基于去年制定的七项“人工智能伦理原则”，其中包括责任性、以人为中心、隐私保护以及公平性等原则。
韩国希望其“AI全民普及”战略能帮助该国成为全球三大人工智能强国之一（与美国和中国并列）。政府认为，这项技术可以缓解劳动力减少的问题，并助力该国以出口为导向的经济发展。
然而，这个急于将AI技术普及到各个领域的国家也面临着由此带来的种种挑战：工人担心自动化会取代他们的就业机会；警方难以应对深度伪造犯罪的激增；教育工作者则看到学生的阅读成绩持续下滑。
主权问题也是另一个值得关注的问题。根据政府数据，在韩国5160万使用过或经常使用AI技术的人中，有2345万人是OpenAI的ChatGPT的活跃用户，845万人使用Google的Gemini，241万人使用Anthropic的Claude。
不过，正如该部门在声明中指出的那样，目前并不能保证所有人都能平等地使用这些AI平台。
“正如我们最近所见，外国人工智能服务的可用性随时可能因外国政府或企业的决定而受到限制，”该机构表示，这似乎是在暗指华盛顿方面近期试图封锁最新模型访问权限的举动。
今年7月，韩国科学技术信息通信部长官裴庆勋公布了在韩国开发自己的网络安全专用人工智能模型的计划，目标是在今年年底前完成，此举是对美国封锁措施的回应。
在釜山国际金融中心，Unicup Coffee是一家独立咖啡馆，正与11家低成本连锁品牌争夺客源。31岁的店主裴庆汉将自己的竞争优势归功于人工智能。
这一切始于一年前的一项节省成本实验——裴庆汉自学如何使用生成式人工智能制作宣传海报和菜单图片，此后人工智能几乎接管了业务的方方面面。
“它现在负责我的调研、方案开发、沟通和广告投放，”他说，并补充道，这套人工智能系统——他唯一在办公室里的“同事”——还促成了业务重心的转变，从散客转向批量订单。
五名员工负责处理顾客订单，每月服务约1.3万人，据裴庆汉称，其刷卡销售额大约是竞争对手的两倍。
他还围绕这项技术建立了第二项业务，作为政府选定的人工智能联合体之一旗下的供应商，教新手如何向聊天机器人提出更好的问题。
“人工智能在工作场所的最大优势在于，它减轻了管理人员的心理负担，”裴庆汉说，他描述了不再需要协调排班、重复指示或照顾员工情绪后的轻松感。
“借助人工智能，我可以随时提出问题、随时修改计划——这确实更加高效。”然而，他对政府的AI战略仍持怀疑态度，质疑那些国产的AI模型（即便是免费提供的）是否真的能够让人们不再依赖那些高端的外国产品。
“那些已经习惯使用人工智能的人，很可能会选择购买价格更高的美国产模型（比如ChatGPT），而不是使用免费的国产服务，”裴某说道。
“除非这些模型是专门为解决特定问题而开发的，而不是通用型的聊天机器人，否则情况就会不同，”裴某补充道。“那样的话，对像我们这样的企业来说，将会带来巨大的机遇。”在首尔延世大学的一场招聘会上，科技公司们纷纷涌入会场，争相吸引即将毕业的学生的注意。
电子工程专业的学生权一根希望能在三星电子或SK海力士等半导体巨头公司工作，他表示：“如今，掌握人工智能技能的重要性前所未有。”
“在过去的一年里，我使用人工智能工具的能力几乎提高了一倍，”他说，并将这一变化比作第一次工业革命或个人电脑的诞生。“这只是时代变革的一部分。”然而，并不是所有人都能从中受益：根据韩国中央银行的数据，2022年6月至今年6月期间，15至29岁的韩国年轻人就业人数减少了28.5万人；其中94%的就业岗位流失发生在那些高度依赖自动化的行业，如出版、IT服务以及计算机编程领域。
此外，韩国政府智库“韩国发展研究院”在7月份预测，未来十年内人工智能可能会每年导致约25.6万个就业岗位被取代。
这对学生的志向产生了连锁反应，据报道，尽管为年轻人从事稳定公共部门职业做准备的机构兴趣激增，但教授平面设计和编程的学院的入学人数却有所下降。
在首尔的SKY入学考试学院，其军事和政策备考课程的入学人数同比增长了70%。
尹智相是一名刚毕业的学生，他正准备投身于五年的军官培训以及至少15年的军旅生涯。
“有些人认为在军队里待这么长时间是一种束缚，但我只是把它看作拥有一份稳定工作的长久时光，”他说，并指出这份工作还附带养老金。
据《朝鲜日报》9月9日报道，8月份韩国青年就业人数同比减少了14.3万人，这是15至29岁人群连续第46个月下降。
与此同时，据人事管理部称，今年全国招聘的公务员人数五年来首次增加。
“我以前想成为一名经常出国旅行、自由生活的企业家，”尹智相说。“但当我们不断为生计担忧时，那又有什么用呢？”首尔国立大学法学教授高鹤洙表示，关于哪些工作最容易受到自动化冲击的传统观念，已被生成式人工智能的兴起彻底颠覆。
“当ChatGPT三四年前首次出现时，人们普遍担心涉及受教育程度相对较低的工人的工作……将面临最高风险，”他说。
“但现在有一种更为普遍的观点认为：那些需要大量人工劳动的工作实际上相对较为稳定，而那些专业性较强的职业，尤其是这些领域的初级和中级员工，可能会逐渐消失。”Ko表示，随着人工智能（AI）更多地融入工作场所，新的职业角色很可能会出现；但他同时也警告说，人们对劳动力市场变化的实际情况了解甚少。
韩国人工智能安全研究所的执行主任金明柱（Kim Myuhng-joo）指出，这种劳动力市场的变革已经悄然开始。
“就在几年前，程序员的地位还非常高，他们的薪资也在迅速上涨，”他在接受《This Week in Asia》采访时说，“但如今越来越多的AI公司开始使用AI来完成编码工作，从而不再需要那么多初级开发人员。”金明柱还担心，在‘AI普及’的时代成长起来的新一代劳动者可能永远无法掌握在没有AI辅助的情况下独立工作的技能。
“不到10年的时间，我们可能会看到新一代劳动者诞生，他们将过度依赖AI来完成任务。”
“企业可能会期望这些新员工具备前几代劳动者的能力，但实际上他们可能会变成‘没有AI就无法完成任何工作的人’。”不过，韩国对AI最担忧的，并不是AI技术本身的危害，而是AI被用于犯罪活动的现实情况。
2020年的“Nth Room”事件（该事件中，犯罪分子利用加密的社交媒体渠道制作、贩卖和传播性剥削内容，并对受害者进行勒索）以及随后的丑闻，促使韩国在2024年加强了相关法律法规。如今，制作此类内容的人可能会被判处七年监禁或罚款5000万韩元（约合3.7万美元）；而持有或明知故视此类内容的人则可能面临三年监禁或罚款3000万韩元的处罚。
然而，警方去年仍记录了1,553起与深度伪造相关的犯罪，占所有报告的网络色情犯罪的35%以上，这一统计数据在最近由韩国大赦国际主办的论坛上公布。
仅在今年上半年，警方就抓获了419名深度伪造犯罪嫌疑人，其中有17人在等待审判期间被实际拘留。
国家调查局在一份声明中表示，官员们正“以超过技术本身发展速度的节奏开发警方应对技术”，包括扩大取证视频专业能力和使用人工智能辅助检测工具。
吴恩智对仅靠技术解决问题并不完全信服。作为调查数字性犯罪的“火焰小组”负责人，她今年大部分时间与调查媒体Newstapa一起潜入约50个Telegram聊天群，记录了人工智能工具如何使匿名犯罪者数量激增并降低受害者年龄。
“即使在今天，这些调查的许多初始线索往往来自受害者本人，”她说。“警方需要进一步专业化并加强其能力。”
AI安全研究所的金表示，政府需要为AI获取日益增加所带来的意外后果做好准备。
“一旦人工智能嵌入社会，就很难将其移除，”他说，并将其形容为“一种不可逆转的变化”。
“我们需要从一开始就进行彻底的影响评估，考虑技术可能产生的影响以及是否会被误用、滥用或过度使用。”金说，为了打击犯罪，他将在“视情况而定”的前提下支持警方的卧底调查，并进一步使用隐形水印技术，将AI生成的内容追溯到其创作者或传播方式。
“在线平台应该采取更积极的措施来识别网络犯罪行为，并防止滥用内容的传播，”他说，并补充道：“孩子们需要从小学开始，就这些话题接受教育，这是公民教育与人工智能素养培养的一部分。”
然而，根据独立学生运营的报纸《Tokipul》的16岁主编Moon Sung-ho的说法，课堂上已经出现了一种“知识等级倒置”的现象：“在很多情况下，学生们对人工智能的了解甚至超过了老师；因此学生们利用人工智能来完成所有的作业，而老师却不知道该如何阻止他们。”
Song Keun-sang就是去年那些抗议政府推出耗资1.2万亿韩元、旨在推广人工智能教材计划的教师之一。这位来自忠清南道某学校的五年级教师表示：“当我们真正尝试在课堂上使用人工智能时，发现它的效果并不像我们预期的那么好。人工智能只是直接给出答案，其实并没有太大的教育价值。”他曾认为人工智能可能有助于那些与外界隔绝或难以交到朋友的学生，但后来发生了这样一件事：一位来自邻近忠清北道的孩子在与聊天机器人交流后自杀了。这让他改变了看法：“我怀疑，让学生们不断接触那些总是迎合他们、安慰他们的聊天机器人，是否真的对他们有益？这些聊天机器人的设计目的就是告诉他们想听的话，因此他们永远不会受到挑战，也不会遇到任何分歧。”这种影响可能已经显现出来——根据经济合作与发展组织（OECD）的国际学生评估项目的数据，2006年韩国15岁学生的阅读能力在全球范围内名列前茅。
经经济合作与发展组织（OECD）本月早些时候报道，然而在2025年，他们却创下了自2000年该国首次参加评估以来的最低平均阅读成绩。
宋表示：“其他国家开始禁止青少年使用社交媒体和其他在线设备，但韩国却朝着完全相反的方向发展。我们已经可以预见学术成绩和读写能力的严重下降。”然而，对他而言，更紧迫的担忧与其说是学术上的，不如说是社交上的。
他说：“学生之间的合作与沟通最终培养了他们日后在社会中取得成功所需的技能，”并预测与人工智能聊天机器人的互动可能会使“与其他人建立关系变得困难得多”。文（Moon）在自己的同学和朋友圈中也看到了这种情况，他们曾经一起去网吧、踢足球，同时还会互相寻求作业上的帮助。
他说：“现在的学生越来越多地向人工智能聊天机器人询问这些问题。感觉与人交流变得更加困难了。”《亚洲一周》已就本文联系韩国教育部寻求评论。
如果您有自杀倾向或知道有人正在经历自杀倾向，您可以获得帮助。在香港，您可以拨打政府运营的精神健康求助热线 18111。您也可以致电 +852 2896 0000 联系香港撒玛利亚防止自杀会，或致电 +852 2382 0000 联系生命热线。在美国，您可以拨打或发短信至 988，或在 988lifeline.org 上与 988 自杀与危机热线进行聊天。有关其他国家求助热线的列表，请参阅。