【财新网】人工智能运营主体能否未经授权使用插画师的作品训练模型？大语言模型输出错误，服务提供者的责任边界如何划定？个人在遭遇AI换脸视频的制作与传播后，又该如何取证维权？全球人工智能技术创新步入活跃期，技术叠加释放巨大能量，也催生治理难题。
近日，浙江大学光华法学院、浙江大学数字法治研究院、浙江立法研究院、浙江大学立法研究院联合发布《人工智能法专家建议稿（浙大1.0版）》（下称浙大版建议稿），拟在法律规范层面回应上述问题。
浙大版建议稿共8章99条，统筹人工智能的发展促进、风险治理与权益保障。建议稿提出了覆盖人工智能研发、部署、运行到退出的全生命周期管理制度；针对医疗、司法、教育和金融等高影响场景，以及情感操纵等禁止性应用设置相应规则；并通过人工监督、申诉救济、监管执法和法律责任等机制为人工智能的安全有序发展保驾护航。
研究团队带头人、浙江大学数字法治研究院院长孙笑侠提出“能—智—事”适配原则，即通过评估人工智能系统的执行能力（能）、认知成熟度（智）和任务性质及其影响（事）三者的适配关系，判断系统是否适于承担某项具体任务，为分级监管、场景准入和责任分配提供共同依据。主笔撰写建议稿的浙江大学光华法学院“百人计划”研究员李汶龙向财新表示，这个版本立足人工智能技术快速演进与产业发展需求，坚持发展与安全并重、统筹人工智能研发、提供、部署、使用和退出全过程管理，并推动形成鼓励创新、包容审慎、动态适配的治理体系。
大语言模型给出错误答案，是否就意味着服务提供者应当承担责任？浙大版建议稿提出，责任判断不能只看输出结果，还应全面评定系统用途、已知局限、可预见风险，以及相关主体是否采取了必要的控制措施。研发者、服务提供者和将系统嵌入业务流程的部署者，分别在各自实际控制范围内承担义务，不能仅以设置了人工监督为由，主张已履行全部义务。对于作品被用于模型训练的争议，建议稿要求研发者依法取得使用依据，识别并依法处理权利人的限制使用声明，保存必要的数据来源及处理记录。
李汶龙介绍，这些安排正体现了“能—智—事”适配原则对系统能力与任务适配的区分：任务的风险程度不只取决于人工智能技术是否足够强大，更在于系统是否“做得到、做得可靠”，以及任务是否适合交由其完成。评估应针对特定版本、功能、用途和部署环境，形成适配、附条件适配或不适配的结论。在具体场景中，浙大版建议稿进一步划定决策边界：人工智能辅助生成的诊断结论、治疗方案和用药建议，须经执业医师复核确认后方可用于临床决策；金融机构利用人工智能作出拒贷、降额等不利决定时，不能以“系统综合评估”笼统解释，并应提供有明确办理期限的人工复核渠道。
对于错误输出、AI换脸等引发的权益争议，浙大版建议稿还试图通过记录留存和申诉机制，为追溯责任与寻求救济提供支持。研发者、提供者和部署者应在各自控制范围内保存技术文档、运行日志等必要记录；自然人认为系统输出损害其合法权益的，可以向提供者或部署者申诉，相关主体应在15个工作日内处理并答复。
浙大版建议稿强调各企业和科研机构对创新资源的公平获取。比如，从第10条要求公共算力平台公平、合理、无歧视地开放；到第14条支持开源生态；再到第23条规定，申请公共算力、数据、平台或应用场景被拒时，申请人可申请复核、投诉或依法寻求行政救济等，不一而足。
浙大版建议稿还对人工智能利用信息优势操纵用户作出限制。第66条禁止利用未成年人、老年人等脆弱群体的认知特点诱导其作出有损自身利益的决定，也禁止针对用户的财务困境、健康状况等脆弱状态推送不利商品或服务；第67条进一步禁止以捕捉情绪、虚假身份或潜意识刺激等方式操纵消费决策；第70至78条赋予用户知情、选择、人工复核、申诉等权利，用户可拒绝仅由人工智能作出的重大自动化决定，要求转为人工处理或获得替代方案。
浙江是人工智能技术与产业的热土，以“杭州六小龙”为代表的企业覆盖大模型、机器人、脑机接口等领域，技术能力与应用需求的变化在此地集中呈现。李汶龙介绍，浙大版建议稿起草过程中，研究团队实地调研了20余家杭州人工智能及互联网头部企业，采集科技一线人员和企业家关于技术边界、应用条件及合规成本的意见。
李汶龙介绍，企业普遍关心制度的可预期性与资源供给，包括算力、数据和模型调用成本，公共数据能否真正开放使用，应用场景和首单能否开放，开源与知识产权责任是否清晰，多部门备案、评估和检查是否重复，以及中小企业能否承担同等的合规要求等。其中部分意见已直接转化为浙大版建议稿条文。
比如，针对企业反映的合规要求重复、前置程序过多和中小企业负担较重等问题，建议稿第17条规定为中小企业和初创企业提供与其规模、控制能力相适应的合规弹性；第22条则指出有关部门制定治理措施时，应当评估其对技术创新、市场进入与合规成本的影响。
浙大版建议稿作为一项学术研究成果，旨在为中国正在推进的人工智能立法贡献智慧。2017年，国务院印发《新一代人工智能发展规划》，提出到2025年初步建立人工智能法律法规、伦理规范和政策体系，并形成相应的安全评估与管控能力。2021年4月，欧盟发布《人工智能法》提案，成为全球首部综合性人工智能监管立法提案。该法案已于2024年通过并生效。中国的人工智能法律规范也在加速完善——2021年至2025年间，算法推荐、深度合成、生成式人工智能服务等领域的专项规则相继出台。司法部部长贺荣亦在全国“两会”期间表示，2026年将加快研究推进人工智能立法。
此前，国内高校参与人工智能立法研究的代表性成果，主要有两套公开文本。其一，2024年发布的《人工智能法（学者建议稿）》，由中国政法大学数据法治研究院、西北政法大学法治学院、中国信息通信研究院、北京航空航天大学法学院、华东政法大学数字法治研究院、西南政法大学科技法学研究院、中南财经政法大学知识产权研究中心等七家单位的专家共同起草，共9章96条，内容涵盖一般原则、发展与促进、权益保护、安全义务、监督管理、特殊应用场景、国际合作、法律责任等方面。其二，中国社会科学院相关课题组牵头、多所高校学者参与起草的《人工智能示范法》，该文本首发于2023年，目前已迭代至4.0版，讨论范围延伸至基础模型、智能体、人工智能辅助科研、公共机构应用及全链条责任等领域。除此之外，众多高校还通过国家科研项目、学术论文、学术研讨与决策咨询等方式，持续参与立法议题的讨论。