中国需要一部怎样的《人工智能法》？——中国人工智能立法的基本逻辑与制度架构

中国需要一部什么样的人工智能法？国内学术界和政策界存在大量争论，国际上也有多个国家和国际组织为我们提供了参考和范本。中国人工智能法是人工智能治理体系的提纲挈领之作，关系着人工智能技术产业的长远发展，更会深刻地影响人工智能时代的个体权利、社会运行、国际地位等诸多方面。现阶段中国的人工智能立法，目标定位需明确为高擎发展旗帜，建立人工智能技术产业健康发展的良好生态；制度设计应彰显人本主义，既确认既往实践中形成的良好制度也要在未来制度设计中更好地体现人文关怀；在框架体例设计上应选择“总则式”体例，廓清立法主线而不必急于“毕其功于一役”；在制度设计上，应重点回应现阶段本土产业发展和治理需求，并为技术和社会发展的不确定性留足制度空间；在推动的步骤进路上，国内立法推进速度宜与参与国际人工智能治理同步联动，既适时建立国内制度体系，也应积极参与国际规制的制定。

（一）定位：高擎发展旗帜

发展与安全是技术立法的永恒命题。在全球激烈竞争格局下，不发展是最大的不安全。在立法基本逻辑的厘清中，一方面我国人工智能产业“领先的追赶者”的独特国际地位要求我们在技术和产业的国际竞争中必须以发展作为制度设计的主要目标；另一方面，面对技术发展和技术可能带来的不确定性风险，立法既需要观察技术的进一步发展以明确其未来前景，也需要通过技术发展来回应和解决人工智能的安全问题。基于此，我国人工智能立法的目标定位为，高擎发展旗帜，既要体现对技术产业发展的促进导向，也要推动人工智能在生产生活中的合理应用。这意味着《人工智能法》不仅要设立专门的推进技术发展的制度板块，也应设置监督管理、责任则度等内容。

第一，《人工智能法》中应设立“发展与促进”的专门板块，体系性地部署促进人工智能技术产业发展方面的制度。以单一技术系统为表现形式的科技创新无法单独存在，科技创新需要外力的介入，需要法律为其搭建公共基础服务的保障性制度。基础模型等技术的发展既需要海量算力、数据要素的支撑，也需要国家层面的法律制度的支持。我国向来重视人工智能产业发展的促进工作，如国务院2017年印发了《新一代人工智能发展规划》，2021年我国修订了《科学技术促进法》，都为人工智能的发展在国家层面提供了制度保障。但前者在稳定性、效力位阶上远不如法律，后者也并非专门针对人工智能技术的法律。唯有通过《人工智能法》这一针对性强、位阶较高的专门立法，才能够制度化地解决如下问题：一是在法律层面明确国家和地方政府将人工智能发展纳入本级国民经济和社会发展规划。二是通过法律制度建立算力基础设施建设和算力资源调度利用的制度。三是相比普遍的科技促进制度，应强化专门针对人工智能算法、模型、芯片等关键技术发展的制度保障。四是针对人工智能的发展需求，明确政府推进数据要素的供给机制，进一步确立和扩展在《生成式人工智能服务管理暂行办法》中提出的“公共数据池建设”的发展促进机制。五是明确人工智能技术发展与知识产权制度的冲突应通过法律制度来协调解决。专门立法会直接影响到生成式人工智能训练数据和生成物的保护问题，也与相关产业的发展密切相关。

第二，《人工智能法》的相关制度应充分促进人工智能技术在生产生活中的应用，避免设立“高标准严要求”的监管制度。人工智能技术与产业的长远有效发展，有赖于其充分地融入社会生产生活，成为推进社会发展的动力。为此，一方面需要反思现阶段的制度对于法律责任的设置是否有利于保障产品和技术的发展，另一方面需要打消公众对人工智能产品服务的安全顾虑。以法律责任的设置为例，如果生成式人工智能代表未来生产力的发展方向，其发展的社会成本即包括合理的法律责任。二十年前各国为鼓励网络产业发展，法律对网络服务提供者通常施以较轻的注意义务。但后来随着产业的发展，法律对网络服务提供者设定的责任水平逐渐提高。如果我们相信生成式AI代表着未来人工智能模式发展的重要技术路径，就应对大模型数据训练与其生成物的法律责任保持一定的宽容，因为未来生成式人工智能成功应用于社会生产与生活可以反过来惠及更多的行业和开发者。生成式人工智能的专业模型在发展早期，应设置一定的免责规则，甚至立法应当为其设计精巧的避风港责任，降低企业履行注意义务的成本。为此，立法对人工智能的研发和提供行为设置义务的数量和范围要合理。尽管欧盟就《人工智能法案》游说亚洲国家效仿其在人工智能领域的领先立法，但多国保持了观望态度，担忧过于仓促、严厉的监管会扼杀技术创新。欧盟的学者也担忧法律义务和监管要求的数量规模如此之大，实施成本如此之高，其威慑作用可能导致研发活动转移到欧盟之外。

（二）主旨：彰显人本主义

《人工智能法》的立场主旨应彰显人本主义。“以人为本”的理念已在我国一系列立场文件中得到多次表达，未来应更加具体地落实到法律制度设计中，彰显人本主义。人本主义与技术理性相对，技术理性是指人类追求技术合理性、规范性、有效性和理想性的抽象思维活动、智慧和能力。它以数学的结构来解释世界，只注重功能和操作、只关心其实用目的，把事实和价值、技术实用价值与技术应当遵循的伦理、道德严格区分开来。在技术理性的理念下，人类的独特性被理解为一种特定的生物结构，就像计算机配置一样，是一个进化意义上的短暂事件。人工智能时代，过度地追求技术理性可能使机器在日益“人化”的同时，人也被“机器化”，这一过程包含了人的数据化、数据的商品化、人的客体化以及人的意识的客体化。这一过程也在逐步消解人的主体性——从技术改善人类生活，到技术重新设计人类，再到可能迈向消亡人类的灭绝。基于这种担忧，我国在《全球人工智能治理倡议》中提出，“发展人工智能应坚持‘以人为本’理念，以增进人类共同福祉为目标，以保障社会安全、尊重人类权益为前提，确保人工智能始终朝着有利于人类文明进步的方向发展”。“以人为本”的人本主义理念具体落实在人工智能法律制度中，应包括以下三个方面的内容：

第一，设立“权益保护”专章，特别彰显“以人为本”的人本主义理念。《人工智能法》应以安全与发展为理念，社会各界、研发者和服务提供者应更多关注促进发展的制度体系建设与监督管理机制的设置。整部法律在制度设计中，应当将个体权益保护作为专门章节，更加完整地构建人工智能时代个体权益保护的制度体系。由于公法保护缺乏灵活性、前瞻性，政府部门也往往囿于资源限制无法充分对其进行规制。赋予个体使用人工智能产品和服务时获得私权救济的路径，既可实现对层出不穷的新场景下技术“探路人”的法律保护，也可以有效弥补公法保护的缺陷，扮演权利宣示与权益保护“最后一道防线”的角色。由于私权救济是唯一能够由个体主张而启动的制度，《人工智能法》中的权益保护专章更需被重视，以保障救济路径的通畅。

第二，涵盖更广的个体权益保护范围。个人信息和数据作为数据权利的客体，承载了人格与财产利益，因此有学者将数据权利分为涉及人格权益的数据权利如自决权、知情同意权、被遗忘权，涉及财产权益的数据权利如使用权、收益权、可携权。在人工智能技术无法充分实现可视化与被解释的预设前提下，立法应从保护个体权利角度出发，防止人工智能技术对个体意思自治、个人信息及人的主体性等其他合法权益的不当限制或损害。如，当前对个人信息与数据的保护制度，更多关注主体是否知情同意、数据的真实性、个体是否可以自由修改与删除数据。《人工智能法》中的权益保护应涵盖更多的内容，关注人工智能产品和服务对个体权利、人格尊严和人本主义的影响。再如，当前有关人格尊严的法律制度主要围绕“隐私”的侵害矫正展开，对个人数据的关注点停留在可识别性、自主性、数据控制权利和名誉权等传统问题上，与数据保护混为一谈。人工智能时代的人格权问题、人的自主决策（自治权）、人类主体性保护等问题应在制度设计中予以体现。

第三，关注和重视社会弱势群体的权益保护。数字技术并不是中立的客体，它们被赋予了与性别、社会阶层、种族民族和年龄相关的意义。《中国关于全球数字治理有关问题的立场》强调，各国应致力于向本国不同人群，特别是社会弱势群体，提供持续、稳定、普惠、开放的数字产品和服务……应加强对老年人、妇女、未成年人、残疾人、贫困人口等群体数字技能培训，维护和促进有关人群的发展权。贯彻这一立场，人工智能立法就应当做到：一是人工智能设计应该以满足人的需要为标准，人工智能产品或服务的研发者、提供者应提供适当的人机交互方式，便利用户使用。二是保障老年人、妇女、未成年人等社会弱势群体的权益，设置适老模式、女性模式、未成年人模式等专门的保护制度。三是重视人工智能对劳动者可能产生的影响，关注劳动者在人工智能时代参与劳动规则制定、劳动自主性等相关权益的保护。四是增加获得帮助权，涉及个人重大合法权益的人工智能产品或服务，人工智能产品的提供者应当对个人、组织提供帮助，加强技能培训。

（三）框架：立总则，留接口

《人工智能法》面临的重要挑战是如何解决技术、风险和社会发展不确定性等问题。国内学界的讨论中，不乏人工智能立法时机尚未到来的观点，但从国际视角出发的学理研究成果，却多从回应企业出海需求、塑造国际形象等角度，主张国家应制定一部综合性的《人工智能法》。《人工智能法》如何容纳和化解高度不确定性的诸多风险？这一问题可通过《人工智能法》的框架体例来解决：以“总则式”为框架体例，以“廓主线”为主要内容，以“留接口”解决容量问题。

第一，《人工智能法》应确立“总则式”的框架体例，定位为人工智能治理的提纲挈领制度。立法既要满足人工智能治理的紧迫问题，又要为未来的发展留足空间；当下的《人工智能法》拟涵盖迫切需要解决的核心问题。《人工智能法》的调整对象是治理人工智能技术、产业和应用全链条以及在此基础上形成的复杂系统与社会生态；立法不能抱持“毕其功于一役”的理念，试图去涵盖所有人工智能技术、要素和应用等不同维度的治理规则。社会各界无论是否支持启动制定《人工智能法》，《人工智能法》都应在重要问题上达成最大共识。《人工智能法》关系着我国未来人工智能产业发展、技术和社会治理体系变革，因而应为人工智能时代个体权利的保护制度体系定调，绘制人与技术的合理关系图谱。正是因为《人工智能法》的重要性，现阶段的《人工智能法》的立法应参考《民法典》的立法经验，采用“总则式”的立法体例。正如《民法总则》被认为应确立我国应奉行的立法哲学，通过确立民法立法目的、基本原则、法律制度，来表达对时代所面临问题的基本看法和态度。“总则式”体例的《人工智能法》同样应确立人工智能立法的立法目的，人工智能技术、产品与服务必须遵循的基本原则，基本法律制度应遵循的一般性规则，表达我国人工智能治理的基本理念与基本立场。

第二，《人工智能法》应以“廓主线”为主要内容。主线是指人工智能治理的基本框架脉络，应该在《人工智能法》中得到确定。《人工智能法》的基本框架脉络可包括一般原则、促进发展、权益保护、安全义务、特殊应用场景、监督管理、国际合作、法律责任等若干板块内容。这些板块可能成为章节抑或法条，但基本能够统领和涵盖当前和未来一个时期人工智能治理的主要问题。这些章节的内容排列可考虑按如下顺序设置：一是确立《人工智能法》的立法目的、基本原则，作为统领性章节确立中国人工智能治理的基本立法目的和立法态度；二是将促进发展内容排列其后，强调本法促进发展的主旨；三是将权益保障置于安全义务之前，明示以人为本的立法主旨；四是将安全义务和监督管理并列安排，安全义务章节设置人工智能产品、服务的研发者和提供者的安全义务规范，监督管理章节设置监管部门的规制措施，并对特殊应用场景做出原则性规定；五是国际合作，我国现行法律中已有七部法律设有国际合作专章的立法例，人工智能立法中的国际合作应聚焦国际规则制定以及国际合作与交流的开展；六是法律责任章节，设定人工智能产品与服务的行政责任、民事责任与刑事责任等。这样一条主线基本覆盖了人工智能治理的主要制度，能体现将人工智能作为生产方式和社会治理系统的综合治理思路。

第三，《人工智能法》要“留接口”解决容量问题。一部《人工智能法》无论如何“大而全”都无法涵盖人工智能时代技术产业和社会生活方方面面的问题，这既是由人工智能技术的战略意义决定的，也是由人工智能技术发展的不确定性决定的。一是处理领域立法与通用立法需要“留接口”。人工智能领域已经深刻影响到了教育、医疗、金融、交通等领域，这一趋势未来还会继续延续。诸多社会生活领域的具体规则的制定，只能交给专门领域立法解决，《人工智能法》只能在有限条款中对特殊应用领域问题予以强化，此谓留足“领域接口”。二是处理现有制度与未来发展需要“留接口”。以往法律处理不确定性问题更倾向于使用模糊术语进行表达，扩张其适用范围。《人工智能法》立法中，可预留授权的制度接口，将技术、要素与产品应用的规制部门确定，将位阶较低的制度授权有关部门细化。如未来基础模型如果实质上构成关键信息基础设施，则应承担相应的法律义务。在满足一定的产业发展条件后，立法可改变对法律义务与责任的设置，当下的制度设计可预留未来变化的制度“授权接口”。

（四）制度：治当下，谋长远

《人工智能法》的制度设计既应注重“治当下”，还应兼顾“谋长远”，具体制度的设计，需平衡发展和安全，对发展需求和安全隐患均予以考虑和回应。既应解决人民群众、国际社会迫切关心的问题，也从宏观上把握规制的尺度，特别是技术带来的生产激励、公平分配等问题。

第一，确立多元治理框架。如《中华人民共和国数据安全法》提出国家支持各相关主体广泛参与数据安全保护。治理主体的多元化是实现科技立法与决策民主化的必然要求，多元化的治理框架可有效提高治理的科学性和包容性，防止单一利益需求主导国家治理秩序。我国已经积累了一定的主体多元化的治理经验，但要避免多元化治理模式流于形式，真正建立“包容共享型法治”。《人工智能法》的立法中，应明确国家支持人工智能的主管部门、行业组织、企业、教育和科研机构、有关专业机构等在人工智能的安全风险评估、防范、处置等方面开展协作；鼓励建立人工智能行业相关组织，加强行业自律，制定行业规范、行业准则，发布行业最佳实践案例与合规指引，为企业合规建设和使用者权益保护提供指导；鼓励人工智能主管部门、相关行业协会、市场开发者，共享人工智能安全监测技术工具和手段，构建良好的人工智能监管生态。

第二，设定合理的分类分级认定规则。依据风险进行分类分级管理是技术治理规则设定中普遍采用的原则，在欧盟的系列立法推动下，人工智能依据风险的分级管控已经成为各国监管普遍采取的手段。2023年欧盟《人工智能法案》（AI ACT）将人工智能风险等级划为四类，并扩大了人工智能高风险领域的分类范围，将对人们健康、安全、基本权利或环境的危害考虑在内；对高风险人工智能系统采取多项监管措施，并且新增规定了部署商的义务，体现了折中草案对于人工智能监管趋势趋严。但欧盟对风险的认定标准和监管成本过高，与我国立法的标准体系难以完全兼容。风险规制既需反映当下迫切的治理需求，也需要留足应对未来发展与不确定性的空间。我国也确立了算法、场景、主体、数据多个领域分级分类监管制度，但人工智能的分级分类标准需做出针对性的制度安排。《人工智能法》不宜在现阶段技术产业发展走向尚不十分明朗的情况下划定不同级别，而应划定“红线底线”以满足当下监管需求，并为不确定性的发展留足空间。欧盟对风险的认定标准包括处理应用场景、影响权利的类型等，这与我国国内立法的话语体系难以兼容。我国可考虑建立关键人工智能特殊监管制度，在人工智能一般监管要求基础上，实行重点监管，并可以与我国已有的关键信息基础设施保护制度实现对接。关键人工智能产品与服务包括：涉及公共通信和信息服务、能源、交通、水利、金融、公共服务、电子政务、国防科技工业等重要行业和领域的；对公民的生命、自由、人格尊严等重大人身权益有重要影响的；在算力、参数、用户规模等方面达到一定级别的通用人工智能系统。立法既应与已有的关键信息基础设施制度对接，也应从重大权益影响角度进行制度覆盖，并对未来可能造成系统性生存性风险的人工智能治理予以回应。

第三，完善人工智能动态监测、预警、响应机制。人类与人工智能未来将长期共存，技术与风险的不确定性将是技术治理的常态。应对这种“常态”，应在《人工智能法》中建立人工智能风险的动态监测、预警、响应机制。如，国家设立人工智能专家委员会，定期通报人工智能技术的发展、部署和应用，并且动态监测风险、共享风险评估、实施安全事件报告、建立应急响应机制。这一系列风险监测、预警、共享、报告和响应的体制机制将成为能够长远监管人工智能风险的制度。再如，人工智能产品和服务的研发者、提供者应当建立人工智能安全事件决策和处置流程，对于引起社会舆论、产生广泛社会影响的人工智能安全事件，应当及时向主管部门报告。这一制度将有助于公众更好地了解人工智能，并推动国际社会就人工智能进化的速度和影响达成共识，逐步建立标准，以更加科学地衡量人工智能对社会生活各个领域产生的影响。

第四，对当下和长远发展的人工智能治理共性问题做出制度安排。一是从当下来看，人工智能与知识产权的紧张关系成为世界各国立法面临的难题。在立法层面，欧盟、美国、日本等加快了推进人工智能版权立法的进程。在司法层面，国内外已有多起有关人工智能生成内容的可版权性、训练数据版权侵权等诉讼。在输入端，训练数据的获取与使用始终面临合法性问题，国内外有关训练数据版权侵权的案件已经呈现出井喷局面，各方对于训练数据能否构成合理使用持不同立场。在输出端，关于人工智能生成内容的可版权性问题引发了学界广泛的讨论，“国内AI生成图片著作权侵权第一案”的裁判更是引发了各界关注。基于我国当下“世界领先的追赶者”角色，立法应尽快协调人工智能产业发展与知识产权保护制度，为技术产业高质量发展创造条件。二是从长远来看，通用人工智能初现端倪，治理具有比人类计算能力强大的技术系统成为各国必须通力合作的议题。《人工智能法》宜预留通用人工智能的规制条款，对于未来可能出现的非限定任务的、多领域通用的强大人工智能系统设置更高的安全规范。

第五，根据现行技术产业发展阶段探索新型监管制度。如各方广泛关注的沙盒监管制度，是允许企业在真实的市场环境中测试产品、服务或商业模式，同时又能将新技术潜藏的风险控制在一定范围。美国已经在人工智能金融、自动驾驶等领域相继开展沙盒监管测试，并鼓励参与企业在沙盒内开展红队对抗、自律管理等活动。欧盟《人工智能法案》第五编专门规定了沙盒制度，细致规定了沙盒制度的运行和相应的监管措施，同时还特别强调中小企业使用沙盒的优先准入和费用减免制度，被认为是欧盟保护本土企业、增强产业竞争力的重要制度。为支持人工智能创新发展，相关部门可以探索人工智能产品与服务监管的试点机制，设定监管试点技术的准入条件、试点范围与期限、试点的运行规则等，明确试点目的、定期与试点企业展开技术交流和治理经验共享，为人工智能研发提供必要测试环境的同时提高监管机关自身的监管能力。对初创企业、小微企业等难以获得专用设施、缺乏财力人力的市场主体，可以适当减轻或豁免其进入试点的条件。

（五）进路：适于时，宜于世

对《人工智能法》立法这一主题进行讨论，是为了尽快地回应当下紧迫的社会治理需求。人工智能的发展存在诸多争议。“法与时转则治，治与世宜则有功”。所谓立法适于时，是指依据社会需求推进国家层面的人工智能治理框架，综合性的人工智能立法宜择机出台。所谓立法宜于世，则是指立法应回应全球“南方”国家的发展需求，实现《人工智能法》与《全球人工智能治理倡议》的联动。

一方面，当立法共识尚未充分形成，全面立法条件不成熟时，可采用灵活方式推进国家层面人工智能治理。在我国的法治实践中，2012年全国人大常委会制定公布了《关于加强网络信息保护的决定》，对公民个人信息、网络信息内容管理等作出框架性规定。在该决定施行的4年后，广受瞩目的《网络安全法》顺利出台，成为网络安全和信息化领域的基础性立法。科技立法相对传统法律部门创制具有更强的时效性，故中国《人工智能法》可以考虑通过灵活的形式载体，以小快灵立法、全面性立法乃至法典化立法等形式适时推进，这样既可以提高治理体系的敏捷程度，也有助于最大程度地化解法律滞后与技术创新的固有冲突。

另一方面，在国际层面倡导人工智能发展权。我国在《全球人工智能治理倡议》中提出，各国均有“平等发展和利用人工智能的权利”，主动为国际人工智能治理规则的形成贡献中国方案，为技术后发国家谋求主动提供了可借鉴的制度路径，有助于避免人工智能强化技术壁垒、加深数字鸿沟。《人工智能法》中应设立“国际合作”专章。国际合作应兼顾横向合作与纵向合作。横向合作旨在确定覆盖人工智能整个社会技术环境的最低要求，凝聚全球人工智能治理共识，主要体现为促成人工智能的共同定义、制定兼容性的国际原则、建立跨国治理协调机制等。纵向合作应围绕特定领域开展，依托部分贸易协定和国际经济论坛。目前主要国家就人工智能在国际贸易的影响和应对已经展开长期对话，但人工智能算力基础设施建设、人工智能标准制定和人工智能数据安全治理等事项还有待更深入的国际合作。

人工智能时代已经到来，中国的《人工智能法》的出台还有多远？从2023年初OpenAI的ChatGPT惊艳问世，到2024年初Sora再一次引起全球关注，技术发展的脚步日益加快，人工智能正加速改变着产业、社会和世界。围绕中国《人工智能法》的立法，本文从基本逻辑、理论考量、目标主旨和制度架构等角度进行了初步思考。笔者确信，中国应当有一部《人工智能法》来彰显立场，为人工智能技术产业发展保驾护航。也只有在法律这一位阶层面制定人工智能法律制度，才能够统筹协调并确立国家层面人工智能治理制度，真正实现立法先导，发挥法治在人工智能发展治理领域固根本、稳预期、利长远的基础性作用。