输入“/”快速插入内容

《生成式人工智能服务管理暂行办法》各机构专家解读汇总

2023年7月16日修改
注意注意:今天的推送是增修版,没看过上一篇的可以直接看这篇~
7月13日,网信办、国家发改委、教育部等七部门发布了《生成式人工智能服务管理暂行办法》(,并将于2023年8月15日起施行。专家们纷纷进行了解读,为了方便大家了解各条款细节,小编做了个精简的汇总,仅供学习探讨。评论来源,按发布时间顺序:
监管立法解读丨中国颁布全球首个生成式人工智能立法 时萧楠 Internet Law Review 2023-07-13 21:58
全球首部AIGC法即将生效,多个争议条款被删 樊朔 杨柳 财经E法 2023-07-13 23:14 (已删除)
新法解读|《生成式人工智能服务管理暂行办法》如何落地十问十答 魏冬冬网数团队 网络与数据法实务 2023-07-14 08:25
以下为新增:
《生成式人工智能服务管理暂行办法》快评 袁立志、朱垒 北京市竞天公诚律师事务所 2023-07-14 18:47
“卧看星河尽意明”——全球首部生成式人工智能法规解读 宁宣凤 吴涵 等 金杜研究院 2023-07-15 21:08
第一章 总 则
第一条 为了促进生成式人工智能健康发展和规范应用,维护国家安全和社会公共利益保护公民、法人和其他组织的合法权益,根据《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》、《中华人民共和国科学技术进步法》等法律、行政法规,制定本办法。 
许可:生成人工智能不只是一个网络空间的问题,网信部门需要和其他经济性规制部门一起去完成生成式人工智能的治理,形成具有经济性和社会性规制的全方位架构,充分回应生成式人工智能所带来的革新。《办法》将生成式人工智能的创新与发展置于重要地位,与欧盟《人工智能责任指令》(AI Liability Directive)、《人工智能法(草案)》(draft AI Act)等以风险预防和责任追究为中心的立法存在差异。2023年6月,欧盟针对通用人工智能增设相应的监管标准。但实践早已经证明,对人工智能这一不断发展且具有不确定性的新技术需要采取更加科学和包容审慎的治理方式。
张 烽:增加了《科技进步法》,《科技进步法》其宗旨是为了“了全面促进科学技术进步,发挥科学技术第一生产力、创新第一动力、人才第一资源的作用,促进科技成果向现实生产力转化,推动科技创新支撑和引领经济社会发展,全面建设社会主义现代化国家”,因此体现了《办法》把生成式人工智能这一技术上升到具有基础性和引领性作用的地位。《办法》在之前的征求意见稿基础上,增加“维护国家安全和社会公共利益,保护公民、法人和其他组织的合法权益”的规定,为具体监管逻辑提供了明确的导向。
方达:管理办法从征求意见稿阶段的国家网信办独家发布,变为由国家网信办与国家发改委、教育部、科技部、工信部、公安部以及广电总局联合发布,一定程度体现了该等“暂行”办法在现阶段防范风险的重点领域。
史宇航:因为《科学技术进步法》的存在,意味着科技伦理审查将在生成式AI的监管中扮演重要角色。
第二条 利用生成式人工智能技术向中华人民共和国境内公众提供生成文本、图片、音频、视频等内容的服务(以下称生成式人工智能服务),适用本办法。  
国家对利用生成式人工智能服务从事新闻出版、影视制作、文艺创作等活动另有规定的,从其规定。  
行业组织、企业、教育和科研机构、公共文化机构、有关专业机构研发、应用生成式人工智能技术,境内公众提供生成式人工智能服务的,不适用本办法的规定。
国家网信办有关负责人:《办法》在治理对象上,针对生成式人工智能服务
许可:首先意味着《办法》区分了“服务”与“技术”。这一区分不但与《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》以“服务”为基础的规制相衔接,而且为技术研发、应用容留了试错空间,避免过分进入技术自身迭代领域而影响技术创新。放宽视野看,强调“服务”而非“技术”的规制,恰恰有助于从技术中立论还是建构论的理论纷争中跳脱出来,从系统论出发,将人工智能所栖身的演化体系、组织形态、应用场景一并纳入规制,实现场景化和整体性兼备的治理。其次,《办法》区分了“面向公众”和“面向非公众”。一方面,从风险防范的角度看,“面向公众”可能引发风险扩展和积聚,特别是虚假有害信息的蔓延将扰乱网络空间传播秩序、市场秩序和社会秩序,因此成为监管重心所在;另一方面,生成式人工智能不但是与普通用户信息交互的工具,也是企业内部提高效率、增强竞争优势的有力助手。根据咨询公司埃森哲的调研,近六成的企业打算将ChatGPT用于学习目的,超过40%的企业愿意为此倾力投入。通过定制模式和数据微调,生成式人工智能将颠覆传统的工作模式,并支持各行业、各项业务发展。因而,为企业内部以及垂直领域内“面向非公众的服务”留有余地,将有助于加速生成式人工智能技术在企业端的大规模落地和广泛应用,帮助企业显著提高生产效率,释放创新潜力。最后,《办法》统筹了“境内”和“境外”,对境外企业提供生成式人工智能服务的需求作出回应,要求在遵守本法的前提下合规经营,对外商投资生成式人工智能服务做出衔接规定,体现出包容开放的政策导向。
时萧楠:针对分类监管,新闻出版、影视制作、文艺创作等活动未来将会由国家互联网信息办公室、国家广播电视总局等相关主管部门另行规定。针对分级监管,尚未明确具体的分级标准。境内主体向境外提供服务的,无需适用《本办法》,但仍要注意数据出境问题。
史宇航:面向境外公众、面向境外非公众、面向境内非公众的情况下可以不适用暂时办法。具体言之,面向企业内部的生成式人工智能产品不适用,面向特定企业客户的生成式人工智能产品同样不适用该暂行办法。此外,企业面向境外公众提供生成式人工智能产品也同样不适用。如出海电商使用ChatGPT提供客服支持,就不适用该暂行办法。
方达:境外AIGC服务提供者(无论是模型层还是应用层),无论是直接向境内提供相关服务,还是通过API接口或其他形式“封装”后提供“间接”服务,都将受限于管理办法的相关规定。对于国内厂商而言,如果使用境外大模型或相关技术作为底层的技术支持,那么无论是否获得境外AIGC服务提供商的适当授权,都将面临两个主要问题:1、该等行为是否将使境外服务提供商承担中国法下的连带责任(从而引发双方潜在的责任纠纷);2、在利用境外技术的过程中,是否涉及数据的出境。事实上,目前已有通过“封装”境外大模型牟利的创业者因涉嫌非法经营罪而被刑事拘留的案例,我们亦在4月的文章中提醒国内目前AIGC部分业务模式存在潜在的刑事风险。不过,与征求意见稿不同的是,管理办法引入了一项“安全港”例外,即“行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等研发、应用生成式人工智能技术,未向境内公众提供生成式人工智能服务的,不适用本办法的规定”。因此,如果只是内部研发或者使用相关技术,不对外提供服务,则只要获得技术提供方的合适授权以及遵守网络安全、数据和个人信息保护等相关法律法规的要求,那基本上就是安全的。这一点也与接近正式版本的欧盟《人工智能法案》(Artificial Intelligence Act, 2021/0106)中提及的例外情形类似。
寿步:第二条只涉及“提供者”而没有涉及“使用者”和其它主体,在适用范围表述的完整性方面可以进一步完善。
新增:
吴涵:新规不会令企业绑住手脚。《暂行办法》第二条第三款明确,只要企业、科研机构等,不是向公众公开提供生成式人工智能服务,则不适用本法,豁免了企业或机构内部使用情形,这也是一大利好。此外还有一些促进性的措施,包括:推动公共数据分类分级有序开放,扩展高质量的公共训练数据资源;促进算力资源协同共享,提升算力资源利用效能。
袁立志、朱垒:根据《暂行办法》第2、20条,《暂行办法》适用于面向中国境内公众提供生成文本、图片、音频、视频等内容的服务,并明确将不向境内公众提供服务的研发、应用活动排除在适用范围之外。因此,《暂行办法》适用的关键点在于“面向中国境内公众提供服务”,而提供者是否为中国境内的组织或个人、提供者的服务是否收费及向谁收费则在所不问。例如,A公司自研大模型,并应用至其运营的App中,面向中国大陆的C端用户提供服务,此时属于典型的面向境内公众服务,适用《暂行办法》。再如,A公司自研大模型,尚处于研发阶段,仅邀请少量用户开展测试,或仅用于本企业内部运营管理,未将其投入市场对公众提供服务,则不适用《暂行办法》。又如,A公司自研大模型,向中国大陆的B公司提供大模型AI能力接口服务,并收取技术服务费,接入了AI能力的B公司面向中国大陆的C端用户提供服务,此时,A与B均适用《暂行办法》。如果B公司仅面向境外用户提供服务,则B公司不适用《暂行办法》。又如,A公司为B公司提供基础云服务,B公司在基础设施层训练模型并向C端提供服务,此时A公司不适用《暂行办法》,B公司适用。《暂行办法》与《互联网信息服务深度合成管理规定》有所区别。《暂行办法》未区分服务提供者与技术支持者,即不论直接面向C端用户提供服务,还是通过API接口等方式为B端用户提供服务,均构成“提供者”。
张凌寒:第二条的显著改动回应了生成式人工智能功能的“基础模型-专业模型-服务应用”的分层业态,明确其作为数字基础设施的地位。《暂行办法》在第七条也提出了“基础模型”的概念,与“提供服务”一起,在规章层面承认了分层业态。因为生成式人工智能的功能远不止于提供信息内容服务,其可以作为“技术基座”,为金融、医疗、自动驾驶等多个领域赋能。根据生成式人工智能的技术特点,在产业分层中,首先要通过海量数据使底层大模型“见多识广”,具有强大能力;其次通过“术业有专攻”的专业优化训练,让其适配不同行业和场景;最后再向C端用户直接提供服务应用。按照《暂行办法》目前的适用范围,把握的节点在于“对境内公众提供服务”。如果基础模型不直接向公众(C端)提供服务,仅仅向垂直领域的B端提供服务,如生物医药研发、工业建模设计等,则并不落入其规制范围。同样,如果优化训练和二次开发的专业模型(B端)仅限于科研和工业应用等场景,并不向社会公众提供服务,也不在《暂行办法》的适用范围内。因此,适用范围条款的改动直接回应了生成式人工智能的分层业态,仅对可能产生信息内容安全风险的服务应用层——向境内公众提供服务提出要求,实现了分层的精准治理。当然,在实践中B端与C端的界定有待进一步明确。如有企业使用专业模型生成的内容直接向用户提供服务,又或有企业进行基础模型的初步训练,形成具有仅限一定范围内生成功能的服务应用(如点菜、专业咨询),但C端用户并不与模型在线互动等。这些特殊情形是否落入适用范围,仍有待实践的进一步明确。
金杜:但需注意的是,一方面这并不意味着对向不特定企业提供的生成式人工智能服务的排除适用;另一方面,这也不意味着研发、内部使用生成式人工智能无需受到任何约束。如前所述,考虑到可能的顶层通用立法《人工智能法》已被纳入立法计划,不排除前述行为将可能受到《人工智能法》为人工智能确立的通用基线要求约束。欧盟的《人工智能法案》同样采取类似思路,规定仅用于研发目的和非专业目的的人工智能系统,仍需要遵守透明度义务。研发、内部使用生成式人工智能仍需要加强透明性,对其应用同时也建议满足比如信息内容管理等要求。
第三条 国家坚持发展和安全并重、促进创新和依法治理相结合的原则,采取有效措施鼓励生成式人工智能创新发展,对生成式人工智能服务实行包容审慎和分类分级监管。