生成式人工智能新规解读：贴近产业 促进发展 包容审慎 分类分级
发布时间:2023-08-30 | 发布者： 东东工作室 | 浏览次数： 次（原标题：生成式人工智能新规解读：贴近产业 促进发展 包容审慎 分类分级）
今年以来，生成式人工智能在全球范围内的产业、投资、学术、法律等各界引发的热潮至今仍在持续，并向纵向发展。对于生成式人工智能发展前景普遍乐观，但其所引发的科技伦理、公共利益维护和用户合法权益保护等问题同样引发巨大的争议。
在此背景下，我国国家互联网信息办公室、国家发展和改革委员会、教育部、科学技术部、工业和信息化部、公安部、国家广播电视总局在之前征求意见稿基础上发布《生成式人工智能服务管理暂行办法》（以下简称《办法》），总体上体现了支持技术创新和产业发展，体现了包容审慎和分类分级监管的基本态度，可以说基本反映了生成式人工智能技术特点及其在产业发展中的地位。以下从六个方面来进行简要分析。
一、从更高维度肯定了生成式人工智能的技术创新和应用创新价值，以及其所带来的产业变革
与之前的征求意见稿相比，《办法》制订法规依据除了《网络安全法》《数据安全法》和《个人信息保护法》之外，增加了《科技进步促进法》，而我们知道，《科技进步法》其宗旨是为了“了全面促进科学技术进步，发挥科学技术第一生产力、创新第一动力、人才第一资源的作用，促进科技成果向现实生产力转化，推动科技创新支撑和引领经济社会发展，全面建设社会主义现代化国家”，因此体现了《办法》把生成式人工智能这一技术上升到具有基础性和引领性作用的地位。
同时《办法》在之前的征求意见稿基础上，增加“维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益”的规定，为具体监管逻辑提供了明确的导向。
二、体现了分级分类管理的思路，且对生成式人工智能支持和规范贯穿研发、应用、服务全过程
由于生成式人工智能应用对各行各业的广泛影响，其在不同应用场景的利益关系调整和合法权益保护要求是不一样的，与之前的征求意见稿相比，分类分级监管的思路非常明确。
如在第二条，增加了对不同场景的行业监管要求，“国家对利用生成式人工智能服务从事新闻出版、影视制作、文艺创作等活动另有规定的，从其规定。”第三条则明确规定“国家坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管。”
同时对生成式人工智能的研发活动，由于其不对公众提供服务，不应简单地适用具体行业应用中的监管要求，因此明确“行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等研发、应用生成式人工智能技术，未向境内公众提供生成式人工智能服务的，不适用本办法的规定。”
《办法》第四条，除了要求坚持社会主义核心价值观之外，还增加了要求相关服务“基于服务类型特点，采取有效措施，提升生成式人工智能服务的透明度，提高生成内容的准确性和可靠性”，体现了行业发展导向，引导其更有效地服务于具体场景需求。
《办法》第十条，增加了“指导使用者科学理性认识和依法使用生成式人工智能技术”，即要求服务提供者有效引导用户理性认识和依法使用，这对于用户权益保护和生成式人工智能服务发展本身都是非常有意义的；针对防沉迷，明确只针对未成年人，即“采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务”，而不对其他用户作出强制性要求，体现了法制统一性要求。
除了在第二条提到针对特定领域另有其他规范要求外，还明确各部门依其职责加强管理的要求，体现了生成式人工智能发展服务的特点，即第十六条规定“网信、发展改革、教育、科技、工业和信息化、公安、广播电视、新闻出版等部门，依据各自职责依法加强对生成式人工智能服务的管理。”
除了在第三条规定“包容审慎和分类分级监管”之外，在第十六条再次明确分类分级监管要求，即规定“国家有关主管部门针对生成式人工智能技术特点及其在有关行业和领域的服务应用，完善与创新发展相适应的科学监管方式，制定相应的分类分级监管规则或者指引。”
三、提出数据资源平台、算力资源共享等方面的支持产业发展相关举措
《办法》从内容资源和技术发展两个方面提出了支持产业发展相关举措。内容资源方面，如其规定第五条规定“鼓励生成式人工智能技术在各行业、各领域的创新应用，生成积极健康、向上向善的优质内容，探索优化应用场景，构建应用生态体系。支持行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等在生成式人工智能技术创新、数据资源建设、转化应用、风险防范等方面开展协作。”
第六条则从技术发展支持提出了包括相关算法、框架、芯片和配套软件平台自主创新和公共训练资源平台建设规定。《办法》规定，“鼓励生成式人工智能算法、框架、芯片及配套软件平台等基础技术的自主创新，平等互利开展国际交流与合作，参与生成式人工智能相关国际规则制定。推动生成式人工智能基础设施和公共训练数据资源平台建设。促进算力资源协同共享，提升算力资源利用效能。推动公共数据分类分级有序开放，扩展高质量的公共训练数据资源。鼓励采用安全可信的芯片、软件、工具、算力和数据资源。”
四、就训练数据、数据标注和模型优化等方面具体技术治理更加具体明确
关于训练数据，一是着重提出了要求训练数据具有合法来源、不得侵害知识产权和个人信息权益，以及遵守《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》等法律、行政法规的其他有关规定和有关主管部门的相关监管要求。二是要求采取有效措施提高训练数据质量，增强训练数据的真实性、准确性、客观性、多样性；
关于数据标注，即规定在生成式人工智能技术研发过程中进行数据标注的，提供者应当制定符合本办法要求的清晰、具体、可操作的标注规则；开展数据标注质量评估，抽样核验标注内容的准确性；对标注人员进行必要培训，提升尊法守法意识，监督指导标注人员规范开展标注工作。
关于模型优化，《办法》删去《征求意见稿》的3个月模型优化训练的强制时间要求，同时新增发现违法内容和发现使用者从事违法活动后，向有关部门报告要求。《办法》规定“提供者发现违法内容的，应当及时采取停止生成、停止传输、消除等处置措施，采取模型优化训练等措施进行整改，并向有关主管部门报告。提供者发现使用者利用生成式人工智能服务从事违法活动的，应当依法依约采取警示、限制功能、暂停或者终止向其提供服务等处置措施，保存有关记录，并向有关主管部门报告。”
五、增强了个人信息保护要求
在《征求意见稿》基础上，增加了对使用者的个人信息权益的相关规定。如规定“提供者应当依法及时受理和处理个人关于查阅、复制、更正、补充、删除其个人信息等的请求。”，还规定“参与生成式人工智能服务安全评估和监督检查的相关机构和人员对在履行职责中知悉的国家秘密、商业秘密、个人隐私和个人信息应当依法予以保密，不得泄露或者非法向他人提供。”
六、增加了境外相关服务的合规处置
对于来自境外的生成式人工智能服务，如果其能够遵守我国相关监管要求，是可以合法提供服务的。《办法》第二十条规定，“对来源于中华人民共和国境外向境内提供生成式人工智能服务不符合法律、行政法规和本办法规定的，国家网信部门应当通知有关机构采取技术措施和其他必要措施予以处置。”
当然，如果不符合相关规定，如何处置？具体规定是“由国家网信部门通知有关机构采取必要措施处置。”
作者：张烽，万商天勤律师事务所合伙人，万商天勤数字法律专业委员会主任，上海市突出贡献专家协会知识产权专业委员会秘书长，上海区块链技术协会智库专家/科技评价专家，中国移动通信联合会元宇宙产业工作委员会常务委员，未来产业元宇宙50人论坛副理事长。
本文系未央网专栏作者:张 烽 发表，内容属作者个人观点，不代表网站观点，未经许可严禁转载，违者必究！