随着人工智能技术的快速发展，促进其健康发展和标准化已成为关键。鉴于ChatGPT所引发的人工智能生成内容（AIGC）的趋势，这一点尤其如此。因此，主要国家的监管当局正在密切监测生成性人工智能，并执行适当的法规。在中国，中国网络空间管理局（CAC）于2023年4月11日发布了《生成性人工智能服务管理办法（征求意见稿）》（"AIGC办法"），旨在为中国的人工智能和算法相关行业在当前的监管方面提供更清晰的指导。本文将对《办法》进行全面分析，以加强读者对其意义的理解。
AIGC措施由中国的三部支柱性数据法律授权，即《网络安全法》（CSL）、《数据安全法》（DSL）和《个人信息保护法》（PIPL）。这些上位法与《AIGC办法》、《互联网信息服务算法推荐管理规定》（"算法规定"）、《互联网信息服务深度合成管理规定》（"深度合成规定"）以及即将出台的《科学技术伦理审查办法（试行）》相结合，构成了确保AIGC行业合规的主要法律基础和监管框架。
AIGC措施》将生成性人工智能定义为基于算法、模型和规则来创建内容的技术。其关于AIGC的范围比《深度合成规定》的范围更广。针对中国公众的AIGC公司，无论其实际位置如何，都要接受监管部门的监督。ChatGPT最近关闭来自中华人民共和国的用户账户的行为可以被认为是一种预防措施，以避免受到中华人民共和国法律法规的约束。《AIGC措施》还可能对 "特定目标 "的AIGC产品进行监管，这意味着即使AIGC产品不直接针对公众，而是针对特定的国内企业用户或定制设计的产品，它仍然可能受到《AIGC措施》的约束。
AIGC措施强调了优先使用安全和可信的软件产品、工具、计算和数据资源的重要性。值得注意的是，根据中华人民共和国法律法规，对于关键信息基础设施运营商和重要数据处理者来说，使用安全可信的网络产品和服务是强制性的。详细的指南或参考标准仍有待于在未来引入，以评估网络产品和服务的安全性和可信度。
办法》规定了五项主要原则：坚持社会主义核心价值观，禁止算法歧视，禁止不正当竞争，防止虚假信息，不侵犯个人隐私和知识产权。值得强调的是，某些原则具有重要价值，值得强调：
AIGC措施第5条将服务提供商定义为使用AIGC产品提供聊天、文本、图像和声音生成等服务的个人和组织。这也包括提供可编程的API接口以支持他人生成相关内容的实体，但不包括AIGC的最终用户。值得注意的是，根据AIGC措施，服务提供商被视为事实上的个人信息处理者，根据PIPL，服务提供商应在AIGC服务期间独立或与用户共同决定处理个人信息的目的和方法。 情况并非总是如此。当服务提供商只提供API接口时，他们可能既不确定目的也不确定方法。因此，"受托方 "的角色比 "个人信息处理者 "的角色更适用于服务提供者。不管怎么说，《AIGC措施》的主要内容集中在服务提供商的广泛义务上，下面将对其进行介绍和分析：
办法》规定，服务提供商应按照《关于对具有舆论属性或社会动员能力的互联网信息服务进行安全评估的规定》（以下简称《安全评估规定》）进行安全评估，并按照《互联网信息服务算法推荐管理规定》（以下简称《算法管理规定》）履行算法备案义务。虽然《安全评估规定》和《算法管理规定》将此类评估和备案的范围限定为具有舆论属性或社会动员能力的互联网信息服务，但监管部门实际上是根据潜在效果而非实际效果来确定此类属性。 因此，建议生成型AIGC产品提供商完成安全评估和算法备案，因为大多数AIGC产品可能影响舆论或动员社会。目前还不清楚，如果上游服务商已经完成了备案，下游服务商是否必须再次进行算法备案。
AIGC办法》要求服务商从多方面确保培训数据的合法性，包括遵守法律法规、不侵犯知识产权、获得处理个人信息的法律依据、确保真实性、准确性、客观性和多样性，以及满足其他监管要求。鉴于源数据的合法性是算法培训固有的风险，《AIGC措施》要求服务提供商确保这种合法性，可能表明未来对数据源的监管力度加大。 此外，确保数据的客观性和多样性对防止算法歧视和信息孤岛至关重要。 然而，《AIGC措施》是仅对源数据适用真实性和准确性要求，还是也包括人工创建的产品（数据），目前还不清楚。
AIGC措施规定了两项不同的义务：第8条的注释义务和第16条的标记义务。第8条要求服务提供商对训练数据进行准确和一致的注释，以协助算法的学习和训练。为了实现这一目标，AIGC措施要求服务提供商建立清晰、具体和可操作的注释规则，并为注释人员提供培训。 必须指出，准确的注释对于满足AIGC措施第4条规定的训练算法模型的准确性要求至关重要。第16条要求服务提供商遵守《深度合成规定》中列出的标记义务。深度合成规定》中规定了两类标记要求：可追溯标记和重要标记。可追溯性标志适用于所有生成的内容，而重要标志只要求用于可能混淆或误导公众的情况。AIGC措施扩大了 "深度合成条款 "中的重要标识义务，规定AIGC服务提供商必须使用重要标识，无论是否有可能造成混淆或误导。
AIGC《办法》要求服务商按照CSL对最终用户的真实身份信息进行认证。"后台实名认证，前台自愿参与 "已经成为几乎所有网络服务的标准要求。基于《深综规定》对实名认证的类似要求，《AIGC办法》可以要求服务提供者收集以下信息进行实名认证：手机号码、身份证号码、统一社会信用代码等。
AIGC措施第10条要求服务提供商采取措施，防止用户过度依赖或沉迷于生成的内容。为保障用户权利，《办法》规定服务提供商应界定并公开披露其服务的预期用户、使用场景和目的。然而，合规义务、用户保护和道德考虑可能因不同的业务场景而不同，有必要进一步细化。服务提供商可以实施弹出式提醒或使用频率和时间限制等措施，以避免用户沉迷。对算法机制、模型、数据和应用结果的定期评估对于确保符合道德标准至关重要。AIGC行业在未来可能会引入类似 "未成年人保护 "运动的监管活动，以防止用户上瘾。
办法》规定，服务提供商必须保障用户的输入信息和使用记录，不得保留任何可能暴露其身份的非法输入信息，不得根据输入信息或使用情况建立用户档案，不得向第三方披露用户输入信息。但是，与PIPL和电子商务法等上位法相比，《AIGC办法》并没有对作为个人信息处理者或服务提供者的服务提供商施加额外的义务。但服务提供商仍应根据PIPL的规定，在进行特殊的个人信息处理活动（如用户分析）时，单独取得同意或其他法律依据。
AIGC措施要求服务提供商防止产生基于用户的种族、民族、性别和其他因素的歧视性内容。这项义务包括在算法设计、训练数据选择、模型生成和优化以及服务提供方面防止歧视等措施。服务提供商还必须监测其产品，以确保它们不产生歧视性内容。违反这些义务可能会导致《美国政府采购委员会措施》下的问责。然而，完全禁止生成带有任何歧视性暗示的内容可能会限制在生成的小说和脚本中描绘对立面的能力，可能会损害AIGC服务的自由应用和便利性。
AIGC措施第13条纳入了PIPL中关于个人行使权利的规则，并明确要求服务提供商建立接受和处理用户投诉的机制，及时处理用户更正、删除或屏蔽个人信息的要求。第13条后半部分还要求服务提供者在生成的内容侵犯他人的权利或利益，如隐私权、肖像权、名誉权、商业秘密等，或在其他非法的情况下，防止持续的伤害。 必须指出的是，服务提供者应在生成阶段采取必要措施，制止侵权或非法的内容，及时删除、屏蔽或断开链接，必要时甚至终止服务。因此，服务提供商必须承担更高的注意义务，在合理和技术可行的范围内，在内容生成阶段实施监控和审计机制。
AIGC措施要求服务提供商确保其生成性人工智能服务生命周期的稳定性，其中 "生命周期 "是指此类服务的存在期限。但根据我们的观察，目前市场上只有数量有限的AIGC产品能够提供 "稳定的服务"。监管部门有必要进一步澄清，以解释这一要求，因为缺乏这种要求可能会在未来引起用户和服务提供商之间的诉讼。
AIGC措施规定，服务提供商应通过实施内容过滤措施，包括删除敏感词和其他不适宜的内容，来防止不当内容的产生。为了回应用户的报告和意见，防止不适宜内容的再次产生，服务提供商还应在发现不适宜内容或收到用户的投诉后三个月内优化和训练算法模型。这一算法训练和优化义务旨在通过补充内容过滤和其他措施来加强内容控制。然而，根据AIGC措施，服务提供商现在有义务在三个月内解决人工智能的 "漏洞"，这对AIGC服务提供商来说无疑是一个高标准的义务，无论是在技术上还是实践上。依靠用户报告作为算法优化和重新训练的触发点，可能会给服务提供商带来巨大的成本负担。
AIGC措施要求服务提供商根据CAC和主管部门的要求，披露必要的信息，包括预培训和优化培训数据的来源。服务提供商还必须教育用户理解并合理使用生成的内容。
这项义务允许行政当局根据公司的信息披露义务，主动干预公司的技术发展。这代表了以往被动监管方式的转变，因为CAC和主管部门有行政权力从服务提供商那里获得更多关于人工智能系统开发的信息。但保护公司的商业秘密和信息披露义务之间的界限仍有待明确。
关于教育用户的义务，服务提供商可以通过将相关教育内容纳入平台规则、隐私政策或宣传小册子来履行。
AIGC措施禁止将AIGC产品用于非法或不道德的活动，如网上炒作、恶意发帖和评论、发送垃圾邮件、编写恶意软件以及不正当的商业营销，强调服务提供商有义务积极监督此类行为。然而，在准确识别非法或不道德行为以及平衡用户隐私和监管需求方面可能存在挑战。这些问题需要所有利益相关者的集体努力来解决。
AIGC措施》根据CSL、DSL和PIPL进行处罚，并赋予CAC和主管部门在上级法律没有明确规定的情况下发布处罚的酌情权。这些处罚措施具有很强的威慑作用。AIGC措施将于2023年生效，鉴于该行业目前的状况，其正式发布预计将很快发生。
AIGC措施为发展中国的算法相关产业提供了新的指导。然而，一些细节仍然需要立法者澄清。办法》对AIGC服务提供商规定了很高的合规义务，提出了平衡监管和产业发展的问题。我们建议人工智能公司在公众评论期间向立法者提供切实可行的建议和反馈，以促进《办法》的有效实施。
这篇文章的内容旨在为该主题提供一般指导。应就您的具体情况征求专家意见。
2023年4月25日
作者： 蔡鹏 、 肖普玲 、 陈玉洁
原文链接：https://www.bilibili.com/read/cv24336644/
