01:46
人工智能（AI）技术的进步，为当今社会带来了颠覆性变革。然而，新技术的应用背后，仍存在阴暗的角落。AI“黑产”涌动下，侵权、犯罪案例屡见网端，被复刻的面容和声音，在瞒天过海后企图践踏社会人伦，也在不断试探着法律底线。
日前，“换颜”APP运营商因擅自使用他人肖像提供给注册用户“换脸”，被起诉后判赔偿经济损失、道歉。然而新黄河记者调查了解到，这只是众多“AI”侵权事件的冰山一角。今年4月，国家网信办起草《生成式人工智能服务管理办法（征求意见稿）》，对当下的AI伪造进行了全面的规定。5月24日，中国互联网协会发布消息，提醒公众警惕“AI换脸”新骗局。
北京市京师律师事务所律师孟博在接受新黄河记者采访时表示，“AI换脸”所引发的肖像权、名誉权、知识产权纠纷，以及个人信息安全、衍生违法犯罪等方面，都需引起重视。“网络用户应当提升法律意识，规范操作。一方面，不做侵犯别人合法权益的事情，一方面，保护好自己的合法权益。”
△短视频平台上的AI换脸教程
“AI换脸”软件的侵权纠纷：多为侵害肖像权
放眼时下热门的短视频平台，“AI换脸”的应用并不陌生。只需一张图片，就可以将影视剧或者短视频内的脸换成图片中的“你”，既简单又有趣。然而，这其中也暗藏诸多法律风险，一系列侵权事件也被屡次曝光。
△上海鱼腥草信息科技有限公司涉及多则肖像权纠纷
天眼查显示，近日“换颜”的运营商上海鱼腥草信息科技有限公司多则肖像权纠纷一审法律文书公开，原告为多名网红博主。公开文书显示，上述公司未经同意，以营利目的擅自将网红博主视频中的形象“换脸”后上架供其注册用户换脸使用，侵害了原告的肖像权。最终法院判决该公司向多位原告公开道歉，并赔偿经济损失及合理维权费用2400元-5600元不等。
值得一提的是，该公司曾多次被诉，其中案由为肖像权纠纷的多达20次。此外，该公司于2023年2月两次因未按时履行法律义务而被铜陵市义安区人民法院强制执行。
北京市京师律师事务所律师孟博在接受新黄河记者采访时表示，相关主体在未经当事人同意的情况下提供换脸并盈利，除了侵犯肖像权外，还可能涉嫌侵犯名誉权、知识产权，个人信息安全，而且还可能会衍生出其他违法犯罪问题。
△App Store中有近百款“AI换脸”应用程序
新黄河记者调查了解到，目前市面上存在上百款“AI换脸”软件，各软件“素材库”中的模板也是五花八门。古风、异域、唱歌……几乎都是真人视频图像。记者随机下载了几款换脸软件，简单完成注册后，只需一张图片，选择相应的视频模板，便可合成视频。如果想要解锁新的模板，可以通过观看广告、分享或者付费等方式来获取。此外，运营商还推出VIP会员，价格在几十元到上百元不等，用户付费充值后便可解锁并使用软件中的全部视频模板。
然而这些模板是否取得原始视频发布者的同意，从第三方用户的角度出发，几乎无从考究。使用后又是否涉嫌其他侵权行为，或者引起其他麻烦，也存在着一个大大的问号。
孟博称，《互联网信息服务深度合成管理规定》明确了合成数据和技术管理规范，其中明确规定，深度合成服务提供者对使用其服务生成或编辑的信息内容，应当添加不影响使用的标识，提供智能对话、合成人声、人脸生成、沉浸式拟真场景等生成或者显著改变信息内容功能的服务的，应当进行显著标识，避免公众混淆或者误认。“网络用户应当提升法律意识，规范操作。一方面，不做侵犯别人合法权益的事情，一方面，保护好自己的合法权益。”
与发展“共生”的安全争议：监管部门频频出手
提到AI换脸软件，不得不提起曾火爆一时的Avatarify。蹿红的“蚂蚁呀嘿”特效就出自该软件。然而，因涉及隐私安全等问题，该软件火了不到一周便从AppStore中国区下架。
据央视新闻报道，类似“蚂蚁呀嘿”这样的换脸特效存在着相应的安全风险。利用AI换脸技术，可以通过一张图片，操纵其作出如点头、摇头、说话等表情动作，并借此方法的安全漏洞攻击人脸识别系统。
据全国信息安全标准化技术委员会等机构发布的《人脸识别应用公众调研报告(2020)》显示，有九成以上的受访者使用过人脸识别，有六成受访者认为人脸识别技术有滥用趋势，还有三成受访者称已经因为人脸信息被泄露和滥用而遭受到隐私或财产损失。
由此可见，安全问题伴随着AI的发展，成为一个不可避免的话题。该背景下，AI合成虚假图片、炮制虚假新闻等案例，将AI技术发展下的“阴暗面”推向风口浪尖。
△一组引起美股大跌的五角大楼爆炸图片被官方证实为假，疑似由AI合成
美东时间5月22日，一张五角大楼附近地区发生爆炸的图片在社交媒体上疯传。这张虚假照片的广泛流传，甚至导致标普500指数短线下跌约0.3%至盘中低点，由涨转跌。随后美国国防部发言人立即证实，这是一张由AI生成的虚假图片。
前不久，“AI孙燕姿”的出现，刷新了大众对AI复刻声音的认知。舆论声场中，对“AI孙燕姿”带来的法律问题，如是否侵犯歌手本人的肖像权、姓名权、声音版权等，成为社会关注的一大焦点。
对AI涉及的侵权和安全问题，国家监管部门早已关注。早在2019年11月底，国家网信办、文旅部和广电总局等三个部门联合发布了《网络音视频信息服务管理规定》，其中明确了“利用基于深度学习、虚拟现实等的虚假图像、音视频生成技术制作、发布、传播谣言的应当及时采取相应的辟谣措施”等针对换脸技术的新规定。规定同时指出，利用基于深度学习、虚拟现实等的新技术新应用制作、发布、传播非真实音视频信息的，应当以显著方式予以标识。且不得利用该技术“制作、发布、传播虚假信息”。此外，规定还强调，不得利用相关的音视频技术“侵害他人名誉权、肖像权、隐私权、知识产权和其他合法权益”。
△《互联网信息服务深度合成管理规定》自2023年1月10日起施行
2022年11月，由国家网信办、工业和信息化部、公安部颁布的《互联网信息服务深度合成管理规定》，用25条规定划定深度合成技术使用规范，包括不得利用深度合成服务侵犯他人合法权益等法律、应用程序分发平台应当落实上架审核、服务提供和技术支持者应当加强技术管理等规定。该规定于2023年1月10日起施行。
△《生成式人工智能服务管理办法（征求意见稿）》公开征求意见
2023年4月11日，国家网信办起草《生成式人工智能服务管理办法（征求意见稿）》（以下简称办法）公开征求意见。涉及的生成式人工智能包括基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术，对当下的AI伪造进行了全面的规定。此外，我国颁布的《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》、《互联网信息服务管理办法》等法律、行政法规都对此有所规定。
滋生犯罪的“黑暗土壤”：新技术仍面临挑战
事实上，以AI换脸为例，诸多案例证明，AI技术在应用推广时，也间接为一些违法犯罪行为滋生了黑暗土壤。
如今年4月份，浙江杭州萧山区检察院曝光的一个“女神群”引发社会关注。80后安徽小伙虞某在网上推广AI换脸技术及相关的软件并从中获利。他将建成的“换脸软件资源群”的群名更改为“女神试看群”，后又通过互联网下载了部分淫秽视频，截取片段后发布在该公开群中，吸引、招揽观看者加入。当观看者达到一定人数后，虞某会发布群消息称，缴纳198元-498元不等的“会费”，进入“内部群”可以收看完整版。
虞某表示，“内部群”里发送的淫秽视频根据顾客的需要，还可以使用不同的女明星的形象，进行“私人定制”。短短几个月时间，虞某获利数万元。截至案发，公安机关共在虞某所组建的公开群内查证淫秽视频1200余部、图片1600余张，经鉴定，均系淫秽物品。2023年3月28日，萧山区检察院依法以制作、传播淫秽物品牟利罪对虞某提起公诉。
同样是4月份，某百万粉丝网红博主称有人用AI换脸软件，制作她的不雅视频。该博主在发文时提到，“AI盗脸”已形成一条完整的产业链，产业链的一端是不法分子通过AI换脸技术赚钱。这些不法分子，将明星、博主甚至普通人的脸制作成不雅照片或视频，明码标价获取利益。
在“AI换脸”领域，除了明星、博主外，普通人也会被犯罪分子盯上。据多地公安部门提醒，近年来出现一些不法分子将“AI换脸”使用在普通人身上，制造一些所谓的遭泄露的“私密照片”，对当事人实施敲诈勒索。此外，与“AI换脸”类似的“AI去衣”等黑产暗流涌动，也被媒体多次曝光。
对此，一家人工智能领域公司负责人在接受新黄河记者采访时表示，人工智能技术的应用要符合国家的法律法规以及社会伦理规范。“我们面对的往往是大量的数据信息，这其中不少信息涉及隐私，站在公司角度，如何规范人工智能技术的使用和管理，是我们必须持之以恒去规范、去解决的问题。”该负责人说。
△AI换脸软件中的各类模板
业内人士表示，尽管AI技术的发展给人类带来了极大的发展机会，但也必须认识到其发展所面临的挑战和问题。对于AI暴露的各种问题，尤其是涉及触犯法律底线以及人伦道德等方面的，可以通过加强相关的法律法规制定和执行，制定智能机器人责任制度，保护隐私和人权。此外，也需要企业和相关部门共同努力，在新技术领域解决挑战。
中国互联网协会最新发声：警惕“AI换脸”新骗局
5月24日，中国互联网协会微信公众号发布消息，针对频发的“AI换脸”骗局，提醒广大公众提高警惕、加强防范。
△中国互联网协会发声
消息称，今年以来，ChatGPT和GPT-4等技术的应用，成了信息科技领域的热点，引起公众对AI技术的广泛关注和热情。但伴随着深度合成技术的开放开源，深度合成产品和服务逐渐增多，利用“AI换脸”“AI换声”等虚假音视频，进行诈骗、诽谤的违法行为屡见不鲜。
近期，包头市公安局电信网络犯罪侦查局发布一起使用智能AI技术进行电信网络诈骗的案件。不法分子利用AI技术，通过声音合成，伪造成特定人物的声音，通过AI换脸，伪装成特定人物，实时与他人进行视频通话。更换后的面部表情自然，以假乱真，能够冒充他人身份联系被害人，博取被害人信任后实施诈骗。
中国互联网协会提醒，要加强个人信息保护意识，发现APP过度、强制收集个人信息，及时到12321.cn投诉，远程转账务必多重验证，切勿仅凭单一沟通渠道未经核实就直接转账汇款等。
新黄河记者：李震 陈元昊
编辑：杜亚慧
举报/反馈
原文链接：https://baijiahao.baidu.com/s?id=1766967830706804218&wfr=spider&for=pc
