近日，广州一女子在地铁上的照片被AI一键脱衣，造谣说她在地铁上拍裸照，造谣图在网络广泛传播引发关注。
事实上，照片的女主角是小红书的一名博主，而所谓的“裸照”则是她去年7月在平台分享的一张照片。原图中她衣着正常，完全没有任何不妥之处，但却被有心之人用AI软件一键脱衣，故意全网散播。她在得知此事后，立即向警方报案，并在小红书上发文澄清真相。她表示自己是无辜的受害者，希望大家不要相信谣言，也不要传播谣言。
据统计，目前已经有数百万张被AI一键脱衣处理过的照片在网络上流传。这些照片涉及各个年龄段和职业领域的女性，包括明星、政治人物、教师、学生等。这些女性不仅面临着网络暴力和舆论压力，还可能遭受更严重的后果，如遭到勒索、威胁、诽谤、诋毁等。
不少非法网站提供“一键脱衣”AI技术：主要针对女性 相关软件已有替代品
近日，一位女网友在网上晒出自己在地铁列车的照片被别有用心的网友下载，并用AI技术“一键脱衣”，且将“除衣”后的照片广泛传播。极目新闻记者发现，网络上仍存在不少非法网站提供“一键脱衣”的AI技术，并且这些技术主要针对女性。
网传照片
这种所谓“一键脱衣”的技术，其实在四五年前就已经在网络上出现了，其一开始的主要功能就是简易“换脸”。这类技术的应用门槛降低后，更多人可以参与进来，以娱乐玩梗的方式进行传播，但是在应用过程中，被一些不法分子钻了漏洞，用于制造不雅照片和视频，在网络上传播和售卖，以此牟利或实施诈骗。
这种换脸软件刚刚流行起来的时候，很多网友对个人信息的保护意识并不强，觉得就是玩玩而已，以至于这类软件收集了大量的人脸信息，也埋下了诸多的安全隐患。很多女性在知道这种软件的存在后，都感到惶惶不安，因为你不知道什么时候，自己的脸就会被盗取、拼接，成为满足他人无耻欲望的素材和非法牟利的工具。
据悉，虽然AI一键脱衣相关软件早已被封禁，但网络上并不难找出替代品。
有博主发视频称，在现今AI强大的算法下，时间、地点都对的上的情况下，伪造的谣言对普通人来说百口莫辩。
刘昊然曾被AI换脸流传淫秽视频 网红利用特效PS与迪丽热巴接吻被粉丝抓伤
近年来，“AI换脸”走红网络，一些“AI换脸”的App使用明星的图片制作换脸视频进行推广，其趣味性背后暗藏不少法律风险和侵权纠纷。
明星刘昊然就曾在2021年8月26日发博打假，控诉网上流传的某淫秽视频为AI换脸技术伪造，并向警方报案。
此前一网红特效合成师利用电脑后期制作，合成与某知名女星亲吻的影片在网上传播，这很容易让人认为AI合成的内容就是真实发生的，从而产生很严重的风险和侵害。
据悉，此人是一位坐拥120万粉丝的视频特效师，他喜欢利用自己的专业技术，PS一些与明星演对手戏的视频。最近，他PS了与女明星迪丽热巴演吻戏的“激情镜头”，一时让人真假莫辩，在网上赚足了眼球，也引发粉丝的怒火。迪丽热巴的粉丝多次私信他要求删除该视频，他都不同意。3月25日，洪某发布视频称自己被女星的粉丝报复抓伤，“破相”了。
AI换脸法律边界在哪？“造黄谣”需担何责？媒体：使坏的不是技术是心术
众所周知，未经过他人同意传播照片，已经侵犯了肖像权。更加令人愤怒的，有心人通过技术处理将女孩的衣服去掉，造谣说是她在地铁上拍裸照。
对于换脸等“深度合成”技术，国家网信办、工信部、公安部发布了《互联网信息服务深度合成管理规定》，其中明确，不得利用深度合成服务从事侵犯他人合法权益等法律、行政法规禁止的活动。
专家表示，在《网络安全法》第二十七条的规定当中，特别强调，明知他人实施危害网络安全活动的，不能够为他提供技术支持，如果情节严重，还会构成帮助信息网络犯罪活动罪等刑事犯罪。
中国政法大学传播法研究中心副主任朱巍告诉羊城晚报记者，“造黄谣”主要涉及以下法律问题：在刑事层面上，传播编排淫秽、侮辱信息，涉嫌诽谤罪、侮辱罪，若有大量传播并牟利的，涉嫌传播淫秽物品牟利罪；在行政层面，该行为违反了治安管理处罚法、网络安全法等；在民事层面，主要是侵犯了公民的名誉权、肖像权、隐私权等。
朱巍称，在具体案例中，公安机关会视造谣者的主观恶性、悔过程度、社会危害度等，综合考虑是否构成刑事犯罪，一旦构成，公安机关会立案侦查并移交检察机关提起公诉。不过，若造谣者的行为构成的是侮辱罪或诽谤罪，则需要受害者提起自诉。“社会影响较为恶劣的，自诉转公诉也有可能，如2020年的杭州谷女士被造谣出轨快递员一案就是这种情况。”朱巍说。
北京隆安(广州)律师事务所律师陈伟杰表示，受害者若发现自己被“造黄谣”，要在第一时间报警求助，随后可通过向法院起诉要求对方消除影响、赔偿损失等。陈伟杰强调，发现被造谣，应注意及时保存证据，可通过截屏、下载等方式保留相关图片、视频以作维权使用。
前段时间，南华大学一男生恶意P图造女同学黄谣，受害女生坚决维护自身权利，后来，涉事男生不仅被公安机关作出行政处罚决定，而且还被学校开除学籍，起到了较好的震慑警示作用。
AI“一键脱衣”技术让不少网友感到气愤，有网友在评论区十分担忧地表示：“AI犯罪要来了吗？”有人以为，女子地铁照被AI一键脱衣传播，使坏的不是技术而是心术。
所以，AI换脸技术必须有法律红线，必须受监督，你怎么看？
原文链接：https://www.163.com/dy/article/I404L3BQ0553IIEY.html
