|
|
|
|
||||||
|
|
2023/07/14 | |||||
|
AI黑色产业链批量“造黄谣”
|
|
央广网 |
打包售卖持续更新 AI黑色产业链批量“造黄谣” 6月27日,中央网信办下发《关于开展“清朗·2023年暑期未成年人网络环境整治”专项行动的通知》,开展为期两个月的“清朗·2023年暑期未成年人网络环境整治”专项行动(以下简称“专项行动”)。其中特别指出要关注新技术新应用风险问题,如对“AI换脸”等技术生成涉未成年人低俗色情图片视频等,要予以重点整治。 如今,“AI脱衣”技术已生成一条黑色产业链。上游不法分子通过AI技术生成图片,并对这些图片进行整合,打包成图集,通过成套售卖的方式出售给下游买家,有的人为此建立起“付费会员群”,使一些无辜人士、甚至未成年人陷入“黄谣”漩涡。记者对此进行了调查采访。 >> 公开叫卖不雅图 “图片中确实是我的脸,但这里的我……怎么没穿衣服?”今年5月,还在读大学的李亦(化名)收到一名网友给她发来的图片,看后,她又气愤又害怕。 李亦是一名Cosplay(角色扮演)博主,常在社交媒体分享自己扮演各种动漫角色的照片。后来,她和网友找到了制作裸照的洛粉(网名)。洛粉承认,他将照片放入一款AI(人工智能)软件中,不到几分钟就能将李亦穿好的衣服“脱下”。在网上,洛粉以5元一张的价格公开叫卖图片,声称60元能打包买到60多名博主的“裸照”,其中甚至还有未成年人的照片。 “我从来没有拍过这种照片!”气愤的李亦着手收集对方利用AI进行不法行为的证据,意图追究其法律责任,于是,她以买家的身份与洛粉加上了好友。 洛粉含糊不清地表示,自己是采用AI技术生成了各种Cosplay的图片。 李亦从洛粉组建的一个群聊中发现了端倪。在这里,洛粉不仅继续提供“改图”的服务,更发布了大量带有暗示挑逗意味的图片,以图集形式公开叫卖,称60元可以买到65张,“预计还有总共300张会通过群聊慢慢更新”。 “这是谁?”李亦从中找到了自己的“裸照”,去找洛粉问个明白。“这是克罗托(角色名)不穿衣服,博主本人让这么拍摄的。”洛粉答道,并讳莫如深地提示,“可别乱转乱发,因为套图中涉及到的60多名博主本人不同意”。 “他这么说像是我们这些博主自己去拍了大尺度照片!”李亦十分气愤,亮明身份,与洛粉对质。 “对不起姐姐!”洛粉承认自己“二次创作”了李亦的图片。李亦表示,这并非正常的“二次创作”范围,而是侵犯了她的人格权。 洛粉辩称,这些系列图并非出自他手,“是请别人做的”,洛粉并没有意识到这件事情的严重性,和李亦商量,“我的卡里余额只有1200元,能不能赔偿你650元私了?” “这不是钱的问题,你已经违法了。”李亦和其他博主选择报警。 >> 黑色产业链祸及未成年人 李亦的遭遇并非个例。AI技术被滥用,一条黑色产业链正在形成。 在网络上,只要输入关键词,就能轻易找到提供“AI脱衣”相关技术或服务的商家。他们打着“AI绘画”“AI改图”的旗号在社交媒体上招揽生意,引导顾客添加其联系方式,待到一对一沟通或加入私密群聊后,就拿出具有暗示意味的图片,诱导网友购买。 “AI脱衣”的受害者众多,甚至祸及未成年人。一名卖家声称自己“资源众多”,发来了一整套价目表,详细地将图集分为“明星”“网红”“模特”“漫画”等多个种类,在他发来的样张图片中,甚至还出现了穿着校服的高中生。他声称,如果没有喜爱的类型,顾客可以发照片“单图定制”,两元一张,“网络上的图都可以作为素材”。 另一名卖家也采用会员制方式邀请顾客进群,称目前“群里已经有两三百个图集”,只要花30元进群就可以享受免费持续更新。当记者进一步追问其图集来源时,他支支吾吾地表示自己的资源是从某网站下载来的,“不是我自己做的”。 “其实只要掌握了相关技术,人们都可以利用AI制作这些图片。”资深算法工程师蓝天告诉记者,“AI脱衣”算法称作“DeepNude”,因为伦理问题,目前在美国已被下架,但不排除有人通过其他AI算法训练机器,以达到同样的效果。 在某通讯软件上,一个AI机器人收获了众多用户。它不需要使用者掌握复杂的算法知识,只需要按照其提示,就能完成给照片“换脸”“去衣”等操作。这一机器人还有详细的精细化设置,能像美颜相机一样调整图片的各项参数。 这款机器人需要付费使用,点击“充值”按钮后,用户会被引导到一个点卡充值网站当中进行网上支付。不过,用户并非付费给商家,而是个人,因此很难追踪该机器人的运营主体。根据其价目表,最低两元就能生成一张脱衣照。 “机器是中立的,只要给它‘喂’了足够多的人体构造图,机器就能在之后输入图片时,通过识别面部、身体等特征重绘全图,生成一张‘脱衣照’。”蓝天称,机器“只管照片的生成”,不会顾及照片中人的意愿,以及是否成年等伦理、法律问题。 “按照技术工具论的视角,技术是无害的,但这样的认识忽略了技术本应具有的道德相关性问题。”西南政法大学刑事侦查学院副教授、硕士生导师谢玲认为,技术之间是有差别的,有一些新技术如深度伪造技术等被滥用所产生的后果很难预料,其道德伦理及法律问题更为复杂。 >> 从“最有利于未成年人”原则构建网络安全规则 ■ 相关链接 “AI换脸”骗局 近日,银河证券发布公告称:利用“AI合成技术”的诈骗手段或将逐步蔓延至证券行业。公告显示,某知名经济学家称,自己被人利用“AI换脸”等技术,通过视频、语音等方式联系投资者,骗取投资者信任,开展荐股活动。 北京蓝鹏律师事务所主任张起淮告诉记者,他曾经代理过多起发生在缅北的跨国敲诈勒索案。这个案件中的犯罪嫌疑人便是利用“AI换脸”技术,伪装成女性,诱导受害人与其“裸聊”。随后便以双方的视频录屏内容为证据,对受害人进行敲诈勒索。 此前,多地警方通报有关“AI换脸”的诈骗案件。5月20日,包头市警方发布了一则使用“AI换脸”的电信诈骗案例。当事人郭先生此前突然接到好友的微信视频,好友告诉郭先生,他有个朋友在外地投标需要430万元保证金,想借用郭先生的公司账户过账。郭先生觉得自己和好友开过视频,确认了是本人,便没有多想,直接向对应账户转账过去了。十分钟之内,因为一段视频通话,郭先生便被骗走了430万元。 6月25日,全国人大常委会法制工作委员会举行记者会,f发言人臧铁伟就“AI换脸”相关问题作了回答。他表示,通过“AI换脸”进行视频合成、实施诈骗的行为,是利用新技术进行的诈骗,与传统的诈骗行为在本质上没有区别。 臧铁伟还表示,对于构成诈骗罪的,要依照我国刑法第二百六十六条的规定追究刑事责任。对于为利用“AI换脸”实施诈骗行为提供技术支持、帮助的,要根据反电信网络诈骗法的规定进行行政处罚,构成犯罪的,还要根据刑法第二百八十七条之二帮助信息网络犯罪活动罪等追究刑事责任。对于为利用“AI换脸”实施诈骗行为提供技术支持、帮助的,要根据反电信网络诈骗法的规定进行行政处罚,构成犯罪的,还要根据刑法第二百八十七条之二帮助信息网络犯罪活动罪等追究刑事责任。 据《中国青年报》、央广网 北京市京师律师事务所合伙人姚志斗律师接触过多起因新技术滥用侵害未成年人权益的案例。在一起案件中,一不法分子利用“AI换脸”软件,将从互联网渠道收集到的大批未成年学生的面部信息进行替换,制作生成虚假的换脸淫秽视频,再将视频有偿销售。“这不仅侵害未成年学生的肖像权及心理健康,同时这一行为涉嫌传播淫秽物品牟利犯罪。” “应对新技术新应用风险,需要从‘最有利于未成年人’原则和‘儿童权利’的视角来构建安全规则。”中国青少年研究中心青少年法律研究专家郭开元认为,针对新技术新应用带来的风险,要把握好未成年人的特殊保护和新技术应用的动态平衡。有关部门应尽快设立保护儿童、尊重隐私、设置特殊保护的规则,尤其要建立按照年龄标准进行分级管理规则、监护人的知情同意规则等。 谢玲呼吁,对新技术的应用风险进行分类和评估,建立针对新技术规制的制度屏障,明确技术合理运用的界限。如果没有针对技术滥用设立屏障,应严格规制这一类高风险新技术的联网应用,因为“新技术极有可能导致未来新型不法行为的产生”。 姚志斗称,对网络犯罪监管存在一定难度。网络犯罪证据主要存储在网络服务器中,面对复杂、形式多样的电子数据,取证存在一定困难。此外,违法行为人的身份确定难度较大,有的犯罪分子身在国外,给案件管辖带来挑战。 事实上,针对网络新技术新应用带来的风险,有关部门已加大力度重拳整治。 此次中央网信办专项行动聚焦的七大重点之一,即剑指新技术新应用风险问题,包括利用“AI换脸”“AI绘图”“AI一键脱衣”等技术生成涉未成年人低俗色情图片视频；利用所谓“阅后即焚”的密聊软件诱骗未成年人提供个人信息,诱导实施违法行为；利用生成式人工智能技术制作发布涉未成年人有害信息。 “这释放了国家加大力度整治网络环境,切实加强对未成年人网络保护的信号。”谢玲指出,这一专项行动针对未成年人身心易受影响的特点,意在预防未成年人不良上网用网行为,避免其成为新型网络违法犯罪活动的“工具人”,也是落实未成年人保护法、预防未成年人犯罪法相关法律保护措施的具体体现。 如今,李亦已走出心理阴影,她说:“不能因为这些事情而停止我对生活的热爱。”
|
|
|||
| 相关文章： |