「一键脱衣」的AI,连孩子都不放过一年级起点四年级上册英语书电子版

作者: 小郑 2023-12-13 14:33:38
阅读(49)
《奇旅》里说,寻找海洋之时,应该知道自己已经生活在水里。AI之于人类社会似乎也是这样。今年以来,各行各业的「iPhone」时刻不断上演。Runway化静为动,Pika重绘局部,HeyGen让老外说地道中文,舞台中央你方唱罢我登场。在没有高光的角落,看似普通的换脸Deepfake正在开疆拓土,从明星、总统,影响到中学生乃至每个普通人,不惊艳也不颠覆,却足以让我们汗流浃背。一键脱衣,然后全身而退「我看到了你的裸照。」9月,返校第一天,一名男生走近了14岁的伊莎贝尔,对她说了这句话。早晨的校园被八卦煮沸,消息三五成群地传播,每个人的手机里几乎都流传着女同学的「露骨图片」。这是发生在西班牙西南部的真实事件,让仅3万人左右的小镇阿尔门德拉莱霍为国际所知。小镇有五所中学,「裸照」在至少四所流传。事件的起因并不复杂,一群好事的男生,将女同学发在社交媒体的照片上传到了一款「一键脱衣」AI工具。▲他们所用的AI工具.这款工具可以通过手机app或者即时通讯软件Telegram使用,口号是「免费脱掉任何人的衣服」,只要别人有照片落在你的手机相册里。虽然号称免费,但创建25张裸体图像的价格是10欧元,可用Visa、Paypal、万事达等支付,就像国内使用微信和支付宝一样方便,但这些付款方式在媒体曝光后被停用。西班牙警方确认,受害者至少有30名,主要是12岁到14岁的女学生。始作俑者大多和她们认识,也是未成年人,至少有10名,部分甚至未满14岁,不能面临刑事指控。他们在WhatsApp和Telegram创建群聊传播这些「裸照」,通过Instagram威胁受害者,勒索「赎金」和真人裸照。其中一位受害者的母亲在看到女儿的「裸照」后,心脏猛地跳了一下,「这张照片看起来就是真的」。▲一位母亲呼吁更多受害者站出来.10月,美国新泽西州的一所高中发生了类似的情况,受害者也在30名左右,她们的男性同学在暑假制作了「裸照」。很多女孩气哭了,其中一位受害者,在这之前从来没觉得Deepfake会和自己有关:我从来没有想过作为一个学生(会遇到这样的事),AI根本没有出现在我的脑海里。我只是觉得这就像互联网上的怪物一样。校长保证,所有图片已被删除,不会再被传播,始作俑者被停学了几天,又像没事人一样回到「案发地点」。很多家长不满轻轻放下,却也无可奈何。时至今日,Deepfake在很多地方仍是灰色地带。在美国,未成年人的Deepfake图片被明令禁止,11月,一位北卡罗来纳州的儿童精神病学家因为偷拍患者、对患者照片「一键脱衣」,被判处40年监禁。但也有例外情况,如果加害者同样是未成年,学校可能从宽处理,比如新泽西州的这所高中,处罚只是停课,事情发生一个月后,受害者和家长仍然不知道他们的身份或者人数。如果受害者是可以自我保护的成年人,情况更加复杂,各州有不同的法律规定,或定为刑事犯罪,或提起民事诉讼,但目前还没有联邦层面的法律禁止制作Deepfake色情内容。之所以立法困难,一个原因在于,有些观点认为,Deepfake图片里的主体就算长得像你,实际并不是你,所以你的隐私并没有真正受到侵犯。然而谁都清楚,图片虽然虚假,伤害是真实的,和真人裸照没什么区别,对于当事人和不明真相的路人来说,关键不在于照片是否百分百真实,而是它们看起来是否真实。上世纪末的作品《攻壳机动队》已经探讨过这样的问题。完全像你的人做出了你从来不会做的事,但你很难证明那不是你,数据就是你,存在过的痕迹就是你。普通人的恶作剧,手机即是武器简单来说,Deepfake就是利用AI生成看似真实的视频、音频或图像,模拟实际没有发生的事情。Deepfake最早兴起于2017年的「美版贴吧」Reddit,主要形式是将明星的脸替换到色情视频的主角身上,或者恶搞政界人物。「一键脱衣」的AI应用,最早可能是2019年的DeepNude,那时候还需要下载与Windows10和Linux设备兼容的软件,服务器还会因为人多而宕机。但现在「一键脱衣」变得更容易、更普遍,以app等形式提供服务,并通过常用付款方式敛财,变成了普通人针对普通人的恶作剧,已经发生在中学里,也可能发生在任何人身上。只需要一张照片、一个电子邮件地址和几美元,就可以批量脱掉名人、同学、陌生人的「衣服」,效果还更加真假难辨。被用来「脱衣」的图片,往往从社交媒体获取,未经发布者同意,然后也在他们不知情的情况下传播。西班牙一位14岁Deepfake受害者的父亲一针见血:现在,智能手机可以被视为一种武器。法律滞后的同时,被舆论督促的科技平台做了一些补救,但只能起到扬汤止沸的作用。Google去除相关广告和优化排名系统,也支持本人提供证据后删除相关内容,TikTok屏蔽「脱衣」等关键词,Reddit禁止多个域名,Telegram靠自动监测和用户报告删除违反服务条款的内容......拦路石不足为惧,Deepfake在今年发展得尤其快,像坐上了马斯克的星舰。社交网络分析公司Graphika统计,仅仅是9月,34个「一键脱衣」平台总共拥有超过2400万访客,访问「一键脱衣」服务的52个Telegram群组至少包含100万用户。「一键脱衣」的AI,连孩子都不放过一年级起点四年级上册英语书电子版背后的运营团队还很精明,懂营销和变现,在社交媒体打广告,把服务推荐给「有缘人」。自今年年初以来,X和Reddit上的「一键脱衣」广告链接数量增加了2400%以上。产业链的成熟,让Graphika下了一个结论,现在的Deepfake已经被冠上「钮祜禄」的姓氏,不可同日而语:AI生成的脱衣图像,从小众色情讨论论坛转向规模化和商业化的在线业务。Graphika认为,Deepfake之所以在今年再次起飞,还有个重要的原因——开源AI图像扩散模型的功能不断增强,也越来越容易使用。这些开源模型促成了「物美价廉」的Deepfake市场,否则「一键脱衣」应用的开发者们,还得托管、维护和运行自己的自定义图像扩散模型,时间更长,成本也更高。在刑侦片大显身手的FBI也坐不住了,今年6月发出措辞谨慎的警告,让大众小心色情Deepfake图片和视频,它们通常在社交媒体或色情网站公开传播,并被用于骚扰和勒索,最好的方式是在源头止损:一旦内容在互联网上共享,一旦其他方传播或发布,将其删除即使不是不可能,也是极其困难的。真实的机遇,抽象的乐子美国广播公司新闻曾经通过电子邮件采访过一个开发「一键脱衣」的团队,对方的回复很难评。他们自称,开发这类应用,主要是为了好玩,用在处理自己或者朋友的照片,大家都乐在其中,也对裸体不再羞耻,反正都是用AI做的。那为什么在现实里,中学男生等加害者不互相取乐,或者事先争取受害者的同意?团队不必揣着明白装糊涂,真想与世无争,不如把这类服务特供给公司团建,大家放下羞耻心,拿出上进心,真正把公司当成家。但这确实也是一种观点,你裸他裸我也裸,等于大家都没有裸,以后看见裸照都不用慌张,一口咬定AI换脸,笑笑也就过去了,不存在黄谣的概念,本来无一物,何处染尘埃。不知道怎样的先进社会,才有这样的和睦景象,反正最近的统计发现,纵然脱衣服这件事人人平等,但大多数服务只适用于女性。所以,「一键脱衣」这项服务的境界不高,不得不染上性别色彩。光是「一键脱衣」,还难以填补欲壑。今年9月,一位40多岁的韩国男性因为用AI生成约360张儿童色情图片被判入狱,罪名是违反《儿童和青少年保护法》,被判处两年半监禁,这是韩国首次在本国法院判处此类AI案件。韩国先驱报报道,他使用「10岁」「裸体」和「儿童」等提示词来生成这些图像,法院裁定图像足够逼真,驳回了辩方它们不能被视为性剥削的说法。如果不能DIY,一些分享AI模型的网站,提供更加「周到」的服务,在文本框输入名人名字,加上「裸体」等提示词,就会得到一个模糊的图像,吊起用户的胃口,付费解锁童叟无欺。一些目光敏锐的成人产业从业者,同时从中看到了危险与机遇,AI可能代替他们,也可能成为他们的同事。Fanvue是一个类似于OnlyFans的订阅平台,十分看好AI生成的创作者,因为既能简化流程,还能创造现实里不存在的角色。比盖棉被纯聊天的AI女友更大胆,比名人Deepfake更原创。▲图片来自:Fanvue他们的其中一个AI角色EmilyPellegrini,在Instagram上拥有近12万名粉丝,同时也是一位成人内容创作者,已经在Fanvue赚钱了,六周内通过订阅、按次付费内容等进账9600多美元。按这个趋势下去,《三体》的面壁者罗辑何苦在人海里寻找理想的恋人庄颜,还向别人解释这是计划的一部分,定制出来也不是难事。除了人多势众的平台,也有单干的性工作者积极主动地和AI合作,因为她们明白一个道理:如果我不参与,其他人就会滥用我的形象。合作方式主要有两种,一种是什么都聊的聊天机器人,用YouTube视频、播客、采访和限制级内容训练而成,每月收取几十美元的订阅费用,还有一种是个性化的定制图片服务,从未成年也能看的PG13到十八禁,看人下菜碟包君满意。更有一些从业者未雨绸缪,希望在未来能提供身临其境的VR体验,实现真人也无法满足的要求。食色性也,无可厚非,《美丽新世界》的穆斯塔法说:「文明人没有任何必要去忍受任何不快。」穆斯塔法是这部反乌托邦小说里最清醒冷酷的人设,既懂得一切弊病和疾苦,理解野蛮人在追寻受苦受难的权利,又知道通过各种方式让绝大多数人活得舒服,惯用化学药剂帮助人们模拟必要的情绪。如果一切不可避免,至少我们先尽可能保护孩子。如果AI色情让人类实现身体和羞耻心的大解放,不妨也在作品加一条提示:过程里没有真实人类被伤害。