苹果紧急下架!这种一键脱衣的AI 太逆天了
发表于2024-04-29 23:59:58

  原标题:苹果紧急下架!这种一键脱衣的AI 太逆天了

  时间倒回前几年,如果小雷和小伙伴们聊聊AI,你们可能觉得我在天方夜谭?

  彼时AI留给人们的印象,还停留在科幻电影的智能机器人、智能生活助手等等。

  真要说起来,离我们最近的应该就是手机里头,那个脑袋不太聪明的语音助手。

  语音助手句句有回应,但是回得对不对就是另一回事了,你说对吧,Siri?

  但放到现在可就不一样,这几年AI发展有多快大伙看在眼里,AI元年早就来喽。

  在图片、视频、音频以及文字等领域,AI已经玩出了花,甚至可以说是「颠覆」。

  就拿应用最广泛的图片AI来说,其实在我们平时的生活里,现在已经随处可见了。

  户外的广告牌、电梯里的海报、商场里的促销图……大伙琢磨下是不是这么回事?

  不仅如此,很多APP还加入图片AI方面的功能,然而随之而来的却是争议的声音。

  苹果和谷歌先后下架相关APP,国内手机厂商也禁止操作,这到底是怎么回事儿?

  苹果谷歌下架脱衣AI APP

  目前AI在图片上的应用,大概有这几类:AI生图、扩图、消除以及修复画质等。

  这些都是很正常的内容,但有些别有用心的人,却以此开发出了一些恶意APP。

  就在上周五,外媒404 Media报道:苹果和谷歌分别在应用商店下架多款自称能够实现「一键换衣」的APP。

  「一键换衣」听起来很离谱,但其实这玩意可以看作是「一键换脸」的升级版。

  图源:404 Media

  早在2019年,就有程序员开发出一款名为「DeepNude」的「一键脱衣」APP。

  开发者声称,给DeepNude一张女性图片,它就能靠神经网络技术,脱掉人物衣服生成未穿衣服的图片。

  好家伙,这个APP要是落到歪脑筋的人手里,那可不就是妥妥的不雅照生成器吗?

  结局是为了防止DeepNude被滥用,最终开发者选择关闭DeepNude的网站和APP。

  图源:IT之家

  如果说DeepNude只是独立开发者的小打小闹,那如今在苹果和谷歌应用商店上架的「一键脱衣」APP,是怎么通过审核的呢?

  据报道,这些APP很多都来自Meta平台的广告库,这些恶意APP的广告一般在Meta旗下的平台投放。

  用户一点击广告就会跳转到苹果或谷歌的应用商店,也就是说,用户压根不用自己搜索「脱衣」等关键词就能找到类似APP。

  而且这类AI APP通常被包装成其他AI生成类APP,开发者大概率就是通过这种方式,躲开苹果和谷歌应用商店的审查机制。

  费了这么多功夫,APP开发者肯定不是用爱发电,而是通过「一键脱衣」功能赚取不义之财。

  好在经过外媒报道后,苹果和谷歌也作出了实际行动,下架了多款「一键脱衣」APP。

  Meta平台也在积极收集恶意广告链接下架删除,还表示接下来将加大审查力度,针对违反规定的政策采取措施。

  图源:indianexpress网

  AI消除敏感图片被禁

  除了上面这事儿,小雷发现国内手机厂商,也针对「AI消除」作出了一些限制。

  我没记错的话,手机拥有「AI消除」这功能,应该是从去年开始才流行起来的。

  AI消除能通过AI技术,较完美地去掉照片中多余的人和物,让照片看起来更简洁。

  左 AI消除前 右 AI消除后 图源:小雷手机截图

  只是不知道哪个神人突发奇想,竟然把AI消除用在了消除女性照片胸部的位置。

  咳咳,结果一些手机的AI消除功能,就把衣服给消除,甚至还把人体给补齐了。

  AI本来是根据边缘背景进行计算,修补后的效果看着的确和谐,不能怪它不行。

  还是那句话,有人不怀好意的话,这个功能确实能生成一些本不存在的不雅照。

  图源:网络

  这事当时挺多人关注,不过经过媒体报道后,主流品牌手机的AI消除都作出了限制。

  现在对照片中的人体敏感部位使用AI消除,会出现「图片可能包含敏感信息,无法使用此功能」类似的提示。

  如果涂抹的是其他地方,则AI消除可以正常使用,小伙伴们可以试试自己的手机,应该都有这种限制了。

  图源:小雷手机截图

  AI图片是把双刃剑

  苹果谷歌下架「一键脱衣」APP,手机厂商禁止AI消除敏感照片,AI图片已经发展到了这个程度。

  其实从AI在图片上的实际应用来看,它更像一把双刃剑,在带来方便的同时也带来了一些麻烦。

  AI图片的好处很多:在摄影行业,可以帮助摄影师后期美颜和降噪;在设计行业,可以让设计师少些繁琐的画图工作;而在自媒体行业,小雷发现已经有一些同行使用AI为文章配图,AI生成图既符合文章大意,又不会有侵权的风险。

  AI图片的麻烦也不少:一键换脸、一键脱衣、一键无中生有增加人体细节……,AI在关于人的隐私安全方面,依然还有不少漏洞会被不法分子钻。

  虽然每次曝出类似新闻的时候,相关企业或者平台都能及时行动,作出或下架或禁止的举措,但总是要等事情发生后再亡羊补牢,往往就容易出岔子。

  AI图片应用之路才刚刚开始,小雷觉得前面这些案例,已经足够让AI开发者们得到警示喽。

  在开发AI更多新功能时,AI开发者们应该提前考虑新功能落地后,可能会出现的负面操作和影响。

  能在落地前解决自然最好,如果不能推迟落地或者采用更合理的方式实现原先方式80%的效果,也不是不行。

  总之,小伙伴们还是要以合理眼光看待「AI图片」,小雷也相信AI未来的发展会越来越好。

投稿:lukejiwang@163.com
Copyright © 2002-2024 鹿科技