苹果紧急下架，这种一键除衣的AI，太逆天了

苹果紧急下架，这种一键除衣的AI，太逆天了

时间倒回前几年，如果有人和你聊起AI，你可能会觉得这是天方夜谭。彼时，AI留给人们的印象还停留在科幻电影中的智能机器人或生活助手，最贴近生活的可能就是手机里那个不太聪明的语音助手Siri。

但如今，AI的发展速度令人咋舌。在图片、视频、音频和文字等领域，AI已经玩出了新花样，甚至可以说是"颠覆"。以应用最广泛的图片AI为例，它已经渗透到我们生活的方方面面：户外广告牌、电梯海报、商场促销图……随处可见其身影。许多APP也加入了图片AI功能，但随之而来的却是争议。

苹果谷歌下架脱衣AI APP

目前，AI在图片上的应用主要包括生图、扩图、消除和修复画质等。然而，一些别有用心的人却开发出了恶意APP。

就在上周五，外媒404 Media报道：苹果和谷歌分别在应用商店下架多款自称能够实现"一键换衣"的APP。"一键换衣"听起来很离谱，但其实这玩意可以看作是"一键换脸"的升级版。

早在2019年，就有程序员开发出一款名为"DeepNude"的"一键脱衣"APP。开发者声称，给DeepNude一张女性图片，它就能靠神经网络技术，脱掉人物衣服生成未穿衣服的图片。这个APP要是落到歪脑筋的人手里，那可不就是妥妥的不雅照生成器吗？

结局是为了防止DeepNude被滥用，最终开发者选择关闭DeepNude的网站和APP。

如今在苹果和谷歌应用商店上架的"一键脱衣"APP，是怎么通过审核的呢？据报道，这些APP很多都来自Meta平台的广告库，这些恶意APP的广告一般在Meta旗下的平台投放。用户一点击广告就会跳转到苹果或谷歌的应用商店，也就是说，用户压根不用自己搜索"脱衣"等关键词就能找到类似APP。而且这类AI APP通常被包装成其他AI生成类APP，开发者大概率就是通过这种方式，躲开苹果和谷歌应用商店的审查机制。

费了这么多功夫，APP开发者肯定不是用爱发电，而是通过"一键脱衣"功能赚取不义之财。好在经过外媒报道后，苹果和谷歌也作出了实际行动，下架了多款"一键脱衣"APP。Meta平台也在积极收集恶意广告链接下架删除，还表示接下来将加大审查力度，针对违反规定的政策采取措施。

图源：indianexpress网

AI消除敏感图片被禁

除了上面这事儿，国内手机厂商，也针对"AI消除"作出了一些限制。手机拥有"AI消除"这功能，应该是从去年开始才流行起来的。AI消除能通过AI技术，较完美地去掉照片中多余的人和物，让照片看起来更简洁。

只是不知道哪个神人突发奇想，竟然把AI消除用在了消除女性照片胸部的位置。咳咳，结果一些手机的AI消除功能，就把衣服给消除，甚至还把人体给补齐了。AI本来是根据边缘背景进行计算，修补后的效果看着的确和谐，不能怪它不行。还是那句话，有人不怀好意的话，这个功能确实能生成一些本不存在的不雅照。

这事当时挺多人关注，不过经过媒体报道后，主流品牌手机的AI消除都作出了限制。现在对照片中的人体敏感部位使用AI消除，会出现"图片可能包含敏感信息，无法使用此功能"类似的提示。如果涂抹的是其他地方，则AI消除可以正常使用，小伙伴们可以试试自己的手机，应该都有这种限制了。

AI图片是把双刃剑

苹果谷歌下架"一键脱衣"APP，手机厂商禁止AI消除敏感照片，AI图片已经发展到了这个程度。其实从AI在图片上的实际应用来看，它更像一把双刃剑，在带来方便的同时也带来了一些麻烦。

AI图片的好处很多：在摄影行业，可以帮助摄影师后期美颜和降噪；在设计行业，可以让设计师少些繁琐的画图工作；而在自媒体行业，已经有一些同行使用AI为文章配图，AI生成图既符合文章大意，又不会有侵权的风险。

AI图片的麻烦也不少：一键换脸、一键脱衣、一键无中生有增加人体细节……，AI在关于人的隐私安全方面，依然还有不少漏洞会被不法分子钻。虽然每次曝出类似新闻的时候，相关企业或者平台都能及时行动，作出或下架或禁止的举措，但总是要等事情发生后再亡羊补牢，往往就容易出岔子。

AI图片应用之路才刚刚开始，前面这些案例，已经足够让AI开发者们得到警示。在开发AI更多新功能时，AI开发者们应该提前考虑新功能落地后，可能会出现的负面操作和影响。能在落地前解决自然最好，如果不能推迟落地或者采用更合理的方式实现原先方式80%的效果，也不是不行。总之，小伙伴们还是要以合理眼光看待"AI图片"，相信AI未来的发展会越来越好。