|
时间倒回前几年，倘若小雷和小伙伴们聊聊AI，你们可能觉得我在天方夜谭？
彼时AI留给人们的印象，还停留在科幻电影的智能设备人、智能生活助手等等。
真要说起来，离咱们近期的应该便是手机里头，那个脑袋不太聪明的语音助手。
语音助手句句有回复，然则回得对不对便是另一回事了，你说对吧，Siri？
但放到此刻可就不一样，这几年AI发展有多快大伙看在眼里，AI元年早就来喽。
在照片、视频、音频以及文字等行业，AI已然玩出了花，乃至能够说是「颠覆」。
就拿应用最广泛的照片AI来讲，其实在咱们平时的生活里，此刻已然随处可见了。
户外的宣传牌、电梯里的海报、商场里的促销图……大伙琢磨下是不是这么回事？
不仅如此，非常多APP还加入照片AI方面的功能，然而随之而来的却是争议的声音。
苹果和谷歌先后下架关联APP，国内手机厂商亦禁止操作，这到底是怎么回事儿？
苹果谷歌下架脱衣AI APP
日前AI在照片上的应用，大概有这几类：AI生图、扩图、消除以及修复画质等。
这些都是很正常的内容，但有些别有用心的人，却以此研发出了有些恶意APP。
就在上周五，外媒404 Media报告：苹果和谷歌分别在应用商店下架多款自叫作能够实现「一键换衣」的APP。
「一键换衣」听起来很离谱，但其实这玩意能够看作是「一键换脸」的升级版。
图源：404 Media
早在2019年，就有程序员研发出一款名为「DeepNude」的「一键脱衣」APP。
研发者声叫作，给DeepNude一张女性照片，它就能靠神经网络技术，脱掉名人衣服生成未穿衣服的照片。
好家伙，这个APP要是落到歪脑筋的人手里，那可不便是妥妥的不雅观照生成器吗？
结果是为了防止DeepNude被乱用，最后研发者选取关闭DeepNude的网站和APP。
图源：IT之家
倘若说DeepNude只是独立研发者的小打小闹，那如今在苹果和谷歌应用商店上架的「一键脱衣」APP，是怎么经过审核的呢？
据报告，这些APP非常多都来自Meta平台的宣传库，这些恶意APP的宣传通常在Meta旗下的平台投放。
用户一点击宣传就会转到苹果或谷歌的应用商店，亦便是说，用户压根不消自己搜索「脱衣」等重要词就能找到类似APP。
况且这类AI APP一般被包装成其他AI生成类APP，研发者大概率便是经过这种方式，躲开苹果和谷歌应用商店的审查机制。
费了这么多功夫，APP研发者肯定不是用爱发电，而是经过「一键脱衣」功能赚取不义之财。
好在经过外媒报告后，苹果和谷歌亦作出了实质行动，下架了多款「一键脱衣」APP。
Meta平台亦在积极收集恶意宣传链接下架删除，还暗示接下来将加大审查力度，针对违反规定的政策采取办法。
图源：indianexpress网
AI消除敏锐照片被禁
除了上面这事儿，小雷发掘国内手机厂商，亦针对「AI消除」作出了有些限制。
我没记错的话，手机持有「AI消除」这功能，应该是从去年起始才流行起来的。
AI消除能经过AI技术，较完美地去掉照片中多余的人和物，让照片看起来更简洁。
左 AI消除前 右 AI消除后 图源：小雷手机截图
只是不晓得哪个神人突发奇想，竟然把AI消除用在了消除女性照片胸部的位置。
咳咳，结果有些手机的AI消除功能，就把衣服给消除，乃至还把人体给补齐了。
AI本来是按照边缘背景进行计算，修补后的效果看着的确和谐，不可怪它不行。
还是那句话，有人不怀好意的话，这个功能确实能生成有些本不存在的不雅观照。
图源：网络
这事当时挺多人关注，不外经过媒介报告后，主流品牌手机的AI消除都作出了限制。
此刻对照片中的人体敏锐部位运用AI消除，会显现「照片可能包括敏锐信息，没法运用此功能」类似的提示。
倘若涂抹的是其他地区，则AI消除能够正常运用，小伙伴们能够试试自己的手机，应该都有这种限制了。
图源：小雷手机截图
AI照片是把双刃剑
苹果谷歌下架「一键脱衣」APP，手机厂商禁止AI消除敏锐照片，AI照片已然发展到了这个程度。
其实从AI在照片上的实质应用来看，它更像一把双刃剑，在带来方便的同期亦带来了有些麻烦。
AI照片的好处非常多：在摄影行业，能够帮忙摄影师后期美颜和降噪；在设计行业，能够让设计师少些繁琐的画图工作；而在自媒介行业，小雷发掘已然有有些同行运用AI为文案配图，AI生成图既符合文案大意，又不会有侵权的危害。
AI照片的麻烦亦不少：一键换脸、一键脱衣、一键没中生有增多人体细节……，AI在关于人的隐私安全方面，依然还有不少漏洞会被违法分子钻。
虽然每次曝出类似资讯的时候，关联公司或平台都能即时行动，作出或下架或禁止的措施，但总是要等事情出现后再亡羊补牢，常常就容易出岔子。
AI照片应用之路才刚才起始，小雷觉得前面这些案例，已然足够让AI研发者们得到警示喽。
在研发AI更加多新功能时，AI研发者们应该提前思虑新功能落地后，可能会出现的消极操作和影响。
能在落地前处理自然最好，倘若不可推迟落地或采用更恰当的方式实现原先方式80%的效果，亦不是不行。
总之，小伙伴们还是要以恰当眼光看待「AI照片」，小雷亦相信AI将来的发展会越来越好。
封面图源：苹果App Store&网络
4月25日-5月4日，北京国际汽车展览会(北京车展)正在火热进行。本届车展以“新时代新汽车”为主题，是“汽车从电动化走向智能化”的风向标。
雷科技旗下“关注电动车，更懂智能化”的账号电车通已派出豪气报告团，正在北京车展现场，进行一线专业报告，欢迎关注“电车通”获取一手专业现场报告。返回外链论坛：http://www.fok120.com/，查看更加多
责任编辑：网友投稿
| 
发表于 2024-7-1 02:12:11
