|
炸裂的功能
最新上市的“遥遥领先”，你拿到手了吗？华为pura70官网上架约一分钟即告售罄。
华为手机本来就极为难抢，但新手机上的原生炸裂功能“AI一键脱衣”，更加是让这台新款手机登上热搜。
这个“一键脱衣”功能有多炸裂？
用户运用Pura70自带的图像编辑功能时，能够经过AI，自动消除照片背景中的路人、杂物等内容。但随着用户运用的深入，有些用户发掘只需要在衣领位置进行简单涂抹，点击“起始修图”，就能够自动消除名人的衣领部分……
《大河报》转载了网友的测评：
选取一张女性的照片，选取“手动选除”，而后在衣领的位置进行涂抹：
涂抹后，点击“起始修图”，AI功能会先消除涂抹的位置，再弥补露出的皮肤：
用户的反馈，同样亦是让人感到惊讶。有抗拒的：
有认为“技术中立”的：
有用戏谑的方式暗示支持的：
（很遗憾，按照不完全统计，这部分人数最多）
尤其让我觉得不适的是这个言论：
随着事件的连续发酵，华为官方的工作人员对外回复，该AI功能属自研大模型，存有漏洞，并暗示后续会优化处理。按照记者的实测，日前该手机已然修复了该“漏洞”：
视频号“趣测评”一次性对比了华为pura 70 ultra、vivo x100 pro、小米14ultra、OPPO find X7 ultra这四款手机的“AI消除”功能。
发掘vivo手机和小米手机能够实现口罩的消除，而华为和OPPO的手机则拒绝了消除口罩的指令。（从博主的反应来看，博主针对vivo的消除效果相当满意，乃至暗示消除后的照片，和照片中的女士自己已然非常像了）。
能够预见的是，在将来“美图”的赛道里，“AI消除”必然是各大厂商（包含软硬厂商和应用厂商）获取用户的重要功能。
那样，这个功能有那些必须重视的法律和伦理危害呢？
危害防范
1.传播淫秽物品罪的危害
按照《刑法》第三百六十七条的规定，淫秽物品指的是详细描绘性行径或露骨宣扬色情的淫秽性的书刊、影片、录像带、录音带、照片及其他淫秽物品。
仅从日前网络上流传的照片来看，无论是供给AI消除功能的硬件厂商，还是兴致勃勃地运用“AI消除”功能传播照片的用户，其生成或传播的照片，均不属于“描绘性行径”或“露骨宣扬色情”的程度，因此呢并未达到“淫秽物品”的标准。
但此罪的危害仍然需要得到高度关注。
去年流传极为广泛的“广州轻轨美女裸照事件”，当事人在社交平台上的照片，就被有心之人运用AI技术，做成为了杀伤力极强的裸照，给当事人造成为了很大的困惑。
AI一键脱衣早就不是什么鲜嫩事儿了。2019年的DeepNude，用AI技术能够轻易地将衣物遮挡的身体部位替换成无遮挡的效果，斯嘉丽、艾玛沃森等国际女星饱受其害，今年年初，国外社交平台推特乃至由于霉霉Taylor Swift合成照片的疯传，暂停了“霉霉”“Taylor Swift”的关键字搜索。
2023年11月，杭州市萧山区人民法院判决被告人虞某犯制作、传播淫秽物品牟利罪，判处有期徒刑七年三个月，并处罚金6万元。在该案中，虞某利用“AI换脸”软件生成海量淫秽视频进行传播，被换脸的既包含不少女明星等公众名人，亦包含普通人。[1]
可见，供给或运用“AI消除”功能进行修图的用户或厂商，都应当关注“制作、贩卖、传播淫秽物品罪”的危害，由于项目而身陷囹圄，显然得不偿失。
2.违反《暂行办法》的合规风险
按照《生成式人工智能服务管理暂行办法》（本文叫作“《暂行办法》”）第四条的规定，供给和运用生成式人工智能服务，应当保持社会主义核心价值观，不得生成……暴力、淫秽色情，以及虚假有害信息等法律、行政法规禁止的内容……不得害处他人身心健康，不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益。
“AI消除”功能，除了不得生成淫秽色情有害内容外，还不得侵害他人的肖像权、隐私权。生成式人工智能生成的照片结果可能存在必定的偶然性，但倘若未经肖像权人同意，生成为了与其自己非常类似的照片（这种偶然性是存在的，正如前文“趣测评”的博主，生成为了与女士自己非常类似的照片），就存在侵犯他人肖像权、隐私权的可能性。
况且，口罩除了防范病毒的功能外，本身亦具备遮挡脸部的隐私守护功能，运用AI消除“生成”脸部信息，是不是需要得到个人的单独同意，亦是一个值得讨论的问题。
按照《暂行办法》第十四条的规定，供给者发掘违法内容的，应当即时采取停止生成、停止传输、消除等处置办法，采取模型优化训练等办法进行整改，并向相关主管分部报告。
因此咱们亦看到了，日前华为已然修复了该“漏洞”，停止了关联内容的生成。
咱们意见，除了必要的“红队测试”（识别潜在的有害能力、有问题的输出或基本设备漏洞）[2]，还需要进行“科技伦理审查”，由外边的伦理、法律专家构成“科技伦理（审查）委员会”，依据《科技伦理审查办法（试行）》的规定，开展科技伦理危害评估。
律师说
广泛流传在评论区的“技术中立”论调是不当的。
“武功无对错，错的是练武之人”，倘若认为这句话是对的，那样它完全能够被套用在任何被管理的物品上，例如“枪无对错，错的是用枪之人”。但咱们都晓得，枪支导致大范围杀伤的可能性太大、太方便了。倘若不进行管理，灯塔国的窘境完全可能在咱们国家重演。然则，一样能杀人的菜刀，大规模杀伤能力差，虽然亦能杀人，却不会被管理。
AI技术某种程度上亦是同样的。水平高超的设计师，运用PS工具亦能够实现换装。但相比于“一键”完成的AI技术，PS工具运用门槛高，效果难以实现，不会有太大的“杀伤力”。因此呢，能够实现“一键脱衣”的AI技术，必定是会被严格限制的。
[1]钟雨欣,英国宣布利用AI制作“深伪”色情图将被定罪,
https://www.eeo.com.cn/2024/0417/652888.shtml
[2]《我参加了OpenAI红队的活动，并带来了有些笔记》，赛博禅心，
https://new.qq.com/rain/a/20240330A0603C00
作者简介
陈 焕 律师
陈焕律师，《法律人ChatGPT应用指南》作者，北京市隆安(广州)律师事务所律师、隆安湾区人工智能法律科研中心专家、隆安广州数字经济部副部长、国家工业信息安全发展科研中心《生成式人工智能数据应用合规指南》团体标准起草人。
李琪瑶 律师
李琪瑶律师，华南理工大学法律硕士科研生，英语专业八级。现为北京市隆安（广州）律师事务所律师，隆安湾区人工智能法律科研中心科研员。李琪瑶律师善于人工智能、数据合规、知识产权诉讼和非诉业务、民商事争议处理事务。
| 
发表于 2024-9-28 08:18:34