|
“AI换脸”相信大众都不陌生。只需要一张照片，经过人工智能深度合成技术，任何人都能作为视频中的主人公，乃至连表情和动作都能以假乱真。
然而，这项新技术，却让有些人产生了不良想法。6月18日，专题#男子用AI伪造学生同事近7000张裸照#冲上热搜。
据媒介6月18日信息，犯罪嫌疑人白某某，本来是一家互联网机构的技术员。他用AI“一键去衣”技术，深度伪造淫秽照片近7000张，再每张1.5元卖出。照片触及女性人数多，包含学生、教师、同事。日前白某某已被提起公诉。
男子用AI伪造学生同事近7000张裸照
据媒介报告，一名被警方抓获的犯罪嫌疑人白某某本来是一家互联网机构的技术员，他由于运用AI去衣技术，制作、贩卖淫秽物品而涉嫌犯罪。2023年6月，家住北京的白某某在境外的社交媒介上接触到了这项“一键去衣”的技术，于是他动起了歪心思，打算利用这项技术来挣钱。
北京市海淀区人民检察院检察官助理郭树正暗示：白某某用的这款人工智能软件，能火速对被害人的照片“一键去衣”，基本上几秒钟、几分钟就能批量生成相应的照片。
警方在白某某家的电脑里，查获了海量的涉案照片，都是经过“一键去衣”技术处理的。
郭树正：他在QQ上向351个人贩卖过关联照片，照片数量将近7000张。
北京市海淀区人民检察院检察官李鹏暗示：白某某在境外的社交媒介上发布了宣传，内容便是“去衣”，1.5元一张。
这便是白某某发布的宣传帖，上面写着“电脑AI去衣，白菜价”“身边人、网红、明星皆可”。他的宣传发布后，有不少人联系白某某，给他发送照片并购买这项“去衣”服务。
郭树正：一张照片他卖1.5元，能快速满足关联人的需要。这个时候就有非常多人去浏览白某某在境外社交网站上发布的帖子，经过咱们统计，浏览他发布宣传的人有3万人上下。
AI去衣”到底是怎么样的一种技术呢？据白某某供述，这项技术并不是真的“去衣”，而是一种伪造、重绘的技术。
郭树正：其实咱们能够把它理解为深度的照片伪造，它并不是真的去掉别人照片上的衣服，其实都是针对已有的模型和已有的模组进行照片重绘。
况且，这项技术操作起来非常简单，去衣只需要一键就能完成，因此呢白某某定价不高，一张照片只需要1.5元，却能够利用低价吸引更加多的订单。
短短几个月的时间，白某某就制作了几千张去衣的照片，赚了将近一万元钱。然而，他却无认识到这一行径可能产生的严重后果。
检察机关认为，被告人白某某以牟利为目的，制作、贩卖淫秽物品，情节严重，其行径触犯了《中华人民共和国刑法》的关联规定，应当以制作、贩卖淫秽物品牟利罪追究其刑事责任。
检察机关认为，白某某利用AI技术犯罪的行径不仅侵犯了无数无辜者的隐私与名誉，还破坏了网络环境的纯净，与科技向善的精神相背离。而利用新技术犯罪，亦将受到司法机关的严厉打击。
另一，一键去衣、AI换脸技术，还会被违法分子利用，作为敲诈勒索的工具。近期，这类案件又有抬头趋势。前不久，深圳警方打掉一个团伙，这个团伙从网上等各样途径收集被害人照片信息，而后进行合成处理，用来敲诈勒索。
公诉人：人工智能技术兴起之后，已然作为当今科技行业备受瞩目的技术之一，正在深刻改变咱们社会、经济以及生活方式，为社会带来更加多的便利。同期咱们亦打击治理运用AI技术实施犯罪，任何利用新技术实施犯罪的行径必将受到严惩。
有人用暗恋女生换脸
据报告，2022年8月，杭州市萧山警方在网上巡查中获取一条线索，辖区内有人利用AI技术制作淫秽视频在网上进行海量传播，警方依法对此立案侦查，并快速抓获了犯罪嫌疑人虞某，随后该案被移送至杭州市萧山区人民检察院审查起诉。
照片源自：央视资讯视频截图
检察机关调查发掘，虞某从2020年起始接触“AI换脸”软件，起初，他想经过在网上推广该项技术以及关联的软件来获利，然则，一段时间过后关注他的人却很少，一次偶然的机会，虞某看到有人在社交群组中发布淫秽信息来吸引他人关注，于是他亦动起了类似念头。
据虞某供述，为了吸引更加多的关注和流量，他在社交软件上创建了“浏览群”和“私人定制群”，“浏览群”重点用来传播“AI换脸”的淫秽视频吸引、招揽观看者，其中包含有些经过虞某换脸的视频，当有人提出“定制换脸”的需要，虞某会将这些人引入所说“私人定制群”。
照片源自：央视视频截图
杭州市萧山区人民检察院第七检察部检察官助理陈禹尧：经过收取入（浏览）群花费的方式，一个198元、298元或398元。另一一个便是虞某还供给人脸视频定制服务，相当于客户倘若需要定制一个换脸的视频，他能够按照时长，按照视频的难度体积收取相应的花费。
据检察机关调查，虞某一边经过传播换脸的淫秽视频来“吸粉引流”，同期又经过出售“AI换脸”软件和供给所说“AI换脸”的私人定制服务，在不到半年的时间里就获利数万元。而被“AI换脸”侵害人脸敏感信息的受害者，不仅包含多位知名公众名人，还有非常多不特定的普通人。
据检察机关调查，虞某按照“AI换脸”视频的长度、清晰度等难易要求，根据5分钟300元、10分钟500元等标准来收取定制的花费。虞某声叫作，“只要能看到脸的都能换”。
据检察机关认识，虞某的客户需求“定制”换脸的对象不仅包含有些知名的公众人物，亦有生活中的普通人，其中就有人提出想要定制自己暗恋女生的换脸视频，而针对这些未经同意就擅自侵犯他人敏锐信息的违法行径，虞某亦是来者不拒。
另一，虞某除了进行定制化的换脸服务，还将“AI换脸”软件分为初级、中级和高级三个等级进行营销并传授运用教程，同期还供给网上违法收集的他人人脸素材。
2023年4月14日，杭州萧山区人民检察院决定对虞某“AI换脸”侵犯百姓个人信息公益诉讼案立案，当日履行公告程序，公告期满，无适格主体提起诉讼。6月9日，检察机关依法对虞某提起民事公益诉讼。7月28日，该案在杭州互联网法院一审公开审理。
2023年11月，杭州市萧山区人民法院判决被告人虞某犯制作、传播淫秽物品牟利罪，判处有期徒刑七年三个月，并处罚金6万元。
专家意见：隐私不要随意发
任何利用新技术犯罪的行径，必将受到严惩！以牟利为目的，制作、贩卖、传播淫秽物品的行径，要承担那些法律后果？
按照《中华人民共和国刑法》第三百六十三条规定，以牟利为目的，制作、复制、出版、贩卖、传播淫秽物品的，处三年以下有期徒刑、拘役或管理，并处罚金；情节严重的，处三年以上十年以下有期徒刑，并处罚金；情节尤其严重的，处十年以上有期徒刑或无期徒刑，并处罚金或没收财产。
中国行政法学科研会常务理事、华东政法大学教授沈福俊意见提高全民个人信息守护认识，谨防隐私泄密。“不管是在互联网上还是社交软件上，尽可能避免太多地暴露自己的信息，在触及转账交易等行径时，能够多方向询问身份信息，反复验证对方是不是为自己。”
专家意见大众尽可能不要把个人的隐私数据随意发到公共互联网上，倘若有有些违法分子想要对你的家人实施诈骗，采集到数据以后还是比较容易实现的。
据报告，当前AI换脸的有些技术弱点仍然存在。中国信通院人工智能中心安全与元宇宙部专家石霖指出，有些换脸的视频会存在光照、表情等不足自然、帧与帧之间不足连贯的问题，尽管随着模型能力的提高，这些换脸的痕迹已然做到几乎肉眼难以辨别的程度，但咱们仍然能够经过有些专用的检测算法进行辨别。这些检测算法在训练过程中海量学习了换脸视频中伪造特征的方式，在运用的过程中逐帧提取特征，从而判断一段视频是不是经过了换脸。当前，这些技术已然起始用在金融场景中，实现对诈骗等行径的识别。
那样，这些鉴别技术应用于反诈行业，前景怎样？不得不承认，网络信号与算力仍是待处理的困难。“因为这些技术仍然需要海量的计算资源尤其是GPU的支持，因此呢，一般在运用过程中，需要将关联的检测模型安排在服务器中。但倘若想要将这些检测模型安排在手机、个人电脑中，或嵌入到社交、会议软件里，可能会对软硬件的运用体验导致很强的影响。近年来，非常多技术企业已然起始尝试持续优化检测模型，探索将模型安排在端侧。”石霖说道。
【源自：每日经济资讯综合自央视资讯、北京商报】
| 
发表于 2024-9-28 08:17:27