看似“人工智能”实则人为陷阱，央媒揭AI诈骗新招数
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">号<span style="color: black;">叫作</span>可<span style="color: black;">供给</span>ChatGPT服务，<span style="color: black;">实质</span>是冒牌AI；视频<span style="color: black;">tel</span>中<span style="color: black;">熟练</span>的“亲友”，是<span style="color: black;">违法</span>分子AI换脸模拟而成；为博取流量，用AI技术编造虚假<span style="color: black;">流言</span>，流量变“流毒”……</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">随着人工智能的发展迭代，生成式AI正以前所未有的速度重塑着<span style="color: black;">平常</span>生活，但由此衍生出的新骗局、新<span style="color: black;">招数</span><span style="color: black;">亦</span>在刷新人们对<span style="color: black;">危害</span>防范的认知。这<span style="color: black;">背面</span>不仅关乎广大消费者的财产安全，还潜藏着人身安全<span style="color: black;">危害</span>和隐患。记者梳理近期管理<span style="color: black;">分部</span>查处的AI<span style="color: black;">关联</span>案件，揭开人工智能“圈套”<span style="color: black;">背面</span>的真相。</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;"><strong style="color: blue;">9块9<span style="color: black;">运用</span>ChatGPT？其实是“套壳AI”</strong></p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">自人工智能<span style="color: black;">制品</span>ChatGPT爆火，<span style="color: black;">有些</span>企业看到无限“钱景”，强行“<span style="color: black;">相关</span>”。一时间，市场上涌现出不少与ChatGPT“沾亲带故”的服务<span style="color: black;">制品</span>。2023年2月，一个名为“ChatGPT在线”的公众号<span style="color: black;">导致</span>了上海市徐汇区市场监管<span style="color: black;">分部</span>的<span style="color: black;">重视</span>。</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">这个头像与ChatGPT原<span style="color: black;">研发</span><span style="color: black;">机构</span>官方标识高度<span style="color: black;">类似</span>的公众号，在用户短暂免费体验后即需注册会员付费<span style="color: black;">运用</span>，支付9.9元<span style="color: black;">能够</span>对话20次，随着对话次数<span style="color: black;">增多</span>，其收费<span style="color: black;">亦</span>逐步<span style="color: black;">加强</span>。该公众号仅用两个月就吸纳超36万人的粉丝量，累计注册付<span style="color: black;">花费</span>户4231人，经营额共计125385.44元。</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">执法人员调查<span style="color: black;">发掘</span>，该公众号的运营<span style="color: black;">机构</span>与<span style="color: black;">实质</span>ChatGPT<span style="color: black;">研发</span><span style="color: black;">机构</span>并无<span style="color: black;">相关</span>。<span style="color: black;">所说</span>“ChatGPT在线”<span style="color: black;">亦</span>并非“ChatGPT”<span style="color: black;">制品</span>本身。“当事人为实现<span style="color: black;">营销</span>目的，<span style="color: black;">运用</span>类似图像、名<span style="color: black;">叫作</span>及服务简介等多种手段实施复合性混淆<span style="color: black;">行径</span>，利用‘ChatGPT’热点进行攀附，混淆真实<span style="color: black;">状况</span>，谋取交易机会，获取<span style="color: black;">欠妥</span>利益。”上海市徐汇区市场监督管理局执法稽查科副科长张琦说，当事人<span style="color: black;">行径</span>违反了《中华人民共和国反不正当竞争法》第六条第（四）项的规定，市场监管<span style="color: black;">分部</span>已责令其停止违法<span style="color: black;">行径</span>，处以罚款，并<span style="color: black;">需求</span>其妥善处置<span style="color: black;">关联</span>消费纠纷。</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">记者<span style="color: black;">发掘</span>，“冒牌AI”的现象并不少见。2023年，百度“文心一言”上市前夕，网上<span style="color: black;">显现</span><span style="color: black;">海量</span>打着“文心一言”旗号的社交<span style="color: black;">媒介</span>账号。随后百度官方<span style="color: black;">发帖</span>辟谣<span style="color: black;">叫作</span>“文心一言”尚未注册社交账号。</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">“人工智能大模型开源生态的<span style="color: black;">创立</span>，让AI发展加速的<span style="color: black;">同期</span><span style="color: black;">亦</span>让生成式AI<span style="color: black;">更易</span>被<span style="color: black;">乱用</span>。”中国行政法学<span style="color: black;">科研</span>会常务理事、华东政法大学教授沈福俊认为，<span style="color: black;">思虑</span>到立法的滞后性，监管<span style="color: black;">分部</span>还需更加关注新技术发展对市场端的影响，加大事前监管力度，充分运用现有的法律法规资源实施有效监管，切莫使新问题隐匿在“监管盲区”。</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">张琦<span style="color: black;">亦</span><span style="color: black;">暗示</span>，消费者出于对新兴技术的好奇，<span style="color: black;">常常</span>在不知不觉陷入“圈套”。“<span style="color: black;">倘若</span>误用了别有用心的‘套壳AI’，<span style="color: black;">乃至</span>可能被<span style="color: black;">违法</span>分子套取个人信息，埋下安全隐患。”他<span style="color: black;">意见</span>，消费者在<span style="color: black;">选取</span>AI产品时需仔细甄别，避免被商家误导。“<span style="color: black;">倘若</span>购买到了仿冒<span style="color: black;">制品</span>，要<span style="color: black;">保存</span>好相应的<span style="color: black;">制品</span>购买凭证，主动联系监管<span style="color: black;">分部</span>，<span style="color: black;">守护</span><span style="color: black;">自己</span>合法权益。”</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;"><strong style="color: blue;">“AI换脸”诈骗，眼见不<span style="color: black;">必定</span>为实</strong></p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">只需一通视频<span style="color: black;">tel</span>，<span style="color: black;">违法</span>分子就骗走了430万元。2023年4月，福建省某科技<span style="color: black;">机构</span>法定<span style="color: black;">表率</span>人郭先生接到“好友”的<span style="color: black;">微X</span>视频通话，对方声<span style="color: black;">叫作</span>自己当下<span style="color: black;">必须</span>430万元<span style="color: black;">保准</span>金用以项目竞标，想借用郭先生<span style="color: black;">机构</span>的账户“走个账”。<span style="color: black;">由于</span>有先前的视频通话，加之对“好友”的信任，郭先生<span style="color: black;">持续</span>给对方转账共计430万元。随后郭先生再次联系好友时才<span style="color: black;">发掘</span>自己<span style="color: black;">上当</span>。所幸在警方<span style="color: black;">帮忙</span>下，成功止付拦截336.84万元。</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">据郭先生回忆，<span style="color: black;">因为</span>在视频<span style="color: black;">tel</span>中确认了对方的面孔和声音，<span style="color: black;">因此</span>毫不<span style="color: black;">可疑</span>对方身份有诈。不仅如此，犯罪分子还<span style="color: black;">精细</span><span style="color: black;">认识</span>郭先生与好友的关系，并成功盗取好友<span style="color: black;">微X</span>账号实施诈骗，令人<span style="color: black;">毛骨悚然</span>。</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">AI技术的迭代升级让<span style="color: black;">违法</span>分子借助智能AI换脸和拟声技术，就可<span style="color: black;">容易</span>实现远程视频诈骗。记者调查<span style="color: black;">发掘</span>，<span style="color: black;">近期</span>多地<span style="color: black;">显现</span>的AI换脸诈骗案件，均具备定制性、迷惑性等特征。</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">其中，香港警方近期披露<span style="color: black;">一块</span>涉案金额高达2亿港元的多人AI换脸诈骗案尤为典型。据<span style="color: black;">媒介</span><span style="color: black;">报告</span>，某<span style="color: black;">机构</span>职员受邀参加<span style="color: black;">机构</span>“多人视频会议”时，先后将2亿港元分别转账到5个本地银行账户内。据警方调查，这场视频会议中除了受害者外，其余均为AI换脸后的诈骗人员。</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">不少业内专家<span style="color: black;">暗示</span>，随着文生视频大模型Sora等多模态人工智能的探索和<span style="color: black;">显现</span>，人们可能陷入“眼见<span style="color: black;">亦</span>不一定为实”的困局。“<span style="color: black;">始终</span><span style="color: black;">败兴</span>，银行等<span style="color: black;">分部</span>将实时视频用做检验身份的手段之一，如今其<span style="color: black;">靠谱</span>性将面临巨大挑战。”沈福俊说，“随着人工智能技术的迭代升级，这类违法<span style="color: black;">行径</span>还可能演变出<span style="color: black;">更加多</span>形态。”</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">沈福俊坦言，对此类AI换脸和AI拟声的恶性诈骗案件，若只依靠传统监管手段已<span style="color: black;">不可</span>防堵，监管<span style="color: black;">分部</span>在<span style="color: black;">提高</span>自我科技能力<span style="color: black;">贮存</span>的<span style="color: black;">同期</span>，有必要引入新兴技术，探索用AI技术监管AI的可能。</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">从消费者<span style="color: black;">方向</span>出发，沈福俊<span style="color: black;">意见</span><span style="color: black;">提高</span>全民个人信息<span style="color: black;">守护</span><span style="color: black;">认识</span>，谨防隐私<span style="color: black;">泄密</span>。“不管是在互联网上还是社交软件上，<span style="color: black;">尽可能</span>避免<span style="color: black;">太多</span>地暴露自己的信息，在<span style="color: black;">触及</span>转账交易等<span style="color: black;">行径</span>时，<span style="color: black;">能够</span>多<span style="color: black;">方向</span>询问身份信息，反复验证对方<span style="color: black;">是不是</span>为<span style="color: black;">自己</span>。”</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;"><strong style="color: blue;"><span style="color: black;">警觉</span>“AI造谣”，小心“流量”变“流毒”</strong></p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">当前AIGC技术已在文本生成、<span style="color: black;">照片</span>创作等方面广泛应用，输入几个关键词<span style="color: black;">就可</span>由AI快速生成一张画或一篇<span style="color: black;">文案</span>。但<span style="color: black;">有些</span>用户为博眼球、蹭热度，却将人工智能技术用以编“伪<span style="color: black;">信息</span>”，造“假通报”。</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">2023年6月，一条名为《浙江工业园现大火浓烟滚滚，目击者<span style="color: black;">叫作</span>有爆炸声！》的视频在网络上流传，<span style="color: black;">诱发</span>网友关注。后经<span style="color: black;">关联</span><span style="color: black;">分部</span>核实为<span style="color: black;">流言</span>。据调查，当事人为给自己账号涨粉引流，获取<span style="color: black;">更加多</span>利益，<span style="color: black;">经过</span><span style="color: black;">违法</span><span style="color: black;">途径</span>购买了AI视频生成软件。该当事人将网络热门<span style="color: black;">专题</span><span style="color: black;">经过</span>AI自动生成视频<span style="color: black;">制品</span>，并上传至多个热门视频平台。</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;"><span style="color: black;">截止</span>案发，<span style="color: black;">关联</span>当事人发布的虚假视频多达20余条，<span style="color: black;">触及</span>浙江、湖南、上海、四川等多个省市，累计阅读观看量超过167万次。<span style="color: black;">日前</span>浙江绍兴上虞法院已开庭审理并当庭宣判了这起案件，两名被告均被判处有期徒刑。</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">但“AI<span style="color: black;">流言</span>”仍时有<span style="color: black;">出现</span>。2024年1月，广西东兴市骆某某为博取流量，将其他地区的抗洪、救灾视频，经AI软件自动编辑，编造新疆乌什县<span style="color: black;">出现</span>地震的虚假视频信息。同年1月，四川一网民在某平台发布“贵州女婴被弃”的<span style="color: black;">流言</span><span style="color: black;">文案</span>。经调查，该涉谣<span style="color: black;">文案</span>由AI系统生成并发布，<span style="color: black;">关联</span>言论及照片均为不实信息。</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">技术的普及带动自<span style="color: black;">媒介</span>产业的繁荣。但<span style="color: black;">有些</span>网民为获取流量<span style="color: black;">不吝</span>利用技术手段编造生成虚假视频，让“AI<span style="color: black;">流言</span>”在网络上传播，不仅给网络安全带来严峻挑战，<span style="color: black;">亦</span>严重扰乱社会秩序。</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">2023年，最高人民法院、最高人民检察院、公安部联合发布的《关于依法惩治网络暴力违法犯罪的<span style="color: black;">指点</span>意见》中规定，对“利用‘深度合成’等生成式人工智能技术发布违法信息”的情形，依法从重处罚。</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">对此，沈福俊等多位专家<span style="color: black;">暗示</span>，一方面，要<span style="color: black;">加强</span>广大自<span style="color: black;">媒介</span>经营者的法律<span style="color: black;">认识</span>，从源头减少此类“AI<span style="color: black;">流言</span>”的产生；另一方面，监管<span style="color: black;">分部</span><span style="color: black;">亦</span>要加强<span style="color: black;">关联</span>案件的宣传推广，<span style="color: black;">加强</span>网民对“AI<span style="color: black;">流言</span>”的鉴别力。</p>
我深感你的理解与共鸣，愿对话长流。 回顾过去一年，是艰难的一年；展望未来，是辉煌的一年。 这篇文章真的让我受益匪浅，外链发布感谢分享！
页:
[1]