科大讯飞（002230）5月24日午后股价跳水，盘中一度跌超9%，截止当日收盘，机构股价报56.57元/股，收跌4.26%。对此，科大讯飞回复，“股价下跌系某生成式AI写作虚假小作文引起，谣传危害为不实信息。”
两篇“小作文”诱发的“血案”
近期市场显现了两篇相关科大讯飞的小作文。
第1篇小作文是5月23日，有外媒援引知情人士的话叫作，美国正在思虑是不是将科大讯飞、美亚柏科等加入“实体名单”，禁止它们运用美国的组件或软件。
事实上，这是2019年的一篇报告改编而成。科大讯飞已然于2019年10月被加入实体名单，对机构平常经营未产生重大影响。
第二篇小作文则为《一篇科大讯飞显现重大危害的警示文》，该文指出，近期，科大讯飞被曝涉嫌海量采集用户隐私数据，并将其用于人工智能科研，这一行径严重侵犯了用户的隐私权，诱发了公众的剧烈不满和抵制，这一事件诱发了广泛的关注和争议，给机构的声誉和业务带来了极重的冲击，这一事件可能对科大讯飞导致巨大的损失，机构可能面临市场份额的下降、营销额的减少以及将来发展的不确定性等问题，科大讯飞遭遇的这场重大危害给全部行业敲响了警钟。
有人利用文心一言创作了这篇虚假信息，该信息在流传出去后诱发了广泛的关注。
科大讯飞方面对外暗示，机构基本面无变化，该事件系某生成式AI撰写的科大讯飞危害警示，机构未出现关联事件，机构法务部已对关联信息取证。
随后，科大讯飞在互动平台暗示，运用大模型编造虚假信息属于违法行径，将受到法律制裁。针对恶意抹黑、捏造虚假信息，损害机构名誉权的公司或个人，机构会借助法律武器守护机构和投资者利益。
生成式AI内容真假难辨
苹果机构联合创始人史蒂夫·沃兹尼亚克亦曾表达过他对人工智能散布虚假信息的关切，“倘若有人想骗你，利用人工智能技术，诈骗就会变得简单得多”。
此前，乔治华盛顿大学一名法学院教授就莫名成为了“性骚扰者”，原由在于ChatGPT生成的一份“有性骚扰历史的法学学者”名单中，这位教授就在其中。
而在今年2月，一则关于“杭州市政府将于3月1日取消机动车尾号限行政策”的信息亦在网络疯传。但随后杭州警方证实，该信息为ChatGPT写的假资讯。
伴同着深度合成技术的开放开源，深度合成制品和服务逐步增加，利用“AI换脸”“AI换声”等虚假音视频，进行诈骗、诽谤的违法行径屡见不鲜，近期内蒙古包头的一块“AI电信诈骗10分钟骗走430万”登上博客热搜，导致全民关注。 
监管势在必行
在人工智能的监管方面，国内日前正在逐步加大力度。为促进生成式人工智能技术健康发展和规范应用，4月初，国家互联网信息办公室起草了《生成式人工智能服务管理办法（征求意见稿）》，从4月11日到5月10日向社会公开征求意见。
5月9日，国内首个针对人工智能生成内容的平台规范亦横空出世，做为内容平台方的抖音发布了《抖音关于人工智能生成内容的平台规范暨行业倡议》。抖音需求，在抖音应用生成式人工智能技术时，发布者应对人工智能生成内容进行明显标识，帮忙其他用户区分虚拟与现实，尤其是易混淆场景。同期，发布者需对人工智能生成内容产生的相应后果负责，无论内容是怎样生成的。
专家认为，当前AIGC产业监管方面存在关联法律法规与标准体系不健全、缺乏多分部协同的自上而下的监管体系、监管技术手段落后等明显问题，政府相关分部需要尽快创立健全AIGC开发与应用关联法律法规和标准体系，创立或完善伦理审查制度和监管体系，加强对科技企业、应用场景、运用者的监管，搭建多方参与协同治理平台，推动AIGC产业健康可连续发展。生成式人工智能的监管亦存在有些难点问题，例如平台方怎样进行责任界定，内容怎样确定到底出自真实的人类还是人工智能，以及取证难等。不外监管和创新技术、创新模式之间永远都是一个跟和被跟的关系，必定是先有技术，而后产生危害，再去规范。有了监管，有了倡议，亦就能更有利于行业的发展。否则，无序发展的结果必然是自掘坟墓。 
责编 蒋赛赛
检校 张小楠
源自：北京商报、证券时报、北京日报
| 
发表于 2024-9-28 20:33:13