马上评｜论文运用AI生成插图，AI运用的红线在哪里？
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;"><span style="color: black;">近期</span>，一篇来自西安市红会医院的医学论文<span style="color: black;">作为</span>网红，论文<span style="color: black;">发布</span>三天就被撤稿，撤稿的<span style="color: black;">原由</span>是采用了AI生成的插图。这些插图<span style="color: black;">诱发</span>了网友的<span style="color: black;">热榜</span>，大鼠长出了巨大的四个睾丸和阴茎，细胞信号传导图像电路板，而“撒了糖屑的甜甜圈”<span style="color: black;">更加是</span>让人难以理解论文所要表达的意思。</p><img src="https://p3-sign.toutiaoimg.com/tos-cn-i-axegupay5k/ae961085206b4e53a53c256e23bc3a1c~noop.image?_iz=58558&from=article.pc_detail&lk3s=953192f4&x-expires=1723954927&x-signature=SdLuryK4vF%2Bf8UwJ1DLf0%2B78Bpw%3D" style="width: 50%; margin-bottom: 20px;">
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">AI生成的论文插图，<span style="color: black;">诱发</span>争议</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">这篇论文于2024年2月13日在线发布于开放获取期刊《细胞与<span style="color: black;">生长</span>生物学前沿》（Front. Cell Dev. Biol），作者在文中坦承，这些<span style="color: black;">照片</span>由人工智能绘图工具Midjourney生成。</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;"><span style="color: black;">文案</span>的标题为《精原干细胞的细胞功能与JAK/STAT信号通路的关系》，在<span style="color: black;">诱发</span>关注后，期刊编辑部在2月16日就宣布撤稿。编辑部<span style="color: black;">暗示</span>，<span style="color: black;">文案</span>的<span style="color: black;">相关</span>人工智能生成图表性质的担忧被提出，“该<span style="color: black;">文案</span>未达到本刊编辑和科学严谨标准，<span style="color: black;">因此呢</span><span style="color: black;">文案</span>已被撤回”。</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">仅仅是<span style="color: black;">由于</span><span style="color: black;">文案</span>中采用了AI生成的插图就被撤稿，这<span style="color: black;">表示</span>了国际科学界正在执行严防生成式人工智能混淆真假科学<span style="color: black;">科研</span>的最严格标准，<span style="color: black;">同期</span><span style="color: black;">亦</span>在进一步<span style="color: black;">知道</span>在AI<span style="color: black;">持续</span>介入人们生活的方方面面时，<span style="color: black;">那些</span>是科学诚信原则，<span style="color: black;">必须</span>遵循。</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;"><span style="color: black;">此刻</span>，<span style="color: black;">全世界</span>的科学和学术期刊都有<span style="color: black;">类似</span>的规定，不<span style="color: black;">发布</span>AI生成和AI署名的学术<span style="color: black;">文案</span>，其中，英国《自然》杂志的解释<span style="color: black;">拥有</span><span style="color: black;">表率</span>性。</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">在2023年6月的一篇社论中，《自然》杂志<span style="color: black;">叫作</span>，为了<span style="color: black;">保准</span><span style="color: black;">科研</span>的诚信、透明和道德，将不会刊登任何<span style="color: black;">运用</span>生成式人工智能（generative AI）工具创作的<span style="color: black;">照片</span>、视频或插图，除非是与人工智能<span style="color: black;">关联</span>的<span style="color: black;">文案</span>。</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;"><span style="color: black;">原由</span>在于，生成式人工智能工具<span style="color: black;">没法</span><span style="color: black;">供给</span>其数据<span style="color: black;">源自</span>的信息，使得编辑、出版者和读者<span style="color: black;">没法</span>核实其准确性和真实性。这违背了科学出版的诚信和透明原则。其次，生成式人工智能工具可能侵犯了数据所有者的隐私和知识产权，<span style="color: black;">由于</span>它们<span style="color: black;">一般</span><span style="color: black;">运用</span>了<span style="color: black;">海量</span>未经授权的受版权<span style="color: black;">守护</span>的作品进行训练。再次，生成式人工智能工具可能加剧了虚假信息的传播。例如，深度伪造（deepfake）<span style="color: black;">便是</span>一种利用生成式人工智能制造假视频的技术，<span style="color: black;">能够</span>用来误导公众或诽谤他人。</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">基于这些<span style="color: black;">原由</span>，《自然》杂志坚决不承认任何生成式人工智能工具<span style="color: black;">做为</span>论文作者。</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">显然，《细胞与<span style="color: black;">生长</span>生物学前沿》对西安市红会医院的论文撤稿<span style="color: black;">亦</span>是基于<span style="color: black;">以上</span><span style="color: black;">原由</span>，但<span style="color: black;">基本</span>的<span style="color: black;">原由</span>是，生成式人工智能产生的无论是<span style="color: black;">文案</span>内容和插图，都会让人真假难辨，难以区分论文所<span style="color: black;">科研</span>的内容在现实中是真还是假。一旦论文造假，<span style="color: black;">针对</span>社会所有人都是<span style="color: black;">劫难</span>，例如医学论文关系着人的健康和生命，一旦论文描述的内容虚假，人们将付出健康和生命的沉痛代价。</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">进一步观察，西安市红会医院作者的论文被撤稿有更深刻的<span style="color: black;">原由</span>。一是论文插图违背事实真相，插图中实验大鼠有4个巨大的睾丸，但正常<span style="color: black;">状况</span>下大鼠<span style="color: black;">仅有</span>2个睾丸，以及干细胞在培养皿中宛若<span style="color: black;">能够</span>用勺子<span style="color: black;">摄食</span>的<span style="color: black;">食品</span>。二是，这些插图中含有生造的新词标签，如testtomcels、senctolic等。三是，论文图注中还有词语错误，如把“干细胞”（stem cells）写错了。</p><img src="https://p3-sign.toutiaoimg.com/tos-cn-i-tjoges91tu/11cfd5c88e6bc1d4532d5d7c28757270~noop.image?_iz=58558&from=article.pc_detail&lk3s=953192f4&x-expires=1723954927&x-signature=q4SKHcWHfu6p7kmGvxhOvZ9gh9A%3D" style="width: 50%; margin-bottom: 20px;">
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">论文中细胞信号传导图像电路板，其中有的图案像是甜甜圈，<span style="color: black;">诱发</span>争议。</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">这些问题一方面反映了审稿人的粗心大意，但另一方面似乎<span style="color: black;">亦</span>表现出<span style="color: black;">有些</span><span style="color: black;">科研</span>人员，<span style="color: black;">包含</span>审稿人对AI生成<span style="color: black;">照片</span>的宽容，认为<span style="color: black;">照片</span>只是一种对文字内容的形象说明。<span style="color: black;">由于</span>，《自然》杂志<span style="color: black;">亦</span>表态<span style="color: black;">叫作</span>，并不完全排斥人工智能，杂志<span style="color: black;">准许</span>在<span style="color: black;">文案</span>中<span style="color: black;">运用</span>生成式人工智能辅助产生的文本，只要在<span style="color: black;">办法</span>或致谢部分<span style="color: black;">知道</span>说明。<span style="color: black;">另外</span>，所有数据的<span style="color: black;">源自</span>，<span style="color: black;">乃至</span><span style="color: black;">是由于</span>人工智能<span style="color: black;">帮助</span>产生的数据，都<span style="color: black;">必要</span>由作者<span style="color: black;">供给</span>。</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">这<span style="color: black;">亦</span><span style="color: black;">寓意</span>着，论文<span style="color: black;">能够</span>采用人工智能<span style="color: black;">做为</span>辅助手段，<span style="color: black;">然则</span>无论是文字和插图都应当说明是AI生成。其次，AI生成的所有数据，都是作者<span style="color: black;">实质</span><span style="color: black;">科研</span>产生的。<span style="color: black;">况且</span>，从此次撤稿来看，采用AI辅助写论文有一个新的标准<span style="color: black;">显现</span>了，即便AI生成的<span style="color: black;">照片</span><span style="color: black;">能够</span>用来生动解释<span style="color: black;">科研</span>内容，<span style="color: black;">亦</span>要符合<span style="color: black;">实质</span><span style="color: black;">状况</span>，<span style="color: black;">况且</span><span style="color: black;">不可</span>太夸张。</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">随之而来的是，此次论文撤稿<span style="color: black;">亦</span>提出了一个问题，学术论文采用AI生成插图的边界在哪里，这似乎是<span style="color: black;">日前</span>的一个模糊地带。采用卡通图、手绘图和AI生成图<span style="color: black;">做为</span>论文的插图或封面，在<span style="color: black;">研究</span>中不乏存在，中国神话内容，如女娲补天、盘古开天辟地、后羿弯弓射箭、哪吒闹海、大闹天宫、金刚葫芦娃等都在学术期刊封面<span style="color: black;">显现</span>过。</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">这些插图既有卡通绘画<span style="color: black;">成份</span>，<span style="color: black;">亦</span>有人工绘图，还有AI生成。2020年4月，江苏师范大学化学与材料科学学院副院长石枫教授在《中国化学杂志》<span style="color: black;">发布</span>的一篇论文是描述设计了一类新型轴手性芳基烯烃-吲哚骨架，论文封面采用女娲<span style="color: black;">运用</span>五色石补天来比喻这一构建过程。这篇论文封面的女娲娘娘的脸是真人，即通讯作者石枫，这显然是AI生成的<span style="color: black;">照片</span>。</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">由此<span style="color: black;">能够</span>看到，学术论文未必是全面禁止AI生成<span style="color: black;">照片</span>，<span style="color: black;">然则</span>，<span style="color: black;">详细</span><span style="color: black;">运用</span><span style="color: black;">必须</span>有一个标准，但这种标准<span style="color: black;">日前</span>还<span style="color: black;">无</span>非常<span style="color: black;">知道</span>的界线。对此，<span style="color: black;">研究</span>打假名人、荷兰微生物学家和科学诚信顾问伊丽莎白·比克（Elisabeth Margaretha Harbers-Bik）对此次西安市红会医院的论文撤稿的评论或许<span style="color: black;">表示</span>了某种<span style="color: black;">详细</span>标准。她<span style="color: black;">叫作</span>，论文中“由Midjourney生成的插图<span style="color: black;">美丽</span>但无<span style="color: black;">道理</span>，在解剖学和科学上都是不正确的”，“<span style="color: black;">同期</span>作者附上的文本标签<span style="color: black;">更加是</span>让人难以理解”。</p><img src="https://p3-sign.toutiaoimg.com/tos-cn-i-tjoges91tu/fea81193c84d968f2c9b9b9cc148bdfc~noop.image?_iz=58558&from=article.pc_detail&lk3s=953192f4&x-expires=1723954927&x-signature=sTOrmFwYVZsysIskfYN4y%2FM61eg%3D" style="width: 50%; margin-bottom: 20px;">
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">石枫论文封面上的“女娲”的脸<span style="color: black;">便是</span>石枫自己的</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">这种正确既可能是<span style="color: black;">详细</span><span style="color: black;">道理</span>上的正确，如正常大鼠不会有4个睾丸；<span style="color: black;">亦</span><span style="color: black;">能够</span>是抽象和理念上的正确，以及让人<span style="color: black;">能够</span>理解，如以女娲<span style="color: black;">运用</span>五色石补天来比喻一种新型化学分子构建，这种比喻比较容易让人理解。</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;"><span style="color: black;">不外</span>，<span style="color: black;">将来</span><span style="color: black;">针对</span>AI生成文本和<span style="color: black;">照片</span><span style="color: black;">更加多</span>地介入<span style="color: black;">研究</span>，<span style="color: black;">那些</span>可用，<span style="color: black;">那些</span>不可用，有<span style="color: black;">非常多</span>原则和界线还<span style="color: black;">必须</span>探讨。 </p>
大势所趋，用于讽刺一些制作目的就是为了跟风玩梗，博取眼球的作品。 i免费外链发布平台 http://www.fok120.com/ 你的见解独到，让我受益匪浅，非常感谢。
页:
[1]