|
近期，一篇来自西安市红会医院的医学论文作为网红，论文发布三天就被撤稿，撤稿的原由是采用了AI生成的插图。这些插图诱发了网友的热榜，大鼠长出了巨大的四个睾丸和阴茎，细胞信号传导图像电路板，而“撒了糖屑的甜甜圈”更加是让人难以理解论文所要表达的意思。 
AI生成的论文插图，诱发争议
这篇论文于2024年2月13日在线发布于开放获取期刊《细胞与生长生物学前沿》（Front. Cell Dev. Biol），作者在文中坦承，这些照片由人工智能绘图工具Midjourney生成。
文案的标题为《精原干细胞的细胞功能与JAK/STAT信号通路的关系》，在诱发关注后，期刊编辑部在2月16日就宣布撤稿。编辑部暗示，文案的相关人工智能生成图表性质的担忧被提出，“该文案未达到本刊编辑和科学严谨标准，因此呢文案已被撤回”。
仅仅是由于文案中采用了AI生成的插图就被撤稿，这表示了国际科学界正在执行严防生成式人工智能混淆真假科学科研的最严格标准，同期亦在进一步知道在AI持续介入人们生活的方方面面时，那些是科学诚信原则，必须遵循。
此刻，全世界的科学和学术期刊都有类似的规定，不发布AI生成和AI署名的学术文案，其中，英国《自然》杂志的解释拥有表率性。
在2023年6月的一篇社论中，《自然》杂志叫作，为了保准科研的诚信、透明和道德，将不会刊登任何运用生成式人工智能（generative AI）工具创作的照片、视频或插图，除非是与人工智能关联的文案。
原由在于，生成式人工智能工具没法供给其数据源自的信息，使得编辑、出版者和读者没法核实其准确性和真实性。这违背了科学出版的诚信和透明原则。其次，生成式人工智能工具可能侵犯了数据所有者的隐私和知识产权，由于它们一般运用了海量未经授权的受版权守护的作品进行训练。再次，生成式人工智能工具可能加剧了虚假信息的传播。例如，深度伪造（deepfake）便是一种利用生成式人工智能制造假视频的技术，能够用来误导公众或诽谤他人。
基于这些原由，《自然》杂志坚决不承认任何生成式人工智能工具做为论文作者。
显然，《细胞与生长生物学前沿》对西安市红会医院的论文撤稿亦是基于以上原由，但基本的原由是，生成式人工智能产生的无论是文案内容和插图，都会让人真假难辨，难以区分论文所科研的内容在现实中是真还是假。一旦论文造假，针对社会所有人都是劫难，例如医学论文关系着人的健康和生命，一旦论文描述的内容虚假，人们将付出健康和生命的沉痛代价。
进一步观察，西安市红会医院作者的论文被撤稿有更深刻的原由。一是论文插图违背事实真相，插图中实验大鼠有4个巨大的睾丸，但正常状况下大鼠仅有2个睾丸，以及干细胞在培养皿中宛若能够用勺子摄食的食品。二是，这些插图中含有生造的新词标签，如testtomcels、senctolic等。三是，论文图注中还有词语错误，如把“干细胞”（stem cells）写错了。 
论文中细胞信号传导图像电路板，其中有的图案像是甜甜圈，诱发争议。
这些问题一方面反映了审稿人的粗心大意，但另一方面似乎亦表现出有些科研人员，包含审稿人对AI生成照片的宽容，认为照片只是一种对文字内容的形象说明。由于，《自然》杂志亦表态叫作，并不完全排斥人工智能，杂志准许在文案中运用生成式人工智能辅助产生的文本，只要在办法或致谢部分知道说明。另外，所有数据的源自，乃至是由于人工智能帮助产生的数据，都必要由作者供给。
这亦寓意着，论文能够采用人工智能做为辅助手段，然则无论是文字和插图都应当说明是AI生成。其次，AI生成的所有数据，都是作者实质科研产生的。况且，从此次撤稿来看，采用AI辅助写论文有一个新的标准显现了，即便AI生成的照片能够用来生动解释科研内容，亦要符合实质状况，况且不可太夸张。
随之而来的是，此次论文撤稿亦提出了一个问题，学术论文采用AI生成插图的边界在哪里，这似乎是日前的一个模糊地带。采用卡通图、手绘图和AI生成图做为论文的插图或封面，在研究中不乏存在，中国神话内容，如女娲补天、盘古开天辟地、后羿弯弓射箭、哪吒闹海、大闹天宫、金刚葫芦娃等都在学术期刊封面显现过。
这些插图既有卡通绘画成份，亦有人工绘图，还有AI生成。2020年4月，江苏师范大学化学与材料科学学院副院长石枫教授在《中国化学杂志》发布的一篇论文是描述设计了一类新型轴手性芳基烯烃-吲哚骨架，论文封面采用女娲运用五色石补天来比喻这一构建过程。这篇论文封面的女娲娘娘的脸是真人，即通讯作者石枫，这显然是AI生成的照片。
由此能够看到，学术论文未必是全面禁止AI生成照片，然则，详细运用必须有一个标准，但这种标准日前还无非常知道的界线。对此，研究打假名人、荷兰微生物学家和科学诚信顾问伊丽莎白·比克（Elisabeth Margaretha Harbers-Bik）对此次西安市红会医院的论文撤稿的评论或许表示了某种详细标准。她叫作，论文中“由Midjourney生成的插图美丽但无道理，在解剖学和科学上都是不正确的”，“同期作者附上的文本标签更加是让人难以理解”。 
石枫论文封面上的“女娲”的脸便是石枫自己的
这种正确既可能是详细道理上的正确，如正常大鼠不会有4个睾丸；亦能够是抽象和理念上的正确，以及让人能够理解，如以女娲运用五色石补天来比喻一种新型化学分子构建，这种比喻比较容易让人理解。
不外，将来针对AI生成文本和照片更加多地介入研究，那些可用，那些不可用，有非常多原则和界线还必须探讨。
| 
发表于 2024-8-19 04:26:21
