太离谱!有人用 Midjourney 给生物学论文配图,画得漏洞百出,结果还一路顺畅成功发表???比如下面这幅 Figure 1,就被大家“一起来找茬”,轻易找出了 5 处不符合现实的情况。
这里小卖个关子,究竟有哪五处错误,我们放在本文文末揭晓(doge)。
更令人费解的是,接收并发表该篇论文的期刊,是生物学 SCI 期刊 Frontiers in Cell and Developmental Biology(《细胞与发育生物学前沿》,为方便阅读,下文统一简称 Frontiers),影响因子在 5.5 左右。
发表 3 天,该论文就有 30 万 + 的阅读量,以及超 16000 的下载量。Unbelievable!被发现并指出后,Frontiers 采取的紧急公关策略简单粗暴:撤稿。
还原离谱 AI 绘画事件始末
舆论风暴中心的这篇论文,叫作《Cellular functions of spermatogonial stem cells in relation to JAK / STAT signaling pathway》(《精原干细胞的细胞功能与 JAK / STAT 信号通路的关系》),是一篇综述(review)文章。
论文的主要内容是全面回顾精原干细胞 (SSC) 和 JAK / STAT 信号通路之间的相互关系。
三名作者均来自中国西安,从事脊柱外科方面的工作。
根据此前的信息,该论文主编为来自印度国家乳制品研究所的 Arumugam Kumaresan;2 位审稿人一位同样来自印度,名叫 Binsila B. Krishnan,另一位则在美国西北大学医疗系统工作,名叫 Jingbo Dai。
Frontiers 官网信息显示,该论文于去年 11 月 17 日投稿,12 月 28 日圣诞假期间被接收,正式发表则是 2 月 13 日,即上周的事儿。
但就是这么一篇论文,文章配图令人大跌眼镜。
除了本文开篇提到(并将在文末揭晓答案)的鼠鼠配图,以下几张配图都有无法容忍的 bug。
这是 Figure 2:
网友们指出,这张图颜色丰富,乍一看很不错。但稍微仔细一点,就能发现里面的文字那叫一个鬼画桃符,并且箭头和流程连接也缺乏逻辑。更重要的是作者们也没来个图例注释,根本不知道图上都是些什么……
接下来看看 Figure3:
同样也是色彩丰富鲜艳,实则“中看不中用”。
究竟为什么,本该严谨的学术论文会出这么大岔子?其实谜题就在谜面上,作者们早就明明白白地标出来了 —— 文章中的配图,是由 AI 生成的,用的还是 Midjourney。
众所周知,AI 绘画可能存在 bug,在写字方面也并不精通,这才导致了这场闹剧。
因此,发表 3 天后,Frontiers 出版社宣布,对这篇论文作撤稿处理。同时宣布进入调查程序。
(这篇论文)发布后,人们对其中由 AI 生成的数据的性质提出了担忧。该文章不符合本刊的编辑和科学严谨标准;因此,该文章已经被撤回。
撤回行为已得到 Frontiers 首席执行编辑的批准。我们衷心感谢因本次事件来联系我们的读者们。
网友玩梗,疯狂鞭尸
对于这件乌龙事,Frontiers 处理得其实还算迅速。然而网友们并不特别买账,在网络上开启了机关枪式嘲讽。具体方式就是用 AI 绘画,然后配文一顿瞎编。
非常高兴和大家分享我写的《关于他汀类药物引起的舞蹈》的 Frontiers review。
但看这条推文,好笑程度 100%,但看到这条推特底下的评论,好笑程度 10000%。网友是这么说的:“简直是 100 个 AI 机器人‘盲’审的。”
玩梗鞭尸的人还有人多,比如下面几个:
“恭喜您题为“小鼠胃肠道模型”的论文已完成同行评审,现已准备在 Frontiers 发表。”
这是我写的最新文章,《胎儿编程的迷人机制》~
看看我的大作 —— 一篇有关 Fly Dck 干细胞的文章,它即将在 frontiers review 上发表。
玩闹之外,还有相关从业人员出来表达了自己的出离愤怒。有人说,这件事非常糟糕,但居然仅仅是 Frontiers 发表失实论文的一个小小代表。
而所有有问题的论文,都是经过这次闹剧也经过“同行评审”,才出现在世人面前。更可怕的是,Frontiers 是科学界文献的巨大出版平台,它在全球出版商中排名第六,被引用次数则位列前三。
还有一位剑桥病理学教授站出来,称他对所有卷入本次 AI 配图事件的人感到羞耻。发推特还不够,他洋洋洒洒,写了个 blog 小作文讲述自己的亲身经历。他曾经是 Frontiers 的编辑,但现如今不仅已经辞职,还拒绝再为 Frontiers 审稿。
原因只有一个,那就是 Frontiers 很难对投稿人说“婉拒了哈”—— 这或许也是 Frontiers 近年来发文数量膨胀的主要原因。由此编辑只能日以继夜、夜以继日地不断审稿。
他认为 Frontiers 的乌托邦愿景与无限扩展期刊发生了冲突,逐渐走上“发表废话以换取金钱的道路”,与自己道不相同,因此毅然决然辞职拜了个拜。
此外,他还在 blog 中提到了几点。
一是近 10 年来,Frontiers 发表的文章数量比所有学会期刊发表文章数量的总和还要多。
需要重新设计科学出版,充分意识到它可能被操纵的方式,并预防有毒后果。
二是同行评审的失败。
科学期刊的同行评审质量差异很大。需要严格的认证体系来为出版危害科学的期刊提供依据
三是生成式 AI 可以快速伪造论文内容(包括数据、配图等),这加剧了目前的混乱局面。
这必须引起重视,需要积极设计系统来减轻这些危害。
在实施有效的防止方法之前,需要警惕警惕再警惕,谨慎谨慎再谨慎。
One More Thing
好了,是时候揭晓本文开头 Midjourney 画的鼠鼠 AI 图的不合理之处。可以对照看看,你都找出来了吗?
(终于写完了,本怕人士溜了溜了)
参考链接:
[1]https://www.frontiersin.org/articles/10.3389/fcell.2024.1386861/full
[2]https://twitter.com/search?q=Frontiers%20review&src=recent_search_click
[3]https://www.listonlab.uk/blog/2024/2/16/a-looming-threat-to-scientific-publication.html
本文来自微信公众号:量子位 (ID:QbitAI),作者:衡宇
广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。