(文/Wen-Jing Lin)
研究论文(paper )投稿到期刊接受评审(review )的过程中,采取单盲(single-blind ,亦即审阅人知道论文作者是谁但作者不知审阅人是谁)或是双盲(double- blind ,作者不知道审阅人是谁、审阅人也不知道作者是谁)会不会有不同的结果?
「一定的嘛!」──大家大概都这样觉得。
其实这是一项已被提出来多次讨论的议题,支持双盲制的人也不在少数,只是现今多数期刊仍行使单盲制──审阅人在审稿时仍然能够得知论文作者是谁、任职于哪个机构。过去研究者曾提出几项可能会因此而导致审阅人不公正的效应,例如Matilda effect指的是在男性主导的领域中,相较于第一作者为女性的论文,第一作者为男性的论文会被认为具有较高的科学价值。至于所谓的Matthew effect,指的是知名研究者的新研究成果通常能得到更大的关注。还有,作者如果来自有名的、顶尖的大学或机构,也可能使审阅人产生偏误。
1978 年,当时甫任教于北达科他大学心理系的Stephen J. Ceci和已经当了四年助理教授的Douglas P. Peters携手进行了一项有趣的实验,该实验于1982年发表于期刊《THE BEHAVIORAL AND BRAIN SCIENCES》上。他们从12个不同的心理学期刊上找出了12篇不同的paper,这些paper的共通点是它们的作者皆来自排名很前面的大学心理系或研究机构、作者本身非常有名与多产、文章达一定程度的引用率、而且是在过去18-32个月这段期间所发表的。Peters与Ceci两人将这12篇paper的作者姓名和单位名称更改成虚构的姓名与机构名称之后,重新投稿至原本的12个期刊。
结果发生了什么事?有三篇被编辑或审阅人发现是已经刊登过的文章,所以只有剩下的九篇进入评审阶段。然后,这九篇之中有八篇被拒绝刊登!而且审阅人最常给的拒绝理由是:研究方法有重大瑕疵(serious methodological flaws)。
这不是很奇怪吗?!如果有重大瑕疵,那这些论文是如何获得先前的审阅人和编辑的认可而获准刊登的?排除几个可能原因之后,Peters与Ceci认为,要嘛就是第一次遇到的审阅人能力都刚好比较差,要嘛就是大家都被作者或学校名声给蒙蔽了双眼。
一项发表于《PNAS》的新研究则是直接比较了审阅人在知道/不知道作者姓名单位的情况下,对于论文的评价是否有所不同。
这个由Google和北京清华大学合作发表的实验直接以投稿至10th International Association for Computing Machinery Conference on Web Search and Data Mining ( WSDM 2017)这个研讨会的500篇论文为实验材料。
在computer science这个领域,研究者多会把研究成果以conference paper的形式发表而不是投稿到期刊,而且审稿的时候审阅人会根据全文的结果来决定,而不是只看摘要。
在这个实验中,有半数的审阅人被分派至单盲组,另一半的审阅人则被分派到双盲组。实验包含bidding与reviewing两阶段。在两个阶段中,单盲组的审阅人都可以看到论文的作者和其所属单位,但双盲组的审阅人是看不到这些讯息的。bidding时,审阅人根据论文的标题和摘要来表示自己是否愿意审阅某篇文章(他们可以针对每篇论文表示愿意、不愿意、或可能三种选项,也可以不表示任何意见)。在reviewing的阶段,每篇论文都会由四位审阅人来审阅,单盲组和双盲组的各两位。
结果显示,两个组别的审阅人的行为在三件事情上有所差异。首先,单盲组的审阅人在bidding过程中较少表示意见1。其次,单盲组的审阅人在bidding时比双盲组的更加偏好那些作者来自于顶尖企业2或顶尖大学3的论文。最后,单盲组的审阅人在审稿完毕后比双盲组的审阅人更有可能给某些论文好评──作者来自顶尖大学/企业、或作者本身就有名4的论文。
简而言之,审稿的目的本是为了审视论文内容与品质,但论文作者本身的知名度、作者所属机构的名声都会影响审阅人的判断。这项研究的研究者表示,真的该是认真考虑采用双盲制的时候了。
注1:在computer science领域的研讨会中,bidding是重要的一环。
注2:此处所指之顶尖企业包括Google、 Microsoft、Yahoo!、与Facebook
注3:顶尖大学为www.topuniversities.com.之中computer science领域的全球前50名
注4:有名的作者指至少曾在WSDM发表过三篇文章,且发表过的paper总数量已经超过一百篇的人。
参考文献
Peters, DP, & Ceci, SJ (1982). Peer-review practices of psychological journals: The fate of published articles, submitted again. Behavioral and Brain Sciences , 5 (2), 187–195. doi:10.1017/S0140525X00011183
Tomkins, A., Zhang, M., & Heavlin, WD (2017). Reviewer bias in single- versus double-blind peer review. Proceedings of the National Academy of Sciences , 114 (48), 12708–12713. doi:10.1073 /pnas.1707323114
本文来自《Wen-Jing的科学文献报告》,经授权后发布,本文观点不代表沙鸥科报立场,转载请联系原作者。