Die Peer-Review-Formel

Es ist vielleicht nicht IPAT, aber auch ich habe eine Faustformel: eine durchschnittliche Wissenschaftlerin sollte 3mal so viele Papers pro Zeiteinheit begutachten wie sie selbst publiziert.

Ich habe bereits vor Kurzem darüber geschrieben, wie wichtig und zugleich prekär Peer Review ist. Bereits da fiel mir auf, dass man mehr begutachten sollte als man veröffentlicht. Nun beschloss ich, das Verhältnis etwas expliziter zu berechnen. Es fließen nämlich gleich mehrere Faktoren mit ein:

  1. Zahl der Gutachter*innen: jedes eingereichte Manuskript wird üblicherweise an mehrere Gutachter*innen geschickt, damit eine ausgewogene Meinung über die verschiedenen Aspekte der Einreichung gebildet werden kann. Das bedeutet, dass jeder Fachartikel mehrere Gutachter*innen beschäftigt – in meinem Feld sind es meistens zwei bis drei. Nehmen wir einen Durchschnitt von 2,5 an. Dieser Faktor bedeutet also, dass ich pro veröffentlichten eigenen Artikel 2,5mal so viele begutachten sollte.
  2. Zahl der Autor*innen: dies relativiert sich allerdings gleich, denn nicht nur der Peer Review, auch die Autorenschaft verteilt sich üblicherweise auf mehrere Köpfe. Seit einer Weile wird in vielen Disziplinen ein Trend zu multiplen Autorenschaften beobachtet. In der Ökonomik liegt die durchschnittliche Anzahl von Autor*innen pro Veröffentlichung zur Zeit bei knapp 2,5 (Quelle). Man beachte, dass in anderen Disziplinen die durchschnittliche Autor*innenzahl mitunter sehr viel höher liegt. Dieser Faktor bedeutet also, dass ich pro begutachteten Artikel 2,5mal so viele ruhigen Gewissens veröffentlichen „darf“.
  3. Zahl der Peer-Review-Runden: kaum ein Manuskript wird nach der Einreichung sofort zur Publikation angenommen. Dies geschieht nur mit herausragenden Artikeln, und auch das nur unter der Voraussetzung, dass die Herausgeberin der betreffenden Zeitschrift sich genug Zeit nimmt, dies selbst festzustellen, bevor sie das Manuskript zur Begutachtung rausschickt (zwei erfahrene Herausgeber berichteten einst in meiner Gegenwart von insgesamt zwei solchen Fällen in ihren Karrieren). Doch selbst wenn das Manuskript weder a) sofort angenommen noch b) sofort abgelehnt wird (desk rejection), gibt es im Peer Review mehrere Optionen. Diese schwanken etwas zwischen Zeitschriften, üblicherweise gibt es aber drei: a) accept, b) minor revisions, c) major revisions, d) reject. Bei a), c) und meistens auch b) bedarf es anschließend keiner weiteren Peer-Review-Runde; major revisions implizieren hingegen eine erneute Begutachtung – das heißt, jede Gutachterin muss das besagte Manuskript zweimal (selten auch ein drittes Mal) einschätzen. Leider kenne ich keine Statistiken hierzu; sie dürften sehr stark zwischen Zeitschriften variieren. Besonders renommierte Zeitschriften nehmen nur weniger als jede zehnte Einreichung an (z. B. Science: 7%); bei Ecological Economics sind es ca. 20%.1 Leider weiß ich nicht, welcher Anteil der abgelehnten 80% an einer desk rejection scheiterte; ich nehme ein Verhältnis von 50:50 zwischen desk rejections und Ablehnungen nach Peer Review an. Dies bedeutet, dass 60% aller Einreichungen mind. einmal begutachtet werden; ein Großteil der 20% angenommenen dürfte zu major revisions aufgefordert werden. Der Einfachheit halber nehme ich an, es betrifft sie alle. Pro veröffentlichten Artikel macht das also im Schnitt zwei Peer-Review-Runden. Pro eingereichten Artikel sieht die Zahl anders aus, dies wird aber gleich relevant sein. Dieser Faktor bedeutet also, dass ich pro veröffentlichten eigenen Artikel 2mal so viele begutachten sollte.
  4. Zahl der Zeitschriften: wie bereits oben erwähnt und mit einigen Zahlenbeispielen untermauert, wird nur ein Teil von Manuskripten bei der Zeitschrift angenommen, bei der sie zuerst eingereicht werden. Viele brauchen mehrere Anläufe – nicht zwangsläufig, weil es sich um schlechte Papers handelt, sondern aus mitunter schwer nachvollziehbaren Gründen. Eigentlich müsste man hier auch in Betracht ziehen, dass ein Teil der Einreichungen unbegutachtet abgelehnt wird (desk rejection). Aus Mangel an Statistiken nehme ich auf Basis eigener Erfahrungen und der Erfahrungen meiner Kolleg*innen an, dass ein durchschnittliches Paper den Begutachtungsprozess bei zwei Zeitschriften durchläuft – bei einer allerdings mit nur einer Peer-Review-Runde. Dieser Faktor bedeutet also, dass ich zum vorherigen Faktor (Zahl Peer-Review-Runden) +1 addieren muss.

Das Ergebnis: wenn ich Y Artikel pro Zeiteinheit (bspw. pro Jahr) veröffentliche (der aktuelle semioffizielle Richtwert am UFZ sind 4 Publikationen pro haushaltsfinanzierte Wissenschaftlerin), sollte ich pro derselben Zeiteinheit 2,5/2,5*(2+1)*Y=3*Y Manuskripte begutachtet haben, wobei ein Manuskript, das ich mehrmals begutachte, hier je einmal pro Peer-Review-Runde zählt.

Zum Abschluss noch ein Validitätscheck: ich habe bisher 12 Peer-Review-Artikel veröffentlicht. Sechs weitere Artikel habe ich eingereicht, von denen zwei noch in Begutachtung sind, zwei letztlich als nicht-Peer-Review-Publikationen veröffentlicht wurden, während ich zwei weitere aufgab. Diese 18 Papers hatten im Schnitt 4,35 Autor*innen (Median: 3). Sie „provozierten“ bisher 40 Gutachten (ich zähle dabei explizit nicht Einschätzungen durch Herausgeber, die mitunter selbst ein de-facto-Gutachten lieferten). In meinem Fall betrug also der erste Faktor ca. 2 (19 Runden, 40 Gutachten), der zweite 4,35 (wird allerdings stark von drei Ausreißern getrieben), der dritte und vierte zusammen ca. 1,6. Die Abweichungen von der Faustformel sind nicht übermäßig hoch. Laut dieser sollte ich bisher 36 Manuskripte begutachtet haben (knapp 10, wenn ich der realen Zahl der von mir verursachten Gutachten, um die durchschnittliche Autor*innenzahl korrigiert, entsprechen wollte). Mit 31 in meiner bisherigen Gutachter-Karriere liege ich also knapp darunter, aber wohl im akzeptablen Bereich.

Fußnoten

  1. Zu dieser Schätzung kam ich wie folgt: im Dezember des letzten Jahres begutachtete ich für Ecological Economics ein Manuskript, das Ende November eingereicht wurde. Die Zeitschrift versieht erstmals eingereichte Manuskripte mit einer laufenden, jahrspezifischen Nummer – daher weiß ich, dass bis Ende November ca. 1500 Manuskripte eingereicht worden waren. Extrapoliert macht das ca. 1600-1700 pro Jahr. 2017 wurden bei Ecological Economics 326 Artikel veröffentlicht. Das ergibt eine ca. 20%ige Annahme-Quote.

Kommentar verfassen

Trage deine Daten unten ein oder klicke ein Icon um dich einzuloggen:

WordPress.com-Logo

Du kommentierst mit Deinem WordPress.com-Konto. Abmelden /  Ändern )

Google Foto

Du kommentierst mit Deinem Google-Konto. Abmelden /  Ändern )

Twitter-Bild

Du kommentierst mit Deinem Twitter-Konto. Abmelden /  Ändern )

Facebook-Foto

Du kommentierst mit Deinem Facebook-Konto. Abmelden /  Ändern )

Verbinde mit %s

This site uses Akismet to reduce spam. Learn how your comment data is processed.