Replikationskrise

Unterstützen Sie FreeWiki

Der folgende Textabschnitt basiert auf dem Artikel „Replication Crisis“ aus Wikipedia, gelesen am 31.8.2019, und steht unter der Lizenz Creative Commons CC-BY-SA 3.0 Unported (Kurzfassung). In der Wikipedia ist auf der genannten Seite eine Liste der Autoren verfügbar. Änderungen möglich.

Diese FreeWiki-Seite ist noch als ein Fragment zu betrachten, d. h. es ist keine strukturierte Seite, sondern nur eine Sammlung von Material oder Textvorschlägen.
Der entsprechende Wikipedia-Artikel wird für nicht ausreichend, nicht zuverlässig und / oder manipuliert gehalten. Hier im FreeWiki wird versucht, eine sachlich korrekte Seite zu erstellen.

Dieser Artikel ist eng mit dem Artikel über den Decline Effect verbunden, welcher Teil dieser Krise ist. Für weitere Erklärungen und Material siehe auch dort.

Die Replikationskrise (oder Wiederholbarkeitskrise oder Reproduzierbarkeitskrise) ist eine andauernde (2019) methodische Krise, in der festgestellt wurde, dass viele wissenschaftliche Studien schwer oder unmöglich zu reproduzieren oder zu wiederholen sind. Die Replikationskrise betrifft die Sozial- und Biowissenschaften am stärksten, , während die exakten Wissenschaften immer noch zögern, sich dem Problem überhaupt zu stellen und in ihrer Forschung meistens nicht einmal Verblindung verwenden. Die Krise hat langjährige Wurzeln. Der Begriff selbst wurde Anfang 2010 geprägt als Teil eines wachsenden Problembewusstseins. Die Replikationskrise bildet in der Wissenschaftstheorie einen wichtigen Forschungsgegenstand.

Da die Reproduzierbarkeit von Experimenten ein wesentlicher Bestandteil der wissenschaftlichen Methode ist, hat die Unmöglichkeit, die Studien anderer zu replizieren, potenziell schwerwiegende Folgen für viele Wissenschaftsbereiche, in denen bedeutende Theorien auf nicht reproduzierbaren experimentellen Arbeiten basieren. Die Replikationskrise wurde insbesondere im Bereich der Psychologie (insbesondere der Sozialpsychologie) und in der Medizin diskutiert, wo eine Reihe von Bemühungen unternommen wurden, klassische Ergebnisse neu zu untersuchen und zu versuchen, sowohl die Zuverlässigkeit der Ergebnisse als auch, wenn sie sich als unzuverlässig erweisen, die Gründe für das Scheitern der Replikation zu bestimmen.

Umfang der Krise

Insgesamt

Laut einer Umfrage von 1.500 Wissenschaftlern im Jahr 2016 berichteten 70% von ihnen, dass sie es versäumt hatten, mindestens ein anderes Experiment eines Wissenschaftlers zu reproduzieren (50% hatten es versäumt, eines ihrer eigenen Experimente zu reproduzieren). Im Jahr 2009 haben 2% der Wissenschaftler, die zur Fälschung von Studien zugelassen wurden, mindestens einmal und 14%, die zur persönlichen Kenntnisnahme von jemandem, der dies tat, zugelassen wurden. Fehlleitungen wurden von medizinischen Forschern häufiger gemeldet als andere.

Psychologie

Mehrere Faktoren sind zusammengekommen und haben die Psychologie in den Mittelpunkt der Kontroverse gebracht. Ein Großteil des Fokus lag dabei auf dem Bereich der Sozialpsychologie, obwohl andere Bereiche der Psychologie wie die klinische Psychologie, Entwicklungspsychologie, und Bildungsforschung ebenfalls einbezogen wurden. According to a 2018 survey of 200 meta-analyses, "psychological research is, on average, afflicted with low statistical power".

Erstens wurden fragwürdige Forschungspraktiken („questionable research practices“ = QRPs) als üblich im Bereich. Solche Praktiken, obwohl sie nicht absichtlich betrügerisch sind, beinhalten die Nutzung der Grauzone akzeptabler wissenschaftlicher Praktiken oder die Nutzung der Flexibilität bei der Datenerfassung, -analyse und -berichterstattung, oft in dem Bestreben, ein gewünschtes Ergebnis zu erzielen. Beispiele für QRPs sind selektive Berichterstattung oder teilweise Veröffentlichung von Daten (nur einige der Studienbedingungen oder gesammelte abhängige Messungen in einer Publikation), optionales Stoppen (Wahl, wann die Datenerhebung gestoppt werden soll, oft basierend auf der statistischen Signifikanz von Tests), p-Wertrundung (Aufrunden der p-Werte auf 0.05, um statistische Signifikanz nahezulegen), den Schubladeneffekt (Nichtveröffentlichung von Daten), das Post-Hoc-Storytelling (Framing explorativer Analysen als Bestätigungsanalysen) und die Manipulation von Ausreißern (entweder das Entfernen von Ausreißern oder das Belassen von Ausreißern in einem Datensatz, um einen statistischen Test signifikant wirken zu lassen). Eine Umfrage unter über 2.000 Psychologen ergab, dass eine Mehrheit der Befragten die Verwendung mindestens eines QRP zugelassen hat. Falsch positive Schlussfolgerungen, die sich oft aus dem Druck zur Veröffentlichung oder des eigenen „confirmation bias“ des Autors ergeben, sind eine inhärente Gefahr für das Feld und erfordern ein gewisses Maß an Skepsis seitens der Leser.

Zweitens haben sich insbesondere die Psychologie und die Sozialpsychologie im Mittelpunkt mehrerer Skandale wiedergefunden. bei denen es um echten Forschungsbetrug ging, vor allem die eingestandene Erfindung von Daten durch Diederik Stapel sowie Vorwürfe gegen andere. Die meisten Wissenschaftler erkennen jedoch an, dass Betrug vielleicht der geringere Beitrag zu Replikationskrisen ist.

Drittens haben sich mehrere Effekte in der Psychologie bereits vor der aktuellen Replikationskrise als schwer reproduzierbar erwiesen. So hat beispielsweise die Fachzeitschrift "Judgment and Decision Making" im Laufe der Jahre mehrere Studien veröffentlicht, die die Theorie des unbewussten Denkens nicht unterstützen konnten. Replikationen erscheinen besonders schwierig, wenn Forschungsstudien vorregistriert und von Forschergruppen durchgeführt werden, die für die fragliche Theorie nicht sehr stark engagiert sind.

Diese drei Elemente zusammen haben zu einer erneuten Aufmerksamkeit für die Replikation geführt, die vom Psychologen Daniel Kahneman unterstützt wird. Die Untersuchung vieler Effekte hat gezeigt, dass einige Kernüberzeugungen schwer zu replizieren sind. Eine aktuelle Sonderausgabe der Zeitschrift Sozialpsychologie, die sich auf Replikationsstudien konzentrierte, und eine Reihe von bisher vertretenen Überzeugungen erwiesen sich als schwer zu replizieren. Eine Sonderausgabe der Zeitschrift Perspectives on Psychological Science aus dem Jahr 2012 konzentrierte sich auch auf Themen, die vom publication bias bis zur Null-Aversion reichen und zu den Replikationskrisen in der Psychologie beitragen. Im Jahr 2015 wurde die erste offene empirische Studie zur Reproduzierbarkeit in der Psychologie veröffentlicht, das so genannte Reproduzierbarkeitsprojekt. Forscher aus der ganzen Welt arbeiteten zusammen, um 100 empirische Studien aus drei führenden psychologischen Zeitschriften zu replizieren. Bei weniger als der Hälfte der versuchten Replikationen war es gelungen, statistisch signifikante Ergebnisse in den erwarteten Richtungen zu erzielen, obwohl die meisten der versuchten Replikationen Trends in die erwarteten Richtungen hervorriefen.

Viele Forschungsstudien und Metaanalysen werden durch schlechte Qualität und Interessenkonflikte beeinträchtigt, an denen sowohl Autoren als auch professionelle Interessenvertretungen beteiligt sind, was zu vielen falsch Positiven in Bezug auf die Wirksamkeit bestimmter Arten von Psychotherapie führt.

Obwohl die britische Zeitung The Independent schrieb, dass die Ergebnisse des Reproduzierbarkeitsprojektes zeigen, dass ein Großteil der veröffentlichten Forschung nur "Psycho-Gequatsche" ist, bedeutet die Replikationskrise nicht unbedingt, dass Psychologie unwissenschaftlich ist. Vielmehr ist dieser Prozess ein gesunder, wenn auch manchmal bitterer Teil des wissenschaftlichen Prozesses, in dem alte Ideen oder solche, die einer sorgfältigen Prüfung nicht standhalten können, beschnitten werden, auch wenn dieser Stutzungsprozess nicht immer effektiv ist. Die Konsequenz ist, dass einige Bereiche der Psychologie, die einst als solide angesehen wurden, wie z.B. Social Priming, aufgrund gescheiterter Replikationen zunehmend unter die Lupe genommen werden.

Der Nobelpreisträger und emeritierte Professor für Psychologie Daniel Kahneman argumentierte, dass die Originalautoren an der Replikation beteiligt werden sollten, da die veröffentlichten Methoden oft zu vage sind. Andere wie Dr. Andrew Wilson sind anderer Meinung und argumentieren, dass die Methoden im Detail beschrieben werden sollten. Eine Untersuchung der Replikationsraten in der Psychologie im Jahr 2012 ergab höhere Erfolgsraten in Replikationsstudien, wenn es zu Überschneidungen mit den Originalautoren einer Studie kam (91,7% erfolgreiche Replikationsraten in Studien mit Autorenüberschneidungen im Vergleich zu 64,6% erfolgreichen Replikationsraten ohne Autorenüberschneidungen).

Replikationsraten in der Psychologie

Ein Bericht derOpen Science Collaboration vom August 2015, der von Brian Nosek koordiniert wurde, schätzte die Reproduzierbarkeit von 100 psychologischen Studien aus drei hochrangigen psychologischen Zeitschriften. Insgesamt lieferten 36% der Replikationen signifikante Ergebnisse (p Wert unter 0,05) im Vergleich zu 97% der ursprünglichen Studien, die signifikante Effekte hatten. Die mittlere Effektgröße in den Replikationen war etwa halb so groß wie die in den Originalstudien berichteten Effekte.

Im gleichen Beitrag wurden die Reproduzierbarkeitsraten und Effektgrößen nach Zeitschriften untersucht (Journal of Personality and Social Psychology[JPSP], Journal of Experimental Psychology: Learning, Memory, and Cognition [JEP:LMC], Psychological Science [PSCI]) und nach Disziplinen (Sozialpsychologie, kognitive Psychologie). Die Replikationsraten der Studien lagen bei 23% für JPSP, 38% für JEP:LMC und 38% für PSCI. Studien im Bereich der kognitiven Psychologie hatten eine höhere Replikationsrate (50%) als Studien im Bereich der Sozialpsychologie (25%).

Eine Analyse der Publikationsgeschichte in den Top-100-Psychologiezeitschriften zwischen 1900 und 2012 ergab, dass etwa 1,6% aller psychologischen Publikationen Replikationsversuche waren. Artikel wurden als Replikationsversuch betrachtet, wenn der Begriff "Replikation" im Text erschien. Eine Teilmenge dieser Studien (500 Studien) wurde nach dem Zufallsprinzip für weitere Untersuchungen ausgewählt und ergab eine geringere Replikationsrate von 1,07% (342 der 500 Studien [68,4%] waren tatsächlich Replikationen). In der Teilmenge von 500 Studien zeigte die Analyse, dass 78,9% der veröffentlichten Replikationsversuche erfolgreich waren. Die Rate der erfolgreichen Replikation war signifikant höher, wenn mindestens ein Autor der Originalstudie Teil des Replikationsversuchs war (91,7% gegenüber 64,6%).

Eine 2018 in der Zeitschrift Nature Human Behaviour veröffentlichte Studie versuchte, 21 sozial- und verhaltenswissenschaftliche Arbeiten aus Nature und Science zu replizieren, wobei festgestellt wurde, dass nur 13 erfolgreich repliziert werden konnten. Ebenso in einer Studie, die unter der Schirmherrschaft des Center for Open Science, ein Team von 186 Forschern aus 60 verschiedenen Labors (die 36 verschiedene Nationalitäten aus 6 verschiedenen Kontinenten repräsentieren), Replikationen von 28 klassischen und zeitgenössischen Erkenntnissen in der Psychologie durchführte. Der Fokus der Studie lag nicht nur darauf, ob die Ergebnisse aus den Originalarbeiten repliziert wurden oder nicht, sondern auch darauf, inwieweit die Ergebnisse in Abhängigkeit von Variationen in Proben und Kontexten variierten. Insgesamt konnten 14 der 28 Befunde trotz erheblicher Stichprobengröße nicht repliziert werden. Wenn ein Befund jedoch repliziert wurde, wurde er in den meisten Stichproben repliziert, während er, wenn er nicht repliziert wurde, mit geringer Variation zwischen Stichproben und Kontexten nicht repliziert werden konnte. Dieser Nachweis steht im Widerspruch zu einer populären Erklärung, dass Versäumnisse bei der Replikation in der Psychologie wahrscheinlich auf Änderungen in der Stichprobe zwischen Original- und Replikationsstudie zurückzuführen sind.

Ein soziales Dilemma der ganzen Disziplin

Im Versuch, die soziale Struktur herauszuarbeiten, die die Replikation in der Psychologie verhindert, zählten Brian D. Earp und Jim A. C. Everett fünf Punkte auf, warum Replikationsversuche ungewöhnlich sind:

"#Unabhängige, direkte Replikationen der Ergebnisse anderer können für den replizierenden Forscher zeitaufwendig sein.

1. "[Replikationen] werden wahrscheinlich Energie und Ressourcen direkt von anderen Projekten abziehen, die das eigene ursprüngliche Denken widerspiegeln.
2. "[Replikationen] sind im Allgemeinen schwieriger zu veröffentlichen (größtenteils, weil sie als unoriginell angesehen werden).
3. "Selbst wenn [Replikationen] veröffentlicht werden, werden sie wahrscheinlich als "Maurerarbeiten" angesehen, und nicht als wichtige Beiträge zum Thema.
4. "[Replikationen] bringen ihren Autoren weniger Anerkennung und Belohnung und sogar weniger grundlegende Karrieresicherheit"

Aus diesen Gründen halten die Autoren dafür, dass sich die Psychologie als Disziplin in einem sozialen Dilemma befindet, in dem die Interessen der Disziplin im Widerspruch zu den Interessen des einzelnen Forschers stehen.

Medizin

Medizinische Forscher gehörten zu den ersten, die Alarm schlugen, als es um die mangelnde Reproduzierbarkeit von vorklinischen Studien zu Arzneimitteln ging, die für den industriellen Einsatz bestimmt waren. Dieser Mangel an Reproduzierbarkeit und damit an Zuverlässigkeit in der Forschung begann für Pharmaunternehmen zu einem wachsenden Problem zu werden, da ihre Entscheidungen, in welche Arzneimittelziele sie Geld für teure klinische Forschung investieren wollen, hauptsächlich von solchen Studien abhängen.

Von 49 medizinischen Studien von 1990-2003, mit mehr als 1000 Zitierungen, behaupteten 45, dass die studierte Therapie wirksam sei. Von diesen Studien wurden 16% durch Folgestudien widerlegt, 16% hatten stärkere Effekte gefunden als Folgestudien, 44% wurden repliziert, und 24% blieben weitgehend unangefochten. Die US Food and Drug Administration fand in den Jahren 1977-1990 Fehler in 10-20% der medizinischen Studien. In einer 2012 veröffentlichten Arbeit stellten Glenn Begley, ein Biotech-Berater, der bei Amgen arbeitet, und Lee Ellis von der University of Texas fest, dass nur 11% der vorklinischen Krebsstudien repliziert werden könnten.

Ein Artikel vonJohn Ioannidis, Professor für Medizin und Gesundheitsforschung und -politik an der Stanford University School of Medicine und Professor für Statistik an der Stanford University School of Humanities and Sciences, ging 2016 darauf ein , „warum die meiste klinische Forschung nichts nützt“ ("Why Most Clinical Research Is Not Useful")". Im Artikel legte Ioannidis einige der Probleme dar und forderte eine Reform mit bestimmten Charakteristika, damit die medizinische Forschung wieder nützlich sei; ein Beispiel dafür war die Notwendigkeit, dass die Medizin "patientenzentriert" sein müsse (z.B. in Form des Patient-Centered Outcomes Research Institute) anstelle der derzeitigen Praxis, sich hauptsächlich um "die Bedürfnisse von Ärzten, Forschern oder Sponsoren" zu kümmern. Ioannidis ist seit der 2005 erschienenen Arbeit "Why Most Published Research Findings Are False" bekannt für seinen Forschungsschwerpunkt auf der Wissenschaft selbst.

Marketing

Marketing ist eine weitere Disziplin mit einem "dringenden Bedarf" an Replikation. Viele berühmte Marketingstudien können beim Replikationsversuch nicht wiederholt werden, ein bemerkenswertes Beispiel ist der "too-many-choices"-Effekt, bei dem eine hohe Anzahl von Produktwahlen die Kaufwahrscheinlichkeit für einen Verbraucher verringern soll. Zusätzlich zu den oben genannten Argumenten sind Replikationsstudien im Marketing erforderlich, um die Anwendbarkeit von Theorien und Modellen über Länder und Kulturen hinweg zu untersuchen, was aufgrund möglicher Einflüsse der Globalisierung besonders wichtig ist.

Wirtschaftswissenschaften

Eine Studie aus dem Jahr 2016 in der Zeitschrift Science ergab, dass ein Drittel von 18 experimentellen Studien aus zwei hochrangigen Wirtschaftszeitschriften (American Economic Review und dem Quarterly Journal of Economics) nicht erfolgreich repliziert werden konnte. Eine Studie aus dem Jahr 2017 im Economic Journal schlug vor, dass "die Mehrheit der durchschnittlichen Effekte in der empirischen Wirtschaftsliteratur um den Faktor 2 und mindestens ein Drittel um den Faktor 4 oder mehr übertrieben sind".

Sportwissenschaften

Eine Studie aus dem Jahr 2018 stellte das Gebiet der Bewegungs- und Sportwissenschaften vor die Aufgabe, unzureichende Replikationsstudien, begrenzte Berichterstattung über Nullergebnisse und triviale Ergebnisse sowie unzureichende Forschungstransparenz zu liefern. Statistiker haben die Sportwissenschaft für die allgemeine Anwendung einer umstrittenen statistischen Methode namens "magnitude-based inference" kritisiert, die es Sportwissenschaftlern ermöglicht hat, scheinbar signifikante Ergebnisse aus dem Datenrauschen zu extrahieren, wo normale Hypothesentests keine gefunden hätten.

Hydrologie

Eine Studie aus dem Jahr 2019 in der Zeitschrift "Scientific Data" ergab, dass nur eine kleine Anzahl von Artikeln in Zeitschriften für Hydrologie und Wasserressourcen aufgrund der Nichtverfügbarkeit von Daten reproduziert werden können. Die Studie "schätzte mit 95%iger Sicherheit, dass die Ergebnisse nur für 0,6% bis 6,8% aller 1.989 Artikel reproduziert werden können".
Diese Studie bezieht sich vor allem auf die Qualität der Dokumentation von origninalem Material, die offensichtlich nur wenig oder gar nicht gegeben ist. Da keine Rohdaten vorliegen, kann die faktische Validität der wissenschaftlichen Artikel nicht abgeschätzt werden, aber die wissenschaftliche Nicht-Reproduzierbarkeit ist damit nicht nachgewiesen.

Exakte Wissenschaften

Im Gegensatz zu den Sozial- und Biowissenschaften würden die meisten davon ausgehen, dass die "exakten Wissenschaften" – Physik, Chemie, Biologie, Astronomie, etc. – von dieser Krise nicht betroffen seien. Dennoch scheint es dort auch einige Probleme zu geben. "Sogar die Physik ist betroffen, wie William Wilson feststellt. "Zwei der am meisten gepriesenen physikalischen Ergebnisse der letzten Jahre – die angekündigte Entdeckung sowohl der kosmischen Inflation als auch der Gravitationswellen beim BICEP2-Experiment in der Antarktis und die vermeintliche Entdeckung von superluminalen Neutrinos an der schweizerisch-italienischen Grenze – wurden nun zurückgezogen, und das mit weitaus weniger Fanfare als bei ihrer ersten Veröffentlichung." Siehe dies über das erstere und dies über das letztere.”

Naturkonstanten

Eine der Säulen der Physik und aller Wissenschaften, die auf den in der Physik beschriebenen Gesetzen basieren, ist die Annahme einer Beständigkeit der Naturkonstanten. Diese Konstanz ist eine allgemeine Annahme, da sie grundsätzlich nicht nachgewiesen werden kann. Man kann nur sagen, dass sie einigermaßen konstant waren, solange der Mensch sie messen kann, was im Vergleich zum Alter des Universums eine extrem kurze Zeitspanne ist.
Dennoch gibt es guten Grund, selbst an dieser Grundannahme der Physik zu zweifeln: "Ende 1998 hat die CODATA sogar beschlossen, die Unsicherheit des akzeptierten Wertes für die Gravitationskonstante von 128 ppm auf 1500 ppm zu erhöhen. Dieser bemerkenswerte Schritt, die Unsicherheit zu erhöhen, anstatt sie zu verringern, wurde unternommen, um die Diskrepanzen zwischen den jüngsten Experimenten wiederzuspiegeln, die einen weiten Bereich von mehr als 0,7 % umfassen."
Und in seiner Arbeit "The Science Delusion - Freeing the Spirit of Enquiry" diskutiert der Biologe und Philosoph Rupert Sheldrake dieses Problem und gibt viele Beispiele dafür, dass die fundamentalen Konstanten nicht so ewig sein können, wie gedacht, sondern sich mit der Zeit ändern. Er sieht die "Konstanten" eher als Gewohnheiten der Natur denn als ewige Gesetze. Sheldrake weist darauf hin, dass die grundlegenden physikalischen Konstanten künstlich als konstant gehalten werden, indem man sie so definiert, alle Messungen auf den Mittelwert reduziert und stark abweichende Messungen von der Zählung eliminiert. Tatsächlich liefern wissenschaftliche Messungen der Konstanten ständig ganz unterschiedliche Ergebnisse, die vom Committee on Data for Science and Technology (CODATA) gesammelt und normiert werden, um per Definition immer konstant zu bleiben..