Debatte

Großsprachige Modelle für die Plasmaforschung - Fluch oder Segen?

Große Sprachmodelle (LLM) wie ChatGPT und andere können die Art und Weise, wie wir Forschung betreiben, verändern.  Diese Systeme dienen als Werkzeug für Literaturrecherchen, Datenanalysen und Programmieraufgaben. Aber was sind die Potentiale von LLMs und ihre Unzulänglichkeiten, insbesondere im Hinblick auf die sehr interdisziplinäre Plasmaforschung?

Das Aufkommen von großen Sprachmodellen (LLM) wie ChatGPT und anderen wird die Art und Weise, wie wir wissenschaftliche Erkenntnisse sammeln, verarbeiten und präsentieren, verändern. LLMs basieren auf der Sammlung von Informationen aus dem Internet und der Zusammenstellung von Antworten auf der Grundlage der Wahrscheinlichkeit von Wortfolgen. Dabei werden die gebräuchlichsten Aussagen und Phrasen verstärkt, in der Hoffnung, dass diese gebräuchlichen Informationen richtig sind. Dies ist jedoch nicht unbedingt der Fall, und die Anreicherung falscher Aussagen kann eine gründliche Bewertung und Analyse eines Themas verzerren. Dies wird als die Halluzination von LLMs bezeichnet [1]. Die Leichtigkeit, mit der Informationen gesammelt und Antworten in einer sehr lesbaren Form erstellt werden können, ist ein Segen; die Verstärkung falscher Aussagen ist ein Fluch. Einige Verlage haben dies bereits in der Community diskutiert und gehen es an [1-5]. Doch welche Möglichkeiten bieten LLMs und wo liegen ihre Schwächen, insbesondere in Bezug auf Plasmareserven?

LLMs haben mehrere Vorteile.

(i) LLMs werden die Art und Weise, wie wir Informationen sammeln, verändern, weil KI Informationen verdichten und die relevantesten Informationen aus dem Internet sehr effizient herausfiltern wird, wobei sie nach ihrer Popularität beurteilt wird. Dies ist für viele genau definierte Aufgaben sehr hilfreich. Diese LLMs werden vermutlich den derzeitigen Suchmaschinenansatz zur Informationsbeschaffung ersetzen. Da die Plasmaforschung sehr interdisziplinär ist und die Informationen über viele Zeitschriften und Konferenzen verstreut sind, kann der Einsatz automatisierter Literatursuchen durch LLMs hilfreich sein.

(ii) LLMs können die Datenanalyse beschleunigen, indem sie Analysekonzepte für die Filterung und Anpassung von Daten mit den neuesten Algorithmen bereitstellen.

(iii) Einfache Programmieraufgaben können sehr schnell erledigt werden, ohne dass viele verschiedene Codeschnipsel aus dem Internet gesammelt werden müssen. In der Regel reichen ein oder zwei Versuche mit einem LLM aus, um zumindest eine Startversion eines Programms zu haben, wenn die Aufgabe nicht zu aufwendig ist.

(iv) LLMs können für die meisten wissenschaftlichen Themen zumindest einen Ausgangspunkt für weitere Forschung liefern. Dies unterscheidet sich nicht allzu sehr von der konventionellen Forschung auf der Grundlage von Bibliotheken, Zeitschriftenausgaben oder der einfachen Verwendung einer Suchmaschine. Die Nutzung von LLMs ist viel komfortabler.

(v) LLMs helfen beim Verfassen wissenschaftlicher Texte und produzieren gut lesbare Ergebnisse. Dies ist ihre Kernkompetenz.

Allerdings weisen LLMs auch Herausforderungen und Unzulänglichkeiten bei der Durchführung von Plasmastudien auf. Die Durchführung einer Literaturrecherche und das Sammeln von Informationen zu einem Thema im Internet durch den LLM führt nicht zu einer Anhäufung oder Wiederholung falscher Aussagen und Erkenntnisse. In einigen Fällen sind die von LLMs zur Untermauerung ihrer Argumente angeführten Referenzen falsch. Die Antworten eines LLM können auch von der Person abhängen, die die Frage stellt, was zu unterschiedlichen Ergebnissen für eine bestimmte wissenschaftliche Frage führt. Wenn man einen LLM bittet, sehr bekannte Tatsachen zu erklären, könnte er richtig sein, aber er könnte die Dinge auch zu sehr vereinfachen. In einigen Fällen sind die Erklärungen von LLMs schlichtweg falsch. Diese Halluzination von LLMs kann ein Hindernis sein, insbesondere in der Plasmaforschung, wo die Gemeinschaft interdisziplinär und im Vergleich zu anderen Bereichen etwas kleiner ist. Infolgedessen befassen sich in der Regel nur einige wenige Arbeiten mit einem bestimmten Prozess oder einer bestimmten Anwendung, so dass die Wissensbasis für ein bestimmtes Thema klein ist und die Aussagen, die diese LLMs produzieren, möglicherweise nicht robust sind. In diesem Sinne ist es nach wie vor die wichtigste Pflicht eines jeden Wissenschaftlers, mehrere Quellen wie Zeitschriftenartikel, Lehrbücher oder Diskussionen mit Kollegen heranzuziehen, bevor er eine Information bewertet. 

Im Mittelpunkt der Forschung stehen das Verständnis grundlegender Prinzipien und die Entwicklung neuer Erkenntnisse oder Hypothesen. Es ist unklar, ob LLMs hier helfen können. Wenn zum Beispiel zwei Plasmaquellen für eine bestimmte Aufgabe verglichen werden, kann das LLM verschiedene Kombinationen oder Betriebsparameter empfehlen. Ein tieferer Einblick in die Mechanismen könnte jedoch zu dem Schluss führen, dass ein ganz anderes Entladungskonzept besser geeignet wäre. Häufig werden Aussagen getroffen, dass eine Plasmamethode (wie DBD-Plasmen) besser ist als andere (z. B. Mikrowellen) oder dass „Plasma“ für eine bestimmte Anwendung nicht „funktioniert“. Die Komplexität der angesprochenen Systeme in der Plasmaforschung ist so groß, dass diese einfachen Antworten nutzlos sind, wenn sie nicht in den richtigen Kontext gestellt werden. Da die Plasmaforschung auch von Wissenschaftlern mit einer Ausbildung in anderen Bereichen (wie Chemieingenieurwesen, Festkörperphysik usw.) betrieben wird, werden diese allzu einfachen Aussagen möglicherweise nicht in Frage gestellt. 
Schließlich stellen LLMs eine Herausforderung für wissenschaftliche Zeitschriften dar. Wenn man einen LLM bittet, ein Ergebnis zu erklären oder eine Studie zu empfehlen, sammelt er zwangsläufig Informationen, die bereits anderswo veröffentlicht wurden. Wenn die Autoren diese wiederholen, wiederholen sie automatisch die Forschung anderer. Dies stellt eine Herausforderung dar, da LLMs es uns ermöglichen, schnell „schöne“ Arbeiten zu produzieren, die nur bekannte Informationen wiedergeben. Dies wird die Zahl der veröffentlichten Arbeiten in die Höhe treiben und die „echten“ Informationen in Zukunft verwässern.

Derzeit besteht die Tendenz, den Leser aus Gründen der Transparenz darüber zu informieren, dass KI bei der Erstellung eines Manuskripts oder bei der Interpretation eines Ergebnisses eingesetzt wurde (die Autoren tragen jedoch weiterhin die volle Verantwortung für die Arbeit [3]). Dies mag nicht schlüssig sein, da die Verwendung von Standardwerkzeugen zur Datenvisualisierung oder -analyse und von Rechtschreibsoftware bereits üblich ist, ohne dass darauf verwiesen werden muss. LLMs könnten nur ein weiteres Instrument auf dieser Liste sein, da eine Überprüfung durch den Wissenschaftler immer erforderlich sein wird.
Letztendlich wird es interessant sein zu sehen, wie die wissenschaftliche Gemeinschaft LLMs in den täglichen Arbeitsablauf integriert. Dieser Übergang ist im Gange, aber der Beitrag und die Anleitung kritischer Wissenschaftler wird immer notwendig sein. 

[1]   ChatGPT: A comprehensive review on background, applications, key challenges, bias, ethics, limitations and future scope, Partha Pratim Ray, Internet of Things and Cyber-Physical Systems, 3, 121-154, (2023)

[2]   ChatGPT: five priorities for research Eva A. M. van Dis, Johan Bollen, Robert van Rooij, Willem Zuidema & Claudi L. Bockting, Nature  614, 224 (2023)

[3]   ChatGPT is fun, but not an author, H. HOLDEN THORP Authors Info & Affiliations, SCIENCE 379, 313 (2023)

[4]   Exploring the potential of using ChatGPT in physics education, Yicong Liang, Di Zou, Haoran Xie & Fu Lee Wang, Smart Learning Environments 10, 52 (2023)

[5]   After enabling AI it is time for the plasma community to benefit from AI – Personal view in a short perspective article, E. Kessels, Atomic Limits Blog, PMP Group TU Eindhoven, 7.5.2023