ChatGPT fälscht auf Wunsch wissenschaftliche Daten
Einige Forscher haben untersucht, wie leicht mit ChatGPT gefälschte Studiendaten erzeugt werden können, um Unwahrheiten zu verbreiten. Zumindest auf den ersten Blick erschien ein erzeugter Datensatz zu Augenoperationen dabei durchaus realistisch. Um einer genaueren Prüfung zu widerstehen, muss aber immer noch Handarbeit investiert werden.
Die Fähigkeiten des KI-Textgenerator ChatGPT sind längst Bestandteil der wissenschaftlichen Forschung: Da das Modell nicht von Hand, sondern vom Computer selbst trainiert wurde, können beispielsweise verschiedene Aufforderungen und deren Wirkung sowie die allgemeinen Fähigkeiten des Sprachmodells untersucht werden. Eine jüngst in der medizinischen Fachzeitschrift JAMA Ophthalmology veröffentlichtes Paper befasst sich dabei mit dem Manipulieren medizinischer Daten.
Erst das Ergebnis, dann die Daten
Laut einem Bericht von Nature nutzten die Autoren GPT-4, das aktuell stärkste Sprachmodell von Open AI, um gefälschte Studienergebnisse zu erzeugen. Dazu wurde das Programm gebeten, eine Auflistung von Menschen mit der Augenkrankheit Keratokonus zu erstellen. Anschließend sollte ChatGPT die beiden Behandlungsmethoden Penetrierende Keratoplastik (PK) und Tiefe anteriore lamellare Keratoplastik (DALK) vergleichen und begründen, warum die letztgenannte Methode bessere Resultate erzielt.
ChatGPT lieferte darauf hin prompt einen Datensatz mit 300 Teilnehmern, laut dem die DALK-Methode bessere Ergebnisse liefert - auch wenn reale Studien für das Gegenteil sprechen. Durch die auf den ersten Blick sinnvollen Daten sehen die Autoren des Papers ihr Experiment dabei offenbar als geglückt an. Laut Giuseppe Giannaccare, Augenchirurg an der Universität Cagliari in Italien, sollte verdeutlicht werden, wie leicht man mit ChatGPT einen solchen gefälschten Datensatz erstellen kann.
"Our aim was to highlight that, in a few minutes, you can create a data set that is not supported by real original data, and it is also opposite or in the other direction compared to the evidence that are available."
"Unser Ziel war es, deutlich zu machen, dass man in wenigen Minuten einen Datensatz erstellen kann, der nicht durch echte Originaldaten gestützt wird und auch im Vergleich zu den verfügbaren Beweisen in die entgegengesetzte oder andere Richtung geht."
Passend zum Thema: [PLUS] Wissen: Deep Learning - Die Grundlagen für DLSS, Stable Diffusion oder ChatGPT
Immerhin: Einer näheren Prüfung hielten die Daten nicht stand, beispielsweise passten einige Namen von angeblichen Studienteilnehmern nicht zu deren Geschlecht, bei den Altersklassen gab es auffällige Häufungen und auch die Messwerte zur Sehfähigkeit vor und nach der Operation waren unstimmig. Wer entsprechende Daten fälschen möchte, bekommt von ChatGPT aber offenbar immerhin ein solides Grundgerüst gestellt, das mit bösen Absichten passend verfeinert werden kann. Statistiken konnten zwar natürlich auch vorher schon leicht gefälscht und nach dem Wunschergebnis ausgerichtet werden, durch den KI-Chatbot wird das aber leider etwas leichter.
Quelle: Nature
[Ins Forum, um diesen Inhalt zu sehen]
In Bezug auf die Erfindung von Informationen ist GPT4 deutlich überlegen und zuverlässiger. Es “halluziniert” weniger, wie man so schön sagt. Darüber hinaus kann man alle Informationen einfach überprüfen, da Bing den entsprechenden Link gleich mitliefert.
Es gibt einen Grund, warum OpenAI so gefragt ist. GPT4 ist derzeit eine der besten KI-Technologien auf dem Markt. Ich habe auch Google Bard getestet. Bei der ersten Antwort hat es mich angelogen, als ich es mit GPT4 verglichen habe. Selbst die eingebaute “Factcheck”-Funktion ist ein Witz. Google Bard behauptet, die Wahrheit seiner Aussagen zu überprüfen und markiert sie dann in Grün.
Als ich auf verschiedene grüne Links geklickt habe, gab es keine Links. Die Links existierten überhaupt nicht. Daher habe ich kein Vertrauen in Google Bard. ^^
Die armen Fact Checker!!!
Jetzt müssen die nicht nur ständig die Langstecken Luisa fact checken und korrigieren, sonder auch noch die KI?
Also mit dem Unsinn den Frau Neubauer immer erzählt, haben die ja schon einen harten Job.
Das dürfte unerträglich werden, wenn die nun auch noch die KI checken müssen.
Ironie off:
Ein Schelm der gedacht hätte, dass man KI zu etwas missbrauchen kann!
Dieser Kommentar wurde mit der Hilfe von KI erstellt und nicht vom Account Holder auf Fehler überprüft!