Detect GPT: So sollen sich KI-Texte von Chat GPT erkennen lassen
Mit dem KI-Tool Chat GPT lassen sich nur durch die Eingabe von Stichworten ganze Texte erstellen. Forscher der Stanford University haben nun Detect GPT vorgestellt, mit dem sich die KI-Texte entlarven lassen sollen.
Microsoft hat jüngst mehrere Milliarden US-Dollar in Open AI, die Schöpfer hinter Chat GPT und Dall-E, investiert. Chat GPT und Co. sollen in naher Zukunft in die Suchmaschine Bing sowie in zahlreiche Office-Programme eingebaut werden. Abonnenten von Microsoft 365 können sich bereits jetzt im Microsoft Designer von der KI Dall-E Bilder generieren lassen und auf create.microsoft.com hoch- und herunterladen. Zwar kann Chat GPT Texte zu mehreren Stichworten generieren, doch dies stellt Nutzer vor neue Probleme. So kann es immer mehr Fake-Texte geben, etwa in der Schule. Forscher an der Stanford University haben nun mit Detect GPT eine Lösung für dieses Problem vorgestellt.
KI-Texte von Chat GPT basieren auf mathematischem Modell
Um zu verstehen, wie die Identifizierung der KI-generierten Texte funktioniert, sollte man die grundlegenden Prinzipien hinter Chat GPT verstehen. Bei Chat GPT werden Millionen an Trainingsdatensätze genutzt, die automatisch jeder erstellt, wenn eine Eingabe getätigt wird. Jeder eingegebene Text wird dann via der KI-Technik Mustererkennung quantitativ, also mit statistischen Methoden, ausgewertet. Hierzu wird das sogenannte Large Language Model verwendet, bei dem eine Wahrscheinlichkeitsverteilung über die Wörter erstellt werden, die wohl als Nächstes kommen werden. So werden einzelne Satzbestandteile, die in den Trainingsdatensätzen zu einem Thema gespeichert sind, mathematisch analysiert und dann anhand ihrer Wahrscheinlichkeit aneinandergereiht. Chat GPT ist momentan das wohl am besten funktionierende KI-Tool zur Erstellung von Texten sowie zum Schreiben von Programmcode für App-Entwickler.
Detect GPT von der Stanford University möchte nun Texte aufspüren, die von Chat GPT generiert wurden. Hierzu wird das mathematische Modell einer negativen Krümmung der logarithmischen Wahrscheinlichkeitsfunktion verwendet. Detect GPT analysiert also den eingegebenen Text auf mathematische Auffälligkeiten, wobei das Tool davon ausgeht, dass von Menschen verfasster Text positive Krümmungsbereiche einnimmt. Anhand von zahlreichen Fake-News wurde Detect GPT bereits getestet und hat unter Beweis gestellt, dass automatisch generierte Texte erkannt werden können. Laut den Forschern benötigt Detect GPT keine Trainingsdatensätze, sondern agiert auf mathematischer Ebene.
Ebenfalls lesenswert: ChatGPT: Pro-Version wird teuer - Microsoft kündigt Investitionen an
Sammlung zu Detect GPT, um generierte KI-Texte von Chat GPT zu erkennen:
- Mit Chat GPT lassen sich durch Eingabe von mehreren Stichworten Texte automatisch von einer KI generieren. Das KI-System ist so beliebt, dass es etwa von Schülern eingesetzt wird, um Hausaufgaben zu lösen.
- Detect GPT von der Stanford University möchte nun Texte aufspüren, die von Chat GPT generiert wurden. Hierzu wird das mathematische Modell einer negativen Krümmung der logarithmischen Wahrscheinlichkeitsfunktion verwendet.
- Chat GPT nutzt das Large Language Model, um Texte anhand von Wahrscheinlichkeitsrechnung zu erstellen und benötigt dazu unzählige Trainingsdatensätze.
Quellen: Detect GPT, Builtin, Steve Seitz
Man kann nur erahnen wohin das nur gehen wird. Gib der Technologie noch 5-10 Jahre.. wird spannend was es dann alles kann.
Dafür gibt´s eine ganz einfache Lösung. Stift, Papier und ab die Post. Wäre bei der aktuellen gesellschaftlichen Verrohung und der durch Automatisierung geförderten Desozialisierung sogar mehr als angebracht.
hab neulich mit nem bekannten darüber gequatscht wieso er nicht seine bachelor arbeit damit schreibt (der studiert seit 10+ jahren und brauch nur die bachelor arbeit). er meinte die uni hat schon seit jahren nen programm um das zu erkennen. ich bezweifel aber sehr stark, das seine uni überhaupt sowas hat. nunja, ne bachelor arbeit hat der immer noch nicht und ich frage mich wie man so faul sein kann.