ChatGPT: Hat das KI-Tool Schaden durch Falschinformationen angerichtet?
Die amerikanische Wettbewerbsbehörde FTC prüft, ob durch ChatGPT Falschinformationen in Umlauf geraten sind, die Schaden angerichtet haben. Zudem muss sich Hersteller OpenAI weiteren Fragen zum KI-Tool stellen.
Mit jeder Nutzereingabe werden KI-Tools besser und lernen so dazu. Schließlich lassen sich etwa Texte erstellen, indem mit Wahrscheinlichkeitsrechnung die Wortfolge bestimmt wird. Hierzu ist ein ausgiebiges Training mit Datensätzen notwendig. OpenAI hat mit ChatGPT das aktuelle Sprachmodell GPT-4 dagegen mit 100 Billionen Parametern trainiert. Die vorherigen Sprachmodelle, etwa GPT-3, sind nur mit 175 Millionen Parametern trainiert worden. Nun untersucht die amerikanische Wettbewerbsbehörde FTC, ob ChatGPT durch Falschinformationen Schaden angerichtet hat.
ChatGPT & Co.: Wie steht es um den Datenschutz?
Schließlich kommt das KI-Tool gerne mal durcheinander und fängt das Halluzinieren an, wenn man etwa zu viele Anfragen in zu kurzer Zeit stellt. Generell weisen alle Anbieter von KI-Tools darauf hin, dass die angezeigten Antworten noch einmal manuell vom Nutzer geprüft werden sollten. Die FTC möchte jetzt wissen, ob das Sprachmodell "an unlauteren und betrügerischen Praktiken" beteiligt war. Es geht dabei sowohl um den Datenschutz und -sicherheit als auch um die Gefahr durch Verbreitung von Falschinformationen. OpenAI soll beispielsweise angeben, ob es Vorfälle gab, in denen persönliche Informationen zwischen Nutzern weitergegeben wurden.
Bereits in der EU gab es schon Untersuchungen gegen OpenAI, bei dem ChatGPT zeitweise gesperrt wurde. Als Reaktion auf die Datenschutz-Forderungen wurde dann ein Privat-Modus eingeführt, bei dem die Nutzereingaben nicht zum Training von ChatGPT verwendet werden. Innerhalb der EU soll künftig mittels Gesetz ein Rahmen für KI-Tools geschaffen werden. Vor der Veröffentlichung in der EU müssen die Anbieter ihre Tools in eine EU-Datenbank hochladen und Transparenzanforderungen erfüllen und z. B. klar kennzeichnen, dass Inhalte KI-generiert sind und Zusammenfassungen erstellen, welche urheberrechtlich geschützten Daten zu Trainingszwecken genutzt wurden.
Ebenfalls lesenswert: EU-Parlament debattiert um Regeln für ChatGPT und Co.
Sammlung zu Verfahren gegen ChatGPT-Unternehmen OpenAI:
- Die amerikanische Wettbewerbsbehörde FTC hat eine Untersuchung gegen OpenAI eingeleitet. Die FTC möchte nun wissen, ob das Sprachmodell "an unlauteren und betrügerischen Praktiken" beteiligt war.
- Neben dem Datenschutz und -sicherheit geht es auch um die Verbreitung von Falschinformationen. Hierzu soll das Unternehmen hinter ChatGPT Stellung nehmen.
- KI-Tools, wie ChatGPT, können durch Trainingsdatensätze und jede Nutzereingabe anhand von Wahrscheinlichkeitsrechnung beispielsweise Texte erstellen. Allerdings neigt die KI auch gerne mal zum Halluzinieren.
Quelle: Washington Post
Ich empfinde einfach das Nutzungsszenario als so banal, dass ich dadurch beim ersten Lesen scheinbar ein Mitteilungsbedürfnis verspürt habe. Das habe ich in letzter Zeit öfters.
Vielleicht werde ich alt. Und weich. Und irgendwann einmal Humus.
Ein Arbeitskollege hat sich angewöhnt, Briefe, Mails und Textzusammenfassungen von ChatGPT anhand von Stichpunkten generieren zu lassen. Geht schneller, als sich irgendwas aus den Fingern saugen zu müssen... Natürlich auch hier: Bevor irgendwas abgeheftet oder versendet wird, wird vorher korrekturgelesen...