KI-Bilderstellung: Zahlende Kunden von Nacktfotos wurden getäuscht

Mit KI-Tools lassen sich nicht nur Texte generieren oder Programmcode schreiben, sondern auch Bilder erstellen. So verfügt etwa ChatGPT-4 über eine Option zur Bilderstellung, bei Dall-E von Open AI lassen sich bereits Bilder erstellen. Nun sind einige Reddit-Nutzer in eine Falle getappt, wie das Rolling-Stone-Magazin berichtet.

Keine 19-jährige Traumfrau, sondern zwei Informatikstudenten

So wurde mittels KI Nacktbilder einer Frau erstellt, die gar nicht existiert. Zwei Informatikstudenten haben mit dem KI-Programm Stable Diffusion eine 19-jährige Frau mit blaugrünen Augen, zarten Gesichtszügen und einer Langhaarfrisur erstellt. Zahlende Kunden haben Nacktfotos der imaginären Frau gekauft, in dem Glauben, es handelt sich um eine real existierende Person. Beide Studenten verdienten rund 100 US-Dollar mit dem Verkauf der Fotos von Claudia, ehe das Konto gemeldet wurde. Ursprünglich war der Reddit-Account als Scherz gedacht.

Um Bilder anhand von Texteingaben zu generieren, benötigen KI-Tools Milliarden von Bildern als Trainingsdatensatz. Diese Bilder stammen von echten Menschen, die möglicherweise der Nutzung nicht zuvor zugestimmt haben. Die italienische Datenschutzbehörde hat daher jüngst eine Untersuchung gegen die Macher von ChatGPT eingeleitet. Mit jeder Texteingabe können KI-Programm dazulernen und werden so weiterentwickelt. Zwar unterbinden etwa die Schöpfer von ChatGPT die Nutzung ihrer KI-Tools für pornografische Inhalte, doch es gibt auch Ausnahmen. Immer wieder zeigt sich, wie leicht KI-Programme genutzt werden können, um Fake News zu verbreiten.

Ebenfalls lesenswert: ChatGPT: Sperrt Deutschland das KI-Tool wie in Italien?

Sammlung zu getäuschten Kunden:

• Mit KI-Tools lassen sich Bilder anhand von Texteingaben erstellen. Diesen Umstand machten sich zwei Informatikstudenten zu Nutze und verdienten damit rund 100 US-Dollar.
• Mittels Stable Diffusion wurden Bilder einer 19-jährigen Frau mit blaugrünen Augen, zarten Gesichtszügen und einer Langhaarfrisur erstellt.
• Auf Reddit wurden dann Nacktfotos der Frau verkauft, ehe das Nutzerkonto gesperrt wurde.

Quellen: Rolling Stone Magazin, Reddit

Artikel teilen

KI-Bilderstellung: Zahlende Kunden von Nacktfotos wurden getäuscht Kunden, die Nacktfotos einer Frau gekauft haben, wurden getäuscht. Schließlich existiert die Frau nicht, sondern ist via KI erstellt worden.

Per E-Mail versenden

19