Sperre von ChatGPT umgangen: Für Malware-Generierung missbraucht
Eine API von ChatGPT ist für die Generierung von Malware und Phishing-E-Mails missbraucht worden. Eigentlich verhindert ChatGPT die Erstellung von Malware und Co.
Mit ChatGPT offeriert die Firma Open AI ein KI-Tool zur Generierung von Texten und Programmcode. Bei ChatGPT werden Millionen an Trainingsdatensätze genutzt, die automatisch jeder erstellt, wenn eine Eingabe getätigt wird. Jeder eingegebene Text wird dann via der KI-Technik Mustererkennung quantitativ, also mit statistischen Methoden, ausgewertet. Letztlich werden dann zu ein paar eingegebenen Stichworten Texte generiert. Nun haben Cyberkriminelle einen Weg gefunden, Malware mittels Chat GPT zu generieren, wie Forscher der Sicherheitsfirma Check Point Research herausgefunden haben. Eigentlich verweigert ChatGPT die Erstellung von Malware und Co., zumindest über die offizielle Webseite.
Neue Version von ChatGPT soll Schutz vor Malware-Generierung enthalten
Open AI verfolgt einen offenen Ansatz, sodass auch andere Chatbots auf die Technologie hinter ChatGPT setzen können. Diesen Umstand machten sich die Forscher zunutze, die auf Basis einer API von ChatGPT-3 einen eigenen Chatbot ins Leben gerufen haben. In einem Test der Forscher konnte die API einer alten Version von ChatGPT den Text einer Phishing-E-Mail generieren und ein Script schreiben, um PDF-Dokumente auf einem infizierten Computer zu stehlen und via FTP an den Angreifer zu senden. Mittlerweile wird bereits die nächste Generation ChatGPT-4 getestet, bei denen die Chatbot-Apps nicht mehr diese Schwachstelle nutzen können. Für Entwickler offeriert Open AI eine API-Schnittstelle, um Chat GPT-Technik in eigene Chatbots integrieren zu können. Die neue Version 4 wird als Prometheus beim neuen Microsoft Bing genutzt. Künftig wird das KI-Tool auch für Abonnenten von Microsoft 365 in diversen Programmen Einzug halten.
Auf Telegram wird zum Preis von 5,50 US-Dollar pro 100 Anfragen ein Telegram Bot auf Basis von ChatGPT-3 angeboten, bei dem man Phishing-E-Mails und Malware-Code generieren lassen kann. Hintergrund ist, dass die Open AI-API namens text-davinci-003 über sehr wenige Anti-Missbrauchsmaßnahmen verfügt, so die Forscher der Sicherheitsfirma. Wie der Forscher Sergey Shykevich schreibt, hat Open AI in den vergangenen Wochen die Sicherheitsmaßnahmen bereits verbessert, zumindest im Vergleich zum Stand zwischen Dezember 2022 und Januar 2023.
Ebenfalls lesenswert: Google Bard: Konkurrent zu ChatGPT patzt und sorgt für 100 Milliarden Dollar Wertverlust
Auch lesenswert: Amazon Alexa Sale nur noch kurze Zeit: Fire TV Stick, Kindle, Echo Dot/Show, Blink, Ring bis zu 57 % günstiger
Sammlung zu Malware mit ChatGPT-3:
- Wie Forscher der Sicherheitsfirma Check Point Research herausgefunden haben, kann die API text-davinci-003 einer alten Version von ChatGPT dazu genutzt werden, Malware-Code zu erstellen.
- Auf Telegram wird zum Preis von 5,50 US-Dollar pro 100 Anfragen ein Telegram Bot auf Basis von ChatGPT-3 angeboten, bei dem man Phishing-E-Mails und Malware-Code generieren lassen kann.
- Inzwischen sind die Sicherheitsvorkehrungen von Open AI mit einer neuen Version von ChatGPT verbessert worden, so die Forscher. So ist keine einfache Generierung von Malware möglich.
Quellen: Arstechnica, Checkpoint Research
Welche sinnvolle Anwendung hat das eigentlich? Außer Influencern einfach Content für Werbevideos zu liefern?
Genau wie Deepfake. Bissel Fun in den News, dann Selenski gefaked und man kann Pr0n mit seiner Ex herstellen und das hochladen. Tolle Wurst.