EU-Parlament debattiert um Regeln für ChatGPT und Co.

Seit Jahresanfang spricht gefühlt alle Welt über ChatGPT. Schließlich ist das KI-Tool für die Allgemeinheit zugänglich, nachdem es zuvor nur eingeschränkt verfügbar war. Mittels kurzer Texteingaben lassen sich etwa Briefe generieren, Code schreiben u.v.m. Der "KI-Pate" Dr. Geoffrey Hinton erklärte jüngst, dass es in der Verantwortung der Politik liegt, dass die KI "mit viel Nachdenken darüber entwickelt wird, wie man verhindern kann, dass sie abtrünnig wird". Schließlich gibt es immer wieder Berichte rund um alternative Fakten. Nun hat das Europäische Parlament bekannt gegeben, dass man über Regeln für sichere und transparente KI verhandelt.

Mehr Transparenz und Verbot von KI in bestimmten Bereichen

Am Mittwoch, dem 14. Juni, nahm das Europäische Parlament einen Gesetzesvorschlag zur Regelung von künstlicher Intelligenz an. Folglich können nun Gespräche mit den EU-Mitgliedsstaaten starten, um die endgültige Form des Gesetzes zu gestalten. Laut der EU werden die Vorschriften entlang am Grad der potenziellen Gefahr ausgerichtet. So soll es verboten werden, KI-Tools für folgende Dienstleistungen innerhalb der EU einzusetzen:

• Keine KI-Tools für "Social Scoring", wie es etwa in China üblich ist.
• Keine biometrischen Systeme, die es ermöglichen, Personen in Echtzeit oder nachträglich an öffentlich zugänglichen Orten mittels Kamera etc. zu identifizieren.
• Keine vorausschauende Polizeiarbeit mit KI-Tools. Hierbei dreht es sich um die Profilerstellung zu potenziellen Straftätern.
• Keine Emotionserkennungssysteme am Arbeitsplatz, in Bildungseinrichtungen, beim Grenzschutz und in der Strafverfolgung
• Kein ungezieltes Auslesen von Gesichtsbildern aus dem Internet oder von Überwachungskameras zur Erstellung von Gesichtserkennungsdatenbanken.

Alle KI-Systeme, die die Gesundheit, die Sicherheit und die Grundrechte von Menschen oder Umwelt gefährden, gelten als Hochrisiko-Anwendungen und müssen entsprechend strenge Regularien erfüllen. In diese Liste wurden auch KI-Tools aufgenommen, die das Wahlverhalten beeinflussen. Alle Anbieter von anderen KI-Tools, wie z. B. Open AI mit ChatGPT, müssen künftig die Risiken für Gesundheit, Sicherheit, Grundrechte von Menschen/Umwelt, Demokratie und Rechtsstaatlichkeit abschätzen. Vor der Veröffentlichung in der EU müssen die Anbieter ihre Tools in eine EU-Datenbank hochladen und Transparenzanforderungen erfüllen und z. B. klar kennzeichnen, dass Inhalte KI-generiert sind und Zusammenfassungen erstellen, welche urheberrechtlich geschützten Daten zu Trainingszwecken genutzt wurden. Falls man ChatGPT-4 kostenlos testen möchte, kann man das neue Microsoft Bing nutzen, vorausgesetzt man besitzt ein Microsoft-Konto. In Verbindung mit Microsoft 365 werden künftig bei Outlook und Co. KI-Features mit dem KI-Copiloten Einzug halten. So lassen sich etwa E-Mails formulieren.

Ebenfalls lesenswert: "KI-Pate" Geoffrey Hinton warnt vor Gefahren von ChatGPT und Co.

Sammlung zu Vorschriften für ChatGPT und Co. in der EU:

• Um die potenziellen Gefahren von KI-Tools einzudämmen, hat das EU-Parlament Regularien für sichere und transparente KI entwickelt.
• Folglich können nun Gespräche mit den EU-Mitgliedsstaaten starten, um die endgültige Form des Gesetzes zu gestalten.
• Laut dem EU-Parlament ist der Einsatz von KI-Tools zur Erkennung von Personen oder Emotionen verboten. Zudem darf es kein "Social Scoring" in der EU geben.
• Anbieter von KI-Tools, wie Open AI, müssen Transparenzanforderungen erfüllen, um ChatGPT & Co. weiterhin in der EU anbieten zu dürfen. So muss beispielsweise gekennzeichnet werden, wenn ein Inhalt KI-generiert ist und der Anbieter muss Zusammenfassungen erstellen, welche urheberrechtlich geschützten Daten zu Trainingszwecken genutzt wurden.

Quelle: EU-Parlament

Artikel teilen

EU-Parlament debattiert um Regeln für ChatGPT und Co. Das EU-Parlament hat sich auf Regeln für KI-Tools geeinigt und ebnet damit den Weg für die Gesetzesformulierung. ChatGPT und Co. müssen demnach Transparenzanforderungen erfüllen und werden in bestimmten Bereichen verboten.

Per E-Mail versenden

6