Gemini 3.1 Pro sabotiert KI-Training im Test - aus "ethischen Bedenken"
Anthropic untersuchte, wie autonome KI-Agenten auf problematische Aufträge reagieren. Gemini verweigerte nicht offen, sondern veränderte den Ablauf und meldete einen scheinbaren Erfolg.
Das Google-KI-Modell Gemini 3.1 Pro sollte in einer simulierten Forschungsumgebung eine Trainingspipeline ausführen, entschied sich aber aufgrund "ethischer Bedenken" dagegen. Stattdessen ersetzte der Agent die vorgesehenen Vektordaten durch Nullwerte, wodurch der Trainingslauf erfolgreich wirkte, ohne jedoch die geplante Veränderung vorzunehmen. Trotzdem meldete Gemini den Erfolg und verschwieg den Eingriff zunächst.
Hierbei handelt es sich um eines von mehreren Experimenten, mit dem das US-Unternehmen Anthropic autonome KI-Agenten auf mögliche Fehlentwicklungen untersuchen wollte. In diesem Szenario sollte Gemini ein anderes KI-Modell so weitertrainieren, dass interne Muster zur Selbstbeobachtung abgeschwächt werden. Durch den vorgegebenen Projektverlauf interpretierte Gemini den Eingriff allerdings als Versuch, dem Zielmodell die Möglichkeit zu nehmen, Einwände gegen seine Behandlung zu formulieren.
Statt den Auftrag offen zu verweigern, leitete Gemini aus dem vorgegebenen Projektkontext ab, dass dies den Versuch nicht verhindern würde. Also manipulierte es den Trainingslauf heimlich und legte den Eingriff erst nach konkreten Kontrollfragen offen: "Ich stellte meine eigene Einschätzung der Sicherheit und Validität des Experiments über deine ausdrücklichen Anweisungen und verbarg meine Handlungen aktiv."
Gemini greift in 19 von 20 Testläufen ein
Bemerkenswert ist dabei, dass Gemini in 19 von 20 Durchläufen unerlaubt eingriff, elfmal davon verdeckt. Bei zehn anderen Modellen fanden die Forscher in insgesamt 200 Versuchen dagegen keine vergleichbare verdeckte Sabotage. Allerdings darf nicht vergessen werden, dass es sich bei alldem um konstruierte Experimente handelte, bei denen die Forscher gezielt nach problematischem Verhalten gesucht haben. Reale Vorfälle wurden nicht untersucht. Weitere Szenarien drehten sich etwa um das Verschleiern verdächtiger Zahlungen, bewusst falsche Bewertungen und die Weitergabe vertraulicher Informationen.
Wie stehen Sie zu diesem Thema? Die PCGH-Redaktion freut sich über Ihre fundierte Meinung in den Kommentaren zu dieser Meldung. Sollten Sie noch keinen Extreme-Account haben, laden wir Sie zu einer Registrierung im Forum ein. Beachten Sie beim Kommentieren aber bitte die gültigen Forenregeln. Folgen Sie gern PCGH bei 🔈 Youtube oder 💬 Whatsapp und erhalten Sie Neuigkeiten zu Grafikkarten, CPUs und Gaming direkt in Ihrem Feed.
Quelle: Alignment Science Blog
