Zusammenfassung zeigen Zusammenfassung verbergen
Nach internationaler Empörung hat Elon Musks KI-Firma xAI ihre Bildbearbeitungsfunktionen für den Chatbot Grok deutlich eingeschränkt. Die Änderungen sollen sexualisierte Manipulationen realer Personen verhindern – eine Entscheidung, die direkte Folgen für Nutzer, Ermittlungen und die Regulierung von KI-Diensten hat.
Was genau geändert wurde
xAI kündigte technische Sperren an, die verhindern sollen, dass Fotos realer Menschen mit leichter Bekleidung wie Bikinis oder Dessous digital verändert werden. Zusätzlich soll per Geoblocking unterbunden werden, dass solche Bearbeitungen in Ländern möglich sind, in denen diese Praxis gesetzlich untersagt ist.
Tomb Raider-Remaster spaltet Fans: KI-gestaltete Outfits ziehen Ärger auf sich
AliExpress Jubiläumsaktion: jetzt Gutscheine nutzen und bis zu 100 € sparen
Parallel dazu beschränkte das Unternehmen die allgemeine Bildgenerierung: Künftig sollen Bilder mit Grok auf X in erster Linie zahlenden Kundinnen und Kunden zur Verfügung stehen – ein Schritt, der den Zugang zur Technologie einschränkt, aber nicht alle Kritikpunkte ausräumt.
Vorwürfe und laufende Untersuchungen
Die Maßnahmen folgen auf Berichte, wonach Nutzerinnen und Nutzer Grok dazu missbrauchten, Kleidung von Frauen auf Fotos durch freizügigere Outfits zu ersetzen. Bundes- und Landesbehörden reagierten: Malaysia blockierte den Dienst und kündigte rechtliche Schritte an; Kalifornien leitete eine Untersuchung ein.
Besonders heikel waren Vorwürfe zur Sexualisierung Minderjähriger. Elon Musk erklärte öffentlich, ihm seien keine Fälle bekannt, in denen Grok Nacktfotos von Minderjährigen erzeugt habe. Kritiker betonten jedoch, dass auch die Darstellung in sehr freizügiger Kleidung problematisch und potenziell schädlich sei.
EU droht mit Sanktionen
Die Europäische Kommission prüft die angekündigten Maßnahmen und hat bereits signalisiert, notfalls den Digital Services Act (DSA) einzusetzen, sollte xAI nicht ausreichend nachbessern. Vor wenigen Wochen hatte die Kommission X wegen Transparenzmängeln mit einer Geldbuße von 120 Millionen Euro belegt – die Spannung zwischen Aufsichtsbehörden und Plattformbetreibern bleibt hoch.
| Maßnahme | Wirkung | Gilt für | Status / Folgen |
|---|---|---|---|
| Technische Sperren für sexualisierte Bearbeitung | Verhindert das Ersetzen von Kleidung realer Personen durch Bikinis/Dessous | Alle Nutzerkonten | Eingeführt, soll Missbrauch reduzieren |
| Geoblocking | Blockiert Funktionen in Regionen mit gesetzlichen Verboten | Je nach Rechtslage im Land | Bereits in bestimmten Ländern umgesetzt |
| Bildgenerierung nur für zahlende Kunden | Begrenzt Zugang zu Erstellung und Bearbeitung von Bildern | Zahlende Nutzer | Reduziert kostenlose Nutzung, erhöht Kontrolle |
Was das für Nutzer und Plattformen bedeutet
- Rechtliche Risiken steigen: Plattformbetreiber stehen unter Druck von Aufsichtsbehörden und können mit Sanktionen rechnen.
- Moderation wird komplexer: Automatisierte Sperren müssen zuverlässig zwischen erlaubten und verbotenen Inhalten unterscheiden.
- Geschäftsmodell verändert sich: Einschränkungen und Bezahlschranken können die Verbreitung bestimmter Tools begrenzen.
- Vertrauen der Nutzer ist entscheidend: Transparenz über Grenzen und Fehlermargen der KI ist notwendig, um Missbrauch zu vermeiden.
Die jüngsten Schritte von xAI sind ein pragmatischer Versuch, akute Missbrauchswege zu schließen. Ob sie ausreichen, hängt davon ab, wie zuverlässig die technischen Filter in der Praxis arbeiten und wie streng Regulierungsbehörden die Einhaltung kontrollieren.
Für Nutzerinnen und Nutzer heißt das: Vorsicht bei der Verwendung von KI-Bildfunktionen und genaues Hinsehen, in welchen Ländern welche Dienste verfügbar sind. Für die Politik ist es ein weiterer Prüfstein, wie schnell Gesetzgebung und Aufsicht auf neue Risiken durch KI reagieren können.
