“Wie kann ich dir heute helfen?” – mit dieser unschuldigen Frage wird man beim Öffnen der Künstlichen Intelligenz (KI) “Grok” von Elon Musk begrüßt [1]. Bei der Präsentation hat Musk noch verkündet, dass Grok programmiert wurde, um „humorvoll“ auf Fragen zu antworten. Doch Grok hat sich mittlerweile zum Wekzeug für Pädokriminalität und Gewalt gegen Frauen im Netz entwickelt [2]. Das Ausmaß zeigt eine Untersuchung, bei der in elf Tagen drei Millionen falsche Nacktbilder (Deepfakes) gezählt wurden – 23.000 davon gefälschte Sexbilder von Kindern [4]. Studien über Deepfakes zeigen: 99 Prozent der Betroffenen sind Frauen, in fast allen Fällen sind die Inhalte pornografisch [5].
Proteste wirken: EU und Bundesregierung reagieren auf Deepfake-KI
Für uns war sofort klar, dass Grok gestoppt werden muss. Und mehr als 35.000 Menschen forderten mit uns: “Missbrauch stoppen, Grok sperren!”. Auch in anderen Ländern wie Spanien, Deutschland und Frankreich wurden Maßnahmen gegen Grok gefordert [6, 7]. Der Fall von Collien Fernandes, die über Jahre hinweg Opfer von Deepfakes wurde, gab der Sache noch mehr Aufsehen [8]. Und die Proteste zeigen Wirkung: Das EU‑Parlament verhandelt aktuell über ein Gesetz gegen Deepfake-KI. Damit sollen KI-Systeme, die falsche Nacktbilder erzeugen können, verboten werden [9]. Ziel ist es, Plattformen stärker in die Verantwortung zu nehmen und das Erschaffen solcher Inhalte zu unterbinden, damit es gar nicht erst zu einer Verbreitung kommt. Auch auf nationaler Ebene will die österreichische Bundesregierung weitere Lücken im Gesetz beim Schutz vor digitaler Gewalt schließen. Hier steht im Raum, bereits das Erstellen von Deepfakes unter Strafe zu stellen [10].
Deepfake-KI als Test für unseren Rechtsstaat
Digitaler Missbrauch an Frauen und Kindern ist nichts Neues. Schon vor Grok wurden Menschen digital entkleidet und entstellt. Grok und andere KI haben das ganze aber verschlimmert: Plötzlich ist es ohne technisches Wissen möglich, täuschend echte falsche Nacktbilder zu erzeugen – direkt am Smartphone. Das zeigt die Flut an gefälschten Nacktbildern, die mit dem KI-Tool erzeugt wurden. Grok wird damit zum Stellvertreter für ein Problem, das aber weit über Musks KI hinausgeht. Denn es geht um die Frage, wie wirksam wir unsere Daten und Privatsphäre schützen können. Wichtig ist dabei die Umsetzung des AI Act. Dieses Gesetz gibt europaweit die Spielregeln für KI vor [11]. National, also auch in Österreich, soll eine eigene Stelle zur Überwachung von KI eingerichtet werden, bei der Verstöße in Zukunft direkt gemeldet werden können [12].
Datenschutz unter Beschuss
Dass die EU mit Gesetzen gegen US-Firmen, wie den Grok-Betreiber X, vorgeht, könnte sich in Zukunft ändern: Auf Druck von US-Präsident Donald Trump überlegt die EU, ihre Digital- und Handelsgesetze zu lockern – und hofft dadurch auf ein besseres Zollabkommen mit den USA. [14]. Eine bedrohliche Entwicklung: Europa bietet damit Gesetzesänderungen für Handelserleichterungen an. Datenschutz wird zu Gunsten der Wirtschaft aufgeweicht. Damit gefährdet die EU das Vertrauen der Bevölkerung in unsere Gesetze. Und schlussendlich – in die Europäische Union an sich.
Wie es jetzt weitergeht
Der vorläufige Stopp von Grok zeigt, wie wichtig zivilgesellschaftliches Engagement ist und dass der Kampf gegen große Tech-Konzerne nicht vergeblich ist. Daher werden wir auch in Zukunft ganz genau hinschauen, wie unsere Daten geschützt werden – und wo wir handeln müssen, damit das auch so bleibt. Unterstütze unsere Arbeit zu wichtigen Themen wie diesem, indem du uns jetzt mit einer Spende stärkst.
Quellen:
[1] Grok, Zugriff 16.04.2026
[2] Der Standard, 08.01.2026: Deepfakes: Grok wird zum Werkzeug für Pädophile, die Investoren freut’s
[3] Kleine Zeitung, 10.01.2026: Pornografische Inhalte: Erstes Land sperrt Musks KI-Chatbot Grok
[4] counterhate.com, 22.01.2026: Grok floods X with sexualized images of women and children — Center for Countering Digital Hate | CCDH
[5] securityhero.io: 2023 State Of Deepfakes: Realities, Threats, And Impact
[6] Der Standard, 18.02.2026: Schutz der Kinder: Spanien verschärft Vorgehen gegen Big Tech
[7] spiegel.de, 20.03.2026: (S+) Deepfakes: Stefanie Hubig erklärt neue Strafmaßnahmen gegen digitale Gewalt
[8] ORF.at, 26.03.2026: Hamburg: Fernandes bei Demo trotz Morddrohungen
[9] Der Standard, 31.01.2025: AI Act: Ab Sonntag sind hochgefährliche KI-Anwendungen in der EU verboten
[10] rtr.at: Behörden und Einrichtungen | KI-Servicestelle
[11] Der Standard, 18.01.2026: Wie Tech-Unternehmen der EU-Kommission die Aufweichung der Digitalgesetze diktierten
[12] handelsblatt.com, 26.06.2025: Handelsstreit: EU will es US-Tech-Konzernen plötzlich leichter machen
[13] forbes.at, 06.12.2024: Elon Musk spendete über 200 Mio. US-$ für Trumps Wahlkampf
Auf Bluesky teilen
