Das EU-Parlament will Frauen und Kinder besser vor künstlich erzeugten, sexualisierten Bildern im Netz schützen. Die Abgeordneten stimmten für ein Verbot von KI-Anwendungen, mit deren Hilfe Nutzer solche Videos und Bilder von Menschen ohne deren Einwilligung erstellen können.
Die EU reagiert damit unter anderem auf Vorfälle Anfang des Jahres, als Nutzer mithilfe des Chatbots Grok von US-Milliardär Elon Musk Millionen sexualisierte KI-Bilder von Frauen und Kindern erstellten und online verbreiteten. Mehrere Länder sowie die EU-Kommission leiteten Ermittlungen gegen Grok ein, einige sperrten den Chatbot.
Konkret sollen KI-Systeme verboten werden, die sexuelle Darstellungen realer Personen künstlich erzeugen, außer die Person hat zugestimmt. Laut dem Gesetzesentwurf bezieht es sich auf Anwendungen, die mit Künstlicher Intelligenz Bilder und Videos so verändern oder erstellen können, dass sie „sexuell eindeutige Aktivitäten oder intime Körperbereiche einer bestimmbaren Person ohne deren Einwilligung“ zeigen. Solche Bilder und Videos „schädigen die Opfer und verletzen die Grundrechte auf Würde und Privatsphäre“, heißt es darin zur Begründung.
Verhandlungen mit EU-Rat
Jegliches KI-System, das Material über Kindesmissbrauch erstellt, wird komplett verboten. Betreiber, die wirksame Sicherheitsmaßnahmen gegen den Missbrauch nachweisen können, sollen ausgenommen werden.
Das Parlament muss sich noch mit dem Rat der EU auf die endgültige Ausgestaltung einigen. Die Mitgliedstaaten, die durch den Rat in die EU-Gesetzgebung eingebunden sind, sprachen sich grundsätzlich auch für ein Verbot aus. Das Verbot soll in einigen Monaten greifen, sobald die Änderung endgültig beschlossen ist.
Das EU-Vorgehen ist Teil einer Reihe von Änderungen an einem KI-Gesetz, das die EU 2024 beschlossen hatte. Die Reform sieht an anderer Stelle auch Lockerungen vor: Regeln für den Einsatz von Künstlicher Intelligenz in Sicherheitsbehörden und Gesundheitssystemen etwa sollen verschoben werden.
