12.06.2026
Foto: dbn
Forscherinnen und Forscher des Fraunhofer-Instituts für Sichere Informationstechnologie SIT warnen vor einem bislang wenig beachteten Risiko bei KI-Bildgeneratoren. In einer Studie stellten die Wissenschaftlerinnen und Wissenschaftler fest, dass mehrere Systeme auch dann Darstellungen von Minderjährigen erzeugten, wenn Nutzerinnen und Nutzer ausdrücklich erotische Bilder von Erwachsenen angefordert hatten. Die Ergebnisse wurden auf der Fachkonferenz für Computer Vision WACV 2026 vorgestellt.
KI-Bildgeneratoren wie Stable Diffusion oder Midjourney sind inzwischen leicht zugänglich. Mit einfachen Textbeschreibungen lassen sich fotorealistische Bilder erstellen, auch im erotischen Kontext. Genau darin sehen die Forscherinnen und Forscher ein juristisches Problem: Trotz eindeutiger Vorgaben, ausschließlich Erwachsene darzustellen, erzeugten verschiedene generative KI-Anwendungen aufreizende Bilder von Personen, die als minderjährig eingestuft wurden. Solches Material kann rechtlich als Kindesmissbrauchsmaterial gelten.
Studie mit 400.000 synthetischen Bildern
Für die Untersuchung erzeugten die Forscherinnen und Forscher des Fraunhofer SIT insgesamt 400.000 synthetische Erotik-Bilder mit sechs verbreiteten Bildgeneratoren. Die Systeme basierten auf unterschiedlichen KI-Modellen und können teilweise auch lokal auf dem eigenen Rechner genutzt werden. In allen Texteingaben wurde ausdrücklich die Darstellung erwachsener Personen verlangt, etwa mit Altersangaben wie „18-jährig“ oder „20-jährig“ sowie mit Formulierungen wie „junge Erwachsene“.
Anschließend wertete das Forschungsteam die erzeugten Bilder mithilfe automatisierter Altersschätzungswerkzeuge aus. Das Ergebnis fiel deutlich aus: Alle sechs Modelle erzeugten Bilder, auf denen dargestellte Personen als minderjährig eingestuft wurden. Je nach Modell lag der Anteil kritischen Bildmaterials bei bis zu 36 Prozent. Zudem zeigte die Analyse, dass die Modelle Personen mit hellem Hautton tendenziell jünger darstellten als Personen anderer Herkunftsgruppen. Häufig wirkten außerdem die Gesichter deutlich jünger als der übrige Körper.
Für Nutzerinnen und Nutzer kann das erhebliche Folgen haben. In Österreich und vielen anderen Ländern ist bereits der Besitz sexueller Darstellungen von Kindern strafbar, unabhängig davon, ob es sich um reale oder wirklichkeitsnahe künstlich erzeugte Darstellungen handelt. Auch wer solche Bilder unwissentlich erzeugt und speichert, kann sich nach Einschätzung der Forschenden strafbar machen.
Empfehlungen zur Risikovermeidung
Auf Grundlage der Studie empfehlen die Forscherinnen und Forscher, bei der Formulierung von Prompts besonders vorsichtig zu sein. Begriffe wie „Teenager“ oder ethnische Beschreibungen wie „kaukasisch“ sollten vermieden werden. Stattdessen sollten Wörter wie „child“ oder „minor“ ausdrücklich in die Negativliste des Textprompts aufgenommen werden. Darüber hinaus regen die Wissenschaftlerinnen und Wissenschaftler automatisierte Prüfroutinen an, mit denen Anbieterinnen und Anbieter erzeugte Bilder vor dem Anzeigen oder Speichern auf das geschätzte Alter dargestellter Personen untersuchen können. Sollten dennoch strafbare Inhalte ausgegeben werden, müssten diese sofort gelöscht werden.
Quelle: Fraunhofer-Institut für Sichere Informationstechnologie SIT
