Seit ich mich näher mit dem Thema der sexualisierten Gewalt gegen Kinder beschäftige, fällt mir immer wieder auf, wie schädlich manche Bereiche des sogenannten Kinderschutzes für den Schutz von Kindern eigentlich sind. Nicht jede Person, die vorgibt, Kinder schützen zu wollen, trägt tatsächlich auch dazu bei, dass Kinder besser geschützt werden. Viele, die als Kinderschützer gesehen werden wollen, verfolgen eigentlich ganz andere Ziele (auch, wenn ihnen das womöglich selber gar nicht bewusst ist): Ihnen geht es zum Beispiel um die Durchsetzung ihres eigenen Moralempfindens, darum ihre irrationalen Feindbilder zu legitimieren, um Reichweite und Selbstdarstellung, um die Durchsetzung eigener politischer Ziele und manchmal auch einfach nur um finanzielle Interessen. Das Thema Kinderschutz wird dabei instrumentalisiert, um sich gegen Kritik zu immunisieren (wer ist schon dagegen, dass Kinder besser geschützt werden?) und Aufmerksamkeit zu generieren.

Das gilt natürlich nicht für alle Kinderschützer. Viele Vereine und engagierte Personen leisten wertvolle Arbeit, die Kindern wirklich zugutekommt. Aber nicht überall, wo Kinderschutz draufsteht, ist auch Kinderschutz drin, und ein Kinderschutz, der nicht im Dienst von Kindern steht, kann leicht selber Schaden anrichten.

Ein Beispiel dafür, das mich besonders schockiert hat, lief im Oktober bei einbiszwei, dem Podcast der Unabhängigen Bundesbeauftragten gegen sexuellen Missbrauch von Kindern und Jugendlichen (UBSKM). In Folge 151 redete Moderatorin Nadia Kailouli mit Dr. Jessica Szczuka von der Universität Duisburg-Essen über KI und KI-generierte Kinderpornografie. Dass sich Gast und Moderatorin darin einig waren, dass auch völlig fiktive Formen von KI-generierter Kinderpornografie zu verurteilen seien, ist ein Standpunkt, den viele Kinderschützer einnehmen und damit an sich erst einmal nicht überraschend. Bemerkenswert ist aber, wie diese Ansichten begründet und was für Folgerungen daraus gezogen wurden. Das Wohl von Kindern spielte in der Debatte quasi keine Rolle mehr, während Maßnahmen gefordert wurden, die Kindern unmittelbar schaden können und fehlende empirische Beweise durch teils perfide argumentative Tricks kompensiert wurden. Wie weit die Debatte am Kindeswohl vorbeilief, möchte ich im Folgenden an einigen Aussagen zeigen, die in der Podcastfolge getätigt wurden.

Im Vorfeld aber erst einmal ein paar wichtige Differenzierungen zum nicht ganz einfachen Thema der KI-generierten Kinderpornografie, die in den meisten Debatten (und so auch in der Podcastfolge) unter den Tisch fallen. KI ist ein mächtiges Werkzeug, das man vielfältig einsetzen kann. Unter den Einsatzmöglichkeiten gibt es auch zahlreiche Verwendungen, die moralisch verwerflich oder schädlich für Kinder sind. Dazu gehören insbesondere Deepfakes, also die Manipulation von an sich harmlosen Alltagsfotos echter Kinder, um daraus sexualisierte Inhalte zu erstellen. Ebenso können KI-Modelle mit sogenannten LoRAs nachtrainiert werden. Wird dies mit echten Missbrauchsabbildungen getan, kann eine KI so darauf trainiert werden, ähnliche Abbildungen zu erzeugen. Auch dies ist natürlich, ähnlich wie die Erstellung echter Missbrauchsabbildungen, zu verurteilen.

Solche Verwendungen von KI berühren zumindest indirekt echtes Leid von real existierenden Kindern, sodass sich eine Verurteilung leicht begründen lässt. KI muss aber nicht zwingend so verwendet werden, sondern kann auch zur Generierung komplett fiktiver Szenarien verwendet werden. Dabei muss es auch nicht immer nur um Bilder und Videos gehen, ebenso lassen sich pornografische Geschichten mithilfe von KI generieren. In diesen Fällen sind gerade keine real existierenden Kinder involviert, sodass eine Schädlichkeit sich unmittelbar nicht ergibt.

All diese Differenzierungen werden in der Podcastfolge völlig ignoriert und stattdessen jegliche Nutzung von KI zur Erfüllung sexueller oder romantischer Wünsche pädophiler Menschen verdammt, völlig egal, ob dabei ein belegbarer Schaden entsteht oder nicht. An mehreren Stellen zeigen Moderatorin und Gast, dass ihnen eine selbstgerechte moralische Empörung wichtiger ist, als das Wohl echter Kinder.

Kailouli: Wir wollen direkt mit dir mal über diese Gefahren sprechen. Und zwar würde ich direkt sagen, wir fangen ziemlich heftig an. Und zwar nutzen Menschen diese KI-generierten oder mit KI generieren sie Abbildungen von Kindesmissbrauch. Das sind dann Videos oder Bilder, wo zwar keine echten Kinder drin vorkommen, aber eben die Abbildung suggeriert, das ist ein Kind und man baut sich halt einfach mit dieser Technologie Abbildungen von Kindesmissbrauch.

Schon direkt zu Beginn bezeichnet die Moderatorin KI-generierte Inhalte pauschal als Gefahr. Die reine Vorstellung, dass Menschen sexualisierte Darstellungen von Kindern per KI generieren wird emotionalisierend als „ziemlich heftig“ bezeichnet, ohne dass erklärt wird, warum dies eigentlich so sein sollte, wenn „keine echten Kinder drin vorkommen“. Kailouli scheint darauf zu vertrauen, dass schon alleine diese Vorstellung bei ihrem Publikum genug Ekel und Abscheu erzeugt, und zeigt damit, dass sie an einer sachlichen und differenzierten Debatte kein Interesse hat.

Tendenziös sind dabei schon die gewählten Bezeichnungen, die in ähnlicher Weise auch im Rest der Folge verwendet werden. KI-generierte kinderpornografische Inhalte werden durchgehend als „Missbrauchsabbildungen“ bzw. „Abbildungen von Kindesmissbrauch“ bezeichnet. Die Bezeichnung ist aber höchstens dann zutreffend, wenn tatsächlich reale Missbrauchsdarstellungen zur Generierung weiterer Inhalte benutzt wurden. Auf rein fiktive generierte Inhalte trifft die Bezeichnung nur insofern zu, als sie zum Teil Szenarien darstellen, die in der Realität Kindesmissbrauch wären. Das macht sie aber noch nicht zu Missbrauchsabbildungen, ebenso wenig, wie ein Krimi im Fernsehen eine Dokumentation von Mord ist. Es gibt einen wichtigen Unterschied zwischen Kinderpornografie und Missbrauchsabbildungen; diesen Unterschied zu ignorieren, bagatellisiert am Ende vor allem reale Gewalt und das Leid, das dadurch ausgelöst wird.

Diese Wortwahl hat letztlich die Wirkung, dass fiktive Inhalte auf eine Stufe mit Aufnahmen echter sexualisierter Gewalt gestellt werden. Damit einher geht eine Abwertung von jenen, welche die pauschale Strafwürdigkeit von fiktiver KI-generierter Kinderpornografie infrage stellen, denen damit im Grunde unterstellt wird, Missbrauchsdarstellungen – und damit indirekt auch Missbrauch – zu verteidigen.

Dr. Szczuka: Das, was außerdem, glaube ich, nicht so direkt auf dem Schirm von vielen Leuten ist, ist die Tatsache, dass das, was abgebildet wird, in seiner Intensität, in der physikalischen Intensität auch einfach ins Extreme geht. […] Da ist die Anzahl von Kategorie A, also schwersten Missbrauchsdarstellungen, um 65 Prozent gestiegen im Vergleich dazu, was man vorher bei Fotos und Videos hatte, die halt eben mit der Kamera sozusagen aufgezeichnet worden sind. Das ist natürlich, weil die KI es möglich macht, physikalische Grenzen komplett außen vorzulassen.

Auch hier ist festzuhalten, dass fiktive Inhalte nicht gleichzusetzen sind mit realen Missbrauchsdarstellungen. Ein Anstieg in der schwersten Kategorie bei *realen* Missbrauchsabbildungen wäre durchaus alarmierend, weil diese Kategorie Handlungen enthält, die tendenziell den größten Schaden bei kindlichen Opfern hinterlassen. Warum ein Anstieg an fiktiven Inhalten in dieser Kategorie alarmierend sein soll, ist zumindest erklärungsbedürftig. Erst einmal ist es schließlich eine gute Sache, wenn reale Abbildungen, die das Leid echter Kinder zeigen durch Darstellungen verdrängt werden, die gegebenenfalls gar keine real existierende Person mehr abbilden.

Darüber hinaus stellt sich die Frage, warum es überhaupt eine Rolle spielt, wie „extrem“ sexualisierte Darstellungen sind, die keine realen Kinder beinhalten? Ein KI-generiertes Bild, das ein nicht-existierendes Kind bei penetrativen sexuellen Handlungen zeigt, ist unmittelbar schließlich nicht schädlicher, als ein reines KI-generiertes Nacktbild desselben fiktiven Kindes. Schon hier drängt sich der Eindruck auf, dass es am Ende gar nicht darum geht, was Kindern am meisten schadet, sondern um die Verurteilung von Fantasien, die als besonders widerwärtig empfunden werden. Welche sexuellen Praktiken und Fantasien „extrem“ sind, ist schließlich auch keine objektive Tatsache, sondern liegt im Auge des Betrachters.

Dieser angebliche Anstieg „extremer“ Darstellungen beunruhigt Kailouli und Dr. Szczuka dermaßen, dass die Folge sogar damit angeteasert wird, um die vermeintliche Dringlichkeit des Problems darzustellen: „Seit es Künstliche Intelligenz gibt, ist der Anteil schwerster Missbrauchsdarstellungen um 65 % gestiegen“, heißt es da alarmierend. Das Problem ist nur: diese Aussage von Dr. Szczuka stimmt leider überhaupt nicht. Die Zahl bezieht sich laut einem Bericht der Internet Watch Foundation (IWF), der auch in den Shownotes als Quelle verlinkt ist, lediglich auf den Gesamtanteil der schwersten Kategorie A an KI-generierten Videos, die von der IWF untersucht wurden. Es gab also keinen Anstieg von 65 % von Inhalten der schwersten Kategorie A, vielmehr lässt sich ein Anteil von 65 % der untersuchten KI-generierten Videos insgesamt in diese Kategorie einordnen. Über alle Bilder betrachtet, die von der IWF analysiert wurden, ist der Anteil von Kategorie-A-Inhalten im Gegenteil sogar signifikant gesunken, und zwar um etwa 50 % von 2024 auf 2025. Das dürfte nicht zuletzt auch daran liegen, dass trotz aller Panikmache KI-Inhalte noch einen relativ geringen Anteil an Meldungen insgesamt ausmachen.

Dr. Szczuka: Das, was psychologisch dahinter natürlich total spannend ist, ist so diese, wir nennen das Moral Disengagement, also dieses moralische Distanzieren vom Konsum, weil die Künstlichkeit, die schon im Namen suggeriert ist – KI, künstlich – das lässt ja vermuten, dass da kein echtes Kind in irgendeiner Form irgendwie Schaden vornimmt, weil es nicht abgebildet ist, weil es ja diese Person gar nicht gibt. Aber das ist ein totaler Trugschluss, weil um diese Modelle zu trainieren sind, und das wissen wir mittlerweile durch große Analysen, auch von Stanford, die gezeigt haben, dass in diesen ganzen Modellen, die wir auch zum Teil tagtäglich nutzen, auch Missbrauchsdarstellungen von Kindern inkludiert sind. Oder aber es sind Kinder involviert in nicht sexualisierten Situationen sozusagen, und die werden dann trotzdem in diese Situation gebracht. Das heißt, diese Vorstellung, dass das einfach so getrennt werden kann und gesagt werden kann, das hat ja mit der echten Welt nichts zu tun, ist total wishful thinking, so nennen wir das.

Das ist im Grunde die Kernthese von Dr. Szczuka: von künstlicher Intelligenz zu reden sei falsch, da bei der KI-Generierung von Inhalten immer auch reale Kinder involviert seien. Wer also glaube, KI-generierte Inhalte könne rein fiktiv sein, unterliege einem Irrtum, um nicht zu sagen einer kognitiven Verzerrung, die sexualisierte Gewalt an Kindern verharmlost.

Das ist zuallererst einmal faktisch nicht richtig, oder zumindest nicht belegbar. In der erwähnten Stanford-Studie, die inzwischen drei Jahre alt (und damit bezogen auf das Entwicklungstempo von KI geradezu prähistorisch) ist, wurden zwar tatsächlich ungefähr 1000 kinderpornografische Bilder in einem Trainingsdatensatz für KI gefunden. Dabei ging es aber lediglich um einen Datensatz, mit dem vor allem eine Version des Bildgenerators Stable Diffusion trainiert worden ist. Daraus folgt noch lange nicht, dass alle KI-Modelle immer mit realen Missbrauchsabbildungen trainiert wurden. Der betroffene Datensatz wurde nach Bekanntwerden der Ergebnisse zurückgezogen und erst nach Bereinigung von den fragwürdigen Bildern wieder online gestellt. Inzwischen scheint es üblich zu sein, dass Datensätze auf mögliche illegale Inhalte gescannt werden, bevor damit KI trainiert wird – dies beschreibt zum Beispiel OpenAI auf ihrer Webseite.

Ganz lässt sich damit zwar auch nicht sicherstellen, dass KI definitiv nicht mit Missbrauchsabbildungen trainiert wurde. KI-Firmen werten das ganze frei verfügbare Internet aus, um ihre Modelle damit zu trainieren, und Missbrauchsabbildungen sind nun einmal leider auch ein Teil dieses Internets; gleichzeitig gibt es keine Filter, die völlig perfekt sind. Das kann man durchaus kritisch bewerten. Im Kontext der Podcastfolge ist die Kritik dennoch seltsam, denn wenn tatsächlich populäre KI-Modelle wie ChatGPT, Claude, Gemini etc. unwissentlich mit Missbrauchsabbildungen und Kinderpornografie trainiert wurden, dann profitiert davon jede Person, die KI nutzt (heutzutage also so gut wie jeder). Dr. Szczuka wendet die Kritik aber höchst selektiv an: Während sie pädophile Nutzende, die mit KI ihre Fantasien ausgestalten, dafür verantwortlich macht, dass möglicherweise Missbrauchsdarstellungen im Training der KIs verwendet worden sein könnten, beschreibt sie die Nutzung von KI für andere Personengruppen als potenziell sehr positiv, und reflektiert auch ihre eigene Nutzung von KI nicht.

Wie zu Beginn erwähnt, ist die Darstellung, dass KI-generierte Kinderpornografie immer echte Kinder involvieren würde, zum Beispiel in Form von Deepfakes, ebenso falsch. Wer KI mit fiktiven Zeichnungen nachtrainiert, um ähnliche Zeichnungen zu generieren, sich erfundene erotische Geschichten generieren lässt oder eine KI dazu bringt, in Chats so zu tun, als wäre sie ein nicht existierendes Kind, involviert erst einmal keine realen Kinder. KI-Bilder wie der Krabbenjesus zeigen, dass KI sehr wohl auch komplett unrealistische und erfundene Szenarien abbilden kann.

Kein Sohn Gottes ist bei der Erstellung dieses Werkes zu Schaden gekommen
Dr. Szczuka verurteilt KI-generierte Kinderpornografie also ausgehend von einzelnen Nutzungsformen wie z. B. Deepfakes, die durchaus zu verurteilen sind, und ignoriert dabei Nutzungsformen, die tatsächlich keine realen Kinder involvieren. Um ihr Argument zu stärken, unterstellt sie denen, die anderer Meinung sind Naivität und kognitive Verzerrungen: Wer KI-generierte Kinderpornografie für potenziell harmlos halte, unterliege Wunschdenken oder betreibe gar eine „moralische Entkoppelung“. Was fast nach einer fundierten psychologischen Analyse klingt, ist in Wahrheit eine Form von (epistemischer) Gewalt, indem einer Gruppe von Menschen von vorneherein jegliche Befähigung abgesprochen wird, sich an der Debatte überhaupt zu beteiligen. Anstatt sich mit anderen Meinungen auseinanderzusetzen, psychologisiert Dr. Szczuka diese und wertet sie darauf basierend ab. Leider ist das eine sehr effektive Strategie – wer traut sich schon, kritisch zu bleiben, wenn eine promovierte Psychologin behauptet, diese kritische Haltung würde sexualisierte Gewalt gegen Kinder fördern?

Dr. Szczuka: Denn es gibt ja immer noch diese große Frage, die im Raum steht: Kann es nicht auch für einige Personen ein Safe Outlet sein, um diese Sexualität in irgendeiner Form zu leben? Und es ist doch besser, dass man dann diese künstlichen Materialien konsumiert, als dass man sich sozusagen da in irgendeiner Form an existierenden Kindern vergeht. Und das ist immer noch eine Idee, die in den Köpfen ist, aber eigentlich spricht in der Theorie so gut wie alles dagegen, dass das eine Art von Safe Outlet ist, das immer ausreichend wird. Weil halt diese Idee von, man konsumiert immer mehr und um das Erregungsniveau zu erreichen, wird immer wieder weiter konsumiert und anderer Content konsumiert. Es gibt diese Online-Only-Konsument:innen sozusagen, das gibt es. Aber die Gefahr, dass das sich reinsteigert, ist halt sehr hoch. […]

Dass man dann irgendwann diesen Schritt geht von: Okay, jetzt habe ich irgendwie online […] also wirklich sehr extreme Dinge konsumiert. Ich brauche den neuen Kick. Und der neue Kick ist dann aber, dass man sozusagen in die Realwelt übergeht. Das ist eine Sorge, die wir unfassbar ernst nehmen sollten. Denn im Zuge von sexualisierten Robotern auch ein Kollege von mir so sehr schön geschrieben: Es gab eigentlich nie den Moment, dass jemand gesagt hat: „So, und jetzt reicht mir das, jetzt reicht mir das an extremem Material, jetzt bleibe ich auf diesem Niveau.“ Sondern es wurde halt, in der Regel wird das immer, immer höher.

Auch hier ist zunächst einmal zu bemerken, wie Dr. Szczuka ihre Autorität als Psychologin benutzt, um die Gegenposition als reines Hirngespinst („Idee in den Köpfen“) und damit als Position zu delegitimieren, mit der sich vernünftige Menschen gar nicht erst näher beschäftigen müssen. Dabei erweisen sich ihre „Sorgen“, die sie immer wieder wie empirisch bewiesene Tatsachen behandelt, beim genaueren Hinsehen als wissenschaftlich nicht haltbar, und die Gegenposition als sehr gut begründbar.

Es gibt nach aktuellem Stand einfach keinen Beleg, dass fiktive Kinderpornografie echte Kinder in Gefahr bringt. Im Gegenteil, sämtliche empirischen Erkenntnisse, die wir bislang haben, zeigen in die Gegenrichtung, dass durch die Verfügbarkeit von sexuellen Outlets letztlich auch sexualisierte Gewalt reduziert werden kann. Eine Studie von Lievesley und Harper aus dem Jahr 2026 kam zum Beispiel zu dem Ergebnis, dass die Nutzung von fiktiver Kinderpornografie unter Mitgliedern von Online-Foren für pädophile Menschen nicht mit einer höheren Bereitschaft für die Begehung von Straftaten assoziiert war. Eine 2024 veröffentlichte Befragung von 40 Betroffenen des Verbots von Kindersexpuppen stellte fest, dass viele von einer Zunahme schädlicher Verhaltensweisen berichteten, seitdem ihnen Puppen als sicheres Ventil genommen wurde. In vielen Ländern lässt sich beobachten, dass eine Kriminalisierung von (Formen von) Kinderpornografie mit einem Anstieg an Missbrauchsfällen korreliert. Was Dr. Szczuka hier als objektive Wahrheit präsentiert, ist in Wahrheit also höchst umstritten und empirisch nicht abschließend geklärt.

Es ist bestürzend, wie lange die Liste an Akademiker:innen inzwischen geworden ist, die zum Thema Kinderschutz öffentlich Sachen behaupten, die schlicht und ergreifend falsch sind. Das ist nicht nur unehrlich, sondern letztlich vor allem auch schädlich für einen effektiven Schutz von Kindern, der empirisch fundiert arbeitet. Solche Falschaussagen, wie Dr. Szczuka sie verbreitet, erschweren es, überhaupt noch in Erwägung zu ziehen, dass fiktive Kinderpornografie eine präventive Wirkung haben könnte. Dies ist aber eine sehr reale Möglichkeit, die durch die aktuelle Wissenslage nicht ausgeschlossen werden kann, wenn sie nicht sogar in Teilen wahrscheinlich erscheint. Wenn es aber eine präventive Wirkung gibt, und auf Basis persönlichen Abscheus trotzdem Verbote ausgesprochen werden, dann werden Kinder dadurch letztlich weniger sicher gemacht. Der Podcast ist damit letztendlich ein weiteres Beispiel dafür, wie die persönliche moralische Empörung über einen evidenzbasierten Kinderschutz gestellt wird.

Dr. Szczuka: Und das, was halt auch immer wieder von Kinderschutzorganisationen angebracht wird, ist halt dieses schiere, die Masse an Material, die jetzt existiert, werden auch viel mehr Personen zum ersten Mal mit so einer Art von Material konfrontiert. Und dadurch können sich ja auch erstmalige Kontakte und auch diese Bewertung von „Wie finde ich das eigentlich?“ auch bei ganz vielen Personen jetzt anders einstellen. Das heißt, es kann durchaus auch sein, dass diese sogenannten Prävalenzraten, also die Frage, wie oft das eigentlich vorkommt, auch in nächster Zeit höher werden, weil einfach mehr Menschen mit so einer Art von Material erst mal in Kontakt kommen werden durch die schiere Masse an KI-generierten, Materialien, die da gerade durchs Netz wabert.

Dr. Szczuka scheint hier von Pädophilen zu sprechen, auch wenn weder sie noch Moderatorin Kailouli dieses Wort auch nur einmal im Laufe der Folge in den Mund nimmt. Szczuka scheint also zu glauben, dass KI-generierte Kinderpornografie Menschen pädophil machen würde, und ein Zuwachs an derartigen Inhalten zu einer Masse neuer Pädophiler führen würde. Das ist, um es nett auszudrücken, eine irre Vorstellung – Sexualität funktioniert so einfach nicht.

Natürlich kann es sein, dass jemand durch den Anblick eines KI-generierten nackten Kindes merkt, dass er/sie Kinder sexuell ansprechend findet. Vielleicht wird das sogar wahrscheinlicher, je mehr KI-generierte Bilder nackter Kinder im Umlauf sind. Das bedeutet aber nicht, dass diese Person nicht vorher schon pädophil gewesen ist, oder das ohne KI-Inhalte nicht irgendwann anders bemerkt hätte. Wer pädophil ist, merkt das in der Regel irgendwann auf die ein oder andere Weise, und wer es nicht ist, wird nicht plötzlich durch den Anblick eines KI-generierten Kindes der Pädophilie verfallen. Die Hoffnung, dass pädophile Menschen einfach nie merken, dass sie Kinder attraktiv finden, indem sie von potenziell triggernden Reizen einfach ferngehalten werden, ist naiv und unrealistisch.

Anstatt eine alarmistische Panik auszulösen, kann man diesen Aspekt auch ganz anders bewerten, so wie es Laura Kuhle von Kein Täter Werden auf dem WRITE-Workshop kürzlich tat: So kann die Interaktion mit KI-Systemen pädophilen Menschen helfen, sich selbst und die eigenen Wünsche besser zu erkennen und eine eigene Identität zu finden. Das wäre dabei auch aus präventiver Perspektive zu begrüßen, denn Menschen können nur dann mit ihrer Sexualität verantwortungsbewusst umgehen, wenn sie sich ihrer Sexualität überhaupt erst einmal bewusst sind.

Die Behauptung von Dr. Szczuka hat mich so sehr irritiert, weil sie so offensichtlich falsch ist, dass ich erst einmal näher nachforschen musste, wie sie auf diese Idee überhaupt kommt. Tatsächlich scheint sie sich diese Idee nicht selber ausgedacht zu haben, vielmehr stammt sie aus dem in den Shownotes verlinkten IWF-Bericht über KI-generierte Kinderpornografie. Dort heißt es in einem erstaunlichen Brustton der Überzeugung, es sei bewiesen, dass jegliche Form von Kinderpornografie ein sexuelles Interesse an Kindern verstärken würde (Original-Zitat: „Engagement with any form of CSAM has been shown to reinforce existing sexual interest in children.“). Dies ist, nebenbei erwähnt, eine andere Aussage als das, was Dr. Szczuka daraus macht: während die IWF nur davon redet, dass KI-Kinderpornografie Menschen, die schon pädophil sind noch pädophiler machen könne, würden diese Inhalte laut Dr. Szczuka sogar insgesamt mehr Menschen pädophil machen.

Belegt wird diese Aussage von der IWF einmal mit einem Thesenpapier, das von Menschen geschrieben wurde, die teils ein direktes finanzielles Interesse daran haben, dass möglichst viel Material als Kinderpornografie eingestuft und das Problem als möglichst groß dargestellt wird. Das Papier wiederholt im Grunde die gleichen Thesen, die Dr. Szczuka auch vorträgt, ohne zusätzliche fundierte Belege zu liefern. Stattdessen wird es schon als Beweis für einen angeblichen Normalisierungsprozess gewertet, wenn man überhaupt einen Unterschied zwischen fiktiven und realen Abbildungen sieht, und fiktive Inhalte für weniger schlimm hält. Das einzige, was einem empirischen Beleg nahe kommt, ist die Forschung der finnischen Kinderschutzorganisation Suojellaan Lapsia, laut der einige Konsumenten von Missbrauchsabbildungen im Darknet befürchten, eines Tages auch selber Missbrauch begehen zu können. Diese Forschung hat aber einige Probleme, jedenfalls lässt sich die Eskalationshypothese nicht direkt damit begründen. Ausführlich habe ich mich vor einigen Jahren mit den Ergebnissen beschäftigt.

Als weitere Quelle wird ein Kapitel in einem 2013 veröffentlichten Buch genannt. Das Kapitel beschreibt soziale Dynamiken in kriminellen Netzwerken zum Austausch von Missbrauchsdarstellungen und merkt an, dass gerade pädophile Täter in diesen Zirkeln oft auch Verständnis und Akzeptanz erfahren, die sie außerhalb nicht bekommen. Ich persönlich finde den Gedanken ja tragisch und alarmierend, dass möglicherweise viele pädophile Menschen auf sich alleine gestellt sind und Akzeptanz und Unterstützung durch Dritte erst dann erfahren können, wenn sie Grenzen überschreiten kriminell werden. Man kann daraus schließen, dass Stigmatisierung und Diskriminierung nicht nur direkten Schaden bei den Betroffenen selbst anrichteen, sondern gleichzeitig auch mehr Menschen in die Kriminalität treiben. Die IWF scheint daraus zu schließen, dass es schon ein Problem sei, wenn pädophile Menschen überhaupt Akzeptanz und Verständnis erfahren, da sie dies noch pädophiler werden lasse.

Offen bleibt die Frage, was das alles mit KI-generierter Kinderpornografie zu tun hat. Bei all diesen Argumentationen geht es schließlich um Täter, die echte Missbrauchsabbildungen konsumiert oder sogar erstellt und verbreitet haben. Es ist nicht selbsterklärend, dass Erkenntnisse in dem Bereich sich ohne Weiteres auch auf Menschen übertragen lassen, die auf fiktive Alternativen ausweichen. Vielmehr scheint die Argumentation schon das anzunehmen, was eigentlich die zu beweisende Hypothese ist: dass es nämlich keinen nennenswerten Unterschied zwischen Aufnahmen echter Missbrauchshandlungen und fiktiven KI-generierten Darstellungen gibt.

Kailouli: Moment mal, also da gibt es Leute, die sagen: Hey, ist doch in Anführungsstrichen „super“, dass man dann lieber künstlich generierte Missbrauchsabbildungen von Kindern herstellt, anstatt dass man Kinder wirklich missbraucht und das mit der Videokamera festhält. Dann doch lieber mit KI. Ich frage mich die ganze Zeit: Moment mal, ist das nicht eigentlich total egal? Also was heißt total egal? Also am Ende, klar, will man überhaupt gar nicht, dass Kinder missbraucht werden, aber ich denke mir halt, da ist es doch egal, ob jetzt künstlich oder nicht künstlich. De facto müssen wir doch das Künstliche genauso verurteilen wie das Nichtkünstliche.

Das ist wohl einer der besonders entlarvenden Momente in der Podcastfolge. Wir leben in einer perversen Welt, wenn Menschen, die behaupten, Kinder schützen zu wollen schamlos erzählen können, dass es ihnen „egal“ sei, ob echte Kinder vergewaltigt oder lediglich fiktive Darstellungen generiert wurde. Diese Aussage ist das vielleicht deutlichste Zeichen, dass in der Debatte das Wohl von Kindern schon lange keine Rolle mehr spielt und es vor allem um die Verdammung von Fantasien und Präferenzen geht, die subjektiv als „pervers“ oder „gefährlich“ empfunden werden.

Es ist eine Sache, KI-generierte und fiktive Kinderpornografie und deren Kriminalisierung zu fordern, und noch einmal etwas ganz anderes zu fordern, dass diese genauso wie echter Missbrauch zu behandeln sei. Auch wer fiktive Kinderpornografie verurteilt kann anerkennen, dass es einen Unterschied macht, ob auf einem Bild ein realer Missbrauch oder lediglich eine Fantasie abgebildet ist.

Wer keinen Unterschied mehr sieht zwischen fiktiven Abbildungen und Aufnahmen realen Missbrauchs, hat jeglichen Kontakt mit der Realität verloren und sollte besser schweigen, wenn es um den Schutz von Kindern geht. Echter Kinderschutz, der im Dienste von Kindern und nicht nur des eigenen Wohlbefindens steht, muss auch Perspektiven aushalten und erwägen, die unangenehm sind und Gefühle von Ekel und Abscheu bei einem selber auslösen.

Dr. Szczuka: Das ist aber genau die eine weitere, ich sage mal, mentale Brücke, die da auch gebaut wird, um das weiter zu verharmlosen, den Konsum von KI-generiertem Material, weil es beispielsweise in der Rechtsprechung unterschiedlich gehandhabt wird. […] Weil es halt auch aktuell ganz wenig Zahlen in irgendeiner Form dazu gibt, ob das denn jetzt sozusagen im Konsum gleichzusetzen ist. Dann im Hinblick auf die sogenannten Real-World-Offenses, also die Frage, ob es dann zu einer Kontaktstraftat kommt. Da gibt es halt sozusagen keine Zahlen zu und dementsprechend tut sich die Rechtsprechung da aktuell noch sehr, sehr schwer, das in irgendeiner Form einzuordnen. […]

Wie gesagt, es gibt auch diese Online-Only-Konsumentinnen, aber die schiere Wahrscheinlichkeit, dass durch mehr Leute auch mehr Leute zu den realweltlichen Übergriffen dazukommen, ist es wert, das sozusagen in gleichem Maße strafrechtlich zu verfolgen.

Es ist ziemlich erstaunlich, dass Dr. Szczuka selber zugibt, dass es keine belegten Zahlen für ihre Eskalationshypothese gibt, die sie doch weiter oben noch als angeblich erwiesenen Fakt beschrieben hat. Dies führt aber keineswegs dazu, dass sie sich selber hinterfragt, stattdessen wirft sie wieder einmal grundlos der Gegenseite vor, kognitiven Verzerrungen zu unterliegen. Ebenso bemerkenswert ist, dass sie das nicht davon abhält trotzdem nahezulegen, dass fiktive KI-generierte Inhalte strafrechtlich genauso behandelt werden sollten, wie tatsächlicher Missbrauch. Auch hier stellt sich die Frage, was ihrer Meinung nach eigentlich das zu Bestrafende ist: schädliches Verhalten, oder doch nur sogenannte „deviante“ Sexualpräferenzen?

Auch hier muss einmal gesagt werden, wie extrem eine Forderung nach einer Gleichbehandlung von fiktiven und realen Darstellungen eigentlich ist. Selbst wenn es belastbare Beweise geben würde, dass fiktive KI-generierte Kinderpornografie die Hemmschwellen für reale sexualisierte Gewalt senken kann, wäre das noch lange kein Grund, beides gleich stark zu bestrafen. Jemand, der gerne mal ein Bier trinkt, wird schließlich auch nicht bestraft wie ein Vater, der betrunken seine Kinder schlägt (seltsamerweise fordert kaum jemand überhaupt ein Verbot von Alkohol, obwohl Alkohol erwiesenermaßen mit physischer und sexualisierter Gewalt assoziiert ist). Der Schaden wäre auch dann unterschiedlich hoch, und eine mildere strafrechtliche Behandlung des Besitzes fiktiver Inhalte somit angemessen. Aus praktischer Perspektive wird ihr Ansatz der Gleichbehandlung vermutlich die Verbreitung realer Missbrauchsdarstellungen noch fördern, denn wenn ohnehin alles gleich hart bestraft wird, gibt es auch keinen Anreiz, bei fiktiven Inhalten zu bleiben. Dieser Fanatismus, der jegliche Differenzierung als Verharmlosung denunziert, um letztlich fiktive Darstellungen als gleich schlimm wie das echte Leid missbrauchter Kinder einstufen zu können, kann am Ende also auch hier dazu führen, dass mehr Kinder Schaden erleiden.


Dr. Szczuka: Aber das, was Chatbots oder KI halt jetzt auch völlig neu aufmachen, ist die Art von Beziehungsbildung, die stattfinden kann. […] Genauso wie es halt diese sozialen Beziehungen im Hinblick auf zum Beispiel KI als mein Therapeut gibt, gibt es halt auch Leute, die das jetzt nutzen auf einer sprachlichen Ebene, um sich sozusagen eine Kinder-Persona zu schaffen und mit der dann auch sexuelle Szenarien durchzusprechen. Und das ist etwas, was auch noch überhaupt nicht in irgendeiner Form ernst genommen und auf dem […] Forschungsgebiet wird es auch noch total unterrepräsentiert. Aber das ist natürlich noch mal eine ganz andere Art von Beziehungsbildung, die sich da abspielt, weil das ja viel emotionaler ist als der Konsum für Bilder und sozusagen sexuelle Befriedigung. Und ich glaube, das ist etwas, was auch unbedingt noch viel mehr in den Diskurs muss, dass das eine ganz große Gefahr ist.

Hier wird zunächst einmal deutlich, wie viel Dr. Szczuka unter problematischer KI-Nutzung versteht. Es geht ihr nicht nur um Bilder, und noch nicht einmal nur um Nutzungen von KI zur sexuellen Befriedigung. Auch Pädophile, die KI nutzen, um fiktive Chats mit nicht existierenden Kindern zu führen und darüber ihre emotionalen Bedürfnisse nach Beziehung ein Stück weit zu erfüllen, sind für sie eine „ganz große Gefahr“. Denn obwohl sie auch hier selber zugibt, dass wir über das Thema noch überhaupt nichts wissen, ist sie sich natürlich trotzdem absolut sicher, dass diese Art der Nutzung auf jeden Fall ganz gefährlich sein muss.

Dabei ist es doch eigentlich ein wunderbarer Nutzen von KI, insbesondere exklusiv pädophilen Menschen eine Möglichkeit zu geben, eine emotionale Beziehung zu einem Kind zumindest zu simulieren, die ansonsten dazu verdammt wären, ihre menschlichen Grundbedürfnisse nach Verbindung, Nähe und Beziehung nie ausleben zu können. Dr. Szczuka selber betont an anderer Stelle, dass das Schreiben mit KI durchaus positive Effekte haben kann, auch was das „Ausleben von ganz natürlichen sozialen Bedürfnissen“ angeht. Das Erfüllen dieser Bedürfnisse scheint sie aber nur bestimmten Menschen zuzugestehen. Pädophile und die, wie sie es nennt, „Komischen“ gehören da nicht zu. Die gleiche Handlung, die bei den einen zu einem „positiven sozialen Erleben“ führt, ist bei den anderen plötzlich eine „ganz große Gefahr“. Zu begründen versucht sie dies wie folgt:

Dr. Szczuka: Was da aber so gefährlich dran ist, ist, dass hier dann auf einmal diese emotionale Komponente eine viel größere Rolle spielt. […] Aber in diesen Chats kann man das ja auch alles so sich hinschreiben lassen, dass das Kind das ganz toll findet und die andere Person total toll findet und da eine richtige Art von Beziehungsbildung in irgendeiner Form passiert.

Szczuka begründet ihre Ansicht, dass Chats mit fiktiven Kindern eine große Gefahr seien also damit, dass sie kognitive Verzerrungen verstärken könnten. Der Gedanke scheint zu sein: Wer mit einer KI chattet, die angewiesen wurde, sich als Kind auszugeben und sexualisierte Beziehungen mit Erwachsenen toll zu finden, der glaubt irgendwann auch, dass echte Kinder ebenso denken würden. Einen Beleg dafür, dass dies ein ernsthaftes Risiko sein kann, führt sie selbstverständlich nicht an – wohl weil es einen solchen bislang auch einfach nicht gibt.

Und auch hier widerspricht Dr. Szczuka sich selber. An anderer Stelle berichtet sie, dass ihre Studien gezeigt haben, dass „alle Leute, die damit [einem Chatbot] interagieren, sehr wohl außerhalb der Interaktion wissen, dass das keine echte Person ist“. An keiner Stelle erklärt sie, warum sie davon ausgeht, dass dies bei Pädophilen, die mit kindlichen KI-Chatbots interagieren plötzlich anders sein sollte.

Insgesamt scheint Dr. Szczuka selbst ihre eigene Forschung höchst selektiv anzuwenden. Ihren Erkenntnissen nach können KI-Chatbots das Ausleben von natürlichen Bedürfnissen ermöglichen – außer bei Pädophilen, wo dies eine große Gefahr sei. Laut ihren Studien können Menschen zwischen KI-Avataren und realen Personen unterscheiden – außer bei Pädophilen, die dann plötzlich doch echte Kinder wie ihre KI-Gefährten behandeln würden. Es scheint so, als seien ihre Ansichten weniger von belastbaren Erkenntnissen und eher von der falschen und menschenverachtenden Prämisse geprägt, dass alles, was schlecht für Pädophile ist und ihnen Leid bringt automatisch gut für Kinder sein muss – und umgekehrt alles, was Pädophilen mehr Lebenszufriedenheit bringen könnte, automatisch eine Gefahr für Kinder sein muss.

Dr. Szczuka: Aber ist ja, die Nachverfolgung ist halt auch nicht einfach im Zweifel, ne. […] Und es ist halt zum jetzigen Zeitpunkt noch relativ ungeklärt, wie man das sozusagen verargumentieren möchte, dass es sich dann auch lohnt, Leute abzustellen, um quasi nicht existierenden Personenschaden in irgendeiner Form Herr zu werden. Und das ist, muss man sagen, auch juristisch und in der Präventionsarbeit eine Riesenaufgabe, weil ich kann sagen, aus beiden Zielgruppen sozusagen, die sind beide überhaupt nicht darauf vorbereitet, was da gerade auf die zukommen wird. Also, wir versuchen gerade, wie gesagt, mit Personen, die richterliche Entscheidungen treffen sollen, werden wir dann Interviews führen.

Hier redet Dr. Szczuka davon, die Justiz dahin gehend zu beeinflussen, dass mehr Ressourcen in die Verfolgung fiktiver KI-generierter Inhalte gesteckt werden. Dabei gibt sie selber zu, dass rein fiktive Materialien keinen „existierenden Personenschaden“ erzeugen. Dass von fiktiven Inhalten keine belegbare Schädlichkeit ausgeht, ist für sie dabei lediglich eine argumentative Herausforderung, die es erschweren würde, Jurist:innen und Fachpersonen davon zu überzeugen, mit voller Härte gegen diese Inhalte vorzugehen.

Dr. Szczuka will also begrenzte Ressourcen, die für den Schutz von Kindern zur Verfügung stehen, dort wegnehmen, wo sie echten Kindern nutzen können, um sie zur Verfolgung von fiktiven Inhalten einzusetzen, deren Schädlichkeit bislang unbewiesen ist. Spätestens an dieser Stelle wird deutlich, wie gefährlich diese Form des Pseudo-Kinderschutzes eigentlich ist, und welche negativen Konsequenzen für Kinder diese moralischen Kreuzzüge haben können.

Kailouli: Ich würde gerne die Chance noch mal ein bisschen nutzen, um über etwas, ich sage jetzt mal, Seichtes zu sprechen. […] Wir kennen den Fall aus den USA, dass sich ein Junge das Leben genommen hat, weil er eine gefühlte Liebesbeziehung hatte mit einer künstlichen Intelligenz und die Antwort irgendwie war oder eine Bestätigung dahingehend, sich selbst das Leben zu nehmen.

Nachdem Kailouli und Dr. Szczuka sich eine halbe Stunde über Menschen empört haben, die ihre Fantasien mit KI-generierten Inhalten ausschmücken und versuchen, ihre emotionalen Beziehungsbedürfnisse mit KI zu stillen, leitet Kailouli also zu einem „seichteren“ Thema über: dem Suizid eines Jungen, der vorher mit einer KI über seine Suizidpläne geschrieben hatte. Die Generierung sexualisierter Bilder von nicht-existierenden Kindern ist „ziemlich heftig“; Kinder, die von der KI ermutigt werden, sich das Leben zu nehmen, im Vergleich etwas „Seichtes“. Ich lasse das mal so stehen.

Was lernen wir also insgesamt aus der Debatte? Selbst Befürworterinnen eines Verbots fiktiver und KI-generierter Inhalte haben keine Belege für eine vermeintliche Schädlichkeit, können keine Studien oder sonstige wissenschaftliche Belege anführen und haben auch sonst nichts außer moralischer Panik, dystopischen Untergangsszenarien und vagen Befürchtungen zu bieten. Oder, wie es Kailouli in ihren Schlussworten ausdrückt:

Kailouli: Also Leute, es ist alles gesagt, was gesagt werden musste. Dr. Jessica Szczuka hat das ja sowas von gut erforscht und ich, also ich bin sprachlos und ich denke mir nur so: Leute, gerade an die Politik, nehmt diese Forschungsergebnisse und macht was, wirklich.

Um es an dieser Stelle noch einmal zu betonen: Szczuka hat in dem ganzen Gespräch keine einzige belastbare wissenschaftliche Evidenz genannt, die ihre Ansichten unterlegen würde. Die Studien, die sie nennt, fasst sie entweder falsch zusammen, interpretiert sie falsch, oder sie widerlegen ihre eigene Position direkt. Das Thema ist keineswegs „gut erforscht“, was Dr. Szczuka selber sogar mehrfach zugibt.

Vage Befürchtungen, Rosinenpicken und moralische Panik werden nicht zu wissenschaftlicher Evidenz erhoben, nur weil sie von jemanden mit einem Doktortitel verbreitet werden. Auch Forschende sind nicht vor gesellschaftlichen Paniken gefeit und können sogar zu ihnen beitragen. Von Panik getriebenes Handeln, ob in der Wissenschaft oder im öffentlichen Diskurs, droht wiederum nicht nur Forschung zu verhindern, sondern auch jede fundierte Bewertung möglicher Vorteile, die gegen Risiken abzuwägen sind. Ein Pauschalverbot mag die Illusion von Sicherheit oder Kontrolle vermitteln, birgt aber die Gefahr voreiliger Schlussfolgerungen, bevor Risiken und Nutzen empirisch gegeneinander abgewogen werden können.

Die letzten Sätze stammen nicht von mir, sondern aus einem Artikel, den Dr. Szczuka selber zusammen mit Jaime Banks über moralische Panik in der Debatte über KI-Gefährten geschrieben hat. Vielleicht hätte es geholfen, wenn sie den Artikel nicht nur geschrieben, sondern auch selber verinnerlicht hätte. Es ist aber leider keine Seltenheit, dass solche vernünftig klingenden Sätze über Bord geworfen werden, sobald es auch nur entfernt um Pädophilie geht, und stattdessen panisch Verbote gefordert werden, obwohl wir noch nicht einmal ansatzweise genug verstehen, um Vorteile und Risiken gegeneinander abwiegen zu können. Das Urteil des BVerfG zu Kindersexpuppen zeigt, dass im Zweifel nicht belegbare Schreckensszenarien aus dem Munde einer Person aus einem akademischen Umfeld schwerer wiegen als jegliche gegensätzliche Evidenz, und für tiefgreifende Einschnitte in Grund- und Freiheitsrechte mehr als ausreichend sind.

Was hier insgesamt wieder einmal auffällt, ist, wie schädlich diese Form des Hasses gegen Pädophile gleichzeitig für den Schutz von Kindern ist. Es ist bestürzend, wenn Menschen, die sich öffentlich als Fürsprecherinnen für Kinder inszenieren, erzählen, es sei ihnen egal, ob ein Inhalt sexualisierte Gewalt gegen echte Kinder oder lediglich Fantasien zeigt, dass Ressourcen zum Schutze echter Kinder in die Verfolgung von fiktiven Inhalten umgeleitet werden müssten, und dass der Suizid eines Kindes alles in allem ein leichter verträgliches Thema sei, als wenn Menschen sexualisierte Chats mit KI-Kindern führen. Kinder haben Besseres verdient.