Künstliche Intelligenz ist ein Thema, welches immer mehr Relevanz in unserer Gesellschaft findet. Sei es ein Handy mit einer Gesichtserkennung zu entsperren, sein Zuhause mit der eigenen Stimme zu steuern, die Gefühle und anatomischen Informationen wie Herzschlagrate, Blutdruck und Alter durch das Sehen eines Gesichtes zu erkennen oder aber auch visuelle Inhalte, wie Bilder und Videos nach eigener Vorstellung zu generieren. Was vor 10 Jahren noch nach Science-Fiction klang, ist heute Realität. In diesem Beitrag werde ich genauer auf das Thema KI generierte Bilder eingehen und zeigen, inwieweit es die aktuellen Statistiken von Kindesmissbrauchstaten verändern könnte.

Es gibt zwei künstliche Intelligenzen, die inzwischen große Aufmerksamkeit erlangt haben. Bei den KIs handelt es sich um das Computerprogramm DALL·E und den Discord Bot Midjourney. Diese beiden KIs haben eine Gemeinsamkeit. Man gibt ihnen eine Textbeschreibung und sie generieren Bilder daraus. Ich habe beide KIs bereits ausprobiert und diese miteinander verglichen. Ein paar Ergebnisse von DALL·E haben mich dabei besonders fasziniert:

DALL·E ist in der Lage hyperrealistische Bilder zu erzeugen, wie in den Bildern 1, 3 und 5 zu sehen ist. Da stellt sich die Frage, ob man damit auch die fortlaufende Herstellung neuer kinderpornografischer Inhalte vermeiden könnte? Die Frage ist nicht so leicht zu beantworten. Zuerst müssen wir uns genauer anschauen, was eine KI überhaupt ist und wie sie funktioniert.

Im groben und ganzen handelt es sich bei dieser Form von KIs um eine mathematische Struktur, welche ein Eingangssignal bekommt und dieses Signal in einem sogenannten künstlichen neuronalen Netz so umformt, dass am Ende ein relativ eindeutiges Ergebnis dabei rauskommt. Unser Gehirn funktioniert dabei ähnlich, wenn auch nicht exakt gleich. Was aber unser Gehirn und künstliche Intelligenzen gemeinsam haben ist, dass sie etwas Brauchen, woraus sie lernen können. Der Grund warum wir eine Katze als Katze erkennen, sobald wir eine sehen liegt daran, dass unser Gehirn viele Katzen bereits im Leben gesehen hat und weiß, wie eine aussieht. Damit eine KI das Gleiche kann, muss man sie mit Unmengen von Katzenbildern und -videos füttern. Je mehr abwechslungsreiche Inhalte die KI bekommt, desto besser wird sie darin, neue Bilder bzw. Videos zu erkennen. Für das Generieren von Inhalten ist es das gleiche der Fall, nur umgekehrt, dass die KI nicht sagt, was in einem Bild ist, sondern dass sie ein Inhalt aus einem Text erstellt. Zurzeit gibt es bereits ein Modell, welches man selbst dafür nutzen kann. Es nennt sich Stable Diffusion und bietet jedem die Möglichkeit selbst eine Bildgenerierungs-KI zu entwickeln, welche auch in der Lage wäre pornografische Inhalte zu generieren. Genauso könnte man das mit Kinderpornografie machen, doch es gibt drei unterschiedliche Methoden, wie man so eine KI trainiert.

1. Methode: Die erste Methode wäre die, dass man die KI mit vielen Bildern bzw. Videos von Kinderpornografischen Material füttert. Wir reden dabei von ca. 10 Tausend bis hin zu 10 Milliarden Bildern / Videos, die die KI benötigen würde, um so etwas zu ermöglichen und da stellt sich jetzt die Frage, ob es das wert ist, so viele Inhalte in denen Kinder missbraucht werden zu erwerben für ein Computerprogramm. Sowohl moralisch als auch rechtlich gibt es bei dieser Methode große Probleme und die Herstellung neuer kinderpornografischer Inhalte würde durch den Erwerb ebenfalls stark gefördert werden, auch wenn dabei Potenzial besteht, die Herstellung durch so eine KI, zukünftig, stark zu verringern.

2. Methode: Alternativ zur ersten Methode könnte man auch fiktive Kinderpornografie verwenden, zum Trainieren einer KI. Das Prinzip ist dabei das gleiche, nur, dass man keine reale Kinderpornografie verwendet, sondern fiktionale. Dies wäre eine Methode die wahrscheinlich am sichersten ist, da hierbei keine Inhalte echter Personen benutzt werden, zum Bereitstellen von Lernmaterial für die KI.

Rechtlich betrachtet wäre diese Methode wohl noch am ehesten vorstellbar in Deutschland, da hierbei keine Straftat erfolgt, solange die Inhalte, welche zum Befüttern der KI benutzt werden nicht selber produziert werden oder die Inhalte von einem nicht sachverständigen Beobachter klar als Computergrafik definiert werden können. Ebenfalls muss für eine Straftat, der resultierende Inhalt der KI als "wirklichkeitsnahe" definierbar sein, oder in einem öffentlichen Bereich verbreitet werden. Ob das Generieren der Inhalte als Herstellen solcher zählt, ist allerdings ungeklärt und bei fiktiver Kinderpornografie kann man auch nie sagen, ob diese reine Fantasie von den Illustratoren sind, oder ein Abbild einer echten Tat mit einem Kind darstellen, was beim Trainieren der KI, wo große Mengen an Bildmaterial benötigt wird ein gewisses Risiko mit sich tragen könnte.

3. Methode: Die dritte Methode ist, dass man keine Kinderpornografie nutzt, um das Modell zu befüttern, sondern, dass man eine Kombination aus Erwachsenenpornografie und ganz normalen Bildern bzw. Videos von Kindern nutzt. Die KI wird dann so eingestellt, dass sie die Handlungen von der Erwachsenen-Pornografie auf die kindlichen Erscheinungsbilder überträgt. Der Entwicklungsprozess einer solchen KI würde viel mehr Rechenaufwand kosten, jedoch ohne das Fördern von Kindesmissbrauch. Wie realistisch das Verhalten der Kinder in den resultierenden Inhalten ist, ist zudem ein Faktor, die schwer künstlich Nachzustellen ist, denn egal wie sehr man Bilder und Videos von adulter Pornografie mit normalen Inhalten von Kindern mischt, die KI wird daraus nie richtig erfahren, wie ein Kind sich in der Position eines Erwachsenen verhalten würde. Dies hat einerseits Vorteile aber andererseits auch Nachteile. Ein Vorteil ist zum Beispiel, dass Erwachsene, welche kinderpornografische Inhalte konsumieren, laut Berichten einiger Medien, meistens keine Inhalte sehen wollen, in denen Kinder verängstigt reagieren oder sich aktiv versuchen zu wehren, weswegen man mit so einer KI gleich zwei Fliegen mit einer Klappe schlagen könnte. Ein Nachteil bei KI-generierten Videos vor allem könnte aber sein, dass Kinder sich etwas zu sehr wie Erwachsene verhalten könnten. Den meisten Pädophilen ist nicht nur das Erscheinungsbild wichtig, sondern auch die tapsige Art der Kinder, wo hier aber nicht ganz ausschließbar ist, ob diese Informationen nicht möglicherweise verloren gehen könnten, was aber im Endeffekt wohl trotzdem eine der besten Alternativen ist.

Fazit: Die Entwicklung von KIs schreitet immer weiter voran. Wenn es heute schon KIs gibt wie This Person Does Not Exist, wo schon teilweise Bilder entstehen, bei denen wir meinen könnten, dass diese vollkommen echt sind. Auch Pornografien sind inzwischen schon generiert worden, die sehr realistisch sind, wo man aber nach längerem Hinsehen dann doch Fehler entdeckt. Demnach dauert es aber nicht mehr lange, bis schon die ersten Pornografien in diese Richtung hergestellt werden, die vollkommen Echt aussehen. Gezeichnete Pornografien wurden bereits schon von künstlicher Intelligenz perfekt generiert. Für reale Inhalte existiert zum aktuellen Zeitpunkt aber noch keine fehlerfreie, perfekte KI.

Die Entwicklung solcher KIs kann allerdings auch negative Folgen haben, wie z.B. Job-Mangel, da viele Illustratoren die damit ihr Geld verdienen, oder zumindest ihre Kosten abdecken dadurch weniger Aufträge zum Zeichnen erhalten. Doch auch positives kann die Entwicklung von Bildern durch KIs bewirken. Die Reduzierung von Kindesmissbrauch durch generierter Kinderpornografie ist ein gutes Beispiel dafür, denn durch die Herstellung kinderpornografischer Inhalte durch KIs würden immer mehr Menschen diese Form von Inhalten bevorzugen, woraus resultiert, dass es sich für Menschen, die den Kindesmissbrauch begehen um es zu filmen weniger Gründe darin sehen dies noch fortzusetzen, da deren Inhalte nicht mehr gekauft werden würden. Die Nachfrage sinkt dabei rapide ab wodurch die Herstellung neuer Inhalte und damit weitere Missbrauchstaten reduziert werden. Jedoch wäre es nicht falsch, diese Art von Zugänglichkeit an solchen generierten Inhalten ein wenig einzuschränken, da uneingeschränkter Konsum dieser Inhalte schnell zu Porno-Sucht führen kann. Eine mögliche Form diese Inhalte einzuschränken, ist z.B. über ein System wie bei DALL·E, wo man zuerst eine Art Einladung braucht, um den Zugriff darauf zu erhalten. Verhindert das Kopieren und erneute Hochladen der Inhalte zwar nicht, aber drosselt es stark.

14 Kommentare

Hinweis: um Missbrauch vorzubeugen, werden Kommentare von uns überprüft und manuell freigeschaltet. Neue Kommentare erscheinen deshalb nicht sofort.

Cornelius

Ich habe eine Frage zur 2. Methode: Ich gehe nach dem Text davon aus, dass damit Zeichnungen als Grundlage der KI gemeint sind und keine Texte. Wenn dies der Fall sein sollte, welchen Nutzen hat dann die KI? Nur, dass die Bilder schneller produziert würden? Oder damit diese durch die KI von einer normalen Fotografie nicht mehr zu unterscheiden sind?

Lolicon

Es ist nicht nur eine erhöhte Produktion, die sowas mit sich bringt. Es ist viel mehr das, dass man ein Bild generieren lassen kann, das den eigenen Wünschen entspricht zB. auch Fetische, Orte, Aussehen, Pose, Verhalten der Person/en in den Inhalten. Wie komplex eine Beschreibung ist, macht es dann entsprechend Abhängig davon, wie sehr es den eigenen Vorstellungen entspricht.

frage

Hast du nicht Angst mit diesem Usernamen aufzutreten nachdem was in Enneptal passiert ist?

Lolicon

Ich sehe dafür keinen wirklichen Grund. Im Beitrag nannte ich die schwammigen Bedingungen für eine Straftat durch gezeichnete Bilder und da halte ich mich in einem sicheren Bereich darunter.

Tim

Und das schlimme ist auch noch man ist hilflos gegen diese ganze gesichte auch ich fühl mich wegen meiner Veranlagung diskriminiert und wurde auch sehr oft diskriminierend selbst ein Arzt war mal rotz frech zu mir und sagte das ich fremdgefährdet wäre ich so Häh hab doch gar nichts gemacht

Kuu

@frage

In Enneptal wurden die Inhalte als "sehr real" bezeichnet. Wieso hängt sich hier jeder an dem Wort "Comic" auf? Es ist auch ein Comic, wenn man echte Fotos verwendet und sie in das Comic-Format einbaut. Auf der deutschen Wikipedia Seite ist bspw. ein Webcomic im realistischen Stil als Beispiel abgebildet.

Mir sind viele Menschen bekannt, die auch solch einen Usernamen tragen könnten, weil sie es einfach in Foren usw. zugeben und stolz ihre Waifus benennen (letztes Jahr erst sprach ne Erwachsene Frau auf dem Weg zur Messe drüber) und kaum keiner interessiert sich dafür. Die meisten assoziieren das nicht mit "Pädo" sondern fühlen sich sogar dann angegriffen.

Meine Erfahrung ist das viele das zumindest im Bereich von Manga nicht ernst nehmen und eher als verharmlosung sehen, so bspw. auch hier in den Heise Kommentaren (man beachte die Like und Dislikes der Kommentare): https://www.heise.de/forum/heise-online/Kommentare/Steam-Nutzer-aus-China-umgehen-die-Porno-Sperre-mit-App-fuer-Hintergrundbilder/Re-Zitat-Nackte-Anime-Figuren-in-anzueglichen-Posen/posting-41367334/show/

Kollegin

Habt Ihr alle keine Ahnung? vom deutschen Strafrecht??? Selbst ungeschickt gezeichnete "harmlose" Bildchen gelten seit 1. 7. 2021 als "kinderpornographische Schriften" und werden mit min. 1nem jahr Knast geahndet...

Lolicon

Ich habe im Beitrag unter der 2. Methode erläutert, wann es die Grauzone mit Sicherheit überschreitet. Es beruht auf § 184b Abs. 1 Satz 2 StGB. Der reine Besitz fiktiver Bilder ist somit nicht verboten.

klimaschutz01

"Ein Blick ins Gesetz erspart viel Geschwätz". In diesem Falle ein Blick auf § 184b Abs. 1 Satz 2 StGB. Dort ist nämlich zu lesen, dass kinderpornographische Inhalte in den Fällen das Abs. 1 Satz 1 Nr. 1 und 4, die "kein tatsächliches oder wirklichkeitsnahes Geschehen" wiedergeben, mit Freiheitsstrafe von drei Monaten bis 5 Jahren bestraft sind. Nicht 1 Jahr. Abs. 1 Satz 1 Nr. 1 und 4 beschreiben Verbreitung und Herstellung mit Verbreitungsabsicht von Kinderpornographie, dementsprechend ist die Mindeststrafe sowohl für Herstellung mit Verbreitungsabsicht, als auch für Verbreitung von fiktiver Kinderpornographie 3 Monate Freiheitsstrafe. Die Herstellung von fiktiver Kinderpornographie ohne Verbreitungsabsicht i.S.d. Abs. 1 Satz 1 Nr. 1 und 2 ist nicht strafbar, ebenso wenig wie Abruf, Besitz oder Besitzverschaffung (s. Abs. 3). Es ist interessant, dass du anderen Leuten Ahnungslosigkeit hinsichtlich des deutschen Strafrechts vorwirfst, während du selbst deine eigene Ahnungslosigkeit offen zur Schau stellst.

Einen Moment

@klimaschutz01 und @Lolicon Das Problem ist das ihr Zwei den neuen Paragraphen §176e vergessen habt.

"Wer einen Inhalt [...] der geeignet ist, als Anleitung zu einer in den §§ 176 bis 176d genannten rechtswidrigen Tat zu dienen, und der dazu bestimmt ist, die Bereitschaft anderer zu fördern oder zu wecken, eine solche Tat zu begehen"

Im Bundestag wurde angesprochen das die damalige Rechtslage eine Ahndung im privaten Tausch und der Besitz nicht geahndet werden konnte, da sie als fiktive Pornographie galten. Jetzt werden solche "Anleitungen", aber auch im Besitz erfasst. Der Gesetzgeber hat hier also fiktive Pornographie also berücksichtigt. Nun die Frage, was genau fördert die Bereitschaft Missbrauch zu begehen? Es ist nicht unmöglich das ein Staatsanwalt argumentieren könnte das sich aus einer Geschichte, oder einem Comic, die eine Story bildlich stützt, eine Anleitung resultieren kann. Also, das eine Tat dargestellt bzw. beschrieben wird, welche nachgeahmt werden könnte. Das gleiche mit einzelnen Kunstwerken, je nachdem was gezeichnet wurde. Genau solche Argumente bringen schließlich Staatsanwälte in Länder wie Kanada, oder England, um selbst unrealistische Mangas zu verfolgen.

Was dann widerum komisch ist, ist das selbst bei einer Verbreitung nach §176e eine Geldstrafe möglich ist, aber ein Comic mind. drei Monate. Das ist ein Wertungswiderspruch, da eine fiktive Schilderung mit einem höherem Gefahrenpotenzial versehen wird, als eine Aufforderung bzw. Anleitung.

Nekopara is kawaii

@Lolicon Die Herstellung fiktiver Inhalte ist m. E. nicht strafbar, das widerspricht auch der Meinung des BVerfG in der Sache. Schließlich lässt sich der Kunstwert nicht bestimmen, wenn sie nicht hergestellt werden kann. Im Gesetz ist bezüglich der Herstellung auch nur "tatsächliches" Geschehen abgedeckt. (einen kinderpornographischen Inhalt, der ein tatsächliches Geschehen wiedergibt, herstellt). Würde man wirklichlkeitsnahe Darstellungen herstellen dann ist es insofern strafbar das man dann natürlich Besitz erlangt. Falls du dich auf §184b Abs. 1. Satz 1, Nummer 4 beziehst, was nachdem "oder" folgt dann ist dies an die Bedingung die nach "um" folgt geknüpft. Das soll Vorbereitungshandlungen abdecken und greift, wenn du (meist geschäftlich) eine Verbreitung vorbereitest. Eine Verbreitung ist erfüllt, wenn der Kreis der Teilnehmer nicht mehe ermittelbar ist, also wenn jmd. einer Person privat etwas überreicht, oder sendet ohne das andere Zugriff haben dann ist es keine Verbreitung. Das Zugänglich machen greift in §184 nicht bei erkennbar fiktiven Inhalten (es unternimmt, einer anderen Person einen kinderpornographischen Inhalt, der ein tatsächliches oder wirklichkeitsnahes Geschehen wiedergibt, zugänglich zu machen oder den Besitz daran zu verschaffen,).

Dieser Kommentar ist keine Rechtsauskunft sondern meine Meinung.

Lolicon

@Einen Moment, dieser Paragraph lässt sich erst in Zusammenhang bringen mit fiktiver Kinderpornografie, wenn ein wissenschaftlicher Nachweis existiert, der bestätigen würde, dass fiktive Kinderpornografie als Einstiegsdroge dient. Doch bisherige Ergebnisse weisen sogar auf das Gegenteil hin, dass es als eine Art Ventil wirkt. Somit dient dies nicht als eine Anleitung oder der Förderung einer Bereitschaft eine solche Tat in der Realität zu begehen.

klimaschutz01

@Einen Moment Ich habe § 176e StGB nicht vergessen, ich bezweifle, dass er hier zur Anwendung kommen kann. Nach Abs. 1 ist die Verbreitung oder Veröffentlichung nur strafbar, wenn der Inhalt "dazu bestimmt ist, die Bereitschaft anderer zu fördern oder zu wecken, eine solche Tat zu begehen". In Abs. 2 ist es ähnlich, hier geht es um einen Inhalt, der verbreitet wird, "um die Bereitschaft anderer zu fördern oder zu wecken, eine solche Tat zu begehen." Hier spielt also die Motivation des Täters eine Rolle ("dazu bestimmt ist", "um"), und eine entsprechende Motivation muss die Staatsanwaltschaft erstmal nachweisen. Sofern keine diesbezüglichen Äußerungen des Täters vorliegen, und sich diese Motivation nicht zweifelsfrei aus den entsprechenden Inhalten ergibt, fällt hier die Strafbarkeit weg.

Bezüglich deines letzten Absatzes stimme ich dir zu. Meines Erachtens gibt es in der Gesetzgebung in diesem Bereich (§§ 176-176e, 182, 184b, 184c, 184l StGB) mehrere Regelungen, die "komisch" und teilweise verfassungsrechtlich bedenklich sind. Beispielsweise würden sich Eltern wegen dem Besitz von tatsächlicher Kinderpornographie strafbar machen, wenn sie ein Foto ihres Kindes besitzen, auf welchem z.B. zu sehen ist, wie ihr damals 13-jähriges Kind im Bikini modelt. Und dank der Strafverschärfung 2021 hat die Staatsanwaltschaft keine Möglichkeit, dass Verfahren wegen Geringfügigkeit o.ä. einzustellen.

Gilgamesh

Eine Strafbarkeit gem. § 176e StGB würde ich hier als fernliegend ansehen. Ein Comic ist in der Regel keine Anleitung, außerdem ist er nicht dazu bestimmt, Kindesmissbrauch zu fördern. Kann natürlich im Einzelfall je nach Ausgestaltung des Comics anders sein. Aber der von ein Moment festgestellte Unterschied im Strafmaß zeigt ja schon, dass der Gesetzgeber hier etwas anderes im Blick hatte als beim § 184b (nämlich das sog. "Pedophiles Handbook") Eine Strafbarkeit nach § 184b StGB würde ich persönlich ebenfalls verneinen, weil Comics schon der Form nach kein wirklichkeitsnahes Geschehen wiedergeben und keine Verwechslungsgefahr besteht. Das hilft allerdings niemandem was, weil es auch möglich ist, diesen Paragraphen so auszulegen, dass entsprechende Comics unter strafe stehen. Und dann ist es am Ende auch relativ egal, ob der BGH nach 4 Jahren das Urteil aufhebt, die Kacke ist dann am Dampfen. Ich kann daher nur jedem raten, auf sich aufzupassen, und sich nicht darauf zu verlassen, dass Gerichte und Staatsanwaltschaften das Gesetz so auslegen wie wir oder wie sie es bis jetzt getan haben. Spätestens das Urteil aus Ennepetal hat gezeigt, dass der Konsum von Hentai/Shotacon aktuell nicht rechtssicher möglich ist.

Vorheriger Beitrag Nächster Beitrag