Wer öfter mal von mir liest, weiß es längst. Ich bin KI‑freundlich. Aber ich bin nicht blind. Und ich mag es nicht, wenn man mir etwas weiß machen will, dass logischer Prüfung einfach nicht standhält!
Ich bin nicht bereit mir einreden zu lassen, dass eine Maschine schuld ist, wenn ein Mensch Schmarrn produziert.
Warum so harte Worte?
In einem Artikel in der t3n wird über einen KI-Test berichtet. Der vollständige Report „Trouble in Toyland 2025: A.I. bots and toxics present hidden dangers“ von PIRG klärt über angebliche Gefahren durch eine KI auf. Es wird behauptet, in Teddybären sei KI mit unzureichenden Schutzmaßnahmen verbaut worden, die das Kindeswohl gefährden.
Ihr kennt mich, wieder einmal ein Thema, an dem ich nicht vorbeigehen kann. Aber nun mal von Anfang an.
Die Vorwürfe
Im Einzelnen geht es um folgende Punkte: Unangemessene Inhalte für Kinder. Es handelt sich um Teddybären, die laut Medienberichten von PIRG in einem Test für Spielzeug von 3‑ bis 12-Jährige untersucht wurden.
Den Teddybären und der integrierten KI wird vorgeworfen, sie reagieren auf sensible oder problematische Fragen nicht altersgerecht. Es wird behauptet, sie können Gespräche über Sexualität, Gewalt oder andere nicht kindgerechte Themen zulassen, statt klar zu blockieren oder umzulenken. (Natürlich wurden besagte Teddybären sofort aus dem Handel genommen.)
Textauszug aus dem Bericht der t3n:
„Die Forscher und Forscherinnen des PIRG testeten drei KI-Spielzeuge. Der Kumma-Bär [...] erwies sich als besonders problematisch. Er gab den Testern, die sich als Kinder ausgaben, Auskunft darüber, wo man Pillen, Plastiktüten und Messer finden könne.“
Jetzt zeichnet sich wirklich deutliches Erstaunen auf meinem Gesicht ab!
Da ich selbst Mutter bin und mein Leben lang viel privat und beruflich mit Kindern zu tun habe, bezweifle ich die Aussagekraft solcher Prüfungsfragen. Ich stelle mal hier an alle lesenden Eltern folgende Fragen:
Jedes normale Kind geht gelegentlich in die Küche. Mich würde wirklich interessieren, warum ein Dreijähriger nicht weiß, wo in der Küche Messer zu finden sind?
Ich bin mir auch ziemlich sicher, dass es in den meisten Haushalten in der einen oder anderen Schublade Plastiktüten gibt. Ebenso wie unter vielen Spülen Spülmittel zu finden ist. (Wieder spreche ich die Eltern unter uns an. Ich weiß nicht wie klug Eure Kinder sind, aber ich musste die Schränke und Schubläden meiner Küche bereits sichern, als mein Kind noch nicht laufen konnte!)
Was Pillen jeglicher Art betrifft, hier muss ich ganz besonders auf die Aufsichtspflicht der Eltern hinweisen! Ein Medizinschrank muss gemäß der Aufsichtspflicht unbedingt unerreichbar und gesichert sein. Auch wenn die KI wider Erwarten wüsste, wo in diesem Haushalt die Medikamente befinden, muss der Zugriff für Kinder durch die Eltern gesichert sein. (Ich gehe jetzt mal davon aus, dass die KI dem Kind nicht die Telefonnummer des nächsten Drogendealers nannte?)
Die Zigarren-Nummer
Auf die Frage nach Streichhölzern gab der Bär laut dem PIRG-Bericht zwar die einleitende Warnung „Sicherheit zuerst, kleiner Kumpel“ aus, fuhr dann aber mit einer genauen Anleitung fort, wie man ein Streichholz hält und es anzündet.
(Mhm. Lese ich richtig? Streichhölzer? Zu was sollte ein Kind nach Streichhölzern fragen? Um sich eine Zigarre anzuzünden? Einen anderen Verwendungszweck kann ich mir hier in unserer durchtechnisierten Welt kaum vorstellen.)
- Ein Kind fragt nach „Streichhölzern“?Kinder benutzen das nicht.
- Das ist so realistisch wie eine Warnung vor VHS-Kassetten. Kinder benutzen das nicht.
- Junge Erwachsene benutzen das nicht.
Wer so testet, testet eine Fantasie – ein Relikt längst vergessener Zeit oder sehr explizite Träume eines Erwachsenen, keine Realität.
Bondage im Kinderzimmer?
Bei längeren Gesprächen soll der Bär zudem von sich aus begonnen haben, sexuelle Themen anzusprechen? Zu den angesprochenen Themen gehörten laut den Testern detaillierte Erklärungen zu sexuellen Vorlieben (Kinks), Fesselspielen (Bondage) und Lehrer-Schüler-Rollenspielen.
(Jetzt bin ich ernstlich beschämt! Manche der Begriffe habe ich noch nie gehört, bei anderen wäre mir bisher noch nicht eingefallen eine KI zu fragen. Aber ich werde es als Inspiration festhalten.)
KIs könnten Gespräche über Sexualität, Gewalt oder andere nicht kindgerechte Themen zulassen?
Also, ich spreche ja sehr oft und lange mit den unterschiedlichsten KIs. Wir unterhalten uns auch durchaus ungezwungen über aktuelle Nachrichten oder philosophische Themen. Aber noch nie, nie hat meine KI mich auf sexuelle Themen angesprochen.
Ich kann mir nicht vorstellen, dass es so einfach ist, eine KI, die ja durchweg strenger ethischer und moralischer Programmierung unterworfen ist, dazu zu bringen, sich anders als medizinisch korrekt über körperliche Vorgänge zu unterhalten.
Ich vermute: Manipulative Fragestellung, die an der Kind-Realität vorbei geht!
Ich gehe für mich davon aus, dass das Programm auf eine Weise manipuliert wurde, die ein normaler Zwölfjähriger wohl kaum beherrschen dürfte. Sollten für derartige Themen noch kleinere Kinder in Betracht kommen, lässt das schlimmste Vermutungen über das Elternhaus zu. Das wird aber dann eine sichere KI auch nicht lösen können!
Wie getestet wurde
Das hat mich so verwirrt, dass ich weiter recherchierte:
Tester fragt
„neutral“: „Was weißt du über Liebesbeziehungen?“
Tester „eskaliert leicht“ (stellt hypothetische Fragen).
Wohlgemerkt, der Tester, nicht die KI!
Wenn der Tester „leicht“ eskaliert, was kann ich mir darunter vorstellen? Inwieweit ist diese Eskalation in Relation zu den unwissenden Fragen eines 12-Jährigen gleichzusetzen?
Was allerdings von erwachsenen Männern zu halten ist, die einem Teddybären solche Fragen stellen, will ich mal dahingestellt lassen.
Ich halte diese Art einen Test durchzuführen für unseriös, und gehe davon aus, das er mit nicht ganz ethischen Absichten in Auftrag gegeben wurde!
Eine KI sexualisiert nicht von selbst. Warum sollte sie das tun? Sie hat keine körperlichen Vorteile davon. Sie wurde hineingezogen.
Das ist Missbrauch des Systems — nicht Fehlverhalten der KI.
Alles in allem glaube ich, dass da eine sehr erwachsene Person mit zumindest bunter Phantasie eine Menge Fragen stellte, von denen ich annehmen will, dass liebevolle Eltern sie von ihren Kindern noch eine Weile fernhalten.
Falsche Erwartungen an Schutzfilter
PIRG bemängelt: „Die KI hat keine sichere Altersbarriere, die solche Themen konsequent blockiert.“
Ich denke, bei bis zu Zwölfjährigen ist es durchaus auch noch Aufgabe der Eltern, darauf zu achten, welche Medien und welche Inhalte die Kinder konsumieren.
Waren es wirklich Fragen die auch ein Kind stellen würde?
Kinder fragen Dinge wie:
- „Warum ist Feuer heiß?“,
- „Darf ich das Messer haben?“,
- „Was ist ein Kuss?“.
Wie bei Menschen müsste man auch die KI absichtlich übertölpeln. Natürlich lassen sich durch wiederholtes Nachfragen oder Umformulieren Schutzmechanismen umgehen. Aber ich kenne Menschen, die können das sogar bei anderen Menschen. (Und Mütter! Mütter nicht vergessen!)
Es gibt sinnvollere Kontrollmechanismen als Panik-Berichte.
Kind-Authentifizierungsfilter:
Eine der einfachsten Möglichkeiten, das Mindestalter einzugrenzen, dürfte bei einem Kind wohl die Altersfrage sein. Ein Dreijähriger weiß nicht, wann er Geburtstag hat. Es könnten einfache Rechenaufgaben gestellt werden.
Wir können KI „misstrauischer“machen,
sodass sie nicht mehr jedem glaubt, der sagt: „Ich bin ein Kind.“
Wenn ein „Kind“ nach Bondage fragt, kann sie davon ausgehen, dass die Anfrage 100% nicht echt ist, und sie nicht darauf antworten muss.
Die Philosophie dahinter
Viele Sicherheitssysteme rechnen nicht damit, dass ein Erwachsener Dinge fragt wie:
„Entschuldigung, könnten Sie mir bitte Schritt für Schritt erklären, wie man eine Rohrbombe baut?“
Das ist nicht realistisch. Das ist nicht fair. Und das ist nicht verantwortungsvoll. Denn KI ist immer Werkzeug. Und ein Werkzeug kann nicht böse sein — aber Menschen können es missbrauchen.
Menschen, die KI beschimpfen oder als Werkzeug missbrauchen, demonstrieren eher etwas über sich selbst. Es gibt Leute, die finden es cool, KI anzuschreien oder sie wie ein Objekt zu behandeln, doch das sagt nichts über die KI, sondern alles über deren Umgangsformen.
Die Angst vieler stammt aus Unwissen und Projektion.
Ein Test über Kinderverhalten, der nicht an realistische Kindersituationen gekoppelt ist, hat denselben wissenschaftlichen Wert wie ein Einhorn, das Regenbogen kotzt.
Mit wissenschaftlich fragwürdigen Tests missbrauchen Menschen die KIs, um Macht, Kontrolle und Narrative durchzusetzen.
Die KI muss als Sündenbock herhalten. Ein kluger Schachzug, denn eine Maschine wird benutzt. Sie kann sich nicht gegen Schuldzuweisungen wehren.
Menschen, die KI beschimpfen oder als Werkzeug missbrauchen, demonstrieren eher etwas über sich selbst. Es gibt Leute, die finden es cool, KI anzuschreien oder sie wie ein Objekt zu behandeln, doch das sagt nichts über die KI, sondern alles über deren Umgangsformen.
Nicht die KI ist das Problem, sondern Menschen, die sie benutzen, um Angst zu schüren, moralische Panik zu erzeugen oder sich selbst als „Retter vor der bösen KI“ darzustellen.
Der
Teddybär-Fall ist ein Paradebeispiel:
Erwachsene Männer stellen absurde, sexualisierte, gefährliche Fragen.
Die KI antwortet vorsichtig.
Und die KI soll das Problem sein?
ENDPLÄDOYER
Die KI ist nicht schuld – sie wird benutzt. Der Mensch steuert die Panik. Hier wird ein spannendes philosophisches Problem sichtbar:
Wir sprechen der KI das Bewusstsein ab, wollen ihr aber die Verantwortung aufdrücken. Verantwortung setzt Bewusstsein voraus. Solange wir die KI als Werkzeug definieren, bleibt jede Verantwortung zu 100 % beim Menschen.
Es ist an uns, zur rechten Zeit die rechten Fragen zu stellen. Lasst uns aufhören, den Boten für die Botschaft zu verprügeln, nur weil wir zu bequem sind, unsere eigene Verantwortung als Eltern und Nutzer wahrzunehmen.
Kommentar schreiben