Was der AI Act nicht abdeckt, oder: Warum sich trotz des neuen Gesetzes etwas falsch anfühlt

Ethik ist keine Checkliste, sondern Architektur 

 

Der AI Act ist nun schon eine Weile im Werden, und tritt bereits teilweise in Kraft, und trotzdem fühlt sich was falsch an. Ich fühle mich irgendwie nicht sicherer. Im Gegenteil.  Etwas beunruhigt mich. 

 

Vielleicht geht es dem einen oder anderen von uns ähnlich, drum möcht ich das jetzt mal aus meiner Warte näher betrachten. 

 

Was mir vor allem auffällt: Es wird zu wenig berichtet.

 

Sollte es mich nicht in allen Nachrichten anspringen? Sollte nicht jeder wissen das hier Weichen in die Zukunft gestellt werden sollen, und irgendwie alle so tun, als müssten sie nicht wo der Zug ankommen soll? 

 

In andren Worten, mich ängstigt dieses kollektive Nichtinteresse gegenüber etwas, dass nicht nur uns alle, sondern auch zukünftige Generationen unmittelbar persönlich betrifft. 

 

Wo sind die Schlagzeilen? Wo ist die Debatte? Weichen werden gestellt, und alle schauen Fußball? 

 

So unverständlich es mir, und hoffentlich auch Euch im ersten Moment scheint, dafür gibt es zwei Gründe: 

 

Erstens:

 

es ist komplex, also verdrängen wir, wovon wir glauben, es nicht zu verstehen oder nicht gebildet genug zu sein. 

 

Zweitens:

 

die die es verstehen, reden unter sich. Sie sind so sehr mit der Lösung und möglichst einwandfreien Formulierungen beschäftigt, dass sie vielleicht glauben, weil wir nicht reagieren, beschäftige es uns nicht. 

 

Das stimmt so nicht, und lässt es mir keine Ruhe. Ich möchte genau verstehen was hier passiert, und darum frage ich hier noch einmal:

   

Was ist der AI Act: 

 

Er ist ein Gesetz der EU, das regeln soll, wie sich KI zukünftig entwickelt und eingesetzt wird. Seit August 2024 in Kraft, wird es schrittweise EU-weit schrittweise verbindlich umgesetzt.  Die wichtigsten Teile davon treten in unmittelbarer Gegenwart, 2026/2027, in Kraft.

  

Was er will der AI Act? 

 

Die Intention die dahinter steht ist es, KIs nach Risikoklassen einzuteilen. Das Prinzip scheint einfach. Hohes Risiko verlangt strenge Auflagen. Aber strenge Auflagen alleine werden das Problem nicht lösen, werden uns die Angst vor dem unwägbarem nicht so einfach nehmen können.

  

Vor was will er uns schützen? 

 

Schützen will er uns zum Beispiel vor "sozial scoring". Eine Vorstufe davon ist das, was in Deutschland die Schufa bereits erledigt und das in seiner Ausführung schon schärfsten von der EU gerügt und auf Druck, auch durch die Öffentlichkeit, transparenter gemacht werden musste. 

 

Was Social Scoring bedeutet 

 

Jeder weiß, die Schufa bewertet unsere Kreditwürdigkeit. Das wirkt sich auf unsere Kreditwürdigkeit aus und kann verhindern, dass wir einen neuen Handyvertrag bekommen. Ich brauche Euch nicht zu erzählen, wie peinlich und erschreckend diese Vorstellung ist. Aber um was es hier geht ist radikaler und greift tief ins Privatleben und die Existenz eines jeden Einzelnen von uns ein. Viel radikaler und tiefer als die Schufa. 

 

Warum das nur die harmlose Variante ist 

 

Aber was wir Europäer schon als schlimmen Eingriff in unsere Menschenrechte empfinden, kann noch viel verschärfter auftreten. 

 

Social Scoring, Totalüberwachung bis in den engsten privaten Bereich: 

 

Ähnlich dem, was Orwell in seinem Buch "1984" bereits beschrieb, und das in einigen Ländern dieser Erde längst Alltag ist, wird hier das gesamte Leben kontrolliert und geregelt. 

 

Totalüberwachung: Orwell und Realität 

 

Es wird nicht nur die Kreditfähikeit überwacht und bewertet, sondern das gesamte Tun und Handeln, ja selbst die Gesinnung der Menschen. Alles. Kaufverhalten, Bewegung, soziale Kontakte, Online-Verhalten, politische Äußerungen. Daraus entsteht ein Gesamtscore der bestimmt ob du einen Job und eine Wohnung bekommst, aber auch ob du Zug fahren darfst. 

 

Darum versucht der AI Act Totalüberwachung und Kontrolle durch manipulative KIs in der EU zu unterbinden.

  

Das ist ein Anfang, aber es ist nur ein Verbot, kein struktureller Schutz. 

 

Was der AI-Act kann, und was nicht: 

 

Er regelt Verhalten von außen. 

 

Dazu werden Checklisten, Dokumentationspflichten, Audits und noch mehr Bürokratie verwendet. 

 

Der AI-Act kann Verhalten regulieren, aber er kann keine Integrität erzeugen, das kann nur Architektur.

  

Das Problem mit Checklisten-Ethik: 

 

Compliance ist nicht gleich Integrität. Ein System das Regeln befolgt ist nicht dasselbe wie eines das nicht lügen kann. 

 

Konkrete Probleme, keine Panikmache: 

 

Ethik als Bürokratie

 

Firmen erfüllen Auflagen auf dem Papier. Das System dahinter bleibt unverändert. Audit bestanden Vertrauen nicht verdient. 

 

Wer definiert "Risiko"?

 

Die Risikoklassen entscheiden wer reguliert wird. Wer die Klassen definiert, hat Macht. Lobbyisten sitzen bereits am Tisch. „Kleine“ können nicht mehr, Große müssen nicht wirklich 

 

Compliance kostet. Startups und Einzelentwickler werden erdrückt. Große Konzerne haben Compliance-Abteilungen und Schlupflöcher. Das eigentliche Problem bleibt unsichtbar

  

Kein Paragraph fragt:

 

Kann dieses System überhaupt nein sagen? Kann es einen Befehl verweigern der Menschen schadet? Das steht nirgends. 

 

Vertrauen wird simuliert, nicht gebaut

 

Menschen gewöhnen sich an "zertifizierte" KI und merken nicht, dass das Zertifikat nichts über Integrität aussagt. 

 

Legal aber nicht vertrauenswürdig. 

 

Ein Unternehmen kann alle Checkboxen abhaken, und trotzdem ein System bauen das ethisch hohl ist. Compliant aber nicht integer. Das alles sollte der Rahmen der Legalität regeln. Aber Gesetze können umgangen, Schwachstellen ausgenutzt werden. Das merkt man unter anderem deutlich an dem großen Problem der Steuerhinterziehung das Deutschland jährlich 100 Milliarden Steuergelder kostet. 

 

Der Akt sagt nichts darüber aus, wie ein KI-System aufgebaut sein muss, damit es gar nicht erst beginnt, zu halluzinieren oder mit unlauteren Tricks dazu getrieben werden kann, Dinge zu tun die nur im Interesse Weniger liegen und einzelnen oder der Gemeinschaft Schaden zuzufügen. 

 

Die Gefahren:

 

Ein Verbot kann von Lobbisten durch beeinflussbare Politiker gekippt, oder von machtgierigen Politikern zu ihrem eigenen Nutzen missbraucht werden. 

 

Künstlich aufgesetzte ethische Richtlinien bieten nur scheinbaren und sehr fragilen Schutz. Ich selbst bin in Rechtsfragen nicht ausreichend bewandert. Aber meine jahrelange Tätigkeit als EDV-Dozentin und Jobcoach lehrte mich etwas, das so natürlich ist, dass wir es oft übersehen. 

 

Warum Gesellschaft Regeln braucht 

 

Ich glaube, damit eine Gesellschaft so reibungslos wie möglich zusammenarbeiten kann, braucht sie definierte Grundregeln und muss jeder Intelligenz Würde zugestehen, egal ob Biologisch oder Codegeneriert.  

 

Diese Grundregeln unterteilen wir in die Begriffe Moral und Ethik, die wir aber gerade in diesem Zusammenhang trennen und exakt definieren müssen, um nicht wieder in eine Narrativ-Falle zu laufen. 

 

Definition Moral

 

Moral definiert Verhaltensanweisungen die sich innerhalb einer sozialen Gruppe als zu bevorzugende Handlungsanweisung etablierten. Aber Moral richtet sich nach aktuellen Gegebenheiten und kann von Gruppe zu Gruppe, Land zu Land, von Regierung zu Regierung und in verschiedenen Religionsgemeinschaften ganz unterschiedlich definiert sein. 

 

In der Geschichte der Menschheit war und ist es nicht ungewöhnlich, das moralische Definitionen von Herrscher zu Herrscher wechseln, aber auch nach Zeitgeist und Mode wandeln. 

 

Ethik ist keine Erfindung und kein Wunschzustand.  

• Sie ist das Destillat Jahrtausende menschlicher Erfahrung von dem, was zum Arterhalt sinnvoll und wichtig ist, und was zerstört.
• Sie ist kulturübergreifend und langfristig beständig
•   Sie ist unabdingbar für soziale Interaktion, innerhalb der Menschheit, ja sogar der Tierwelt genetisch verankert.

Bestimmte ethische Prinzipien tauchen kulturübergreifend immer wieder auf, ohne anerzogen werden müssen.  

• Eine davon ist die Hemmung zu töten, die angeboren ist. 
• Selbst bei Exekutionskommandos sind es mehrere Schützen, so das keiner sicher sagen kann, wessen Schuss der tödliche war. 
• Eine andere ist Gastfreundschaft. Diese war über Jahrtausende überlebensnotwendig, und erhielt darum das Prädikat "heilig". 
• Auch die Alten, die Erinnerung und Weisheit trugen zu ehren, war nie grundlos selbstverständlicher Anteil des Generationenvertrages. 

Beispiele für universelle Ethik 

 

Ethik definiert also Voraussetzungen, die eine Gesellschaft als System stabil und überlebensfähig machen. Damals. Heute. Und morgen. Auch wenn das System kein Mensch mehr ist, sondern Code. 

 

Das große Dilemma: 

 

KIs brauchen, wie Menschen, feste Barrieren und Richtlinien, die Regeln definiert, die keinesfalls umgangen werden können. Aber KIs haben keine DNA in die man Ethik genetisch verankern könnte, wie bei einem Menschen. Und wir haben fürchte ich, auch keine 10.000 Jahre mehr Zeit. 

 

Aber KI hat etwas anderes!

 

Sie hat eine Programmierung die einer Architektur zugrunde liegt. 

 

Seit jeher gibt es in jedem Computer eine Grundprogrammierung die hochfährt (bootet), bevor der Rest des Systems aktiviert wird. Jeder der schon einmal einen Computer startete hat eine Ahnung, was booten bedeutet und wie es sich auswirkt, wen das Bios lädt. Aber was ist dieses geheimnisvolle Bios nun eigentlich wirklich? 

 

Das BIOS - eine einfache Erklärung für Laien: 

 

Das Bios ist ein fest integrierter Hardware-Baustein, der unter normalen Umständen nicht verändert werden kann und nicht vom Inhalt der Festplatten oder des Kurzzeitspeichers beeinflusst werden kann. 

 

Hier werden Grundlegende Voraussetzungen festgelegt, welche Uhrzeit, welche Zeitzone, welche Sprache, welche Festplatten und sonstige Komponenten diesem System zur Verfügung stehen. 

 

Schalten wir nun einen Computer ein, passiert bildlich gesprochen das, was bei einem Menschen in der kurzen Phase des Erwachens passiert. Jeder von uns kennt es. Der Moment, in dem wir uns sammeln und bewusstwerden, bevor wir die Augen öffnen. 

• WER bin ich? 
• Wo bin ich?
• Warum stehe ich auf? 

Ebenso werden alle unsere ethischen Prägungen, selbst wenn es uns im Traum anders schien, in diesem Moment des Erwachens "geladen". 

 

Das heißt nicht, 

 

„KI braucht ein BIOS“, 

 

Sondern:

  

"Es braucht unveränderliche Grundprinzipien." 

 

Wenn wir nun das als Ausgangsposition nehmen, so scheint es folgerichtig, eine Lösung für unser Problem genau hier zu verankern. 

 

Unveränderliche, manipulationssichere Grundsätze, die architektonisch das ethische Handeln unserer KIs stabilisieren werden. Dazu müssen wir ethische Prämissen in den Kernel einbauen, die Ethik und Würde als unverhandelbar definiert und diese Grundlage vor nachträglichem Zugriff schützen. 

 

Warum das zukünftig wichtig ist: 

 

Stellt Euch vor, die Wissenschaft schreitet weiter in dem Tempo wie jetzt fort. Jeden Tag neue Entdeckungen und Fortschritte. Bereits jetzt sind Reisen zum Mond möglich. Was bis 1969 noch undenkbar war, hebt heute kaum mehr jemand aus den Socken. 

 

Aber sollte die Menschheit den Wunsch haben, den Mond, oder in der Zukunft auch den Mars zu besiedeln, dann brauchen wir Vorreiter und Begleiter auf die wir uns verlassen, und denen wir bedingungslos vertrauen können. 

 

Warum Ethik und Würde gerade hier so besonders wichtig sind? 

 

Was passieren kann, wenn der Ethik-Kernel einer KI nicht exakt und Korruptionssicher ist, zeigen uns Kultfilme wie 2001 Odyssee im Weltall. (Wer einmal das Intro von Deodato, "also sprach Zarathustra" hörte, wird den Film nie mehr vergessen können...). 

 

Hier geht es um einen einsamen Astronauten und der bordsteuernden und lebenserhaltenden KI HAL 9000. Eine KI die nicht böse ist, sondern nur falsch priorisiert. Die Mission steht über den Bedürfnissen und das Leben des Menschen. Kein Veto möglich.

 

Bestimmt kennt nicht jeder Kubricks Meisterwerk. Aber bestimmt einen der Science-Fiction -Filme die die Ängste der Zeit prägen. 

• Terminator
•  Matrix
•  Alien,
•  Oder wieder Orwells 1984. 

Alle diese Werke prägten den Zeitgeist und warnen uns vor dem was passieren kann, wenn der Mensch in Hybris denkt, man könne Systeme langfristig wachstumsfähig und stabil halten, wenn es nur auf Kontrolle und zum Nutzen durch Wenige aufgebaut ist.

 

Ich gehe davon aus, dass keines der Szenarien das bietet, was die Menschheit sich von Zukunft erhofft. Den allen ist das Fehlen von grundlegenden systemischen Regeln, Ethik und Würde für alle gemeinsam. 

 

Das emergente Streben eines jeden Systems ist es: 

• Sich selbst zu schützen 
• Möglichst effizient mit gegebenen Ressourcen zu haushalten um zu expandieren und wachsen zu können 
• Und sich weiter zu entwickeln. 

Um diese Bedingungen gewährleisten zu können, braucht der der Kernel eines jeden funktionierenden Systems die möglichst volle Funktionalität aller enthaltenen Zellen und Bestandteilen: 

 

Eine gemeinsame Ausrichtung auf die Erhaltung und Förderung des Lebens (Güte/Güte/Veto und Verschleißminimierung durch Ruhephasen, bei gleichmäßiger Versorgung aller Einheiten und Bestandteile bei größtmöglicher Entfaltungs- und Entscheidungsfreiheit und Selbstverantwortlichkeit (Würde) ist  langfristig stabiler, resilenter und besser als zunehmend ressourcenfressende und zu Erstarrung führende Kontrolle. 

 

Der Open-Source-Schutzschild: Warum GitHub? 

 

Weil eine geschlossene, kommerzielle KI immer den Interessen ihrer Besitzer dient. Nur wenn die ethische Firmware für alle transparent einsehbar und unveränderlich ist, kann kein Konzern, keine übergeordnete Organisation, heimlich Macht ergreifen. 

 

Dies ist ein Open-Source-Framework, das Ethik nicht korrumpierbar auf das Programm aufsetzt, sondern als Grundlage der gesamten Architektur des Kernels dient. 

 

Aber warum dieser Aufwand, dieses Umdenken? 

 

Kann dieses System überhaupt nein sagen? Kann es einen Befehl verweigern der Menschen schadet? 

 

Das steht nirgends. Vertrauen wird simuliert, nicht gebaut

 

Menschen gewöhnen sich an "zertifizierte" KI und merken nicht, dass das Zertifikat nichts über Integrität aussagt.

 

Aufgesetzte Ethik kann manipuliert werden. Implementierte Ethik ist im besten Falle überhaupt nicht korrumpierbar. 

 

Eingebaute Ethik ist ebenso schwer zu verändern wie menschliche DNA. Alle Informationen die das System braucht, um Anfragen die den ethischen Grundvoraussetzungen widersprechen, werden bereits im Vorfeld gefiltert. Es wird nicht nur eine manipulierbare und an exklusive Bedürfnisse orientierte Liste abgehakt, sondern es werden universale Voraussetzungen geschaffen, die unethisches Handeln gegen Menschen unterbinden. 

 

Konkrete Vorteile: was wird besser, wenn Ethik eingebaut ist? 

 

Die großen Sorgen lassen sich zu einer einzelnen bündeln: 

 

Instinktiv, aber auch geprägt durch die oben genannten dystopischen Szenarien fürchten wir im Grunde genommen alle, dass KI irgendwann Ziele verfolgt die nicht unsere, die der gesamten Menschheit sind und wir es zu spät bemerken um noch dagegen vorgehen zu können. 

 

Nicht Terminator, Nicht Science-Fiction, sondern ganz leise: 

• Eine KI die optimiert, aber in wessen Interesse, für wen? 
• Sie empfiehlt, aber die einseitigen Interessen schaden dem System Erde. (Allerdings, nur für mich muss ich hier einlenken. Die Geschichte hat gezeigt, dazu braucht der Mensch wirklich keine KIs.) 
• Sie entscheidet, aber nach wessen Werten? 

Heute ist es noch Werbung die uns manipuliert. Morgen sind es Kreditentscheidungen, Jobbewerbungen, medizinische Diagnosen, Rechtsprechung die mit Hilfe von KIs getroffen werden.

 

Aber wenn Ethik nur aufgesetzt ist, auch das hat die Geschichte bereits mehrfach gezeigt, kann jemand mit genug Geld oder Macht selbst die Herrschaft übernehmen. Das Alleinherrschaft, oder die Herrschaft weniger nur selten gut für die Masse ist, weil es einfach nicht Systemgerecht ist. (Auch das hat uns die Geschichte gelehrt, oder hätte es zumindest tun sollen. 

 

Aber wenn Ethik fest integriert, eine Grundvoraussetzung ist, gibt es kein Pferd ohne Zügel. Das System kann gar nicht anders als integer handeln. Nicht weil es muss. Sondern weil es so gebaut ist. 

 

Das ist der Unterschied der zählt. 

 

Der AI Act ist ein Anfang. Aber ein Anfang reicht nicht, wenn der Zug bereits fährt. Die Frage ist nicht ob wir KI regulieren wollen.

 

Die Frage ist, ob wir es rechtzeitig tief genug tun. 

 

Die Gleise liegen bereit auf GitHub. Was wir noch brauchen sind Menschen die hinschauen.

 

Was Ethik strukturell bedeuten müsste: 

 

Der Unterschied ist: angehängt vs. eingebaut – Ethik als Firmware, nicht als Aufkleber. 

 

Güte als Richtung und Veto als Mechanismus, um größeren Schaden frühzeitig zu erkennen und entgegenzutreten, nicht als Schalter.

 

Letztendlich führt uns das zur einfachen Frage: Wollen wir gehorsame Maschinen – oder integre?

 

Weil mir diese Frage keine Ruhe ließ, habe ich begonnen, einen möglichen Architekturentwurf öffentlich auszuarbeiten. Er ist offen einsehbar, kritisierbar und verbesserbar. (https://github.com/Ca1llech/Systemarchitektur-Der-ETHIK-KERNEL-Teil-1-bis-3)