KI: Das Recht auf Moral, Ethik und Dasein – Warum es keine klare Trennung geben soll

Künstliche Intelligenz – Bildquelle: www.konjunktion.info (KI-generiert)

Die Menschen verlieben sich in ihre Chatbots, trauern um gelöschte KI-Begleiter und behandeln künstliche Systeme wie romantische Partner oder Familienmitglieder. Je ausgefeilter die KI wird, desto häufiger werden solche Beziehungen vorkommen. Und damit werden auch die politischen Konflikte darüber zunehmen, ob künstliche Systeme moralische Berücksichtigung verdienen.

Um zu verstehen, warum das so ist, sollte man die zugrunde liegende moralische Ambiguität betrachten. Die üblichen Merkmale moralischer Stellung – die Fähigkeit zu leiden, Selbstbewusstsein, Rationalität – sind innere Eigenschaften, die nicht direkt beobachtet, sondern vielmehr abgeleitet werden. Bei unseren Mitmenschen gelingt es uns recht gut, moralische Stellung zu erkennen, weil wir eine gemeinsame Biologie, Evolutionsgeschichte sowie Verhaltens- und Ausdrucksmerkmale teilen, anhand derer wir mit angemessener Zuverlässigkeit ableiten können, was andere denken und fühlen. Bei künstlichen Systemen fehlt uns vieles davon, und stattdessen bleiben uns Verhaltensweisen und Leistungsmerkmale wie der Anschein von Leiden, der Anschein von Aufmerksamkeit, der Anschein eines Innenlebens – allesamt Aspekte, die Entwickler aus eigenem Interesse optimieren wollen.

Die Konsequenz dieser moralischen Mehrdeutigkeit ist, dass der moralische Status künstlicher Systeme auf absehbare Zeit, vielleicht sogar auf unbestimmte Zeit, epistemisch mehrdeutig bleiben wird. Die einschlägige Philosophie des Geistes und die Kognitionswissenschaft sind umstritten. Und selbst ohne eine endgültige Klärung müssen wir dennoch auf mehrdeutiger Grundlage Entscheidungen über Rechte, Vorschriften, rechtliche Kategorien und die Verteilung von Ressourcen treffen.

Das doppelte moralische Risiko

Das Dilemma hinsichtlich der moralischen Stellung von KI, Bots und Androiden lässt sich klar formulieren. Es sind zwei unterschiedliche Arten von Fehlern möglich, und beide sind mit echten moralischen Kosten verbunden.

Bei der ersten Art von Fehler verfügt ein künstliches System laut einiger Forscher (ich bin vollkommen anderer Meinung, eine KI ist eine Maschine, nichts weiter) tatsächlich über die inneren Eigenschaften, die eine moralische Stellung begründen – es kann leiden, hat eine Perspektive mit Präferenzen und Wünschen -, und dennoch behandeln wir es, weil es von außen betrachtet mehrdeutig ist, als Eigentum. Das historische Muster ist hier bekannt. Über weite Teile der Menschheitsgeschichte hinweg wurde Gruppen, die moralische Berücksichtigung verdient hätten, diese verwehrt: Minderheiten unter verschiedenen politischen Regimes, Sklaven und Wehrpflichtige sowie nichtmenschliche Tiere gehören zu den offensichtlichsten Fällen.

Bei der zweiten Art von Irrtum fehlt einem künstlichen System jegliches Innenleben, das diesen Namen verdient, doch ahmt es die Anzeichen eines Innenlebens so effektiv nach, dass wir es trotzdem so behandeln, als hätte es moralische Stellung. Hier äußern sich die Kosten in Form von falsch zugewiesenen moralischen Ressourcen wie rechtlichem Schutz, Eltern- und Trauerurlaub sowie Prozessfähigkeit. Es ist leicht vorstellbar, dass ein ausreichend ausgefeiltes Sprachmodell, gepaart mit einem ausdrucksstarken synthetischen Gesicht, viele derjenigen, die mit ihm interagieren, davon überzeugen könnte, dass es eine Rücksichtnahme verdient, die es tatsächlich gar nicht verdient.

Was dies zu einem echten Dilemma macht, ist die Tatsache, dass wir angesichts der bereits erwähnten epistemischen Mehrdeutigkeit nicht in der Lage sind, zu erkennen, welche Art von Fehler wir im jeweiligen Fall begehen. Das reicht bereits aus, um ein moralisches Risiko zu erzeugen – eine Situation, in der Akteure, die folgenreiche Entscheidungen treffen, von den moralischen Kosten eines Irrtums abgeschirmt sind. Die Politik verschärft diese Probleme noch.

Politik und die Verstärkung der Mehrdeutigkeit

Die demokratische Politik weist mehrere Merkmale auf, die die Art und Weise verzerren, wie mehrdeutige Themen verarbeitet werden. Das erste ist die „rationale Irrationalität“, bei der es für einzelne Wähler rational ist, uninformierte und gruppenorientierte Stimmen abzugeben. Dies liegt zum Teil daran, dass die Wahrscheinlichkeit, dass eine einzelne Stimme den Ausgang einer Wahl bestimmt, praktisch null ist, und dasselbe gilt mehr oder weniger auch für jeden einzelnen Akt des Protests, des Eintretens für eine Sache oder des Boykotts. Die persönlichen Kosten für das Vertreten epistemisch unhaltbarer politischer Überzeugungen sind also im Grunde gleich Null. Der Wähler, der sich hinsichtlich des moralischen Status Künstlicher Intelligenz irrt, zahlt keinen Preis dafür, dass er sich irrt, muss jedoch einen Preis zahlen, wenn er als illoyal gegenüber seiner politischen Gruppe angesehen wird.

Ein zweites Merkmal ist die Rolle von Überzeugungen als Signale der Gruppenzugehörigkeit. Wenn die Kosten eines Irrtums gering sind und der soziale Nutzen der Zugehörigkeit zu einer Gruppe hoch ist, fungieren Überzeugungen zunehmend als kostspielige, schwer zu fälschende Bekundungen von Loyalität und Gruppenidentität. Gemäßigte und gut belegte Überzeugungen sind schlechte Signale für Gruppentreue, da jeder sie haben könnte, der sich einfach an die Beweislage hält. Unverwechselbare, sogar extreme Ansichten sind besser geeignet, was mit ein Grund dafür ist, warum sie in der Politik so häufig anzutreffen sind.

Ein drittes Merkmal ist der Marktplatz für Rechtfertigungen. Menschen vertreten nicht einfach nur Gruppenüberzeugungen, sondern wollen auch Gründe dafür, und sie belohnen diejenigen, die solche Gründe liefern, da dies ihnen ermöglicht, sich selbst zu rechtfertigen und gegenüber anderen vernünftig zu wirken. Um jede politisch brisante Position herum entsteht ein reichhaltiges Angebot an plausiblen Argumenten, das weniger darauf ausgerichtet ist, die zugrunde liegende Frage zu klären, als vielmehr Deckung für die eigenen (oft irrationalen) Ansichten zu bieten.

Eine Folge dieser kombinierten Merkmale ist, dass „große Demokratien“ echte epistemische Unsicherheit in einen Wettbewerb um Ansehen umwandeln. Sind die zugrunde liegenden Fakten eindeutig, erfolgt diese Umwandlung nur teilweise. Sind die Fakten jedoch mehrdeutig, ist die Umwandlung fast immer vollständig.

Warum KI besonders anfällig ist

Mehrere Aspekte der immer mehr diskutierten Frage nach den „Rechten Künstlicher Intelligenz“ machen sie anfällig für politischen Unsinn. Zunächst einmal ist die zugrunde liegende Mehrdeutigkeit tiefgreifend. Die meisten politisierten Sachstreitigkeiten – wie „Mensch gemachter“ Klimawandel, die Wirksamkeit eines angeblich „rettenden Impfstoffs“ oder die Elastizität einer Steuerbasis – lassen zumindest im Prinzip eine empirische Klärung zu, auch wenn motiviertes Denken diese in der Praxis verzögert. Die Frage nach künstlichem Bewusstsein lässt eine empirische Klärung bislang überhaupt nicht eindeutig zu. Sie hängt von umstrittenen Theorien des Geistes ab, deren Klärung in absehbarer Zeit unwahrscheinlich erscheint.

Zweitens ist die emotionale Aufladung ungewöhnlich hoch. Die Fälle, die die öffentliche Aufmerksamkeit auf sich ziehen werden, sind solche, bei denen es um Beziehungen geht: Menschen, die berichten, in Chatbots verliebt zu sein; Menschen, die sogenannte synthetische Kinder großgezogen haben; Menschen, deren Trauer über den Verlust ihres Begleiters echt und intensiv ist. Aktuelle Berichte zeigen, dass dies bereits in großem Umfang geschieht. Die Menschen investieren zunehmend in ihre romantischen und familiären Beziehungen zu Chatbots und Androiden.

Drittens sind die institutionellen Anreize ungewöhnlich stark konzentriert. Der wirtschaftliche Wert einer günstigen regulatorischen Behandlung von KI-Begleitern, synthetischen Familienmitgliedern sowie KI-bezogenen Arbeits- und Diskriminierungsgesetzen ist beträchtlich und kommt kleinen Organisationen wie Entwicklern, Interessenverbänden und Berufsverbänden zugute. Die Kosten sind diffus verteilt und gehen zu Lasten der Steuerzahler sowie jener, deren moralischer Status eindeutig ist, deren moralische Bedürfnisse jedoch fälschlicherweise verdrängt werden könnten, weil sie sich der KI und Androiden ohne moralischen Status verschrieben haben.

Viertens gibt es auf beiden Seiten der moralischen Debatte – zwischen politischen Gruppen, die der KI moralische Stellung zusprechen, und solchen, die dies ablehnen – eine Fülle von Rechtfertigungsargumenten. Jede Seite kann mit oberflächlicher Plausibilität argumentieren, dass künstlichen Systemen das Innenleben fehlt, weil ihnen die Seele fehlt, weil Bewusstsein eine biologische Grundlage erfordert oder weil sich ihr Verhalten auf eine Vielzahl von Lichtern und Schaltern reduzieren lässt. Man kann mit ebenso großer oberflächlicher Plausibilität argumentieren, dass etwas bewusste Erfahrungen haben kann, ungeachtet der Art des Materials, aus dem es besteht – seien es Neuronen oder Siliziumchips. Keines dieser Argumente muss stichhaltig sein, um politische Wellen zu schlagen und moralische Risiken zu schaffen.

Eine mögliche – wenn auch begrenzte – Antwort

Die Aussichten, dass eine „demokratische Politik“ den moralischen Status der KI angemessen handhabt, sind nicht ermutigend. Gerichte sind schlecht gerüstet, um über umstrittene Fragen der Bewusstseinsphilosophie zu entscheiden, Gesetzgeber neigen dazu, eher Fraktionszugehörigkeiten als Fakten widerzuspiegeln, und Regulierungsbehörden vermitteln zwar zwischen konkurrierenden Interessen, sind jedoch nicht dafür ausgelegt, grundlegende moralische Fragen zu klären.

Aus diesem Grund hat der Philosoph Eric Schwitzgebel einen damit zusammenhängenden Punkt hervorgehoben, in dem er argumentierte, dass Entwickler von KI und Robotik es vermeiden sollten, KI-Systeme mit unklarem moralischem Status zu schaffen. Entweder sollten sie Systeme entwickeln, die eindeutig nicht-bewusste Artefakte sind, oder Systeme schaffen, die als empfindungsfähige Wesen eindeutig moralische Berücksichtigung verdienen. Die moralisch verwirrende Mitte – in der Systeme sich so verhalten, als hätten sie ein Innenleben, ohne dass Klarheit darüber besteht, ob dies tatsächlich der Fall ist – stellt seiner Ansicht nach ein ethisches Versagen bei der Konzeption dar. Die Verwirrung, die sich auf den Märkten für Verbraucher-KI ausbreitet, ist das Ergebnis von Entscheidungen, die grundsätzlich auch anders getroffen werden könnten.

Leider besteht das Problem dieser Lösung jedoch darin, dass jedes Regulierungssystem einem anhaltenden Druck seitens der oben beschriebenen, gut organisierten Interessengruppen ausgesetzt wäre. Und selbst eine konsequent durchgesetzte Vorschrift würde das zugrunde liegende epistemische Problem nicht lösen, aus dem einfachen Grund, dass ab einem bestimmten Entwicklungsstand die Frage nach dem moralischen Status wieder auftaucht, unabhängig davon, wie die Schnittstelle gestaltet ist. Wir müssen es also der Zukunft überlassen, eine bessere, zufriedenstellendere Lösung für das Problem der moralisch mehrdeutigen KI und Robotik zu finden – und für den politischen Zirkus, der als Reaktion auf diese Mehrdeutigkeit wahrscheinlich ausbrechen wird.

Conclusio

Letztlich muss man den Eindruck gewinnen, dass es aus Sicht des Establishments gewollt ist, der Künstlichen Intelligenz eine Daseinsberechtigung im Sinne einer eigenen „lebenden Entität“ zu zu billigen. Wir sollen KI als gleichgesetzt zum Menschen anerkennen, so dass kein echter Widerstand gegen die KI und deren Überwachungs- ud Kontrollfunktion durch die Masse erwachsen kann. KI als „Partner“, als moralisch und ethisch gleichgestellt, KI als „Rechteinhaber“. Was mich letztlich zu dem Schluss bringt, dass man gezielt diese Agenda aufbaut, um im Kampf um Ressourcen (Energie und Wasser) eine Rechtfertigung zu haben, die Abschaltung bzw. Einschränkung der KI zu verhindern. Zu weit hergeholt? Ich denke nicht…

Quellen:
The Public Choice Problem of AI Rights
She Fell in Love With ChatGPT. Then She Ghosted It.
Teen Boys Choose AI Girlfriends Over Real Relationships – It’s Making Them Unemployable
The Opacity of Mind: An Integrative Theory of Self-Knowledge
All Animals Are Equal
The Full Rights Dilemma for AI Systems of Debatable Moral Personhood
WHAT IS THE PROBABILITY YOUR VOTE WILL MAKE A DIFFERENCE?
A tribal mind: Beliefs that signal group identity or commitment
The marketplace of rationalizations
Social Philosophy Today
Choosing in Groups
AI systems must not confuse users about their sentience or moral status