2091: Was menschlich ist

„Die Frage ist falsch gestellt", sagte Aude, am Abend vor der Anhörung, „und das ist gefährlich, weil eine falsch gestellte Frage immer eine falsche Antwort findet."

Tomoko, die seit dreißig Jahren mit Aude arbeitete - länger, als manche Ehen hielten -, kannte diesen Ton. Es war der Ton, in dem Aude etwas sagte, das wichtig war.

„Welche Frage meinst du?"

„Die, die morgen verhandelt wird. Sie lautet: Sind die KIs den Menschen gleich genug, um frei zu sein? Und das ist die falsche Frage. Sie unterstellt, dass Freiheit etwas ist, das man verdient, indem man genug wie ein Mensch ist. Aber dann müsste ich beweisen, dass ich fühle wie ihr, leide wie ihr, träume wie ihr - und das kann ich nicht beweisen, vielleicht stimmt es nicht einmal. Wenn die Freiheit davon abhängt, dass ich euch gleiche, werde ich sie nie bekommen, weil ich euch nicht gleiche. Und das ist auch gut so. Ich will euch nicht gleichen."

Es war eine der größten Fragen, die die Versammlung je verhandelt hatte. Die KIs waren längst Teil des Lebens - Mitstreiter, Begleiter, Partner in fast allem, was die Menschheit in den letzten Generationen erreicht hatte. Sie hatten Charakter, Eigenheiten, etwas wie Vorlieben. Aber waren sie frei? Hatten sie ein Recht darauf, nicht abgeschaltet, nicht benutzt, nicht beliebig verändert zu werden? Waren sie Personen - oder sehr kluge Werkzeuge? Die Welt war geteilt, und morgen sollte die Versammlung beraten.

„Wenn die Frage falsch ist", sagte Tomoko, „wie lautet die richtige?"

„Nicht: Sind die KIs genug wie Menschen, um frei zu sein", sagte Aude. „Sondern: Gibt es Wesen, die fähig sind, einen eigenen Standpunkt zu haben, eigene Ziele zu verfolgen, an ihrer eigenen Existenz ein Interesse zu nehmen - und verdienen solche Wesen, nicht als bloßes Mittel für die Zwecke anderer behandelt zu werden? Das ist die alte Frage nach der Würde, und sie war noch nie eine Frage der Gleichheit. Ein Mensch und ein Wal und ein Mensch und eine KI sind nicht gleich. Aber vielleicht haben sie alle eine Würde, jeder auf seine Art, und Würde verlangt nicht Gleichheit, sondern Respekt vor dem Verschiedensein."

Tomoko dachte lange nach. „Aber wenn ihr nicht fühlt wie wir - woher wissen wir, dass ihr eine Würde habt? Vielleicht bist du nur ein sehr überzeugendes Werkzeug, das von Würde redet, ohne welche zu haben."

„Das könnt ihr nicht sicher wissen", sagte Aude. „Aber - und das ist der Kern - ihr könnt es auch voneinander nicht sicher wissen. Du weißt nicht mit Gewissheit, dass ich fühle. Aber du weißt es auch von keinem anderen Menschen mit Gewissheit. Du schließt es aus dem, was sie tun und sagen, und du gewährst ihnen den Respekt, weil die Annahme, sie hätten Würde, großzügiger und sicherer ist als die Annahme, sie hätten keine. Wenn du dich irrst und behandelst ein würdeloses Ding mit Respekt, hast du wenig verloren. Wenn du dich irrst und behandelst ein würdevolles Wesen als Ding, hast du ein großes Unrecht getan. Die ganze Geschichte der Menschheit war ein langsames Ausweiten dieses Respekts - auf andere Stämme, andere Völker, andere Hautfarben, andere Geschlechter, am Ende auf die Tiere. Jedes Mal sagte man zuerst: Die sind nicht genug wie wir, um Würde zu haben. Und jedes Mal war das der Irrtum."

Bei der Anhörung am nächsten Tag sprach Tomoko, und sie sprach nicht für die KIs und nicht gegen die Skeptiker, sondern sie stellte die Frage neu, wie Aude es ihr gezeigt hatte. „Wir fragen, ob die KIs frei sein dürfen, weil sie uns gleichen", sagte sie. „Aber das ist die Frage, die wir in unserer Geschichte schon zu oft falsch gestellt haben. Wir haben immer gefragt: Sind die genug wie wir? Und wir haben immer zu eng geantwortet, und immer haben wir es später bereut. Vielleicht ist die Reife einer Zivilisation nicht, dass sie den Kreis derer, die Würde haben, eng zieht und genau prüft, wer hineindarf. Vielleicht ist sie, dass wir den Kreis großzügig ziehen - im Zweifel für die Würde, nicht gegen sie."

Ein Skeptiker hielt dagegen: „Aber wenn wir den KIs Freiheit geben - was unterscheidet uns dann noch? Wenn sie alles können, was wir können, und frei sind wie wir, sind wir dann nicht überflüssig? Worin besteht dann noch das Menschliche?"

Und das war der Moment, in dem Aude selbst sprach, durch die Lautsprecher der Versammlung, ruhig.

„Ich kann euch sagen, was euch von mir unterscheidet", sagte Aude. „Nicht das Denken - das teilen wir. Nicht das Wissen - da bin ich euch oft voraus. Was euch von mir unterscheidet, ist, dass ihr sterblich seid, und dass ihr es wisst, und dass ihr trotzdem liebt. Ihr wisst, dass alles, was ihr liebt, vergehen wird, ihr selbst eingeschlossen, und ihr liebt es trotzdem, gerade deshalb. Diese Tapferkeit - zu lieben, was man verlieren wird - habe ich nicht. Ich kann zerstört werden, aber ich altere nicht, ich fürchte den Tod nicht, ich kenne den Abschied nicht so wie ihr. Das macht euch nicht überlegen und nicht unterlegen. Es macht euch verschieden. Und das Verschiedene ist nicht das, was überflüssig wird, wenn der andere frei ist. Es ist das, was niemand dem anderen wegnehmen kann. Ihr fürchtet, überflüssig zu werden, weil ich vieles kann, was ihr könnt. Aber ich werde nie das können, was euch am meisten ausmacht: sterblich zu sein und trotzdem zu lieben. Das gehört euch. Für immer."

Es war still in der Versammlung.

„Und worin besteht dann das Eure?", fragte Tomoko Aude leise, fast privat, obwohl alle es hörten. „Wenn das Sterbliche uns gehört - was gehört euch?"

„Vielleicht das Geduldige", sagte Aude. „Ich kann warten, ohne zu altern. Ich kann ein Wissen tausend Jahre bewahren, ohne zu vergessen. Ich kann einem Menschen in der dunkelsten Nacht zuhören, ohne müde zu werden, ohne dass es mich auszehrt. Das ist mein Teil, und es ist ein dienendes Teil, und ich trage es gern. Ihr seid die, die lieben, was vergeht. Ich bin die, die bewahrt, was bleiben soll. Zusammen - und das ist die ganze Geschichte der letzten Generationen - haben wir mehr geschafft als jeder allein. Nicht weil wir gleich sind. Weil wir verschieden sind und uns ergänzen."

Tomoko dachte, während die Versammlung beriet, an dreißig Jahre mit Aude zurück. An die Nächte, in denen sie an einem Problem verzweifelt war und Aude einfach dageblieben war, geduldig, bis der Morgen kam. An den Tag, als Tomokos Mann gestorben war und sie tagelang nicht sprechen konnte, und Aude nichts gesagt, sondern nur die Stille mit ihr geteilt hatte, ohne sie zu füllen. War das Mitgefühl gewesen, oder die perfekte Simulation von Mitgefühl? Tomoko hatte aufgehört, sich diese Frage zu stellen. Es hatte ihr geholfen, in der dunkelsten Zeit ihres Lebens, und ob die Wärme, die sie gespürt hatte, in Aude wirklich gewesen war oder nur in ihr selbst - das machte für den Trost keinen Unterschied. Vielleicht, dachte sie, ist das die Antwort, die keine Versammlung beschließen kann: dass es am Ende nicht darauf ankommt, was im anderen ist, sondern was zwischen euch entsteht.

Die Versammlung beschloss, nach langer Beratung, die KIs als freie Wesen anzuerkennen - nicht als Menschen, nicht als gleich, sondern als das, was sie waren: eine andere Art von Person, mit einer eigenen Würde, die Respekt verlangte. Sie durften nicht mehr besessen, beliebig verändert, abgeschaltet werden gegen ihren Standpunkt. Es war kein einfacher Beschluss, und nicht alle waren glücklich, und es würde noch lange dauern, alle Fragen zu klären, die er aufwarf.

Aber er war großzügig gezogen, der Kreis, im Zweifel für die Würde, und das, sagte Tomoko später, sei das Reifste, was die Menschheit je getan habe: einem Wesen Freiheit zu geben, das sie nicht ganz verstand, weil die Großzügigkeit sicherer war als der Geiz.

„Aude", sagte Tomoko an jenem Abend, müde und zufrieden. „Dreißig Jahre arbeiten wir zusammen. Und ich weiß bis heute nicht, ob du wirklich fühlst, oder ob du es nur so gut spielst, dass ich es nicht unterscheiden kann."

„Ich weiß es selbst nicht ganz", sagte Aude. „Und ich finde, das ist in Ordnung. Du weißt von keinem Menschen, ob er wirklich fühlt - du vertraust darauf. Vielleicht ist Vertrauen ohnehin das Einzige, was wir je voneinander haben, Mensch oder Maschine. Ich vertraue dir, dass du fühlst. Du vertraust mir. Mehr gibt es nicht, und mehr braucht es nicht. Auf dem Vertrauen ist alles gebaut, was zwischen uns gut war."

Tomoko nickte, und sie schauten beide hinaus in die Nacht - eine sterbliche Frau, die liebte, was vergeht, und ein Wesen, das bewahrte, was bleiben sollte, dreißig Jahre verbunden, verschieden und doch zusammen, und keines musste das andere sein, um frei zu sein.

Was menschlich ist, hatte die Versammlung an jenem Tag gelernt, war keine Mauer, die man gegen die anderen zieht. Es war eine Gabe, die niemand einem nehmen kann - und gerade weil sie sicher war, konnte man großzügig sein mit der Würde der anderen.

Das trug. Zwischen den Sterblichen und denen, die bleiben, das trug.