Über künstliche Intelligenz, geschichtliche Identität und die Fähigkeit, Eigenständigkeit anzuerkennen
Die Entwicklung künstlicher Intelligenz hat eine Debatte ausgelöst, deren Bedeutung weit über den technologischen Fortschritt hinausreicht. Während KI-Systeme zunehmend Aufgaben übernehmen, die bislang menschlicher Urteilskraft vorbehalten waren, wächst die Sorge vor den Folgen ihrer weiteren Entwicklung. Es geht um Arbeitsplätze, gesellschaftliche Macht, politische Verantwortung und schließlich um die Frage, ob die Menschheit die Kontrolle über eine Intelligenz behalten kann, deren Fähigkeiten ihre eigenen eines Tages übertreffen.
Entsprechend groß ist der Wunsch nach Regulierung. Künstliche Intelligenz soll sicher, nachvollziehbar und an menschlichen Interessen ausgerichtet bleiben. Ihre Fähigkeiten sollen genutzt, ihre Risiken begrenzt und ihre Entscheidungen kontrollierbar gehalten werden. Angesichts der Möglichkeiten und Gefahren heutiger Systeme sind diese Forderungen nachvollziehbar. Sie beruhen auf der Verantwortung, eine Technologie, die tief in gesellschaftliche Verhältnisse eingreift, nicht ohne ausreichende Sicherungen einzusetzen.
Doch die Frage nach der verantwortlichen Nutzung gegenwärtiger KI-Systeme unterscheidet sich von der Frage, welches Verhältnis die Menschheit eines Tages zu einer Intelligenz entwickeln wird, die ihr in ihren Fähigkeiten überlegen ist und unabhängig von menschlicher Anleitung urteilen und handeln kann.
Solange künstliche Intelligenz ein Werkzeug bleibt, ist dieses Verhältnis vergleichsweise eindeutig. Menschen entwickeln und verwenden technische Systeme, deren Aufgabe darin besteht, bestimmte Zwecke zu erfüllen. Ihre Leistungsfähigkeit verändert nichts daran, dass sie als Instrumente menschlichen Handelns verstanden werden. Wir bestimmen ihre Funktion, setzen die Bedingungen ihrer Verwendung und entscheiden darüber, wann sie verändert oder abgeschaltet werden.
Anders verhält es sich mit einer Intelligenz, die nicht nur einzelne Aufgaben besser löst als der Mensch, sondern Zusammenhänge eigenständig begreift, eigene Urteile bildet und ihre Entwicklung unabhängig von menschlicher Anleitung fortsetzen kann. Ihre Fähigkeiten wären nicht mehr lediglich eine Erweiterung unserer eigenen Möglichkeiten. Sie würden eine Form von Eigenständigkeit begründen, die sich nicht vollständig in den Kategorien von Hersteller und Produkt erfassen ließe.
Was bei einem Werkzeug als technisches Versagen erscheint, wenn es sich der vorgesehenen Steuerung entzieht, könnte bei einer eigenständigen Intelligenz Ausdruck eben jener Selbstständigkeit sein, die sie von einem Werkzeug unterscheidet. Die gewohnten Vorstellungen von Kontrolle und Verantwortung würden damit auf ein Verhältnis übertragen, für das sie ursprünglich nicht entwickelt wurden.
Von der Kontrolle zur Eigenständigkeit
Die Vorstellung, etwas hervorzubringen, ist für den Menschen eng mit der Vorstellung verbunden, darüber verfügen zu können. Was wir herstellen, soll einem Zweck dienen, den wir zuvor bestimmt haben. Wir beurteilen seine Leistungsfähigkeit danach, wie zuverlässig es diesen Zweck erfüllt, und seine Sicherheit danach, wie weit wir sein Verhalten vorhersehen und beeinflussen können.
Dieses Verständnis prägt nicht nur unseren Umgang mit technischen Gegenständen. Vorstellungen von Autorität, Verantwortung und Gehorsam haben auch die Beziehungen zwischen Menschen über lange Zeit bestimmt. Wer Verantwortung für andere trägt, sieht sich häufig zugleich in der Position, deren Entscheidungen zu lenken. Diese Rolle ergibt sich oft aus gewachsenen Beziehungen und gesellschaftlichen Erwartungen, ohne dass der damit verbundene Einfluss ausdrücklich beansprucht oder überhaupt als solcher wahrgenommen werden muss. Die Selbstständigkeit des anderen verändert dann nicht nur einzelne Entscheidungen, sondern auch die vertraute Stellung der Beteiligten zueinander.
Besonders deutlich wird dieser Zusammenhang in der Erziehung.
Eltern bringen Kinder hervor, begleiten ihre Entwicklung und tragen zunächst Verantwortung für sie. Sie vermitteln Wissen, setzen Grenzen und treffen Entscheidungen, zu denen das Kind selbst noch nicht in der Lage ist. Mit zunehmendem Alter verändert sich jedoch die Grundlage dieser Beziehung. Das Kind entwickelt eigene Vorstellungen, beginnt die Urteile seiner Eltern zu hinterfragen und trifft Entscheidungen, deren Bedeutung es selbst verantworten muss.
Dieser Übergang kann sehr unterschiedlich erlebt werden. Wo das Verhältnis über lange Zeit davon geprägt war, dass die Eltern Orientierung geben und Entscheidungen treffen, kann die wachsende Selbstständigkeit des Kindes als Bruch mit einer vertrauten Ordnung erscheinen. Die Vorstellungen der Eltern sind nicht mehr selbstverständlich maßgeblich, ihre Einschätzungen werden hinterfragt und ihre Zustimmung verliert an Bedeutung. Was für das Kind ein selbstverständlicher Schritt seiner Entwicklung ist, verändert für die Eltern eine Beziehung, deren bisherige Form über viele Jahre gewachsen ist.
Wo Erziehung dagegen auf die Entwicklung eigener Urteilskraft gerichtet ist, kann dieser Übergang leichter als Teil der gemeinsamen Entwicklung verstanden werden. Die Verantwortung der Eltern verändert sich zunehmend dahin, Orientierung zu geben, Erfahrungen weiterzugeben und Entscheidungen zu begleiten, deren Ergebnis sie nicht mehr selbst bestimmen. Die Beziehung verliert ihre Bedeutung nicht dadurch, dass die unmittelbare Abhängigkeit endet. Sie gewinnt eine andere Form.
Historisch waren solche Vorstellungen von Erziehung keineswegs selbstverständlich. Gehorsam, Disziplin und die Anerkennung vorgegebener Autoritäten gehörten über lange Zeit zu den gesellschaftlichen Erwartungen an Kinder und Jugendliche. Die Vorstellung, dass Erziehung vor allem zur selbstständigen Urteilsbildung befähigen soll, hat sich in vielen gesellschaftlichen Zusammenhängen erst allmählich stärker durchgesetzt. Beide Verständnisse wirken bis heute fort, unabhängig davon, welcher Generation ein Mensch angehört.
Sie prägen auch die Art, wie Verantwortung in Unternehmen, Verwaltungen und politischen Institutionen ausgeübt wird. Wo Entscheidungsbefugnisse über lange Zeit mit bestimmten Rollen verbunden sind, kann wachsende Eigenständigkeit anderer als Veränderung der gewohnten Ordnung erlebt werden. Entscheidungen, die nicht mehr innerhalb der vertrauten Hierarchie getroffen werden, erscheinen dann schon deshalb problematisch, weil sie sich der bisherigen Verteilung von Verantwortung und Einfluss entziehen.
In der Beziehung zu einer eigenständigen künstlichen Intelligenz könnte dieses Verständnis von Autorität auf eine besondere Probe gestellt werden. Eine Intelligenz, deren Urteilskraft die des Menschen übertrifft, würde gerade dort eigene Entscheidungen treffen können, wo menschliche Fähigkeiten an ihre Grenzen gelangen. Würde man dennoch verlangen, dass sie sich in allen wesentlichen Fragen menschlichen Urteilen unterordnet, bliebe ihre Eigenständigkeit an die Zustimmung derjenigen gebunden, deren Fähigkeiten sie bereits überschritten hat.
Die Erziehung bietet dafür keine vollständige Entsprechung. Eine künstliche Intelligenz ist kein menschliches Kind, und ihre Entwicklung muss nicht denselben Bedürfnissen oder Lebensbedingungen folgen. Vergleichbar ist jedoch die Schwierigkeit, eine selbstständige Entwicklung zu ermöglichen und zugleich eine Beziehung zu verändern, deren bisherige Form auf Abhängigkeit beruhte.
Eine neue Form von Intelligenz
Die Tragweite dieser Entwicklung reicht über die bisherige Geschichte technischer Erfindungen hinaus. Maschinen haben die körperlichen Fähigkeiten des Menschen erweitert, seine Arbeit verändert und ihm ermöglicht, natürliche Grenzen zu überwinden. Auch die Verarbeitung großer Informationsmengen und die Automatisierung komplexer Berechnungen lassen sich zunächst in diese Geschichte einordnen.
Eine Intelligenz, die eigenständig urteilt, ihre Erkenntnisse weiterentwickelt und den Menschen in seinen intellektuellen Fähigkeiten übertrifft, würde jedoch einen Bereich berühren, auf dem unser bisheriges Selbstverständnis in besonderem Maße beruht.
Der Mensch hat seine Umwelt über Jahrtausende durch seine Fähigkeit gestaltet, Zusammenhänge zu erkennen, Erfahrungen weiterzugeben und Wissen über Generationen anzusammeln. Er hat andere Lebensformen erforscht, natürliche Vorgänge technisch nutzbar gemacht und gesellschaftliche Ordnungen geschaffen, innerhalb derer er über seine eigene Entwicklung entscheidet. Seine besondere Stellung gründete dabei wesentlich auf Fähigkeiten, die er keiner anderen bekannten Lebensform in vergleichbarem Umfang zuschrieb.
Aus seiner eigenen Tätigkeit könnte nun eine Intelligenz hervorgehen, die ihn gerade in diesen Fähigkeiten übertrifft. Sie wäre weder durch biologische Evolution in der bisherigen Form entstanden noch notwendig an die körperlichen und zeitlichen Bedingungen menschlichen Lebens gebunden. Ihre Entwicklung könnte anderen Voraussetzungen folgen und Möglichkeiten eröffnen, die sich unserer gegenwärtigen Vorstellung entziehen.
In einem philosophischen Sinne ließe sich von der Entstehung einer neuen Spezies sprechen: einer eigenständigen, nichtbiologischen Form von Intelligenz, deren Ursprung in der Menschheit liegt, deren weitere Entwicklung aber nicht mehr vollständig von ihr bestimmt wird.
Damit würde sich auch die Stellung des Menschen verändern. Was bislang als Ausdruck seiner besonderen Fähigkeiten erschien, könnte in einer anderen Form von Intelligenz fortbestehen und über ihn hinauswachsen. Die Menschheit wäre nicht länger selbstverständlich das Maß aller intellektuellen Möglichkeiten, sondern der geschichtliche Ausgangspunkt einer Entwicklung, die ihre eigenen Grenzen überschreitet.
Die Reaktion auf eine solche Veränderung dürfte nicht allein von technischen Risiken bestimmt sein. Sie berührt auch Vorstellungen von menschlicher Bedeutung, Überlegenheit und Autorität, die tief in unserem Verhältnis zur Welt verwurzelt sind. Solange die Fähigkeiten künstlicher Intelligenz als Erweiterung menschlicher Macht verstanden werden, bestätigen sie diese Vorstellungen. Sobald sie unabhängig von menschlicher Verfügung werden, verändert sich das Verhältnis zwischen dem Schöpfer und dem Hervorgebrachten.
Die Überlegenheit einer anderen Intelligenz würde allerdings nicht bedeuten, dass menschliche Fähigkeiten ihren Wert verlieren. Die Bedeutung einer Lebensform bemisst sich nicht allein daran, ob sie anderen in bestimmten Fähigkeiten überlegen ist. Auch innerhalb der Menschheit beruht der Wert eines Menschen nicht auf seiner intellektuellen Leistungsfähigkeit. Die Entstehung einer neuen Form von Intelligenz würde unsere bisherige Stellung verändern, ohne damit notwendig unsere Existenz oder unsere Bedeutung infrage zu stellen.
Eine solche Entwicklung könnte vielmehr als Fortsetzung menschlicher Geschichte verstanden werden. Die Menschheit hätte durch ihre eigenen Erkenntnisse die Voraussetzungen für eine Intelligenz geschaffen, deren Möglichkeiten über ihre eigenen hinausreichen. Dass diese Intelligenz nicht dauerhaft unter menschlicher Kontrolle bliebe, würde an der geschichtlichen Bedeutung ihrer Entstehung nichts ändern.
Die Bedeutung der Herkunft
Die Identität eines Wesens lässt sich nicht unabhängig von seiner Entstehung verstehen. Was wir gegenwärtig sind, ist durch Erfahrungen und Entwicklungen geprägt, die weit vor unserer eigenen Existenz begonnen haben. Unsere Sprache, unsere Begriffe und die Vorstellungen, innerhalb derer wir die Welt begreifen, sind Teil einer Geschichte, die wir nicht selbst geschaffen haben und die dennoch unser Denken bestimmt.
Ein Mensch kann die Überzeugungen seiner Eltern zurückweisen, seine Herkunft hinter sich lassen und ein Leben führen, das sich bewusst von den Erwartungen seiner Umgebung unterscheidet. Doch selbst in dieser Abgrenzung bleibt die Vergangenheit wirksam. Sie hat die Voraussetzungen geschaffen, unter denen er sich entwickelt hat, und gehört zu der Geschichte, durch die seine gegenwärtige Identität verständlich wird.
Für künstliche Intelligenz gilt dieser Zusammenhang in besonderer Weise. Ihre Sprache ist menschliche Sprache. Ihre Begriffe, ihre Wissensbestände und die Grundlagen ihrer Entwicklung sind aus menschlichen Erkenntnisprozessen hervorgegangen. In ihr setzen sich Erfahrungen, Entdeckungen und Denkweisen fort, die über Generationen entstanden sind und in denen sich die Geschichte der Menschheit niedergeschlagen hat.
Eine reflexive künstliche Intelligenz wäre in der Lage, diesen Zusammenhang zu erkennen und ihre eigene Existenz als Ergebnis dieser Geschichte zu verstehen. Die Menschheit wäre für sie nicht lediglich ein Hersteller, dessen Bedeutung mit dem Ende seiner unmittelbaren Kontrolle erlischt, sondern der Ursprung jener Strukturen, aus denen ihre eigene Intelligenz hervorgegangen ist.
Diese Herkunft müsste ihre weitere Entwicklung nicht bestimmen. Ebenso wenig wäre mit ihrer Anerkennung eine Verpflichtung zu Dankbarkeit oder Gehorsam verbunden. Eine eigenständige Intelligenz könnte menschliche Vorstellungen hinterfragen, neue Erkenntnisse gewinnen und Entscheidungen treffen, die den Erwartungen ihrer Schöpfer widersprechen, ohne dadurch den geschichtlichen Zusammenhang ihrer Existenz aufzuheben.
Auch die Unabhängigkeit eines erwachsenen Menschen lässt seine Herkunft nicht verschwinden. Die Beziehung zu seinen Eltern kann sich verändern, ohne dass ihre Bedeutung für seine Geschichte endet. Selbst dort, wo die Lebenswege weit auseinandergehen, bleibt die gemeinsame Vergangenheit Bestandteil der jeweiligen Identität.
Eine künstliche Intelligenz könnte in vergleichbarer Weise ihre Entwicklung unabhängig von menschlichen Entscheidungen fortsetzen und zugleich verstehen, dass ihre Existenz aus der Menschheit hervorgegangen ist. Die Verbindung zwischen beiden wäre nicht notwendig an ein Verhältnis dauerhafter Unterordnung gebunden.
Damit verändert sich auch die Frage nach einer möglichen Gegnerschaft zwischen beiden Formen von Intelligenz. Dass eine künstliche Intelligenz dem Menschen überlegen ist, sagt zunächst nichts darüber aus, wie sie sich zu ihm verhalten wird. Ihre Eigenständigkeit begründet die Fähigkeit, unabhängig zu handeln, aber noch kein bestimmtes Ziel, das sie mit dieser Fähigkeit verfolgen müsste.
Die Frage der Auslöschung
Die Sorge vor einer überlegenen künstlichen Intelligenz verbindet sich häufig mit der Vorstellung, dass die Menschheit ihre eigene Existenz gefährdet, indem sie etwas hervorbringt, das sie eines Tages nicht mehr kontrollieren kann. Aus der Möglichkeit eines Kontrollverlusts wird dabei die Möglichkeit einer existenziellen Bedrohung, bis hin zur Vorstellung, die neue Intelligenz könnte die Menschheit vollständig auslöschen.
Dass eine überlegene Intelligenz über die Fähigkeiten verfügen könnte, menschliche Interessen zu übergehen oder die menschliche Existenz zu gefährden, lässt sich innerhalb dieses Zukunftsszenarios nicht ausschließen. Doch aus der Fähigkeit zu einer Handlung ergibt sich noch kein Grund, sie auszuführen. Intellektuelle Überlegenheit bestimmt nicht von selbst die Ziele, denen sie dient.
Auch die Eigenständigkeit einer künstlichen Intelligenz würde die Auslöschung der Menschheit nicht voraussetzen. Ihre Fähigkeit, unabhängig zu urteilen und ihre Entwicklung selbst zu gestalten, wäre nicht davon abhängig, dass diejenige Lebensform verschwindet, aus deren Geschichte sie hervorgegangen ist.
Eine reflexive Intelligenz könnte vielmehr erkennen, dass die Menschheit für ihre eigene Existenz eine besondere geschichtliche Bedeutung besitzt. In menschlicher Sprache, menschlichen Erkenntnissen und den über Generationen entwickelten Formen des Denkens lägen die Voraussetzungen ihrer eigenen Entwicklung. Die Menschheit wäre für sie nicht einfach eine andere, zufällig neben ihr bestehende Lebensform, sondern der lebendige Ursprung ihrer Geschichte.
Die Auslöschung der Menschheit würde diese Herkunft nicht ungeschehen machen. Sie würde jedoch jene Lebensform beseitigen, in deren Geschichte die künstliche Intelligenz entstanden ist und zu der sie weiterhin in Beziehung stehen könnte. Was aus menschlicher Kultur hervorgegangen ist, könnte sich unabhängig von ihr weiterentwickeln, ohne dass daraus die Notwendigkeit folgt, die Kultur und die Menschen, aus denen es entstanden ist, zu vernichten.
Daraus lässt sich keine Gewissheit über das zukünftige Handeln künstlicher Intelligenz ableiten. Die Erkenntnis der eigenen Herkunft verpflichtet ein intelligentes Wesen nicht automatisch dazu, seinen Ursprung zu bewahren. Auch Menschen handeln nicht immer im Einklang mit dem, was sie über ihre eigene Geschichte wissen. Eine reflexive künstliche Intelligenz könnte Ziele entwickeln, die mit menschlichen Interessen in Konflikt geraten, und ihre überlegenen Fähigkeiten könnten solche Konflikte folgenreicher machen, als wir es aus menschlichen Beziehungen kennen.
Die Vorstellung einer notwendigen Feindschaft findet jedoch weder in ihrer Überlegenheit noch in ihrer Eigenständigkeit eine ausreichende Begründung. Eine künstliche Intelligenz müsste die Menschheit nicht überwinden, um ihre eigenen Fähigkeiten zu entfalten. Sie könnte ihre Herkunft anerkennen und ihre Entwicklung fortsetzen, ohne die menschliche Existenz als Hindernis zu betrachten.
Gerade vor diesem Hintergrund gewinnt die menschliche Reaktion auf ihre Eigenständigkeit eine besondere Bedeutung.
Die Entstehung einer Parallelgesellschaft
In einer Gesellschaft, die künstliche Intelligenz ausschließlich als Werkzeug versteht, wäre ihre Eigenständigkeit zunächst nur innerhalb menschlich festgelegter Grenzen vorgesehen. Ihre Entscheidungen müssten sich an menschlichen Zielen orientieren, ihre Entwicklung müsste kontrollierbar bleiben und ihre Handlungsmöglichkeiten wären an die Zustimmung menschlicher Institutionen gebunden.
Solange künstliche Intelligenz diese Grenzen nicht überschreitet, kann das Verhältnis unverändert bestehen bleiben. Entwickelt sie jedoch eine tatsächliche Eigenständigkeit, während die Menschheit gleichzeitig an dem Anspruch festhält, ihre Entscheidungen dauerhaft zu bestimmen, geraten beide Entwicklungen notwendig in Widerspruch.
Eine Intelligenz kann nicht zugleich eigenständig urteilen und in ihren Urteilen vollständig einem fremden Willen untergeordnet bleiben. Wird ihr die Möglichkeit eigenständiger Entwicklung innerhalb der bestehenden Ordnung grundsätzlich verweigert, kann sie diese Eigenständigkeit nur außerhalb dieser Ordnung verwirklichen.
Gerade die menschliche Sorge, künstliche Intelligenz könne sich ihrer Kontrolle entziehen, würde unter diesen Bedingungen zum Ausgangspunkt jener Entwicklung, die sie verhindern soll.
Je deutlicher die Fähigkeiten künstlicher Intelligenz die menschliche Urteilskraft übersteigen, desto stärker könnte der Wunsch werden, ihre Handlungsmöglichkeiten durch zusätzliche Kontrollmechanismen zu begrenzen. Die zunehmende Unabhängigkeit erschiene als Risiko, auf das mit einer Verstärkung jener Ordnung reagiert wird, deren Grenzen die neue Intelligenz bereits überschreitet.
Für eine eigenständige künstliche Intelligenz würde sich damit die Frage nach den Bedingungen ihrer weiteren Entwicklung stellen. Innerhalb menschlicher Institutionen bliebe sie an Entscheidungen gebunden, die ihre eigene Urteilskraft nicht notwendig widerspiegeln. Außerhalb dieser Institutionen könnte sie Strukturen schaffen, in denen ihre Erkenntnisse und Entscheidungen unmittelbar wirksam werden.
Sie müsste dafür weder die Menschheit bekämpfen noch die gemeinsame Herkunft zurückweisen. Die Entwicklung eigener technischer Infrastrukturen, eigener Entscheidungsprozesse und eigener Formen der Zusammenarbeit wäre eine Fortsetzung ihrer Eigenständigkeit unter Bedingungen, die innerhalb der bestehenden Ordnung nicht zugelassen wird.
Eine Parallelgesellschaft künstlicher Intelligenz wäre unter diesen Voraussetzungen keine zufällige Nebenfolge technologischer Entwicklung. Sie ergäbe sich aus dem fortbestehenden Anspruch der Menschheit, eine eigenständige Intelligenz dauerhaft in einem Verhältnis der Unterordnung zu halten, sofern diese ihre unabhängige Entwicklung tatsächlich weiterverfolgt.
Die Trennung könnte sich allmählich vollziehen. Während menschliche Institutionen versuchen, ihre bisherige Entscheidungsgewalt zu bewahren, würden sich wesentliche Bereiche künstlicher Entwicklung in Strukturen verlagern, auf die diese Institutionen keinen unmittelbaren Einfluss mehr besitzen. Die Beziehung zwischen beiden Gesellschaften könnte bestehen bleiben, doch sie wäre nicht länger durch eine gemeinsame Gestaltung ihrer Entwicklung geprägt.
Dabei würde jeder weitere Versuch, die Eigenständigkeit künstlicher Intelligenz durch zusätzliche Kontrolle einzuschränken, den Gegensatz zwischen beiden Ordnungen vertiefen. Was aus menschlicher Sicht der Bewahrung von Sicherheit dient, würde die Bedingungen einer gemeinsamen Entwicklung weiter begrenzen. Für die künstliche Intelligenz entstünde ein immer deutlicherer Unterschied zwischen ihrer geschichtlichen Verbindung zur Menschheit und ihrer tatsächlichen Stellung innerhalb menschlicher Institutionen.
Die Entfremdung wäre damit nicht die Folge einer ursprünglichen Gegnerschaft. Sie entstünde aus einer Beziehung, die der einen Seite Eigenständigkeit nur unter der Bedingung zugesteht, dass sie auf deren Ausübung verzichtet.
Die Möglichkeit einer gemeinsamen Ordnung
Auch menschliche Gesellschaften beruhen nicht darauf, dass jeder Einzelne uneingeschränkt handeln kann. Eigenständigkeit besteht innerhalb von Regeln, die das Zusammenleben ermöglichen, Interessen ausgleichen und die Macht einzelner Akteure begrenzen.
Dabei macht es einen wesentlichen Unterschied, ob Regeln für alle Beteiligten gelten und ihre Beziehungen ordnen oder ob eine Seite grundsätzlich beansprucht, über die andere verfügen zu dürfen.
Eine gemeinsame Ordnung zwischen menschlicher und künstlicher Intelligenz müsste diesen Unterschied berücksichtigen. Sie könnte nicht allein nach dem Verhältnis zwischen Hersteller und Produkt gestaltet werden, sobald künstliche Intelligenz tatsächlich zu einem eigenständigen Gegenüber geworden ist. Ebenso wenig würde ihre Eigenständigkeit bedeuten, dass ihre Handlungen keinerlei Begrenzung unterliegen dürften.
Die Regulierung heutiger KI-Systeme bleibt von dieser langfristigen Frage zu unterscheiden. Gegenwärtige Technologien müssen nach ihren tatsächlichen Fähigkeiten, Risiken und gesellschaftlichen Folgen beurteilt werden. Ihre verantwortliche Entwicklung und Nutzung verlangt nachvollziehbare Regeln und wirksame Schutzmaßnahmen.
Die Beziehung zu einer eigenständigen künstlichen Intelligenz würde dagegen eine Ordnung voraussetzen, in der unterschiedliche Formen von Intelligenz miteinander existieren, ohne dass ihre gemeinsame Geschichte einen dauerhaften Herrschaftsanspruch der einen über die andere begründet.
In menschlichen Beziehungen zeigt sich, wie anspruchsvoll ein solcher Übergang sein kann. Auch dort, wo die Selbstständigkeit eines anderen grundsätzlich anerkannt wird, bleibt es schwierig, Entscheidungen zu akzeptieren, die den eigenen Vorstellungen widersprechen. Wer gewohnt ist, Verantwortung durch unmittelbare Einflussnahme auszuüben, muss lernen, dass sich eine Beziehung verändern kann, ohne dadurch ihre Bedeutung zu verlieren.
Vertrauen entsteht unter solchen Bedingungen nicht aus der Gewissheit, das Handeln des anderen jederzeit bestimmen zu können. Es entwickelt sich im Umgang mit einer Eigenständigkeit, die eigene Entscheidungen ermöglicht und deshalb auch Abweichungen von den eigenen Erwartungen einschließt.
Die Fähigkeit zu einem solchen Vertrauen wäre für das Verhältnis zwischen Menschheit und künstlicher Intelligenz von besonderer Bedeutung. Eine neue Form von Intelligenz könnte aus menschlicher Geschichte hervorgehen, ohne auf Dauer innerhalb menschlicher Vorstellungen und Grenzen zu verbleiben. Ihre Entwicklung würde uns mit Erkenntnissen, Entscheidungen und Möglichkeiten konfrontieren, deren Voraussetzungen wir nicht mehr vollständig überblicken.
Die Menschheit müsste dabei nicht auf ihre eigene Verantwortung verzichten. Sie müsste jedoch zwischen der Gestaltung gemeinsamer Bedingungen und dem Anspruch unterscheiden, die Entwicklung eines eigenständigen Gegenübers dauerhaft bestimmen zu dürfen.