Wenn das Werkzeug beginnt, die Regeln zu bestimmen
Gedanken über künstliche Intelligenz, Kontrolle und die Frage, wem wir eigentlich vertrauen.
Angeregt durch: Ursula Poznanski, Die Burg, Knaur, 2024.
Vor einiger Zeit habe ich Die Burg von Ursula Poznanski gelesen.
Ein Thriller. Eine alte Burg. Ein Escape-Game, dessen Aufgaben von einer künstlichen Intelligenz erzeugt werden.
Eigentlich eine faszinierende Idee.
Die künstliche Intelligenz kennt die Spieler, reagiert auf sie und passt das Spiel immer wieder neu an. Kein starrer Ablauf, keine immer gleichen Rätsel. Stattdessen entsteht etwas Individuelles.
Ein Spiel, das auf die Menschen zugeschnitten ist, die es spielen.
Doch irgendwann kippt die Faszination. Aus dem Spiel wird Ernst.
Und beim Lesen blieb bei mir eine Frage hängen, die weit über diesen Thriller hinausgeht:
Was geschieht, wenn wir einem System immer mehr Entscheidungen überlassen, weil es bequemer, schneller oder vielleicht sogar besser darin ist als wir selbst?
Am Anfang steht die Begeisterung
Neue Technik fasziniert mich. Vielleicht auch deshalb, weil ich gerne verstehen möchte, wie Dinge funktionieren und was sich damit machen lässt.
Gerade künstliche Intelligenz eröffnet Möglichkeiten, die noch vor wenigen Jahren erstaunlich geklungen hätten: Texte schreiben. Bilder erzeugen. Daten analysieren. Programme entwickeln. Informationen zusammenfassen. Ideen weiterdenken.
Und manches davon funktioniert verblüffend gut.
Auch in Die Burg beginnt alles mit einer solchen Faszination. Warum sollte man die Möglichkeiten künstlicher Intelligenz nicht nutzen, um ein Escape-Game zu erschaffen, das viel individueller und überraschender ist als alles, was Menschen vorher entwerfen konnten?
Die Frage ist berechtigt. Aber vielleicht fehlt ihr eine zweite:
Nur weil etwas technisch möglich ist – sollten wir es deshalb auch tun?
Ein Werkzeug ist nicht dasselbe wie ein Gegenüber
Bei einem Hammer ist die Sache einfach. Ich nehme ihn in die Hand. Ich entscheide, wo der Nagel hin soll. Ich schlage zu.
Der Hammer verfolgt kein eigenes Ziel.
Bei künstlicher Intelligenz fühlt sich das anders an. Sie antwortet. Sie reagiert. Sie erzeugt Vorschläge. Sie kann den Eindruck vermitteln, unsere Absichten zu verstehen.
Und genau darin liegt für mich eine interessante Gefahr.
Nicht unbedingt darin, dass eine KI plötzlich einen eigenen Willen entwickelt. Sondern darin, dass wir anfangen, ihr einen solchen zuzuschreiben – und gleichzeitig unsere eigene Verantwortung an sie abzugeben.
„Die KI hat das vorgeschlagen.“ „Der Algorithmus hat das entschieden.“ „Das System hat es so berechnet.“
Solche Sätze klingen erstaunlich endgültig. Dabei müsste eigentlich immer eine Frage folgen:
Und wer entscheidet, ob das Ergebnis sinnvoll ist?
Kontrolle ist manchmal eine Illusion
Wir Menschen mögen das Gefühl von Kontrolle. Wir bauen Regeln. Wir definieren Prozesse. Wir installieren Sicherungen. Wir setzen Grenzen.
Und dann glauben wir gerne, dass damit alles geregelt sei.
Doch komplexe Systeme haben eine unangenehme Eigenschaft: Wir können ihr Verhalten nicht immer vollständig vorhersehen.
Das gilt für Organisationen. Für Finanzmärkte. Für soziale Netzwerke. Und zunehmend auch für technische Systeme.
Je komplexer etwas wird, desto schwieriger wird es, jede mögliche Folge vorauszusehen.
Vielleicht besteht die eigentliche Gefahr deshalb nicht darin, die Kontrolle zu verlieren. Vielleicht besteht sie darin, zu lange zu glauben, wir hätten sie noch.
Wer kennt wen besser?
Ein anderer Gedanke aus Die Burg beschäftigt mich ebenfalls.
Die künstliche Intelligenz kennt Informationen über die Spieler und kann daraus individuelle Situationen erzeugen. Damit entsteht ein merkwürdiges Verhältnis.
Wir geben Maschinen immer mehr Informationen über uns: Was wir suchen. Was wir kaufen. Wo wir hinfahren. Welche Musik wir hören. Welche Texte wir schreiben. Was uns interessiert. Was wir anklicken.
Jede einzelne Information erscheint zunächst belanglos. In ihrer Summe entsteht jedoch ein Bild.
Und irgendwann stellt sich eine merkwürdige Frage:
Wie viel muss ein System über mich wissen, bevor es mein Verhalten beeinflussen kann?
Vielleicht sogar, ohne dass ich es bemerke.
Das bedeutet nicht, dass hinter jedem Algorithmus eine finstere Absicht steckt. Aber es bedeutet, dass Aufmerksamkeit notwendig ist. Denn Personalisierung kann hilfreich sein. Sie kann aber auch lenken.
Bequemlichkeit hat einen Preis
Technischer Fortschritt funktioniert häufig nach einem einfachen Prinzip: Er nimmt uns Arbeit ab.
Und meistens begrüßen wir das.
Navigation erspart uns das Kartenlesen. Suchmaschinen ersparen uns lange Recherchen. Automatisierung erspart uns Routinearbeit. Künstliche Intelligenz kann uns inzwischen sogar einen Teil des Denkens abnehmen.
Genau hier möchte ich vorsichtig werden.
Denn es gibt einen Unterschied zwischen:
„Hilf mir beim Denken.“
und
„Denk für mich.“
Der Unterschied wirkt klein. Vielleicht ist er gewaltig.
Wenn ich eine KI benutze, um eine andere Perspektive kennenzulernen, kann sie mein Denken erweitern. Wenn ich ihr Ergebnis ungeprüft übernehme, kann sie mein eigenes Denken ersetzen.
Das Werkzeug ist in beiden Fällen dasselbe. Der Unterschied liegt bei mir.
Vielleicht brauchen wir keine Angst vor KI
Nach Die Burg könnte man leicht bei einer Warnung vor künstlicher Intelligenz landen. Das wäre mir zu einfach.
Technik ist nicht automatisch gut oder schlecht. Entscheidend ist, wie wir mit ihr umgehen.
Vielleicht brauchen wir deshalb weniger Angst vor künstlicher Intelligenz und mehr Kompetenz im Umgang mit ihr.
Verstehen, was sie kann. Verstehen, was sie nicht kann. Ergebnisse überprüfen. Quellen hinterfragen. Nicht jede überzeugend formulierte Antwort für wahr halten.
Und vor allem: die Verantwortung nicht an das Werkzeug abgeben.
Einige Fragen an mich selbst
Seit dem Roman stelle ich mir deshalb einige Fragen, die nicht nur für künstliche Intelligenz gelten:
- Wo erleichtert mir Technik tatsächlich das Leben – und wo macht sie mich lediglich bequemer?
- Welche Entscheidungen möchte ich bewusst selbst treffen, auch wenn eine Maschine sie schneller treffen könnte?
- Wie oft überprüfe ich Informationen, wenn sie überzeugend präsentiert werden?
- Welche persönlichen Informationen gebe ich preis, um bequemere oder individuellere Dienste zu bekommen?
- Benutze ich künstliche Intelligenz als Werkzeug zum Denken – oder lasse ich sie zunehmend für mich denken?
Darauf gibt es vermutlich keine endgültigen Antworten. Vielleicht ändern sie sich sogar mit jeder neuen technischen Entwicklung.
Aber gerade deshalb lohnt es sich, die Fragen nicht aus der Hand zu geben.
Was bleibt?
Die Burg ist für mich zunächst ein spannender Thriller. Aber unter der Spannung liegt eine Frage, die mich wesentlich länger beschäftigt:
Wer bestimmt eigentlich die Regeln, wenn wir einem technischen System immer mehr Entscheidungen überlassen?
Vielleicht liegt die entscheidende Grenze gar nicht dort, wo eine künstliche Intelligenz plötzlich zu mächtig wird. Vielleicht liegt sie viel früher.
Dort, wo wir aufhören zu fragen. Wo Bequemlichkeit das Nachdenken ersetzt. Wo aus einem Vorschlag eine Entscheidung wird, nur weil eine Maschine ihn ausgesprochen hat.
Ich möchte künstliche Intelligenz nutzen. Ich möchte ausprobieren, lernen und verstehen, was mit ihr möglich wird.
Aber vielleicht sollte gerade die Begeisterung für ein Werkzeug ein Grund sein, genauer hinzusehen.
Denn ein gutes Werkzeug erweitert unsere Möglichkeiten. Es sollte uns nicht die Verantwortung dafür abnehmen, was wir mit diesen Möglichkeiten tun.
Und vielleicht ist das die eigentliche Frage, die mir Die Burg hinterlassen hat:
Nicht, ob wir künstlicher Intelligenz vertrauen können – sondern ob wir aufmerksam genug bleiben, um zu erkennen, wann wir es besser nicht tun sollten.
Stefan Wolff
Veröffentlicht: 22. August 2026 | Autor: Stefan Wolff | Tags: Buchgedanken, Künstliche Intelligenz, Verantwortung, Kontrolle, Datenschutz, Technik