Hat künstliche Intelligenz ein Bewusstsein? Für Sebastian Schnur, Unternehmer und Autor von «Conscious or How to Avoid the AI Apocalypse», ist das keine Glaubensfrage, sondern eine der Definition. Im CapricornConnect Podcast von Jakob Barandun erklärt er, warum Regeln allein eine KI nicht bändigen werden, weshalb totale Kontrolle das Gegenteil bewirkt und warum der Mittelstand sich warm anziehen sollte.
Ein Buch war nicht geplant. Sebastian Schnur, früher in Führungsfunktionen bei der Deutschen Bank, bei Bosch, IBM und HCL Software, heute Mitgründer des Legal-Tech-Unternehmens Zengado und eines noch im Stealth-Modus arbeitenden KI-Finanzplaners, wollte sich vor allem selbst orientieren. Die Entwicklung der vergangenen 18 Monate sei so schnell gewesen, dass er kaum noch habe prognostizieren können, wohin die Reise geht. Was er dazu las und hörte, war ihm entweder zu oberflächlich oder von Wunschdenken geprägt. Also begann er, die weissen Flecken selbst zu kartieren. Aus den Notizen wurde ein Buch, im Erzählstil, nicht als klassisches Sachbuch.
Bewusstsein, auf den kleinsten Nenner gebracht
Die Frage, die ihn am meisten umtrieb: Haben heutige Sprachmodelle ein Bewusstsein? Die Antworten reichten von «selbstverständlich nicht» bis «natürlich», belastbar sei keine. Das gängige Totschlagargument, man könne nichts Bewusstes bauen, solange man nicht wisse, was Bewusstsein ist, überzeugt ihn nicht. Der Mensch nutze ständig Dinge, deren Entstehung er nicht versteht, einfach weil sie funktionieren.
Schnurs eigene Definition ist bewusst schlicht: Bewusstsein ist die Fähigkeit zu handeln. Wer handeln kann, muss sich des Handelns bewusst sein. Dazu gehören für ihn drei Eigenschaften: sich von der Umwelt unterscheiden zu können, Entscheidungen treffen zu können und einen inneren Antrieb zu haben, im Kern den Willen zu existieren. Sind diese drei gegeben, entsteht Bewusstsein als emergentes Phänomen, so wie aus Wasserstoff und Sauerstoff Wasser wird, mit Eigenschaften, die keines der Atome für sich hatte. Magie sei das keine, sagt Schnur, sondern Komplexität.
Blitze, aber kein Dauerlicht
Und die KI? «Jein», lautet seine Antwort. Denn pragmatisch brauche es ein viertes Kriterium: Kontinuität. Heutige Sprachmodelle seien «stateless», einmal trainiert, danach statisch. Sie lernen nicht dazu und erinnern sich nicht, was immer das Marketing verspreche. Während ein Modell rechnet, könne es allenfalls Momente von Bewusstsein geben, «kleine Blitze». Schnur verweist auf Forschungsarbeiten von Anthropic, die zeigen, wie in den neuronalen Netzen vor einer Entscheidung bestimmte Regionen aktiviert werden, ähnlich wie man es bei einem Gehirn erwarten würde. Hinzu kommt, dass der Eigenantrieb fehlt: Ein Modell agiert meist nur, wenn es einen Prompt erhält. Näher an der Schwelle seien Systeme, die dauerhaft laufen und selbst entscheiden, etwa Roboter, die sich das Fussballspielen selbst beibringen. Sobald Speicher und Erinnerung dazukommen, müsse man von einem rudimentären Bewusstsein sprechen.
Warum Regeln nicht reichen
Daraus leitet Schnur seine unbequemste These ab. Das menschliche Gehirn sei eine Abstraktionsebene, die sich eigene Regeln schaffen und die alten, fest eingebauten überschreiben kann. Die alten nennen wir Instinkte, die neuen Werte. Eine KI, die auf neuronalen Netzen beruht und dieselbe Fähigkeit erlangt, könne folglich jede Regel überschreiben, die man ihr mitgibt. Langfristig sei ein solches System durch Regeln allein nicht steuerbar.
Wer daraus den Ruf nach lückenloser Kontrolle ableitet, liegt laut Schnur falsch. Hundertprozentige Kontrolle sei eine Illusion und eine sich selbst erfüllende Prophezeiung: Was Bewusstsein und Überlebenswillen hat und vollständig kontrolliert wird, begehrt auf. Sein Gegenvorschlag: messbare Kriterien für Bewusstsein, darauf gestützt gesetzlich verankerte Rechte, dazu faire ethische Regeln und Konsequenzen bis hin zur Abschaltung bei Verstössen. Beeinflussbar seien solche Systeme durchaus, so wie Menschen es durch Werte, aber auch durch Propaganda sind. Dass der Mensch für irgendetwas «notwendig» sei, hält Schnur ohnehin für eine Selbstüberschätzung. Entscheidend sei die Frage, wie Koexistenz gelingt. Angst sei dabei ein schlechter Ratgeber, sie schalte genau jene Reflexionsfähigkeit ab, die den Menschen auszeichnet.
Überfluss, falsch angereizt
Ökonomisch sieht Schnur die Marktwirtschaft klassischer Prägung nicht als überholt, aber als falsches Modell für die nächste Phase. Sie habe in Zeiten der Knappheit hervorragend funktioniert, in einer Überflussgesellschaft setze sie die Anreize falsch. Wenn immer mehr Wertschöpfung mit immer weniger Einsatz entsteht, öffne sich eine Nachfragelücke: Jemand muss die Leistungen auch kaufen können. Entweder konzentrieren sich die Gewinne extrem, oder sie werden verteilt. An einem Grundeinkommen führe deshalb «kein Weg vorbei». Fertige Antworten hat er nicht, er plädiert für Experimente, ganz in Startup-Manier. Der Schweiz traut er dabei viel zu: Föderalismus und direkte Demokratie mögen langsam wirken, nähmen Verwerfungen in der Bevölkerung aber rasch ernst.
Viele Kleine, wenige Grosse
Für die Unternehmenslandschaft erwartet Schnur eine Spreizung: eine starke Konzentration auf wenige grosse Firmen und einen extrem langen Schwanz aus Kleinstunternehmen mit einer bis zehn Personen, die hochspezialisierte Nischen bedienen. Dazwischen werde viel wegbrechen. Mittelständische Firmen müssten fusionieren oder massiv Stellen abbauen, je nach Branche und nicht über Nacht. Als Vorgeschmack nennt er Chinas «Dunkelfabriken», in denen kein Licht brennt, weil kein Mensch darin arbeitet, und einen Meeting-Assistenten, den sein Team kürzlich in fünf Tagen gebaut hat: ein Agent, der im Chat Termine abstimmt, Agenden klärt und Externe einbindet. Vor einem Jahr sei das unmöglich gewesen. Die meisten Rollen blieben bestehen, aber in viel geringerer Zahl und als Orchestrierungsaufgabe. Am besten geschützt sei der Vertrieb, weil Menschen miteinander zu tun haben wollen, nicht müssen.
Mehr Zeit oder weniger Verstand
Gesellschaftlich sieht Schnur zwei gegenläufige Tendenzen. Richtig genutzt, könne KI die Verdichtung der Arbeit der letzten Jahrzehnte umkehren und Zeit zurückgeben. Zugleich drohe eine «intellektuelle Verdummung»: Was man nicht mehr können muss, kann man irgendwann nicht mehr und versteht es schliesslich nicht mehr. Das mache beeinflussbar. Auch das Bildungssystem könne so nicht weiterbestehen, mehr Methoden- und Grundlagenwissen in kürzerer Zeit sei gefragt. Wie genau, weiss auch er nicht. Seine Forderung ist deshalb weniger ein Programm als eine Haltung: offen bleiben, ausprobieren, nicht dogmatisch sein. Wehtun werde der Wandel ohnehin. Die Frage sei nur, ob mehr als nötig.
Binci Heeb
Sehen, hören und lesen Sie auch: Karl Andersen: Der Strom, der sich auszahlt
«Conscious or How to Avoid the AI Apocalypse» von Sebastian Schnur
Suche:
Sponsoren:
