KI wird zum Partner des Menschen – nicht nur zum Werkzeug

Prof. Dr. Kathrin Kind blickt optimistisch, aber realistisch in die Zukunft der Künstlichen Intelligenz. Im Interview spricht die Expertin über bahnbrechende Entwicklungen in Medizin und Wissenschaft, den Wandel vom «Human-in-the-Loop» zum «Human-on-the-Loop», die Notwendigkeit globaler Governance und darüber, warum Vertrauen die entscheidende Währung im KI-Zeitalter ist.

Prof. Dr. Kathrin Kind ist Chief Data Scientist und AI Director Global Growth Markets bei Cognizant und unter anderem Responsible AI Governor für die Schweiz beim Global Council for Responsible AI und Member, Global Future Council on Data Frontiers am World Economic Forum und als solche eine der weltweit ausgewiesensten Expertinnen, um über die Zukunft von KI zu sprechen.

Frau Prof. Dr. Kathrin Kind, wo sehen Sie in den nächsten 10 Jahren den größten Einfluss künstlicher Intelligenz in Wissenschaft, Wirtschaft oder Gesellschaft?

Ich glaube, dass die tiefgreifendsten Auswirkungen aus der Synergie zwischen wissenschaftlichen Entdeckungen und ihrer gesellschaftlichen Anwendung resultieren werden, insbesondere in der Medizin und den Materialwissenschaften. Im Gesundheitswesen gehen wir über den reinen Einsatz von KI für Diagnosezwecke hinaus. Wir stehen an der Schwelle zur KI-gestützten Arzneimittelentwicklung, bei der neue Therapeutika in silico zu einem Bruchteil der bisherigen Zeit und Kosten entwickelt werden. Dies wird unseren Umgang mit Krankheiten wie Krebs und Alzheimer grundlegend verändern. Gleichzeitig wird KI in der Materialwissenschaft neuartige Materialien mit Eigenschaften entdecken, die wir uns heute kaum vorstellen können und die für nachhaltige Energielösungen und Elektronik der nächsten Generation unerlässlich sein werden. Die Geschäftswelt wird diese Durchbrüche dann schnell in konkrete Produkte umsetzen und so einen positiven Innovationskreislauf schaffen.

Wird KI ein unterstützendes Werkzeug bleiben, oder erwarten Sie, dass sie zu einem echten Partner in der Forschung und Entscheidungsfindung wird?

Wir bewegen uns entschlossen über das Paradigma des «unterstützenden Werkzeugs» hinaus. Ein Werkzeug ist passiv; ein Taschenrechner beispielsweise wartet auf Anweisungen. KI wird zu einem echten Partner. In der Forschung kann KI heute nicht nur Daten analysieren, sondern auch neue Hypothesen formulieren und sogar Experimente zu deren Überprüfung entwerfen. Dies ist eine qualitative Veränderung. Die Beziehung entwickelt sich zu einer Partnerschaft, in der der menschliche Forscher die strategische Ausrichtung, die Neugier und die ethischen Grenzen festlegt, während der KI-Partner riesige, komplexe Lösungsräume erkundet und Muster und Möglichkeiten aufdeckt, die der menschlichen Wahrnehmung entgehen würden. Wir bewegen uns von einem «Human-in-the-Loop»-Modell zu einem «Human-on-the-Loop»-Modell.

Wie können wir sicherstellen, dass KI-Systeme nicht nur technisch zuverlässig sind, sondern auch das Vertrauen der Öffentlichkeit geniessen?

Vertrauen ist die Währung für die Akzeptanz von KI. Es basiert auf zwei Säulen: technischer Robustheit und sozialer Legitimität.

• Technische Robustheit: Wir müssen den Bereich der erklärbaren KI (XAI) vorantreiben. Eine Entscheidung eines KI-Systems, insbesondere in einem Bereich mit hohem Risiko wie der Medizin oder dem Recht, darf keine «Black Box» sein. Wir brauchen Systeme, die die Gründe für ihre Ergebnisse auf eine für Menschen verständliche Weise darlegen können. Strenge, kontradiktorische Tests müssen ebenfalls zur Standardpraxis werden, um sicherzustellen, dass die Systeme unter realen Bedingungen sicher und zuverlässig sind.
• Soziale Legitimität: Diese wird durch Transparenz, klare Verantwortlichkeiten und die Einbindung der Öffentlichkeit erreicht. Die Menschen müssen verstehen, wie diese Systeme gesteuert werden, und klare Möglichkeiten zur Wiedergutmachung haben, wenn etwas schiefgeht. Entscheidend ist, dass Ethiker, Sozialwissenschaftler und Fachexperten von Beginn des Designprozesses an einbezogen werden und nicht erst im Nachhinein.

Glauben Sie, dass wir globale KI-Governance-Rahmenwerke benötigen, die den Klimaabkommen ähneln, oder reichen nationale Vorschriften aus?

Ich bin fest davon überzeugt, dass wir globale KI-Governance-Rahmenwerke brauchen. KI ist eine grenzenlose Technologie. Ihre Modelle, Daten und Auswirkungen verbreiten sich nahtlos über den gesamten Globus. Unterschiedliche nationale Vorschriften bergen die Gefahr, dass ein fragmentiertes «Flickwerk» entsteht, das zu regulatorischer Arbitrage führt, bei der Unternehmen Lücken in Rechtsordnungen mit schwächeren Vorschriften ausnutzen. Ähnlich wie bei Klimaabkommen oder Atomwaffensperrverträgen brauchen wir einen globalen Konsens über grundlegende Prinzipien, wie Sicherheit, Fairness und Verantwortlichkeit. Damit würde ein grundlegender Standard geschaffen, auf dem einzelne Nationen mit spezifischeren Vorschriften aufbauen können, die auf ihren eigenen kulturellen und rechtlichen Kontext zugeschnitten sind.

Trotz technischer Fortschritte bleibt die Voreingenommenheit in der KI eine Herausforderung. Welche vielversprechenden Ansätze sehen Sie, um dieses Problem zu mindern?

Voreingenommenheit ist eine der hartnäckigsten Herausforderungen, da sie oft bestehende gesellschaftliche Ungleichheiten in den Daten widerspiegelt und verstärkt. Es gibt mehrere vielversprechende Ansätze zur Minderung:

• Datenzentrierte KI: Ein wichtiger Schwerpunkt liegt derzeit auf der sorgfältigen Kuratierung und Erweiterung von Trainingsdatensätzen, um sicherzustellen, dass sie ausgewogen und repräsentativ sind. Dazu gehören ausgefeilte Techniken zur Generierung synthetischer Daten, um Lücken für unterrepräsentierte Gruppen zu füllen.
• Algorithmische Fairness: Wir entwickeln Algorithmen mit mathematisch definierten Fairness-Beschränkungen, die direkt in ihren Optimierungsprozess integriert sind. Dadurch wird das Modell gezwungen, Genauigkeit und Fairness-Metriken in Einklang zu bringen, beispielsweise indem sichergestellt wird, dass seine Fehlerquoten über verschiedene demografische Gruppen hinweg vergleichbar sind.
• Kontinuierliche Prüfung: Wir erkennen an, dass Voreingenommenheit kein Problem ist, das einmalig «gelöst» werden muss, sondern ein Risiko, das kontinuierlich gemanagt werden muss. Dazu gehört der Einsatz unabhängiger, vielfältiger Teams, die KI-Systeme während ihres gesamten Lebenszyklus prüfen, um auftretende Verzerrungen zu erkennen und zu korrigieren.

Wie wird KI Ihrer Meinung nach die Art und Weise verändern, wie wir in Zukunft wissenschaftliche Forschung betreiben und veröffentlichen?

KI ist dabei, die wissenschaftliche Methode selbst grundlegend zu verändern. Der Prozess der Hypothesenbildung, Experimentierung und Entdeckung wird dramatisch beschleunigt werden. KI wird Forschern die Möglichkeit geben, Datensätze von immenser Grösse und Komplexität zu analysieren und Erkenntnisse zu gewinnen, die zuvor unmöglich waren.

Im Verlagswesen könnte sich der traditionelle, statische Medienartikel weiterentwickeln. Wir könnten den Aufstieg von «lebenden Artikeln» erleben: Von dynamischen, interaktiven Dokumenten, die von KI kontinuierlich aktualisiert werden, sobald neue Daten verfügbar sind. KI wird auch den Peer-Review-Prozess verbessern und dabei helfen, die statistische Validität, Reproduzierbarkeit und sogar potenzielle Plagiate zu überprüfen, wodurch die Genauigkeit und Geschwindigkeit der wissenschaftlichen Verbreitung erhöht wird.

Wie sollten sich Universitäten und Schulen anpassen, um die nächste Generation auf eine Welt vorzubereiten, in der KI allgegenwärtig ist?

Unsere Bildungsphilosophie muss einen Paradigmenwechsel durchlaufen. Das Auswendiglernen von Fakten, eine Aufgabe, in der KI brilliert, muss der Förderung einzigartiger menschlicher Fähigkeiten weichen. Der Schwerpunkt sollte auf der Förderung von kritischem Denken, Kreativität, komplexer Problemlösung und emotionaler Intelligenz liegen.

Schulen und Universitäten müssen KI-Kompetenz in alle Disziplinen integrieren, nicht nur in die Informatik. Jeder Student sollte nach seinem Abschluss über ein grundlegendes Verständnis der Funktionsweise von KI, ihrer ethischen Implikationen und der effektiven Zusammenarbeit mit ihr verfügen. Das Ziel ist es, die nächste Generation darauf vorzubereiten, nicht mit KI zu konkurrieren, sondern sie als leistungsstarkes Werkzeug für Denken und Schaffen zu nutzen.

Die USA und China dominieren einen Grossteil der KI-Landschaft. Welche einzigartige Rolle können Europa und vielleicht auch die Schweiz bei der Gestaltung der Zukunft der KI spielen?

Während die USA und China in Bezug auf Umfang und Investitionen führend sind, sind Europa und insbesondere die Schweiz in einer einzigartigen Position, um einen «dritten Weg» zu beschreiten. Dieser Weg ist geprägt von dem Engagement für die Entwicklung einer menschenzentrierten, vertrauenswürdigen und ethischen KI. Durch die Förderung solider regulatorischer Rahmenbedingungen wie dem EU-KI-Gesetz kann Europa einen globalen Goldstandard für verantwortungsvolle Innovation setzen.

Darüber hinaus kann die Region dank ihrer erstklassigen akademischen Einrichtungen (ETH Zürich, EPFL) und einer starken industriellen Basis in hochwertigen Sektoren wie Pharmazeutika, Robotik und Finanzen herausragende Leistungen bei der Entwicklung spezialisierter, hochwertiger KI-Lösungen erbringen, bei denen Vertrauen und Präzision von grösster Bedeutung sind. Die Rolle Europas besteht nicht unbedingt darin, den Wettlauf um Grösse zu gewinnen, sondern weltweit eine Führungsrolle bei verantwortungsvoller und nützlicher KI einzunehmen.

Generative KI-Tools haben die Kreativbranche bereits verändert. Sehen Sie Risiken einer übermässigen Abhängigkeit oder ist dies der Beginn einer neuen Mensch-Maschine-Kreativität?

Ich betrachte dies als den Beginn einer neuen Ära der Mensch-Maschine-Kreativität. Die Geschichte bietet eine nützliche Parallele: Die Erfindung der Kamera hat die Malerei nicht beendet. Im Gegenteil, sie befreite die Maler von der Notwendigkeit des reinen Realismus und katalysierte Bewegungen wie den Impressionismus und den Kubismus.

In ähnlicher Weise ist generative KI ein Werkzeug, das die menschliche Kreativität erweitern kann. Das Risiko einer übermässigen Abhängigkeit, die zu kreativer Homogenität führt, ist real, aber nicht unvermeidlich. Das wahre Potenzial liegt darin, diese Werkzeuge als kreative Partner zu nutzen, beispielsweise als unermüdliche Brainstorming-Assistenten, die Künstlern, Musikern und Schriftstellern helfen können, Ideen mit beispielloser Geschwindigkeit zu erforschen und zu iterieren. Sie sind ein Multiplikator für menschliche Kreativität, kein Ersatz.

Das Training grosser KI-Modelle verbraucht enorme Mengen an Energie. Wie können wir KI-Innovationen mit der dringenden Notwendigkeit der Nachhaltigkeit in Einklang bringen?

Die Umweltkosten des Trainings gross angelegter KI-Modelle sind ein ernstes und berechtigtes Anliegen. Um dieses Problem anzugehen, ist ein mehrgleisiger Ansatz erforderlich:

• Algorithmische Effizienz: Ein Grossteil der Forschung konzentriert sich auf die Entwicklung effizienterer Algorithmen und Modellarchitekturen, was wir oft als «grüne KI» bezeichnen. Techniken wie Modellbeschneidung, Quantisierung und Wissensdestillation können den Rechenaufwand drastisch reduzieren.
• Hardware-Innovation: Die Entwicklung neuer, energieeffizienter Hardware, wie z. B. neuromorpher Chips, die die Struktur des Gehirns nachahmen, wird von entscheidender Bedeutung sein.
• Nachhaltiges Computing: Dazu gehört die Versorgung von Rechenzentren mit erneuerbaren Energiequellen und die Optimierung ihres physischen Standorts und ihrer Kühlsysteme.
• Ein Umdenken: Wir müssen die Vorstellung hinterfragen, dass «grösser immer besser ist». Es gibt eine wachsende Bewegung hin zur Entwicklung kleinerer, spezialisierterer Modelle, die für bestimmte Aufgaben hochwirksam sind, ohne einen enormen Energieverbrauch zu verursachen.

Was sind Ihrer Meinung nach die realistischsten Durchbrüche der KI im Gesundheitswesen und welche Hindernisse stehen noch im Weg?

In naher Zukunft werden die realistischsten und wirkungsvollsten Durchbrüche folgende sein:

• Radiologie und Pathologie: KI wird zum Standard bei der Analyse medizinischer Bilder (MRTs, CT-Scans, Biopsien) werden. Sie wird Krankheiten wie Krebs früher und mit grösserer Genauigkeit als das menschliche Auge erkennen und somit als unverzichtbarer Assistent für Kliniker fungieren.
• Personalisierte Medizin: Durch die Analyse der Genomdaten, Lebensstilfaktoren und Krankengeschichte eines Patienten wird KI dabei helfen, vorherzusagen, welche Behandlungsprotokolle für diese bestimmte Person am effektivsten sind, wodurch wir uns von einem einheitlichen Ansatz für alle Patienten entfernen.
• Betriebliche Effizienz: KI wird den Krankenhausbetrieb optimieren, von der Vorhersage von Patientenaufnahmen bis zur Verwaltung von Operationsplänen, wodurch Wartezeiten verkürzt und die Qualität der Versorgung verbessert werden.

Die grössten Hindernisse sind nicht rein technischer Natur. Es handelt sich um Daten-Governance (Gewährleistung der Privatsphäre und Sicherheit von Patientendaten), behördliche Genehmigungen (Schaffung klarer, effizienter Wege zur Validierung medizinischer KI) und klinische Integration (nahtlose Einbettung dieser Tools in die Arbeitsabläufe von Ärzten).

Auf persönlicher Ebene: Was begeistert Sie am meisten an der nächsten Stufe der KI und was hält Sie nachts wach?

Was mich am meisten begeistert, ist das Potenzial der KI, als universeller Verstärker des menschlichen Intellekts zu fungieren. Ich bin zutiefst optimistisch, dass sie uns helfen kann, die komplexesten und hartnäckigsten Probleme der Menschheit zu lösen: Von der Entwicklung von Heilmitteln für neurodegenerative Erkrankungen über den Entwurf von Fusionsreaktoren bis hin zum Verständnis der grundlegenden Natur des Bewusstseins. Sie ist das ultimative Werkzeug für wissenschaftliche Entdeckungen.

Was mich nachts wach hält, ist die Asymmetrie zwischen der Geschwindigkeit der technologischen Entwicklung und dem Tempo unserer sozialen und ethischen Anpassung. Meine grösste Sorge ist der Missbrauch leistungsfähiger KI-Systeme, sei es in autonomen Waffen, bei der allgegenwärtigen Überwachung oder bei der Erstellung raffinierter Desinformationen, die Gesellschaften destabilisieren könnten. Wir bauen etwas unglaublich Mächtiges auf, und sicherzustellen, dass es im besten Interesse der Menschheit bleibt, ist die wichtigste Herausforderung unserer Zeit. Das ist eine grosse Verantwortung, die wir alle gemeinsam tragen müssen.

Fazit

Die nächste Dekade der KI wird Veränderungen in Forschung, Wirtschaft und Gesellschaft bringen. Prof. Dr. Kathrin Kind sieht darin weniger eine Bedrohung als eine Chance: wenn es gelingt, technologische Innovation mit Verantwortung und Weitblick zu verbinden. «Wir bauen etwas unglaublich Mächtiges», sagt sie. «Die Frage ist, ob wir es schaffen, es im besten Interesse der Menschheit zu gestalten.»

Die Fragen hat Binci Heeb gestellt.

Lesen Sie auch: Agentic AI, Satelliten & Startups: So verändert Innovation die Versicherungswelt