An der Risk-!n Conference 2026 in Zürich diskutierten Expertinnen und Experten, warum künstliche Intelligenz in Compliance und Risikomanagement nur so gut ist wie die Menschen, die sie steuern. Und warum die grösste Schwachstelle im System oft der Lieferant ist.
Es war eine der prägnantesten Aussagen der zweitägigen Konferenz: «Der Algorithmus hat es entschieden» ist keine Rechtfertigung, die vor einer Regulierungsbehörde standhält. Michael Rasmussen, GRC-Analyst (GRC-Report) und Konferenzmoderator, brachte es mit einem Bild auf den Punkt: Wer KI als «Data» aus «Star Trek» betrachtet, loyal, fehlerfrei, verlässlich, irrt sich. In Wahrheit sei KI eher Jack Sparrow aus «Fluch der Karibik»: brillant, kreativ, aber ohne Governance bereit, auf eigene Faust loszusegeln.
Wenn Vorurteile in Algorithmen wandern
Pierre Lauquin, Risk- und Business Continuity Manager und Experte für kognitive Verzerrungen, und Rafael Tiedra vom KI-Team der Genfer Kantonsregierung zeigten, wie menschliche Biases (Voreingenommenheiten) systematisch in KI-Systeme eingebaut werden schon lange bevor das erste Modell trainiert ist. Bereits in der Designphase, wenn Entscheidungsträger festlegen, welche Daten überhaupt relevant sind, schleichen sich Bestätigungsfehler und Vereinfachungsverzerrungen ein. In der Datenerhebung folgt der Selektionsbias: Ein dermatologisches KI-System, trainiert ausschliesslich an Patientendaten einer wohlhabenden, hellhäutigen Stadtbevölkerung, wird bei anderen Hauttypen schlicht versagen.
Und am Ende der Kette steht der Nutzer mit seinen eigenen kognitiven Verzerrungen. Der sogenannte «Fluency Bias» ist besonders tückisch: Weil Sprachmodelle flüssig, schnell und strukturiert antworten, neigen Menschen dazu, ihnen menschliche Zuverlässigkeit zuzuschreiben. Hinzu kommt der «Authority Bias»: die Antwort wirkt kompetent, also glaubt man ihr. Das Fazit der beiden: Ein KI-System ist kein neutrales Werkzeug, sondern ein Medium, das Bias von Mensch zu Maschine und zurück überträgt. «Ein KI-System ist nicht zufällig verzerrt, sondern es ist das Produkt von Tausenden menschlicher, kultureller und politischer Entscheidungen.»
Vom Experiment zur verteidigungsfähigen Praxis
Für Compliance-Teams stellt sich damit eine drängende Frage: Wie setzt man KI so ein, dass man es auch vor einer Aufsichtsbehörde erklären kann? Cecilia Garcia Podoley, Anwältin und Beraterin für Ethik und Compliance (Ethics & Compliance Switzerland), nannte drei Voraussetzungen: Erstens brauche es stets einen Menschen, der das KI-Output sichtet, versteht und absegnet. Zweitens müsse die KI erklärbare Antworten liefern, denn eine Black Box ist unter dem EU AI Act nicht rechtskonform. Drittens sei kontinuierliches Monitoring unerlässlich, da ein heute unverzerrtes Modell morgen bereits systematisch falsch liegen kann.
Demir Arifovski von NAVEX ergänzte aus Vertriebsperspektive: Viele Unternehmen verwechseln KI mit Automatisierung. Wer manuelle Prozesse durch KI ersetzen will, ohne sie vorher zu bereinigen und zu digitalisieren, beschleunigt nur die bestehenden Fehler. «Erst verstehen, dann automatisieren, dann digitalisieren und erst dann KI.» Für die Einführung von KI in Compliance-Workflows forderte er ausserdem klare Dokumentation nicht nur des Ergebnisses, sondern des Denkprozesses: Warum wurde diese Entscheidung getroffen? Welche Alternativen wurden verworfen? Heutzutage, wo Mitarbeitende alle drei bis vier Jahre den Arbeitgeber wechseln, ist institutionelles Wissen sonst unwiederbringlich verloren.
Die unsichtbare Hintertür in der Lieferkette
Parallel dazu warnte Christian Koxholt, CCO von Quantum Fort, vor einer unterschätzten Angriffsfläche: der Lieferkette. Die Logistik- und Transportbranche ist laut aktuellen Studien die meistangegriffene Industrie, nicht weil sie schlecht geschützt ist, sondern weil sie strukturell offen sein muss. Jedes Unternehmen, das je ein Paket verschickt, hat EDI-Schnittstellen, Tracking-Systeme, Lieferantenportale. Diese bilden die Einfallstore.
Das Szenario, das er zeichnete, war nüchtern: Ein Angreifer infiltriert nicht das Unternehmen selbst, sondern einen Zulieferer, der Excel-Dateien als Material-Replenishment-Plan (Nachschubplan) verschickt. Die MRP-Verantwortliche öffnet die Datei und die Produktionslinie steht. Bei einem Automobilhersteller bedeutet jede Stunde Produktionsstopp siebenstellige Verluste. Für eine Lösegeldforderung braucht es keinen Hollywood-Hack, sondern nur einen schwach geschützten Lieferanten.
Der Grundsatz, den er mitgab, ist einfach: «Wenn mein Wert digital ist, ist mein Risiko digital.» Business-Continuity-Pläne für einen Reifenpanne am Lieferwagen existieren in jedem regulierten Unternehmen. Ein Plan für den Ausfall einer digitalen Lieferkette? Selten.
Was jetzt zu tun ist
Die Konferenz lieferte keine einfachen Antworten, aber klare Handlungshinweise: KI-Inventar erstellen (auch Shadow-KI), Grundprozesse bereinigen bevor KI eingeführt wird, menschliche Oversight institutionalisieren, Lieferanten nach digitaler Verwundbarkeit und nicht nur nach Umsatz priorisieren und sich regulatorisch an den strengsten Standards orientieren, also dem EU AI Act, auch wenn die Schweiz noch auf ein eigenes Gesetz wartet.
Und vor allem: die eigenen Biases kennen. Wie Lauquin am Ende der Konferenz fragte: «Schützt Expertise vor Verzerrung?» Die meisten Hände blieben unten.
Binci Heeb
Lesen Sie auch: Cyberresilienz wird zur Überlebensfrage
Suche:
Sponsoren:
