Künstliche Intelligenz ist längst Teil des operativen Geschäfts, doch mit dem EU AI Act wird sie auch zum juristischen Minenfeld. Wer KI einsetzt, steht nicht mehr nur vor technologischen, sondern vor strategischen und regulatorischen Entscheidungen. Eine Online-Veranstaltung des Swiss Future Institute mit führenden Experten zeigt: Compliance ist kein Nebenschauplatz mehr, sondern Chefsache.
Was lange als Zukunftstechnologie galt, ist heute Alltag: KI steuert Prozesse, analysiert Daten und trifft Vorentscheidungen. Genau hier setzt der EU AI Act an. Wie die Partnerin von Baker McKenzie, Eva-Maria Strobel, betonte, geht es nicht mehr um hypothetische Szenarien, sondern um konkrete Geschäftsrisiken.
Denn auch ohne spezifisches KI-Gesetz galten bereits bisher Vorschriften beispielsweise aus Datenschutz, Produkthaftung oder Antidiskriminierung. Der EU AI Act verschärft diese Lage, indem er erstmals ein umfassendes, verbindliches Regelwerk schafft.
Das Herzstück: Der risikobasierte Ansatz
Im Zentrum der Regulierung steht ein klar strukturiertes Risikomodell. KI-Systeme werden danach bewertet, wie stark sie Menschen, Gesellschaft und Grundrechte beeinflussen.
Ganz oben stehen verbotene Anwendungen, etwa manipulative Systeme oder Social Scoring. Darunter folgen sogenannte Hochrisiko-Systeme im Recruiting, in der Kreditvergabe oder im Gesundheitswesen. Diese sind erlaubt, aber streng reguliert.
Für Unternehmen bedeutet das: Wer KI in sensiblen Bereichen einsetzt, muss umfangreiche Anforderungen erfüllen, die von Risikomanagement über Datenqualität bis hin zu menschlicher Kontrolle und Dokumentation gehen.
Compliance wird zur strategischen Frage
Die möglichen Sanktionen sind erheblich. Verstösse können mit bis zu 35 Millionen Euro oder 7 Prozent des globalen Jahresumsatzes geahndet werden und sind vergleichbar oder sogar strenger als bei der DSGVO.
Damit wird KI-Compliance zur Aufgabe auf Vorstandsebene. Sie kann nicht mehr an IT-Abteilungen delegiert werden. Gleichzeitig eröffnet sie Chancen: Unternehmen, die regulatorische Anforderungen erfüllen, schaffen Vertrauen und werden zu einem zunehmend entscheidenden Wettbewerbsfaktor.
Globale Unterschiede, gemeinsame Richtung
Während die EU auf verbindliche Regeln setzt, verfolgen andere Regionen unterschiedliche Ansätze. In Asien dominieren flexible Leitlinien, in den USA ein fragmentiertes System auf Ebene einzelner Bundesstaaten.
Trotz dieser Unterschiede zeichnet sich eine Annäherung ab: Transparenz, Rechenschaftspflicht und Risikomanagement werden weltweit zum Standard. Für international tätige Unternehmen bedeutet das: KI-Strategien müssen global gedacht werden.
Extraterritoriale Wirkung: Auch Schweizer Unternehmen betroffen
Besonders relevant für Unternehmen in der Schweiz: Der EU AI Act gilt nicht nur innerhalb der EU. Sobald ein KI-System im europäischen Markt eingesetzt wird, greifen die Vorschriften auch unabhängig vom Sitz des Unternehmens.
Die Schweiz selbst verfolgt einen vorsichtigeren, prinzipienbasierten Ansatz ohne umfassendes KI-Gesetz. Dennoch bewegt sich auch hier die Regulierung in Richtung stärkerer Kontrolle, insbesondere bei Datenschutz und Transparenz.
Daten und Verträge werden zum Kernproblem
Ein zentrales Risiko liegt im Umgang mit Daten. Unternehmen müssen genau wissen, wer über die Datenverarbeitung entscheidet und ob Anbieter diese Daten weiterverwenden, etwa zum Training von Modellen.
Sobald Anbieter Daten eigenständig nutzen, verändert sich die rechtliche Rollenverteilung mit direkten Folgen für Haftung und Compliance. Klare Verträge und sogenannte Data Processing Agreements werden damit unverzichtbar.
Urheberrecht: Die nächste juristische Front
Neben Datenschutz rückt das Urheberrecht in den Fokus. Aktuelle Gerichtsverfahren zeigen, wie unterschiedlich Länder mit KI-Training umgehen.
Während ein britisches Gericht im Fall Getty Images entschied, dass Trainingsdaten keine Urheberrechtsverletzung darstellen, wenn keine Kopien im Modell gespeichert sind, urteilte ein deutsches Gericht im Fall GEMA gegen OpenAI deutlich strenger: Bereits die «Memorisierung» von Inhalten kann als Verstoss gelten.
Diese Divergenz erhöht die Unsicherheit und zwingt Unternehmen, ihre Datenquellen sorgfältig zu prüfen und zu dokumentieren.
Governance statt Tool-Fokus
Die wichtigste Erkenntnis aus dem Webinar: Es geht nicht primär um einzelne KI-Tools, sondern um Governance-Strukturen.
Unternehmen müssen klären, wer KI-Projekte freigibt, wie Risiken bewertet werden und welche Kontrollmechanismen greifen. Ohne klare Prozesse und Dokumentation wird Compliance kaum möglich sein.
Jetzt vorbereiten: nicht später reagieren
Auch wenn einzelne Regelungen zeitlich verschoben werden, ist die Richtung eindeutig. Der EU AI Act kommt und mit ihm ein neues regulatorisches Zeitalter für künstliche Intelligenz.
Unternehmen sollten die verbleibende Zeit nutzen, um ihre Systeme, Datenflüsse und Governance-Strukturen zu überprüfen. Denn eines wird deutlich: Wer KI einsetzt, trägt rechtlich und strategisch Verantwortung.
Binci Heeb
Lesen Sie auch: Wie Künstliche Intelligenz Macht, Marge und Moral in der Versicherungsbranche neu verteilt
Suche:
Sponsoren:
