{"id":28680,"date":"2026-06-02T13:30:00","date_gmt":"2026-06-02T11:30:00","guid":{"rendered":"https:\/\/www.thebrokernews.ch\/?p=28680"},"modified":"2026-06-01T10:07:39","modified_gmt":"2026-06-01T08:07:39","slug":"lia-peut-aider-mais-pas-etre-responsable","status":"publish","type":"post","link":"https:\/\/www.thebrokernews.ch\/fr\/lia-peut-aider-mais-pas-etre-responsable\/","title":{"rendered":"L’IA peut aider, mais pas \u00eatre responsable"},"content":{"rendered":"
Ont ouvert la deuxi\u00e8me journ\u00e9e : Jennifer Thamm, pr\u00e9sidente d'IRM Switzerland, et l'animateur St\u00e9phane Martin, cofondateur de Risk-!n.<\/span><\/div>\n\n

Lors de la conf\u00e9rence Risk-!n<\/a> 2026 \u00e0 Zurich, des experts ont discut\u00e9 des raisons pour lesquelles l’intelligence artificielle dans la gestion de la conformit\u00e9 et des risques ne vaut que ce que valent les personnes qui la contr\u00f4lent. Et pourquoi le plus grand point faible du syst\u00e8me est souvent le fournisseur. <\/strong><\/p>\n\n

C’\u00e9tait l’une des d\u00e9clarations les plus succinctes de la conf\u00e9rence de deux jours : \u00ab\u00a0L’algorithme l’a d\u00e9cid\u00e9\u00a0\u00bb n’est pas une justification qui r\u00e9sistera \u00e0 une autorit\u00e9 de r\u00e9gulation. Michael Rasmussen, analyste GRC (GRC Report)<\/a> et mod\u00e9rateur de la conf\u00e9rence, l’a r\u00e9sum\u00e9 par une image : quiconque voit l’IA comme les \u00ab\u00a0donn\u00e9es\u00a0\u00bb de \u00ab\u00a0Star Trek\u00a0\u00bb – loyales, sans erreur, fiables – se trompe. En r\u00e9alit\u00e9, l’IA ressemble davantage \u00e0 Jack Sparrow dans \u00ab\u00a0Pirates des Cara\u00efbes\u00a0\u00bb : brillante, cr\u00e9ative, mais sans gouvernance, pr\u00eate \u00e0 naviguer seule. <\/p>\n\n

Quand les pr\u00e9jug\u00e9s migrent vers les algorithmes<\/h6>\n\n

Pierre Lauquin<\/a>, Risk and Business Continuity Manager et expert en biais cognitifs, et Rafael Tiedra<\/a> de l’\u00e9quipe IA du gouvernement cantonal de Gen\u00e8ve ont montr\u00e9 comment les biais humains sont syst\u00e9matiquement int\u00e9gr\u00e9s dans les syst\u00e8mes d’IA bien avant que le premier mod\u00e8le ne soit form\u00e9. Les erreurs de confirmation et les biais de simplification sont pr\u00e9sents d\u00e8s la phase de conception, lorsque les d\u00e9cideurs d\u00e9terminent quelles donn\u00e9es sont pertinentes en premier lieu. Les biais de s\u00e9lection surviennent lors de la collecte des donn\u00e9es : un syst\u00e8me d’IA dermatologique form\u00e9 exclusivement \u00e0 partir de donn\u00e9es de patients issus d’une population urbaine ais\u00e9e \u00e0 la peau claire \u00e9chouera tout simplement avec d’autres types de peau. <\/p>\n\n

\n
\"\"
Michael Rasmussen, Cecilia Garcia Podoley, Demir Arifovsi<\/figcaption><\/figure>\n\n\n\n
\"\"
Demir Arifovski, directeur de client\u00e8le NAVEX<\/figcaption><\/figure>\n\n\n\n
\"\"<\/figure>\n\n\n\n
\"\"<\/figure>\n\n\n\n
\"\"
Karin Rechsteiner, responsable des assurances chez Holcim Ltd.<\/figcaption><\/figure>\n\n\n\n
\"\"<\/figure>\n\n\n\n
\"\"
Pierre Lauquin, Risk & Business Continuity Manager Gouvernement suisse<\/figcaption><\/figure>\n\n\n\n
\"\"<\/figure>\n\n\n\n
\"\"
Rafael Tiedra, Data Scientist, \u00c9tat de Gen\u00e8ve<\/figcaption><\/figure>\n<\/figure>\n\n

Et au bout de la cha\u00eene se trouve l’utilisateur avec ses propres pr\u00e9jug\u00e9s cognitifs. Le \u00ab\u00a0biais de fluidit\u00e9\u00a0\u00bb est particuli\u00e8rement insidieux : parce que les mod\u00e8les linguistiques r\u00e9pondent de mani\u00e8re fluide, rapide et structur\u00e9e, les gens ont tendance \u00e0 leur attribuer une fiabilit\u00e9 humaine. \u00c0 cela s’ajoute le \u00ab\u00a0biais d’autorit\u00e9\u00a0\u00bb : la r\u00e9ponse semble comp\u00e9tente, donc on la croit. La conclusion des deux : Un syst\u00e8me d’IA n’est pas un outil neutre, mais un moyen qui transf\u00e8re les pr\u00e9jug\u00e9s de l’homme \u00e0 la machine et vice-versa. \u00ab\u00a0Un syst\u00e8me d’IA n’est pas biais\u00e9 par hasard, mais est le produit de milliers de d\u00e9cisions humaines, culturelles et politiques. <\/p>\n\n

De l’exp\u00e9rience \u00e0 la pratique d\u00e9fendable<\/h6>\n\n

Cela soul\u00e8ve une question urgente pour les \u00e9quipes charg\u00e9es de la conformit\u00e9 : Comment utiliser l’IA de mani\u00e8re \u00e0 ce qu’elle puisse \u00eatre expliqu\u00e9e \u00e0 une autorit\u00e9 de surveillance ? Cecilia Garcia Podoley, avocate et conseill\u00e8re en \u00e9thique et conformit\u00e9 (Ethics & Compliance Switzerland)<\/a>, a cit\u00e9 trois conditions pr\u00e9alables : Premi\u00e8rement, il doit toujours y avoir un humain qui regarde, comprend et approuve les r\u00e9sultats de l’IA. Deuxi\u00e8mement, l’IA doit fournir des r\u00e9ponses explicables, car une bo\u00eete noire n’est pas conforme \u00e0 la loi europ\u00e9enne sur l’IA. Troisi\u00e8mement, un contr\u00f4le continu est essentiel, car un mod\u00e8le qui est impartial aujourd’hui peut \u00eatre syst\u00e9matiquement erron\u00e9 demain. <\/p>\n\n

Demir Arifovski<\/a> de NAVEX a ajout\u00e9, du point de vue des ventes : \u00ab\u00a0De nombreuses entreprises confondent l’IA avec l’automatisation. Quiconque souhaite remplacer des processus manuels par l’IA sans les avoir d’abord nettoy\u00e9s et num\u00e9ris\u00e9s ne fera qu’acc\u00e9l\u00e9rer les erreurs existantes. \u00ab\u00a0Il faut d’abord comprendre, puis automatiser, puis num\u00e9riser, et seulement ensuite l’IA.\u00a0\u00bb Pour l’introduction de l’IA dans les flux de travail de conformit\u00e9, il a \u00e9galement appel\u00e9 \u00e0 une documentation claire non seulement du r\u00e9sultat, mais aussi du processus de r\u00e9flexion : Pourquoi cette d\u00e9cision a-t-elle \u00e9t\u00e9 prise ? Quelles alternatives ont \u00e9t\u00e9 rejet\u00e9es ? De nos jours, lorsque les employ\u00e9s changent d’employeur tous les trois ou quatre ans, les connaissances institutionnelles sont irr\u00e9m\u00e9diablement perdues. <\/p>\n\n

La porte d\u00e9rob\u00e9e invisible dans la cha\u00eene d’approvisionnement<\/h6>\n\n

Dans le m\u00eame temps, Christian Koxholt, CCO de Quantum Fort<\/a>, a mis en garde contre une surface d’attaque sous-estim\u00e9e : la cha\u00eene d’approvisionnement. Selon des \u00e9tudes r\u00e9centes, le secteur de la logistique et du transport est l’industrie la plus attaqu\u00e9e, non pas parce qu’elle est mal prot\u00e9g\u00e9e, mais parce qu’elle doit \u00eatre structurellement ouverte. Toutes les entreprises qui envoient des colis disposent d’interfaces EDI, de syst\u00e8mes de suivi et de portails pour les fournisseurs. Ce sont les passerelles. <\/p>\n\n

Le sc\u00e9nario qu’il a dessin\u00e9 \u00e9tait sobre : un attaquant n’infiltre pas l’entreprise elle-m\u00eame, mais un fournisseur qui envoie des fichiers Excel en guise de plan de r\u00e9approvisionnement. Le responsable MRP ouvre le fichier et la cha\u00eene de production s’arr\u00eate. Pour un constructeur automobile, chaque heure d’arr\u00eat de production se traduit par des pertes \u00e0 sept chiffres. Une note de ran\u00e7on ne n\u00e9cessite pas un piratage hollywoodien, mais seulement un fournisseur faiblement prot\u00e9g\u00e9. <\/p>\n\n

Le principe qu’il a partag\u00e9 est simple : \u00ab\u00a0Si ma valeur est num\u00e9rique, mon risque est num\u00e9rique. Des plans de continuit\u00e9 des activit\u00e9s en cas de crevaison d’un camion de livraison existent dans toutes les entreprises r\u00e9glement\u00e9es. Un plan pour une panne de la cha\u00eene d’approvisionnement num\u00e9rique ? Rarement. <\/p>\n\n

Que faire maintenant ?<\/h6>\n\n

La conf\u00e9rence n’a pas apport\u00e9 de r\u00e9ponses faciles, mais elle a fourni des pistes d’action claires : Cr\u00e9er un inventaire de l’IA (y compris l’IA fant\u00f4me), nettoyer les processus de base avant l’introduction de l’IA, institutionnaliser la surveillance humaine, prioriser les fournisseurs en fonction de la vuln\u00e9rabilit\u00e9 num\u00e9rique et pas seulement des ventes, et suivre les normes les plus strictes en termes de r\u00e9glementation, c’est-\u00e0-dire la loi europ\u00e9enne sur l’IA, m\u00eame si la Suisse attend toujours sa propre loi.<\/p>\n\n

Et surtout : connaissez vos propres pr\u00e9jug\u00e9s. Comme l’a demand\u00e9 M. Lauquin \u00e0 la fin de la conf\u00e9rence : \u00ab\u00a0L’expertise prot\u00e8ge-t-elle des pr\u00e9jug\u00e9s ?\u00a0\u00bb La plupart des mains sont rest\u00e9es baiss\u00e9es. <\/p>\n\n

Binci Heeb<\/p>\n\n

Lisez aussi : La cyber-r\u00e9silience devient une question de survie<\/p>\n\n

<\/p>\n","protected":false},"excerpt":{"rendered":"

Lors de la conf\u00e9rence Risk-!n 2026 \u00e0 Zurich, des experts ont discut\u00e9 des raisons pour lesquelles l’intelligence artificielle dans la gestion de la conformit\u00e9 et des risques ne vaut que […]<\/p>\n","protected":false},"author":2,"featured_media":28679,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"inline_featured_image":false,"_price":"","_stock":"","_tribe_ticket_header":"","_tribe_default_ticket_provider":"","_tribe_ticket_capacity":"0","_ticket_start_date":"","_ticket_end_date":"","_tribe_ticket_show_description":"","_tribe_ticket_show_not_going":false,"_tribe_ticket_use_global_stock":"","_tribe_ticket_global_stock_level":"","_global_stock_mode":"","_global_stock_cap":"","_tribe_rsvp_for_event":"","_tribe_ticket_going_count":"","_tribe_ticket_not_going_count":"","_tribe_tickets_list":"[]","_tribe_ticket_has_attendee_info_fields":false,"footnotes":""},"categories":[9546,9547],"tags":[1274,10837,4397,12665,12631,12664,4223,12663,9641,12668,12088,12667,12662],"class_list":["post-28680","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-actualites","category-generalites","tag-ai","tag-algorithmes","tag-alternatives","tag-autorites-de-surveillance","tag-conference-risk-n-2026","tag-distorsions-cognitives","tag-experience","tag-fournisseur","tag-gestion-des-risques","tag-inventaire-ai","tag-loi-sur-lai-de-lue","tag-porte-arriere","tag-vulnerabilite","ownarticle"],"acf":[],"cc_featured_image_caption":{"caption_text":"Ont ouvert la deuxi\u00e8me journ\u00e9e : Jennifer Thamm, pr\u00e9sidente d'IRM Switzerland, et l'animateur St\u00e9phane Martin, cofondateur de Risk-!n.","source_text":"","source_url":""},"_links":{"self":[{"href":"https:\/\/www.thebrokernews.ch\/fr\/wp-json\/wp\/v2\/posts\/28680","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.thebrokernews.ch\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.thebrokernews.ch\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.thebrokernews.ch\/fr\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.thebrokernews.ch\/fr\/wp-json\/wp\/v2\/comments?post=28680"}],"version-history":[{"count":1,"href":"https:\/\/www.thebrokernews.ch\/fr\/wp-json\/wp\/v2\/posts\/28680\/revisions"}],"predecessor-version":[{"id":28690,"href":"https:\/\/www.thebrokernews.ch\/fr\/wp-json\/wp\/v2\/posts\/28680\/revisions\/28690"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.thebrokernews.ch\/fr\/wp-json\/wp\/v2\/media\/28679"}],"wp:attachment":[{"href":"https:\/\/www.thebrokernews.ch\/fr\/wp-json\/wp\/v2\/media?parent=28680"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.thebrokernews.ch\/fr\/wp-json\/wp\/v2\/categories?post=28680"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.thebrokernews.ch\/fr\/wp-json\/wp\/v2\/tags?post=28680"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}