{"id":31765,"date":"2026-10-14T04:00:00","date_gmt":"2026-10-14T02:00:00","guid":{"rendered":"https:\/\/www.thebrokernews.ch\/?p=31765"},"modified":"2026-10-12T16:36:31","modified_gmt":"2026-10-12T14:36:31","slug":"si-la-machine-participe-a-prise-decision","status":"publish","type":"post","link":"https:\/\/www.thebrokernews.ch\/fr\/si-la-machine-participe-a-prise-decision\/","title":{"rendered":"Si la machine participe \u00e0 la prise de d\u00e9cision, qui en assume la responsabilit\u00e9 ?"},"content":{"rendered":"
Selon Patrick Wellens, un conseil d'administration doit \u00eatre pr\u00eat \u00e0 fixer les limites de ce que l'IA est autoris\u00e9e \u00e0 d\u00e9cider en notre nom et de ce qu'elle ne l'est pas.<\/span><\/div>\n\n\n\n

Ethics and Compliance Switzerland vous invite \u00e0 sa conf\u00e9rence qui se tiendra \u00e0 Zurich les 21 et 22 octobre 2026. Apr\u00e8s les risques li\u00e9s aux tiers en 2022 et les tendances futures en 2024, le th\u00e8me abord\u00e9 cette fois-ci portera sur l\u2019\u00e9thique et l\u2019intelligence artificielle. Patrick Wellens, pr\u00e9sident d\u2019ECS, explique pourquoi la conformit\u00e9 ne peut pas \u00eatre d\u00e9l\u00e9gu\u00e9e \u00e0 des algorithmes.<\/strong><\/p>\n\n\n\n

Depuis 2014, Ethics and Compliance Switzerland<\/u><\/a> (ECS) met en place une communaut\u00e9 intersectorielle d\u00e9di\u00e9e \u00e0 la conformit\u00e9 en Suisse. Cette association \u00e0 but non lucratif, dont le si\u00e8ge se trouve \u00e0 B\u00e2le, privil\u00e9gie les groupes de travail, les tables rondes et les \u00e9changes entre professionnels plut\u00f4t que les brochures sur papier glac\u00e9. Ses membres proviennent de l\u2019industrie, du monde universitaire, du secteur du conseil et des cabinets d\u2019avocats, ainsi que, dans une moindre mesure, du secteur des services financiers. Son \u00e9v\u00e9nement phare est la conf\u00e9rence biennale organis\u00e9e \u00e0 Zurich, qui se tient \u00e0 l\u2019h\u00f4tel Sheraton Zurich.<\/p>\n\n\n\n

Patrick Wellens apporte plus de 30 ans d\u2019exp\u00e9rience dans les domaines de la gouvernance, des risques et de la conformit\u00e9, notamment dans les secteurs pharmaceutique, des biens de consommation et de l\u2019industrie. Il a occup\u00e9 les fonctions de responsable de la conformit\u00e9 national, de d\u00e9l\u00e9gu\u00e9 \u00e0 la protection des donn\u00e9es et de responsable mondial de la conformit\u00e9 divisionnaire au sein d\u2019une entreprise pharmaceutique \u00e0 B\u00e2le. Il a \u00e9galement occup\u00e9 le poste de responsable senior au sein du d\u00e9partement d\u2019expertise judiciaire de l\u2019un des \u00ab Big Four \u00bb et a apport\u00e9 son soutien \u00e0 des membres de conseils d\u2019administration, ainsi qu\u2019\u00e0 des directeurs juridiques et responsables de la conformit\u00e9, dans le cadre de prestations li\u00e9es \u00e0 la conformit\u00e9, \u00e0 la pr\u00e9vention, \u00e0 la d\u00e9tection et aux enqu\u00eates en mati\u00e8re de fraude. Il est membre du comit\u00e9 de r\u00e9daction de la Society for Corporate Compliance and Ethics ainsi que du comit\u00e9 de r\u00e9daction du magazine \u00ab Risk & Compliance \u00bb, membre du conseil d\u2019administration de l\u2019Association of Corporate Investigators, conf\u00e9rencier invit\u00e9 dans de nombreuses universit\u00e9s et pr\u00e9sident du conseil d\u2019administration d\u2019Ethics & Compliance Switzerland.<\/p>\n\n\n\n

Pourquoi ce sujet int\u00e9resse-t-il \u00e9galement le secteur des assurances ?<\/strong><\/p>\n\n\n\n

Bien que la plupart des membres soient issus du secteur industriel, les questions relatives \u00e0 l’\u00e9quit\u00e9, \u00e0 la transparence et \u00e0 la responsabilit\u00e9 des assureurs passent d\u00e9sormais de la salle de s\u00e9minaire \u00e0 la pratique quotidienne. C’est pr\u00e9cis\u00e9ment l\u00e0 qu’intervient cette conf\u00e9rence.<\/p>\n\n\n\n

Monsieur Wellens, apr\u00e8s les risques li\u00e9s aux tiers en 2022 et les tendances pour 2024, l’accent est d\u00e9sormais mis sur l’\u00e9thique et l’IA. Pourquoi pr\u00e9cis\u00e9ment maintenant ?<\/strong><\/p>\n\n\n\n

L\u2019IA est omnipr\u00e9sente et transforme en profondeur des secteurs entiers \u2013 et le domaine de la conformit\u00e9 ne fait pas exception \u00e0 la r\u00e8gle. Mais les opportunit\u00e9s offertes par l\u2019IA s\u2019accompagnent de d\u00e9fis \u00e9thiques et de gouvernance profonds : comment garantir la responsabilit\u00e9, la transparence, l\u2019\u00e9quit\u00e9, la protection des donn\u00e9es et une prise de d\u00e9cision responsable alors que des d\u00e9cisions de plus en plus importantes sont soutenues, voire prises, par des algorithmes ?<\/p>\n\n\n\n

Les pouvoirs publics et les autorit\u00e9s de r\u00e9gulation imposent aux entreprises un nombre sans cesse croissant de r\u00e9glementations. Pour se conformer \u00e0 ces nouvelles r\u00e9glementations, il est n\u00e9cessaire de renforcer les ressources allou\u00e9es \u00e0 la conformit\u00e9. Dans le m\u00eame temps, de nombreux membres de conseils d\u2019administration et dirigeants estiment que l\u2019augmentation constante des co\u00fbts li\u00e9s \u00e0 la conformit\u00e9 ne constitue pas la solution. Leur r\u00e9ponse consiste \u00e0 mettre l\u2019accent sur l\u2019int\u00e9grit\u00e9, l\u2019\u00e9thique et la responsabilit\u00e9 individuelle, plut\u00f4t que de miser sur un renforcement suppl\u00e9mentaire des ressources d\u00e9di\u00e9es \u00e0 la conformit\u00e9. Quant \u00e0 savoir si cette approche est efficace pour garantir le respect des r\u00e9glementations, c\u2019est une autre question.<\/p>\n\n\n\n

En quoi la vision des participants devrait-elle \u00eatre diff\u00e9rente le soir du deuxi\u00e8me jour par rapport au matin du premier ?<\/strong><\/p>\n\n\n\n

\u00c0 l’issue de la conf\u00e9rence, les participants devraient mieux comprendre comment la fonction de conformit\u00e9 reste efficace malgr\u00e9 les bouleversements g\u00e9opolitiques et technologiques (IA), comment l’IA peut \u00eatre mieux mise \u00e0 profit pour soutenir cette fonction, et quels sont les facteurs et \u00e9l\u00e9ments \u00e0 prendre en compte dans la gouvernance de l’IA \u2013 mais aussi comment les entreprises peuvent cr\u00e9er un environnement dans lequel l\u2019int\u00e9grit\u00e9 est un choix libre et non une imposition ext\u00e9rieure.<\/p>\n\n\n\n

Quelle table ronde ou quelle intervention ne faut-il surtout pas manquer, et pourquoi ?<\/strong><\/p>\n\n\n\n

Les entreprises pr\u00e9sentent des niveaux de maturit\u00e9 vari\u00e9s en mati\u00e8re de conformit\u00e9, disposent de ressources diff\u00e9rentes et ont des degr\u00e9s d\u2019int\u00e9gration de l\u2019IA qui varient : c\u2019est pourquoi je ne souhaite pas privil\u00e9gier une intervention ou une table ronde en particulier. Bon nombre de ces interventions ou tables rondes sont d\u2019une grande pertinence.<\/p>\n\n\n\n

De nombreuses entreprises utilisent l\u2019IA avant m\u00eame d\u2019avoir \u00e9tabli des r\u00e8gles en la mati\u00e8re. La conformit\u00e9 est-elle dans ce cas un frein ou un airbag ? <\/strong><\/p>\n\n\n\n

Lorsque les entreprises mettent en place l’IA sans r\u00e8gles, c’est comme si elles conduisaient une voiture sans ceintures de s\u00e9curit\u00e9 ni freins sur une autoroute embrum\u00e9e. Cela donne l\u2019impression d\u2019aller vite au premier abord, mais conduit \u00e0 un accident total d\u00e8s le premier obstacle impr\u00e9vu (par exemple, des violations de la protection des donn\u00e9es, des poursuites pour violation du droit d\u2019auteur ou des atteintes \u00e0 la r\u00e9putation). La conformit\u00e9 fait office d\u2019airbag, car elle amortit les risques et garantit la s\u00e9curit\u00e9 juridique, la protection de la r\u00e9putation et la protection de la propri\u00e9t\u00e9 intellectuelle. <\/p>\n\n\n\n

Les r\u00e9glementations relatives \u00e0 l\u2019IA (telles que la loi europ\u00e9enne sur l\u2019IA) ne constituent pas une mesure vexatoire, mais une r\u00e9alit\u00e9 juridique. La conformit\u00e9 prot\u00e8ge contre les amendes susceptibles de menacer la survie de l\u2019entreprise. Lorsqu\u2019une IA prend des d\u00e9cisions racistes ou erron\u00e9es, une bonne structure de gouvernance amortit les d\u00e9g\u00e2ts avant qu\u2019ils ne d\u00e9truisent la marque. La conformit\u00e9 est l\u2019airbag qui pr\u00e9serve l\u2019entreprise de la ruine en cas d\u2019erreurs. La conformit\u00e9 ne freine pas l\u2019innovation, mais le risque.<\/p>\n\n\n\n

Lorsqu\u2019un algorithme rejette une d\u00e9claration de sinistre ou classe un client dans une cat\u00e9gorie erron\u00e9e : qui en assume la responsabilit\u00e9 \u00e9thique et juridique ?<\/strong><\/p>\n\n\n\n

En cas de d\u00e9cisions erron\u00e9es prises par un algorithme \u2013 telles que le rejet injustifi\u00e9 d\u2019une d\u00e9claration de sinistre ou une classification erron\u00e9e d\u2019un client \u2013, la responsabilit\u00e9 \u00e9thique et juridique incombe \u00e0 l\u2019entreprise qui utilise l\u2019IA, et non \u00e0 l\u2019algorithme lui-m\u00eame.<\/p>\n\n\n\n

Le droit s’adresse toujours \u00e0 une personne physique ou morale. Un algorithme n’est pas une personne morale et ne peut donc pas \u00eatre poursuivi en justice. L’entreprise qui l’utilise est responsable vis-\u00e0-vis du client. Les dirigeants ont un devoir de diligence et de surveillance. S\u2019ils mettent des syst\u00e8mes d\u2019IA \u00e0 la disposition des clients sans contr\u00f4le de qualit\u00e9 suffisant ni surveillance humaine (\u00ab Human-in-the-Loop \u00bb), ils peuvent, dans certaines circonstances, faire preuve de n\u00e9gligence organisationnelle. <\/p>\n\n\n\n

Si l\u2019algorithme discrimine syst\u00e9matiquement certains groupes de clients (par exemple en fonction de leur lieu de r\u00e9sidence, de leur \u00e2ge ou de leur sexe), l\u2019entreprise a le devoir \u00e9thique de corriger les donn\u00e9es d\u2019apprentissage. Les entreprises ont l\u2019obligation, tant sur le plan \u00e9thique que, de plus en plus, sur le plan juridique, d\u2019expliquer pourquoi une IA a pris une telle d\u00e9cision. Un \u00ab syst\u00e8me de type bo\u00eete noire \u00bb opaque, dans lequel personne ne comprend plus comment un refus a \u00e9t\u00e9 prononc\u00e9, n\u2019est pas acceptable sur le plan \u00e9thique.<\/p>\n\n\n\n

L’IA peut mettre au jour la corruption et les risques de collusion, mais elle peut \u00e9galement les dissimuler. O\u00f9 voyez-vous les plus grandes opportunit\u00e9s, et o\u00f9 se situent les angles morts ?<\/strong><\/p>\n\n\n\n

En mati\u00e8re de d\u00e9tection des irr\u00e9gularit\u00e9s, l’IA offre des avantages inestimables gr\u00e2ce \u00e0 l’analyse en temps r\u00e9el de volumes colossaux de donn\u00e9es. Par exemple, dans le cadre de la d\u00e9tection des ententes sur les appels d\u2019offres (ententes dans le cadre de projets de construction publics ou de march\u00e9s publics), l\u2019IA passe au crible les donn\u00e9es historiques et d\u00e9tecte imm\u00e9diatement lorsque les offres d\u2019entreprises cens\u00e9es \u00eatre concurrentes pr\u00e9sentent des similitudes suspectes dans leur calcul ou se relaient syst\u00e9matiquement pour remporter les march\u00e9s. Analyse forensic des donn\u00e9es : les syst\u00e8mes d\u2019IA analysent des millions d\u2019e-mails, de historiques de discussion et de notes de frais au sein de l\u2019entreprise. Ils ne se contentent plus de rechercher des mots-cl\u00e9s fig\u00e9s tels que \u00abpot-de-vin\u00bb, mais comprennent le contexte. Ils donnent l\u2019alerte lorsque le ton, les sch\u00e9mas de communication ou les flux de paiement s\u2019\u00e9cartent de la norme. <\/p>\n\n\n\n

Le point aveugle le plus dangereux survient lorsque deux e-commer\u00e7ants concurrents utilisent des algorithmes de tarification sophistiqu\u00e9s et auto-apprenants. Bien que les responsables ne communiquent pas entre eux, les algorithmes \u00ab apprennent \u00bb de mani\u00e8re autonome, gr\u00e2ce \u00e0 leur interaction constante, qu\u2019il est plus rentable pour les deux parties de maintenir des prix \u00e9lev\u00e9s plut\u00f4t que de se livrer \u00e0 une guerre des prix. Lorsque de nombreux concurrents d\u2019un m\u00eame secteur utilisent le m\u00eame logiciel de tarification ou d\u2019optimisation bas\u00e9 sur l\u2019IA, ils alimentent le m\u00eame algorithme avec des donn\u00e9es, souvent confidentielles. Le logiciel agit alors comme un n\u0153ud central ( hub<\/em>) qui d\u00e9termine les prix pour tous les acteurs ( spokes)<\/em> s’aligne discr\u00e8tement sur le march\u00e9, sans que les concurrents aient eu besoin de communiquer directement entre eux. Il est \u00e9galement dangereux que les d\u00e9cisions se cachent derri\u00e8re la complexit\u00e9 d\u2019un algorithme (bo\u00eete noire). Lorsque le service de conformit\u00e9 demande pourquoi la commande X a \u00e9t\u00e9 attribu\u00e9e \u00e0 l\u2019entreprise Y, la r\u00e9ponse est : \u00ab C\u2019est ce que le syst\u00e8me (IA) a calcul\u00e9. \u00bb<\/p>\n\n\n\n

La loi europ\u00e9enne sur l’IA est entr\u00e9e en vigueur ; la Suisse mise quant \u00e0 elle sur une approche sectorielle. Comment les entreprises suisses ayant des activit\u00e9s dans l’Union europ\u00e9enne doivent-elles s’y adapter ?<\/strong><\/p>\n\n\n\n

Je ne recommanderais pas aux entreprises suisses exer\u00e7ant des activit\u00e9s au sein de l\u2019UE d\u2019attendre la mise en place d\u2019une r\u00e9glementation suisse sp\u00e9cifique en mati\u00e8re d\u2019IA (pr\u00e9vue pour 2027). La r\u00e9ponse pragmatique est la suivante : consid\u00e9rer la loi europ\u00e9enne sur l\u2019IA (EU AI Act) comme la norme de conformit\u00e9 applicable, m\u00eame si l\u2019entreprise est implant\u00e9e en Suisse. La raison en est la port\u00e9e extraterritoriale de cette loi : la loi europ\u00e9enne sur l\u2019IA s\u2019applique notamment aux prestataires situ\u00e9s en dehors de l\u2019UE lorsqu\u2019ils mettent \u00e0 disposition des syst\u00e8mes d\u2019IA sur le march\u00e9 europ\u00e9en, ainsi qu\u2019aux prestataires ou op\u00e9rateurs situ\u00e9s en dehors de l\u2019UE lorsque les r\u00e9sultats de leur syst\u00e8me d\u2019IA sont utilis\u00e9s dans l\u2019UE. C\u2019est pourquoi je conseillerais aux entreprises suisses de proc\u00e9der \u00e0 une \u00ab \u00e9valuation de leur exposition \u00e0 l\u2019UE \u00bb. <\/p>\n\n\n\n

O\u00f9 utilisons-nous ou fournissons-nous l’IA ? Quels syst\u00e8mes d’IA sont utilis\u00e9s par nos collaborateurs suisses ? Lesquels sont propos\u00e9s \u00e0 nos clients dans l’UE ? Et o\u00f9 les r\u00e9sultats g\u00e9n\u00e9r\u00e9s par l’IA sont-ils utilis\u00e9s dans l’UE ? \u00c0 quelle cat\u00e9gorie de risque appartenons-nous ?<\/p>\n\n\n\n

Il convient d\u2019examiner attentivement les pratiques interdites en mati\u00e8re d\u2019IA, les applications d\u2019IA \u00e0 haut risque, les obligations de transparence, les obligations en mati\u00e8re de documentation, de gouvernance et de contr\u00f4le, etc. Quels syst\u00e8mes de conformit\u00e9 existants (protection des donn\u00e9es, s\u00e9curit\u00e9 informatique, gestion des risques) pouvons-nous utiliser ? Une entreprise suisse n\u2019a pas n\u00e9cessairement besoin d\u2019un \u00ab programme de conformit\u00e9 en mati\u00e8re d\u2019IA \u00bb totalement distinct.<\/p>\n\n\n\n

Vous d\u00e9crivez une approche r\u00e9siliente du programme de conformit\u00e9 comme \u00e9tant prospective, fond\u00e9e sur les donn\u00e9es et int\u00e9gr\u00e9e au quotidien. Comment y parvenir sans que la conformit\u00e9 ne devienne une machine bureaucratique ?<\/strong><\/p>\n\n\n\n

Le v\u00e9ritable art d\u2019un bon programme de conformit\u00e9 : il doit r\u00e9duire la complexit\u00e9, et non en cr\u00e9er davantage. <\/p>\n\n\n\n

Le risque plut\u00f4t que la multitude de r\u00e8gles : ne pas cr\u00e9er un nouveau processus pour chaque risque th\u00e9orique. Commencez par identifier les risques r\u00e9ellement pertinents, puis concentrez vos ressources sur ceux-ci. <\/p>\n\n\n\n

Int\u00e9gration dans les processus existants : la conformit\u00e9 doit, dans la mesure du possible, s\u2019appliquer l\u00e0 o\u00f9 les d\u00e9cisions sont de toute fa\u00e7on prises \u2013 par exemple dans le domaine des achats, des voyages d\u2019affaires, de la gestion des tiers ou lors du lancement de produits. Le collaborateur ne devrait pas avoir \u00e0 lancer une \u00ab proc\u00e9dure de conformit\u00e9 \u00bb distincte pour chaque d\u00e9cision.<\/p>\n\n\n\n

Utiliser les donn\u00e9es \u00e0 des fins de pr\u00e9vention : les taux de formation ou le nombre de contr\u00f4les effectu\u00e9s ne renseignent que tr\u00e8s peu sur la conformit\u00e9 r\u00e9elle. Il est par exemple plus int\u00e9ressant de s\u2019int\u00e9resser aux th\u00e8mes r\u00e9currents soulev\u00e9s dans le cadre des signalements, aux tendances observ\u00e9es lors des enqu\u00eates, aux constatations d\u2019audit, aux exceptions ou aux transactions inhabituelles. Le service de conformit\u00e9 peut ainsi identifier les risques naissants avant qu\u2019ils ne se transforment en incidents.<\/p>\n\n\n\n

Remettre r\u00e9guli\u00e8rement en question les contr\u00f4les : chaque mesure de conformit\u00e9 devrait en r\u00e9alit\u00e9 pouvoir r\u00e9sister \u00e0 la question suivante : quel risque traite-t-elle \u2013 et que se passerait-il si nous la supprimions ? Si aucune r\u00e9ponse convaincante n\u2019est apport\u00e9e, il convient de la simplifier ou de la supprimer.<\/p>\n\n\n\n

Quel r\u00f4le joue la culture du \u00ab speak-up \u00bb lorsque les mauvaises d\u00e9cisions seront \u00e0 l\u2019avenir inscrites dans le code plut\u00f4t que dans les esprits ?<\/strong><\/p>\n\n\n\n

Lorsque les mauvaises d\u00e9cisions ne r\u00e9sultent plus d\u2019une erreur humaine, mais d\u2019une logique d\u00e9faillante ou de donn\u00e9es fauss\u00e9es dans le code, le r\u00f4le de la culture du \u00ab speak-up \u00bb s\u2019en trouve fondamentalement modifi\u00e9. <\/p>\n\n\n\n

Elle passe d\u2019une instance de contr\u00f4le \u00e9thique \u00e0 une assurance-vie technologique d\u2019alerte pr\u00e9coce pour l\u2019entreprise. \u00c0 l\u2019\u00e8re de l\u2019IA, la culture du \u00ab speak-up \u00bb doit adopter une dynamique enti\u00e8rement nouvelle, car la mani\u00e8re dont les erreurs surviennent et sont dissimul\u00e9es change radicalement :<\/p>\n\n\n\n

Une culture forte de la prise de parole encourage les collaborateurs \u00e0 remettre explicitement en question les r\u00e9sultats d\u2019un algorithme. Si l\u2019IA rejette une d\u00e9claration de sinistre ou si un professionnel a le sentiment que le syst\u00e8me d\u00e9savantage syst\u00e9matiquement certains groupes de clients, il doit surmonter sa crainte d\u2019\u00eatre consid\u00e9r\u00e9 comme \u00ab hostile \u00e0 la technologie \u00bb ou \u00ab incomp\u00e9tent \u00bb. Aujourd\u2019hui, \u00ab speak-up \u00bb signifie : exprimer haut et fort la contradiction entre l\u2019intuition humaine et les r\u00e9sultats g\u00e9n\u00e9r\u00e9s par la machine.<\/p>\n\n\n\n

Les erreurs mentales se produisent souvent de mani\u00e8re ponctuelle et bruyante. Les erreurs dans le code apparaissent discr\u00e8tement et insidieusement : un algorithme perd peu \u00e0 peu de sa pr\u00e9cision ou devient plus discriminatoire au fil des mois, sans que l’on s’en aper\u00e7oive, car le monde r\u00e9el \u00e9volue tandis que les donn\u00e9es d’apprentissage sont obsol\u00e8tes. Les collaborateurs en premi\u00e8re ligne (par exemple au service client) sont les premiers \u00e0 remarquer ces subtiles anomalies, bien avant que le service informatique ne les d\u00e9tecte dans les tableaux de bord. Une culture de la parole libre bien \u00e9tablie garantit que ces observations subtiles soient imm\u00e9diatement signal\u00e9es aux responsables techniques et de la conformit\u00e9, sans obstacle bureaucratique.<\/p>\n\n\n\n

Les programmeurs et les data scientists subissent une pression \u00e9norme pour mettre rapidement les projets en production. Lorsqu\u2019ils se rendent compte qu\u2019un mod\u00e8le d\u2019IA est math\u00e9matiquement instable ou pr\u00e9sente des lacunes sur le plan \u00e9thique, il faut du courage pour tirer la sonnette d\u2019alarme \u00e0 la veille de la mise en production. La culture de la prise de parole doit \u00eatre ancr\u00e9e au sein de l\u2019\u00e9quipe informatique comme une s\u00e9curit\u00e9 psychologique absolue. Les d\u00e9veloppeurs ne doivent pas craindre de repr\u00e9sailles ou de retards dans le projet lorsqu\u2019ils signalent des risques dans le code.<\/p>\n\n\n\n

Jusqu\u2019\u00e0 pr\u00e9sent, les signalements concernaient le plus souvent un dirigeant versant des pots-de-vin ou une r\u00e9union d\u2019entente illicite dans un h\u00f4tel. \u00c0 l\u2019avenir, ils porteront sur le fait de fermer d\u00e9lib\u00e9r\u00e9ment les yeux sur la qualit\u00e9 des donn\u00e9es (par exemple, lorsque la direction valide des donn\u00e9es de mauvaise qualit\u00e9 ou biais\u00e9es afin de r\u00e9duire les co\u00fbts). Les canaux de signalement et les syst\u00e8mes de d\u00e9nonciation doivent faire l\u2019objet d\u2019une compr\u00e9hension et d\u2019une formation techniques suffisantes pour pouvoir \u00e9galement \u00eatre utilis\u00e9s pour signaler des manipulations de donn\u00e9es et des violations de la r\u00e9glementation (par exemple, le non-respect d\u00e9lib\u00e9r\u00e9 de la loi europ\u00e9enne sur l\u2019IA).<\/p>\n\n\n\n

Le r\u00f4le du responsable de la conformit\u00e9 \u00e9volue. De quelles comp\u00e9tences aura-t-il besoin dans cinq ans qu\u2019il ne poss\u00e8de pas encore aujourd\u2019hui ?<\/strong><\/p>\n\n\n\n

Le CCO de demain aura moins besoin de connaissances r\u00e9glementaires suppl\u00e9mentaires qu\u2019aujourd\u2019hui, mais devra poss\u00e9der nettement plus de compr\u00e9hension des technologies, de comp\u00e9tences en mati\u00e8re de donn\u00e9es, de sens des affaires, de r\u00e9flexion strat\u00e9gique et de sens de l\u2019\u00e9thique. Certaines comp\u00e9tences prendront ainsi une importance consid\u00e9rable : <\/p>\n\n\n\n

Comp\u00e9tences en mati\u00e8re de donn\u00e9es et de technologies : un CCO n’a pas besoin de savoir programmer. Mais il doit comprendre comment l’IA, l’analyse des donn\u00e9es et l’automatisation identifient les risques, influencent les d\u00e9cisions et transforment les processus de conformit\u00e9. Ceux qui ne savent pas interpr\u00e9ter les donn\u00e9es d\u00e9pendront de plus en plus des autres.<\/p>\n\n\n\n

Gouvernance de l’IA et r\u00e9flexion algorithmique : le CCO doit \u00eatre en mesure d’\u00e9valuer dans quelle mesure un syst\u00e8me d’IA peut constituer un risque en mati\u00e8re de conformit\u00e9 ou d’\u00e9thique, par exemple en raison de biais, d’un manque de transparence, de probl\u00e8mes li\u00e9s \u00e0 la protection des donn\u00e9es, de manipulation ou de d\u00e9cisions autonomes \u2013 et de d\u00e9terminer comment traduire ces risques en termes de gouvernance et de processus.<\/p>\n\n\n\n

Approche syst\u00e9mique:<\/strong> les risques li\u00e9s \u00e0 la conformit\u00e9 se pr\u00e9senteront de moins en moins de mani\u00e8re isol\u00e9e. La cybers\u00e9curit\u00e9, la protection des donn\u00e9es, les cha\u00eenes d\u2019approvisionnement, les droits de l\u2019homme, l\u2019IA, la corruption et la r\u00e9putation peuvent \u00eatre \u00e9troitement li\u00e9s. Le CCO doit comprendre ces interactions, plut\u00f4t que de se contenter de g\u00e9rer des domaines juridiques pris isol\u00e9ment.<\/p>\n\n\n\n

Comp\u00e9tences en mati\u00e8re d’activit\u00e9 et de transformation : le service de conformit\u00e9 doit comprendre comment l’entreprise g\u00e9n\u00e8re des revenus, comment les d\u00e9cisions sont r\u00e9ellement prises et o\u00f9 s’op\u00e8rent les processus de changement. Ce n’est qu’ainsi que le service de conformit\u00e9 pourra s’int\u00e9grer aux processus m\u00e9tier, au lieu de rester en marge.<\/p>\n\n\n\n

La capacit\u00e9 \u00e0 g\u00e9rer l\u2019incertitude : l\u2019\u00e9volution r\u00e9glementaire ne suivra pas partout une trajectoire lin\u00e9aire. Le CCO doit \u00e9laborer des sc\u00e9narios et permettre la prise de d\u00e9cisions m\u00eame lorsque toutes les questions n\u2019ont pas encore \u00e9t\u00e9 d\u00e9finitivement tranch\u00e9es sur le plan juridique.<\/p>\n\n\n\n

Capacit\u00e9 de jugement \u00e9thique. <\/strong>Le CCO de demain doit donc non seulement savoir ce qui est autoris\u00e9, mais aussi aider la direction \u00e0 d\u00e9terminer ce qui est responsable.<\/p>\n\n\n\n

Que peuvent apprendre les diff\u00e9rents secteurs de la conformit\u00e9 pharmaceutique, l\u2019un des secteurs les plus r\u00e9glement\u00e9s qui soient ?<\/strong><\/p>\n\n\n\n

L’industrie pharmaceutique \u00e9volue depuis des d\u00e9cennies dans un environnement r\u00e9glementaire tr\u00e8s contraignant. D’autres secteurs peuvent tirer deux enseignements fondamentaux de la conformit\u00e9 pharmaceutique.<\/p>\n\n\n\n

La \u00ab validation \u00bb plut\u00f4t que la confiance aveugle. Avant qu\u2019un logiciel ne soit mis en production, il doit \u00eatre \u00ab valid\u00e9 \u00bb. Cela signifie qu\u2019il est d\u00e9montr\u00e9 de mani\u00e8re scientifique et sans faille que le syst\u00e8me fonctionne exactement comme pr\u00e9vu dans toutes les situations.<\/p>\n\n\n\n

Une culture de la documentation sans compromis (\u00ab Si cela n\u2019a pas \u00e9t\u00e9 document\u00e9, cela ne s\u2019est pas produit \u00bb). Dans le domaine de la conformit\u00e9 pharmaceutique, il n\u2019y a ni accords verbaux ni validations informelles. Toute modification apport\u00e9e \u00e0 un processus, tout \u00e9cart par rapport \u00e0 une norme (gestion des \u00e9carts) et toute mesure corrective (CAPA \u2013 Corrective and Preventive Action) doivent \u00eatre document\u00e9s avec pr\u00e9cision, justifi\u00e9s et sign\u00e9s par les responsables. La le\u00e7on \u00e0 retenir pour les autres secteurs : en cas de questions de responsabilit\u00e9 (par exemple, \u00e0 la suite d\u2019une erreur de d\u00e9cision d\u2019un algorithme ou d\u2019une fuite de donn\u00e9es), un historique de documentation rigoureux sauve l\u2019entreprise de la ruine. Il prouve aux autorit\u00e9s de r\u00e9gulation et aux tribunaux que la direction n\u2019a pas manqu\u00e9 \u00e0 son devoir de diligence.<\/p>\n\n\n\n

Que conseillez-vous aux PME qui ne disposent ni d’un service d\u00e9di\u00e9 \u00e0 la conformit\u00e9 ni d’un budget consacr\u00e9 \u00e0 la gouvernance de l’IA ?<\/strong><\/p>\n\n\n\n

Ne pas disposer des moyens financiers n\u00e9cessaires pour cr\u00e9er son propre service de conformit\u00e9 constitue une contrainte l\u00e9gitime. En revanche, ne pas disposer des moyens financiers n\u00e9cessaires pour assurer la conformit\u00e9 en soi ne l’est pas. Les petites entreprises n\u2019ont pas besoin d\u2019un engagement moindre en mati\u00e8re de conformit\u00e9, mais d\u2019une structure de conformit\u00e9 plus simple. Elles doivent conna\u00eetre les r\u00e8gles qui s\u2019appliquent \u00e0 elles et disposer d\u2019une m\u00e9thode fiable pour g\u00e9rer leurs risques majeurs. La conformit\u00e9 doit \u00eatre ax\u00e9e sur le risque, et non sur la taille de l\u2019entreprise.<\/p>\n\n\n\n

Le principe d\u00e9terminant devrait \u00eatre l’ad\u00e9quation au risque, et non l’ad\u00e9quation aux ressources. L’absence d’un service charg\u00e9 de la conformit\u00e9 ne supprime pas pour autant les obligations juridiques ou \u00e9thiques sous-jacentes. Je d\u00e9composerais ce message en cinq \u00e9tapes :<\/p>\n\n\n\n

Premi\u00e8rement : comprendre les risques \u2013 R\u00e9aliser une \u00e9valuation pragmatique des risques li\u00e9s \u00e0 la conformit\u00e9, ax\u00e9e sur les lois et les risques qui concernent r\u00e9ellement l’entreprise.<\/p>\n\n\n\n

Deuxi\u00e8mement : attribuer les responsabilit\u00e9s \u2013 Quelqu\u2019un doit assumer explicitement la responsabilit\u00e9 de la conformit\u00e9, m\u00eame en l\u2019absence d\u2019un responsable de la conformit\u00e9 ou d\u2019un service d\u00e9di\u00e9.<\/p>\n\n\n\n

Troisi\u00e8mement : mettre en place des contr\u00f4les fondamentaux \u2013 un nombre raisonnable de directives, de proc\u00e9dures, de processus d\u2019autorisation, de canaux de signalement et de m\u00e9canismes d\u2019escalade clairs, ax\u00e9s sur les risques les plus importants.<\/p>\n\n\n\n

Quatri\u00e8mement : sensibiliser le personnel \u2013 former les collaborateurs aux r\u00e8gles applicables \u00e0 leur activit\u00e9 et, ce qui est particuli\u00e8rement important, leur expliquer pourquoi ces r\u00e8gles sont essentielles.<\/p>\n\n\n\n

Cinqui\u00e8mement : r\u00e9\u00e9valuer et adapter \u2013 Un programme de conformit\u00e9 ne doit pas n\u00e9cessairement \u00eatre extr\u00eamement complexe, mais il doit \u00e9voluer \u00e0 mesure que l\u2019entreprise, ses march\u00e9s, son personnel, ses clients ou les risques changent.<\/p>\n\n\n\n

Une PME n\u2019a pas n\u00e9cessairement besoin d\u2019un service d\u00e9di\u00e9 \u00e0 la gouvernance de l\u2019IA simplement parce qu\u2019elle utilise cette technologie. Elle doit toutefois savoir quelle IA elle utilise, quels risques y sont associ\u00e9s, qui en assume la responsabilit\u00e9 et quelles mesures de contr\u00f4le sont n\u00e9cessaires.<\/p>\n\n\n\n

L\u2019ECS se nourrit des \u00e9changes entre professionnels. Pourquoi l\u2019adh\u00e9sion est-elle \u00e9galement int\u00e9ressante pour les assureurs et les courtiers ?<\/strong><\/p>\n\n\n\n

Moyennant une cotisation annuelle de 200 francs suisses, l\u2019ECS propose chaque ann\u00e9e plus de 30 \u00e9v\u00e9nements dans le cadre de dix groupes de travail diff\u00e9rents (portant notamment sur les th\u00e8mes suivants : lutte contre la corruption, droit de la concurrence, IA et conformit\u00e9, gestion des risques li\u00e9s aux tiers). Outre le r\u00e9seautage professionnel, cela offre \u00e9galement la possibilit\u00e9 d\u2019\u00e9changer avec des coll\u00e8gues sp\u00e9cialis\u00e9s sur la mani\u00e8re dont ceux-ci abordent certaines questions de conformit\u00e9. De plus, l\u2019adh\u00e9sion donne droit \u00e0 des r\u00e9ductions sur les formations continues propos\u00e9es par les universit\u00e9s. Pour les assureurs et les courtiers, l\u2019adh\u00e9sion \u00e0 Ethics and Compliance Switzerland est particuli\u00e8rement int\u00e9ressante, pr\u00e9cis\u00e9ment parce qu\u2019elle permet de voir au-del\u00e0 des limites de leur propre secteur, fortement r\u00e9glement\u00e9.<\/p>\n\n\n\n

Si vous ne deviez poser qu\u2019une seule question \u00e0 un membre du conseil d\u2019administration concernant son utilisation de l\u2019IA, quelle serait-elle ?<\/strong><\/p>\n\n\n\n

O\u00f9 sommes-nous pr\u00eats \u00e0 fixer la limite de ce que l\u2019IA est autoris\u00e9e \u00e0 d\u00e9cider en notre nom \u2013 et de ce qu\u2019elle ne l\u2019est pas ? Cette question oblige le conseil d\u2019administration \u00e0 se pencher simultan\u00e9ment sur plusieurs questions fondamentales :<\/p>\n\n\n\n

Responsabilit\u00e9 : qui <\/em>assume la responsabilit\u00e9 finale lorsqu\u2019une d\u00e9cision prise \u00e0 l\u2019aide de l\u2019IA cause un pr\u00e9judice ? \u00c9thique :<\/em> existe-t-il des d\u00e9cisions qui ne devraient jamais \u00eatre d\u00e9l\u00e9gu\u00e9es \u00e0 une IA ? Supervision humaine :<\/em> dans quels domaines faut-il pr\u00e9server un jugement humain \u00e9clair\u00e9 ? Confiance :<\/em> serions-nous pr\u00eats \u00e0 expliquer le r\u00f4le de l\u2019IA \u00e0 nos collaborateurs, \u00e0 nos clients, aux autorit\u00e9s de contr\u00f4le et au grand public ? Gouvernance :<\/em> nos m\u00e9canismes de contr\u00f4le suivent-ils le rythme du d\u00e9ploiement de l\u2019IA ?<\/p>\n\n\n\n

Quelle d\u00e9cision une machine ne devrait-elle jamais prendre ?<\/strong><\/p>\n\n\n\n

La loi europ\u00e9enne sur l\u2019IA d\u00e9finit toute une liste d\u2019utilisations pour lesquelles l\u2019IA ne doit pas \u00eatre employ\u00e9e.<\/p>\n\n\n\n

Ces questions ont \u00e9t\u00e9 pos\u00e9es par Binci Heeb.<\/em><\/p>\n\n\n\n

\u00c0 lire \u00e9galement : Le point aveugle des op\u00e9rations de rachat : comment l’absence de GRC complique la vie<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

Ethics and Compliance Switzerland vous invite \u00e0 sa conf\u00e9rence qui se tiendra \u00e0 Zurich les 21 et 22 octobre 2026. Apr\u00e8s les risques li\u00e9s aux tiers en 2022 et les […]<\/p>\n","protected":false},"author":2,"featured_media":31766,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"inline_featured_image":false,"_price":"","_stock":"","_tribe_ticket_header":"","_tribe_default_ticket_provider":"","_tribe_ticket_capacity":"0","_ticket_start_date":"","_ticket_end_date":"","_tribe_ticket_show_description":"","_tribe_ticket_show_not_going":false,"_tribe_ticket_use_global_stock":"","_tribe_ticket_global_stock_level":"","_global_stock_mode":"","_global_stock_cap":"","_tribe_rsvp_for_event":"","_tribe_ticket_going_count":"","_tribe_ticket_not_going_count":"","_tribe_tickets_list":"[]","_tribe_ticket_has_attendee_info_fields":false,"footnotes":""},"categories":[9546,9547,9551],"tags":[1274,15624,11639,15707,15710,15702,15712,15705,15706,15708,12088,14912,3011,9702,15711,9601],"class_list":["post-31765","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-actualites","category-generalites","category-interviews","tag-ai","tag-airbag","tag-algorithme","tag-association-a-but-non-lucratif","tag-corruption","tag-culture-de-la-prise-de-parole","tag-directeur-des-operations-coo","tag-donnez-votre-avis","tag-frein","tag-loi-sur-lai-de-lue","tag-machine","tag-resilience","tag-responsabilite","tag-risques-en-matiere-de-droit-de-la-concurrence","tag-secteur-des-assurances","ownarticle"],"acf":[],"cc_featured_image_caption":{"caption_text":"Selon Patrick Wellens, un conseil d'administration doit \u00eatre pr\u00eat \u00e0 fixer les limites de ce que l'IA est autoris\u00e9e \u00e0 d\u00e9cider en notre nom et de ce qu'elle ne l'est pas.","source_text":"","source_url":""},"_links":{"self":[{"href":"https:\/\/www.thebrokernews.ch\/fr\/wp-json\/wp\/v2\/posts\/31765","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.thebrokernews.ch\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.thebrokernews.ch\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.thebrokernews.ch\/fr\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.thebrokernews.ch\/fr\/wp-json\/wp\/v2\/comments?post=31765"}],"version-history":[{"count":2,"href":"https:\/\/www.thebrokernews.ch\/fr\/wp-json\/wp\/v2\/posts\/31765\/revisions"}],"predecessor-version":[{"id":31769,"href":"https:\/\/www.thebrokernews.ch\/fr\/wp-json\/wp\/v2\/posts\/31765\/revisions\/31769"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.thebrokernews.ch\/fr\/wp-json\/wp\/v2\/media\/31766"}],"wp:attachment":[{"href":"https:\/\/www.thebrokernews.ch\/fr\/wp-json\/wp\/v2\/media?parent=31765"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.thebrokernews.ch\/fr\/wp-json\/wp\/v2\/categories?post=31765"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.thebrokernews.ch\/fr\/wp-json\/wp\/v2\/tags?post=31765"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}