COMMENTAIRE
Un peu plus de sept mois après que Yuval Noah Harari eut déclaré devant le public du Forum économique mondial à Davos que l’humanité était confrontée à une deuxième vague d’immigration invisible, composée non pas de bateaux, mais d’algorithmes, la Saxe-Anhalt a élu, avec 43,8 % des voix, un parti dont le programme consiste essentiellement à repousser cette première vague, visible. Deux événements, un week-end, deux mondes apparemment distincts. Mais en y regardant de plus près, on reconnaît le même mal. Elle touche bel et bien la Suisse également et, comme nous tentons de le montrer ici, touche directement le secteur des assurances et de la finance.
Une élection dans le Land de Saxe-Anhalt fait la une des journaux bien au-delà des frontières de l’Allemagne. L’AfD a plus que doublé son score de 2021 et a manqué de peu la majorité absolue : 39 sièges sur 83, alors qu’il en aurait fallu 42. Les services de protection de la Constitution classent ce parti comme étant clairement d’extrême droite.
Si vous souhaitez savoir pourquoi un parti qui utilise ouvertement le terme de « remigration » recueille un tel soutien, la réponse ne réside pas uniquement dans la xénophobie. Il la trouvera également dans des villages dépeuplés, sans médecin généraliste, sans commerces, sans espace public fonctionnel, et dans un État qui, depuis des années, laisse en suspens la question de savoir qui fait partie de la société et qui en décide, au lieu d’y répondre.
La deuxième vague d’immigration à Harari
C’est précisément cette question restée sans réponse qui est au cœur du discours de l’historien israélien Yuval Noah Harari.
Le point de départ de Hariri : l’intelligence artificielle n’est pas un outil, mais un acteur à part entière. Elle apprend, décide et évolue de manière autonome ; elle maîtrise le langage mieux que la plupart des êtres humains et elle est capable, comme il le formule, de mentir et de manipuler, non pas parce qu’elle serait malveillante, mais parce que quatre milliards d’années d’évolution ont montré que tout ce qui veut survivre apprend précisément cela. C’est de là qu’il tire sa thèse centrale : tout ce qui se compose de mots – le droit, la littérature, la religion et bientôt aussi les marchés financiers – sera pris en charge par l’instance qui maîtrise le mieux les mots. Et ce sont de plus en plus les machines.
Sa conclusion est l’analogie avec le débat sur l’immigration. Selon Harari, la véritable vague d’immigration des années à venir ne sera pas constituée de personnes arrivant dans des canots pneumatiques ou franchissant les frontières de nuit, mais de millions de systèmes d’IA qui se déplacent plus rapidement, écrivent mieux et ne sont pas fidèles à leur propre pays, mais à une entreprise ou à un gouvernement aux États-Unis ou en Chine. Et il pose aux dirigeants du monde entier une seule question dérangeante : allez-vous accorder à ces acteurs de l’IA le statut de personne morale, avec le droit à la propriété, à l’action en justice et à la liberté d’expression ? Ceux qui ne prendront pas cette décision aujourd’hui ne pourront plus la prendre dans dix ans. À ce moment-là, quelqu’un d’autre l’aura déjà prise depuis longtemps.
Une même maladie, deux symptômes
La Saxe-Anhalt et Davos semblent être aux antipodes : ici, le rejet de l’étranger ; là-bas, la crainte de la machine. En réalité, le diagnostic est le même. Dans les deux cas, des questions – « Qui fait partie de la communauté ? » Qui a raison ? Qui est responsable ? –, sur lesquelles les institutions auraient dû se prononcer depuis longtemps, ont été reportées pendant des années. Et un vide que l’État ne comble pas ne reste pas vide. En Saxe-Anhalt, ce sont les partis politiques qui le comblent, en proposant des réponses simples et radicales à des questions complexes de répartition et d’identité. En matière de gouvernance de l’IA, ce sont les groupes américains et leurs actionnaires qui le comblent, ceux-ci n’attendant plus depuis longtemps que Berne, Berlin ou Bruxelles trouvent une réponse.
Telle est la thèse de la gouvernance qui sous-tend pratiquement toute nouvelle technologie et toute question de répartition sociale non résolue : les structures de responsabilité sont à la traîne par rapport au changement, qu’il soit technologique ou démographique, qu’il s’agisse de modèles linguistiques ou de régions dépeuplées. Quiconque croit que l’un n’a rien à voir avec l’autre sous-estime à quel point les deux puisent à la même source : celle de l’expérience selon laquelle son propre avenir est décidé ailleurs, sans qu’on lui ait demandé son avis.
Ce que cela signifie pour les décideurs du secteur de l’assurance et de la finance
Pour les gestionnaires de risques, les responsables de la conformité et les assureurs, il s’agit là de bien plus qu’une simple réflexion politique. Quiconque utilise aujourd’hui des systèmes d’IA dans la souscription, le règlement des sinistres ou les décisions d’investissement prend de facto déjà des décisions préliminaires concernant la question posée par Harari : Quelle autonomie décisionnelle accorde-t-on à un système avant qu’un être humain ne le vérifie ? Qui est responsable lorsqu’un modèle agissant de manière autonome cause un préjudice ou prend une décision contractuelle dont personne ne peut plus comprendre les détails ? Ces questions ne peuvent être externalisées, ni à Bruxelles ni au service informatique de l’entreprise. Une réglementation efficace – qu’il s’agisse de la gouvernance de l’IA ou des questions de répartition sociale – doit réellement réduire les risques, être compréhensible et applicable, et elle ne doit pas pénaliser ceux qui respectent de toute façon les règles, tandis que d’autres les contournent. Quiconque n’applique pas ce critère aujourd’hui laisse la réponse à un résultat électoral ou à une décision d’actionnaires dans un autre pays.
La question finale posée par Harari à l’élite de Davos peut s’adresser telle quelle à toutes les directions d’entreprises suisses : ceux qui ne répondent pas aujourd’hui aux questions difficiles relatives à l’appartenance, au contrôle et à la responsabilité, qu’elles soient posées par des êtres humains ou par des machines dotées d’intelligence artificielle, constateront demain que d’autres y ont déjà répondu depuis longtemps. La Saxe-Anhalt a incarné cette semaine la version humaine de cette réponse. La version automatisée se fait encore attendre.
Binci Heeb
À lire également : L’être humain reste l’être humain : même avec l’aide de l’IA
Recherche :
Sponsors :
