La première édition des Assises Nationales de l'Ethique du Numérique s'est tenue les 10 et 11 avril à Nevers. L'événement était centré sur l'éthique des systèmes d'intelligence artificielle et j'ai eu le privilège d'être convié à la table ronde – "L’IA au service de la transparence de la gestion publique ?" aux côtés de Denis Thuriot et Pierre Bordais qui remplaçait Karine Favro.

Voici un résumé des idées que j'ai présentées :

1/ Une technologie opaque… au service de la transparence ?
Paradoxalement, malgré le manque de lisibilité de certains modèles, l’IA peut contribuer à rendre l’action publique plus transparente. On peut citer des initiatives comme Ma Région près de chez moi, l’assistant virtuel Albert, ou encore des outils d’IA de fact-checking des politiques publiques. L’IA peut également être mobilisée pour améliorer la communication des institutions.

2/ De quelle échelle de service public parle-t-on ?
En Bourgogne-Franche-Comté, la médiane est de 357 habitants par commune. Comment imaginer que ces petites collectivités puissent s’emparer seules de ces technologies ? Il est donc crucial de penser des mécanismes de mutualisation, afin de ne pas creuser davantage la fracture territoriale entre grandes métropoles et petites communes.   

3/ Quelles sont les conditions de la transparence ?
La loi exige de l'administration qu'elle fournisse des informations claires et que les algorithmes soient auditables et explicables. Ce point pose problème car les algorithmes daisant appel à du deep learning sont par nature opaques, point que je me suis attelé à prouver avec un exemple. 

4/ Quelle transparence pour le travail hybride humain-machine ?
Des exemples concrets montrent que l’IA s’intègre déjà dans la production de contenus publics : le Sénat, par exemple, a eu recours à des outils d’IA pour rédiger un rapport d’information. Par ailleurs, l’affaire du livre Hypnocratie illustre les dérives possibles : ce faux essai d’un prétendu philosophe chinois, Jianwei Xun – en réalité une création d’un essayiste italien assisté par deux IA – a trompé la communauté académique. Cette anecdote interroge notre rapport à l’expertise, à l’auteur, et à la vérification des sources dans un monde où humains et machines co-produisent de plus en plus de contenus.

L'évènement Créer Demain de l'AER a réuni fin novembre environ 450 personnes à l'Esirem (école polytechnique universitaire de Bourgogne).

L'ARNia, en tant que partenaire de l'AER, a contribué à l'évenement avec l'animation de deux ateliers d'initiation à l'intelligence artificielle générative. 

J'ai passé 2h30 avec deux groupes de participants (environ une trentaine) composés majoritairement des chefs d'entreprise, avec la présence de profils divers comme des responsables marketing, de journalistes et le président de l'association des maires du Jura. 

Ces ateliers donnent quelques pistes techniques sur l'utilisation des chatbots, mais la finalité principale est d'aider tout et chacun à trouver la bonne articulation entre la place qu'on donne à l'IA, le flux de travail qui nous est propre et l'esprit critique.

Objectif réussi au vu des observations des participants. A titre d'exemple :