Deux jours après son discours de clôture de la journée #AIforHumanity au collège de France, Emmanuel Macron a accordé une interview à Wired dans lequel il développe sa vision du développement de l’intelligence artificielle en France, en Europe et dans le monde.
Des enjeux économiques bien sûr…
Si l’intelligence artificielle, comme la transformation numérique, finira par atteindre l’ensemble des secteurs d’activité, c’est par les transformations déjà opérées dans la santé et la mobilité qu’Emmanuel Macron est le plus impressionné.
Macron part du postulat que l’intelligence artificielle est la prochaine révolution (elle est même déjà « en marche », si je peux me permettre), qu’elle touchera tous les secteurs et qu’il faut donc en faire partie. Sans quoi, la France subira cette disruption et perdra des emplois sans rien n’y pouvoir faire. Or une de ses ambitions est de former les français pour qu’ils puissent saisir les opportunités de cette révolution.
Le président français veut faire de la France une référence mondiale de l’intelligence artificielle en attirant des talents et en permettant l’émergence de champions nationaux.
Nombre de français travaillent dans l’intelligence artificielle à l’étranger, notamment aux États-Unis. Pour ne citer que deux des plus connus, Yann LeCun (ESIEE Paris, Université Pierre-et-Marie-Curie) est scientifique en chef de l’IA chez Facebook et Martial Hébert (ENS Cachan, INRIA) est responsable de l’institut de robotique de l’université Carnegie-Mellon chez qui Google, Uber et d’autres grands acteurs de la mobilité se fournissent en ingénieurs pour développer la voiture autonome.
…mais surtout éthiques et démocratiques
La politique d’ouverture des données promise par Emmanuel Macron doit faciliter le développement de l’intelligence artificielle (l’apprentissage automatique, coeur de l’IA, nécessite une grande quantité de données) mais soulève la question de leur usage et notamment du respect des données personnelles.
Dans le domaine de la santé, la médecine prédictive et personnalisée est porteuse de grands espoirs mais cette meilleure cartographie des risques pourrait mettre en péril un système assurantiel aujourd’hui largement basé sur l’incertitude (tout le monde peut être touché, donc tout le monde s’assure : tout le monde est protégé et le coût de protection est limité)
En ce sens, l’intelligence artificielle et son corollaire, l’ouverture des données, devient un enjeu politique car il touche un des fondamentaux de notre démocratie : la cohésion sociale.
Emmanuel Macron prévoit également d’ouvrir les algorithmes développés par le gouvernement (ex. Parcoursup) ainsi que ceux développés par des entreprises financées par le gouvernement, pour assurer aux citoyens que ces algorithmes ne comportent aucun biais de nature par exemple à créer des disparités de traitement injustifiées.
Lancé sur le terrain des impacts collectifs (donc politiques) de l’intelligence artificielle et du traitement des données, le président expose en quelques phrases ce qui est à mon sens le coeur des enjeux et la ligne directrice de son action :
«If we want to defend our way to deal with privacy, our collective preference for individual freedom versus technological progress, integrity of human beings and human DNA, if you want to manage your own choice of society, your choice of civilization, you have to be able to be an acting part of this AI revolution. That’s the condition of having a say in designing and defining the rules of AI. That is one of the main reasons why I want to be part of this revolution and even to be one of its leaders. I want to frame the discussion at a global scale.»
Traduction «Si nous voulons défendre notre vision de la vie privée, notre préférence collective pour la liberté individuelle au delà du progrès technologique, l’intégrité des êtres humains et de l’ADN humain, si nous voulons défendre notre propre choix de société, notre choix de civilisation, nous devons activement prendre part à cette révolution de l’intelligence artificielle. C’est la condition pour que nous ayons notre mot à dire dans la manière dont les règles de l’intelligence artificielle sont définies. C’est une des raisons principales pour lesquelles je veux prendre part à cette révolution et même en être l’un des leaders. Je veux contribuer à définir le terrain de jeu au niveau mondial.»
Les deux leaders mondiaux de l’intelligence artificielle sont les États-Unis et la Chine. Aux États-Unis, les grands choix éthiques concernant l’intelligence artificielle sont faits par un petit groupe d’acteurs privés. En Chine les orientations sont prises par le gouvernement mais c’est une dictature (n’ayons pas peur des mots). Une « troisième voie » européenne parait indispensable pour orienter l’intelligence artificielle vers le respect des valeurs démocratiques et le « bien commun ».
L’importance de la responsabilité individuelle
Au cours de l’entretien à Wired, Emmanuel Macron s’est déclaré totalement opposé à l’usage des armes autonomes, considérant qu’il n’était pas envisageable de supprimer toute responsabilité individuelle dans la décision de tuer un autre être humain.
Une logique de responsabilité qu’il applique également aux décisions politiques. L’intelligence artificielle pourra aider à éclairer des situations, indique-t-il, notamment à modéliser les impacts potentiels de scénarios envisagés, mais l’homme ou la femme politique doit rester décisionnaire et assumer des choix.
Je partage totalement cette vision d’une intelligence artificielle qui éclaire sans déresponsabiliser. La responsabilité est inhérente à l’Homme et doit rester le garde-fou de notre liberté.
La confiance comme critère de réussite
Macron considère qu’il aura réussi si les français comprennent et soutiennent les changements à venir, s’il a pu construire un écosystème suffisamment fort pour que les français perçoivent l’intelligence artificielle comme une opportunité et non comme une menace. Il lui faut donc bâtir une confiance réciproque entre les chercheurs, les acteurs privés et les citoyens.
En conclusion
Conscient que les enjeux économiques ne sont que le sommet de l’iceberg, Emmanuel Macron sait qu’il n’est pas trop tard mais qu’il ne faut plus attendre : il prend le sujet à bras le corps. Il est toujours plus simple d’influer sur le cours d’événements en y participant qu’en les observant avec suspicion.
De 2002 à 2004 un groupement constitué d’une entreprise NTIC ( ON-X) et d’un « big four » ( Ineum, ex-Deloitte) a travaillé sur le SI de la CNAM et avait à l’époque proposé des solutions pour permettre, entre autre un data mining sur les flux d’informations traités par le système de l’assurance maladie, – ce qui aujourd’hui serait qualifié « d’intelligence artificielle » et une refonte de l’architecture du SI , des bases de données et de la qualification des données pour permettre cette exploitation.
Ceci avait été enterré par les syndicats internes, indirectement par les prestataires appointés ( surtout IBM) et un des motifs avancé était la sécurité des données personnelles ( le paravent de la CNIL) alors même que le système actuel , d’ailleurs, ne garantit rien du tout et que le système de sécurité proposé a bien plus tard été présenté par les services internes de la CNAM comme intéressant.
Le sujet ne peut pas être traité ici en quelques mots, mais il serait utile de reprendre ces propositions avec de vrais ingénieurs et une vraie maîtrise d’ouvrage côté CNAM
Bel article sur les opportunités de l’IA et les garde fous à lui appliquer.
Merci Arnaud