L'Unesco adopte un premier texte mondial encadrant l'intelligence artificielle

"Les technologies de l'IA peuvent rendre de grands services à l'humanité" et "tous les pays peuvent en bénéficier", mais "elles soulèvent également des préoccupations éthiques de fond", souligne dès son préambule la recommandation de 28 pages, ratifiée par les 193 États-membres de l'Unesco.

Il y a "nécessité d'assurer la transparence et l'intelligibilité du fonctionnement des algorithmes et des données à partir desquelles ils ont été entraînés", car ils peuvent influer sur "les droits de l'Homme et les libertés fondamentales, l'égalité des genres, la démocratie", assure encore cette organisation internationale basée à Paris.

Presque absente au début du millénaire, l'IA s'est progressivement introduite dans nos vies: elle décide quelles actualités nous lirons sur notre téléphone, quels films nous seront proposés en streaming, quels trajets les systèmes de guidage nous feront suivre...

Mais les algorithmes qui lui permettent de fonctionner ont aussi été détournés à mauvais escient ces dernières années, illustrant ses dangers.

Facebook a été au centre de plusieurs scandales. Le cabinet britannique Cambridge Analytica a été accusé d'avoir détourné les données du géant américain pour peser politiquement sur le référendum ayant amené au Brexit au Royaume-Uni, et sur l'élection de Donald Trump aux États-Unis.

Fruit d'un travail ayant démarré en 2018, la recommandation de l'Unesco met en avant des valeurs - "Respect, protection et promotion des droits de l'Homme", "diversité et inclusion", promotion de "sociétés pacifiques" et de l'environnement - que les États-membres s'engagent à respecter.

Elle liste également des actions que les signataires devront réaliser, notamment la mise en place d'un outil législatif pour encadrer et surveiller les IA, "assurer une sécurité totale pour les données personnelles et sensibles" ou encore éduquer les masses à leur sujet.

"Nous voulions avoir outil universel et relativement précis, qui ne reste pas au niveau des valeurs et des généralités", s'est félicitée la directrice générale de l'Unesco, Audray Azoulay, saluant "une victoire du multilatéralisme" lors d'une conférence de presse.

Cette recommandation "fixe un cadre normatif mondial et donne aux États-membres la responsabilité de traduire ce cadre à leur niveau. C'est comme une source d'inspiration, un référent partagé", dont l'Unesco vérifiera ensuite les avancées pays par pays, a-t-elle ajouté.

La Russie, la Chine ou encore l'Iran, des États régulièrement accusés d'entraves aux droits de l'Homme, sont signataires du texte qui, reconnaît l'Unesco, est un "dispositif incitatif" sans possibilité de sanctions. Ce qui fait s'interroger sur sa portée.

"Si ce texte n'avait aucune puissance, ces pays ne seraient même pas venus le discuter", affirme Alessandra Sala, directrice du service d'intelligence artificielle du fournisseur de contenus Shutterstock, interrogée par l'AFP.

Ils ont ratifié la recommandation "parce qu'ils se rendent compte que nous sommes à un moment pivot de l'IA et qu'ils ne veulent pas être vus comme les pays qui partent dans la mauvaise direction", ajoute-t-elle.

Les États-Unis et Israël, très actifs dans les nouvelles technologies, ne font pas partie de l'Unesco. Mais l'administration du président Joe Biden "travaille à une législation" sur l'IA, un sujet sur lequel "les États-Unis sont devant l'Europe", certains états américains ayant déjà fortement compliqué la collecte de données sur leur territoire, remarque Mme Sala.

Autre écueil de ce texte, il n'impose rien aux entreprises actives dans l'intelligence artificielle, notamment aux géants d'internet américains, les fameux GAFAM (acronyme désignant Google, Amazon, Facebook, Apple et Microsoft).

David Leslie, un chercheur à l'institut Alan Turing sur les sciences et l'IA, l'appréhende pourtant comme "un pas dans la bonne direction", que d'autres institutions internationales, comme le Conseil de l'Europe ou l'Union européenne vont selon lui bientôt suivre.

"Des textes comme celui-ci mettent une forte pression sur les Facebook de ce monde", dont "les comportements prédateurs sont de plus en plus exposés", estime-t-il. Et de lancer : "Agir avec autant d'impunité que Facebook l'a fait, ce n'est plus possible."