«Le risque existentiel ne vient pas d’un Armageddon créé par des robots et qui mènerait à notre disparition. Le véritable risque existentiel est que nous devenions tous fous parce que nous ne pouvons pas croire ce que nous voyons, entendons ou lisons… Le fait que nous ayons porté cette conversation au niveau mondial me donne beaucoup d’espoir. Les médias ont un rôle très important à jouer et ils doivent reconquérir leur rôle de « quatrième pouvoir » et nous en avons plus que jamais besoin. Il existe de nombreuses façons de vérifier les informations, et c’est ce que les médias sérieux devraient faire», a déclaré Carme Artigas, coprésidente du Conseil consultatif sur l’intelligence artificielle.
Le Conseil consultatif est composé d’experts en IA du Nord et du Sud, de représentants des secteurs privé et public et du monde universitaire. L’IA « nécessite une gouvernance » et la création de règles d’utilisation convenues à l’échelle mondiale pour résoudre les problèmes et éliminer les risques. Les experts du Conseil consultatif soulignent également que des mesures doivent être prises pour garantir que tout le monde, et non certains groupes de la population, puisse utiliser les capacités de l’IA.
Artigas est reconnu comme l’un des principaux experts dans le domaine de l’intelligence artificielle. En 2020, après plusieurs années de travail dans le secteur privé, elle a été nommée première secrétaire d’État espagnole à la numérisation et à l’intelligence artificielle. Elle souligne que l’IA peut devenir un outil essentiel pour maintenir la démocratie, car elle mettra à la disposition de tous les connaissances accumulées par l’humanité. En outre, l’IA aura un impact très positif sur le secteur de la santé et contribuera en même temps à prévenir les maladies, à améliorer les diagnostics et à réduire les coûts.
Seidina Moussa Ndiaye du Sénégal est l’un des représentants des pays du Sud au sein de l’organisme consultatif sur l’IA. Il a participé au développement de la stratégie panafricaine en matière d’IA. Selon lui, l’intelligence artificielle aidera les États africains à résoudre de nombreux problèmes, notamment dans les domaines de l’agriculture et de la santé. Mais dans le même temps, Ndiaye alerte sur la possibilité d’une nouvelle «colonisation» du continent à l’aide de cet outil.
«Une grande partie des données actuellement générées en Afrique appartiennent à des sociétés multinationales dont les infrastructures sont développées en dehors du continent, où travaillent également la plupart des experts africains en intelligence artificielle. C’est une perte de talents africains», estime Ndiaye. «À terme, les grandes multinationales de l’IA imposeront leurs solutions sur l’ensemble du continent, ne laissant aucune place aux solutions locales», ajoute-t-il.
En tant que continent doté d’un énorme potentiel de développement et d’une importante population jeune intéressée par l’IA, l’Afrique pourrait devenir un terrain d’essai essentiel pour les nouvelles technologies, a déclaré Ndiaye. Cependant, tout projet dans ce domaine doit être réglementé, souligne l’expert. «Si cela n’est pas contrôlé, nous pourrions nous retrouver avec des tests sur des humains utilisant des puces ou même des éléments biotechnologiques intégrés. Ce sont des technologies pour lesquelles nous ne sommes pas doués. D’un point de vue réglementaire, il y a certains aspects qui n’ont pas été pris en compte», explique-t-il.
L’UNESCO, à son tour, appelle les gouvernements à introduire des réglementations appropriées et à proposer une formation aux enseignants afin de garantir une approche centrée sur l’humain de l’utilisation de l’IA générative dans l’éducation. À cette fin, l’UNESCO publie le premier Guide mondial sur l’IA générative dans l’éducation et la recherche pour répondre aux perturbations causées par les technologies d’IA générative.
Les premières sections du Guide de l’UNESCO expliquent ce qu’est l’IA générative et comment elle fonctionne. Les sections suivantes approfondissent la controverse entourant l’IA générative et ses implications pour l’éducation, en particulier la manière dont elle exacerbe la fracture numérique. Les modèles ChatGPT modernes sont en effet formés sur les données des utilisateurs en ligne qui reflètent les valeurs et les normes sociales dominantes du Nord.
Le Guide de l’UNESCO décrit ensuite sept étapes clés que les gouvernements devraient suivre pour réglementer l’IA générative et créer un cadre politique pour son utilisation éthique dans l’éducation et la recherche, notamment en adoptant des normes mondiales, régionales ou nationales en matière de protection des données et de confidentialité. Il fixe également à 13 ans l’âge limite pour utiliser les outils d’IA en classe et appelle à une formation des enseignants sur le sujet.
