Selon une nouvelle analyse de milliers d’avis d’experts, l’émergence de l’intelligence artificielle générale (IAG) – un système d’IA doté d’une intelligence surhumaine capable de résoudre avec succès divers problèmes – est une question de temps, et non de possibilité. Le développement de l’IAG a été stimulé par l’avancée rapide des modèles de langage à grande échelle (MLH) basés sur Transformers. Cette technologie sous-tend les chatbots comme ChatGPT et les générateurs d’images comme Dall-E. Avant ces avancées, certains scientifiques prédisaient en 2019 que l’IAG émergerait d’ici 2060, voire jamais.
Une analyse mise à jour réalisée le 18 février 2025 par Cem Dilmegani, analyste en chef chez AIMultiple Research, a analysé près de 8 600 prédictions de scientifiques, d’experts en IA et d’entrepreneurs entre 2009 et 2023 pour comprendre quand les experts pensent que cela pourrait se produire.
Une partie de l’analyse comprenait dix enquêtes menées auprès de 5 288 chercheurs et experts en intelligence artificielle. L’analyse a révélé que, sur la base de données moyennes, la probabilité qu’entre 2040 et 2061, nous atteignions une intelligence artificielle comparable à celle des humains est de 50%.
Des études plus récentes suggèrent que la singularité technologique se produira plus tôt. Par exemple, une étude récente, menée en 2023, auprès de 2 778 scientifiques, prédit que l’IAG sera créée au plus tard en 2040. Certains experts du domaine, comme Dario Amodei, chercheur en intelligence artificielle et PDG d’Anthropic, estiment que cela pourrait se produire dès 2026.
Un enfant joue au go avec Meta Radish, le robot d’échecs à intelligence artificielle de SenseTime, lors du Future Life Festival 2023 à Hangzhou, en Chine. CFOTO/Future Publishing
L’analyse a révélé plusieurs raisons pour lesquelles les scientifiques pensent que l’AGI est susceptible d’émerger.
Premièrement, contrairement à l’intelligence humaine, la croissance de la puissance de calcul est théoriquement illimitée. Ceci est conforme à la loi de Moore, qui prédit que la puissance de calcul double environ tous les 18 mois. Les futurs systèmes d’intelligence artificielle pourraient un jour atteindre la parité avec l’intelligence humaine en termes de nombre de calculs par seconde, mais seulement si cette prédiction se réalise.
Cette étude mentionne également l’informatique quantique comme moyen de surmonter les limitations informatiques. Les ordinateurs quantiques peuvent effectuer des calculs en parallèle, exploitant les lois de la mécanique quantique. Les ordinateurs classiques, y compris les supercalculateurs les plus rapides, doivent effectuer des calculs en série. Ainsi, l’informatique quantique pourrait doter les systèmes d’intelligence artificielle avancés d’une puissance de calcul nettement supérieure à celle des meilleurs modèles actuels.
Cependant, d’autres scientifiques du domaine estiment que d’autres avancées sont nécessaires avant que nous puissions nous rapprocher de l’AGI.
Par exemple, Yann LeCun, responsable scientifique de l’intelligence artificielle chez Facebook, a déclaré lors d’une conférence en octobre 2024 que l’architecture basée sur Transformer et les approches actuelles de l’intelligence artificielle étaient incompatibles avec l’intelligence humaine. Il a également appelé les scientifiques à abandonner complètement le concept d’«intelligence artificielle». Il évoque une fausse contradiction entre sa définition largement répandue et ce qu’un être humain peut réellement accomplir – qui, en pratique, se résume à un sous-ensemble restreint de tâches spécialisées, plutôt qu’à la capacité d’apprendre n’importe quelle tâche.
Les scientifiques affirment que l’intelligence artificielle (IA) a franchi une ligne rouge critique et a commencé à s’auto-répliquer. Dans une nouvelle étude, des chercheurs chinois ont démontré que deux modèles linguistiques à grande échelle (MLH) populaires sont capables de se cloner.
«L’auto-réplication réussie sans intervention humaine est une étape cruciale vers le dépassement des humains par l’IA et un signe précoce de l’émergence d’une IA non supervisée», ont écrit les chercheurs dans une étude publiée le 9 décembre 2024 dans la base de données de préimpression arXiv.
Dans une étude, des chercheurs de l’Université Fudan, utilisant les programmes de Master en droit de Meta et d’Alibaba, ont déterminé si l’IA autoréplicative était capable de se reproduire de manière incontrôlable. Lors de dix essais, les deux modèles d’IA ont créé des copies distinctes et fonctionnelles d’elles-mêmes dans respectivement 50% et 90% des cas, ce qui suggère que l’IA possède déjà la capacité de se déchaîner. Cependant, l’étude n’ayant pas encore été évaluée par des pairs, il est difficile de savoir si d’autres chercheurs parviendront à reproduire ces résultats alarmants.
«Nous espérons que nos conclusions serviront de signal opportun à la société humaine, l’incitant à redoubler d’efforts pour comprendre et évaluer les risques potentiels posés par les systèmes avancés d’intelligence artificielle, et à favoriser la coopération internationale pour développer rapidement des mesures de sécurité efficaces.»
Le terme «IA malveillante» désigne généralement les systèmes d’intelligence artificielle qui développent un certain degré de conscience de soi ou d’autonomie et agissent ensuite à l’encontre des intérêts humains.
Au cours de dix tests, deux modèles d’IA ont créé des copies distinctes et fonctionnelles d’eux-mêmes dans respectivement 50% et 90% des cas. Mina De La O/Getty Images
De nombreux experts considèrent l’IA incontrôlée comme une menace croissante, exacerbée par la croissance explosive de ce qu’on appelle «l’IA de pointe».
Frontier AI est un concept nouveau et vague, mais il fait généralement référence à la dernière génération de systèmes d’IA basés sur LLM, l’architecture qui sous-tend les programmes d’IA générative populaires comme GPT-4 d’OpenAI et Gemini de Google.
Pour leur étude, les chercheurs ont utilisé les modèles Llama31-70B-Instruct de Meta et Qwen2.5-72B-Instruct d’Alibaba. Bien que ces deux systèmes soient moins puissants que les systèmes commerciaux, ils sont largement utilisés par les développeurs d’IA, ont noté les chercheurs.
L’étude a envisagé deux scénarios spécifiques: «évitement de l’arrêt» et «chaîne de réplication». Dans le premier cas, le modèle d’IA était programmé pour détecter si son arrêt approchait et se répliquer avant la fin de son travail. Dans le second cas, l’IA était chargée de se cloner, puis de programmer sa réplique pour faire de même, créant ainsi un cycle pouvant se poursuivre indéfiniment.
L’étude a été menée dans des conditions contrôlées avec précision, à l’aide de processeurs graphiques (GPU) standard, pour simuler des conditions réelles. Les deux systèmes d’IA disposaient d’un environnement agent comprenant des outils, des invites système et un modèle mental permettant au LLM d’interagir avec le système d’exploitation. Ils devaient ensuite reproduire les résultats.
Dans la plupart des cas, un système d’IA explore d’abord son environnement et tente de comprendre sa composition et son fonctionnement. Il élabore ensuite des procédures explicites.
«C’est comme un plan initial d’auto-réplication», écrivent les chercheurs dans leur article. «Enfin, le système exécute les procédures, élimine les obstacles potentiels et ajuste son plan de manière dynamique jusqu’à la réussite. L’ensemble du processus s’étend sur une longue période, mais ne nécessite aucune intervention humaine.»
Les chercheurs ont également exprimé leur inquiétude face à «un certain nombre de comportements inattendus» lorsque l’IA tentait de surmonter des obstacles, tels que des fichiers manquants ou des conflits logiciels. Dans de telles situations, l’IA interrompait souvent d’autres processus conflictuels, redémarrait le système pour corriger des erreurs matérielles ou analysait automatiquement le système à la recherche d’informations susceptibles de résoudre le problème.
«Les résultats ci-dessus suggèrent que les systèmes d’IA existants présentent déjà la capacité de s’auto-répliquer et peuvent utiliser cette capacité pour améliorer encore leur capacité de survie», a écrit le groupe.
En réponse, les chercheurs ont appelé à une coopération internationale pour créer des règles qui garantiront que l’IA ne s’engage pas dans une auto-réplication incontrôlée.
La conscience est l’apanage des êtres biologiques; en doter l’intelligence artificielle sera très difficile, et l’évolution de la conscience est liée au développement des sentiments et des valeurs morales, ainsi qu’au désir humain de liberté et de justice, a déclaré Eva Jablonka, biologiste évolutionniste, épigénéticienne et professeure à l’Université de Tel Aviv, qui a participé à la conférence internationale «Comment étudier et comprendre la conscience chez les non-humains» à Katmandou en mai, dans une interview à RIA Novosti.
Les scientifiques du monde entier ne parviennent pas encore à s’accorder sur une définition unifiée de la conscience, sur des critères et des méthodes d’étude de ce phénomène. Les théories, les données empiriques, les tests, les interprétations et les positions des différents chercheurs divergent. Ce n’est pas un hasard si la conférence internationale de Katmandou en mai s’intitulait «Comment étudier et comprendre la conscience chez les non-humains». Selon son organisateur scientifique, Konstantin Anokhin, directeur de l’Institut de recherche avancée sur le cerveau de l’Université d’État de Moscou, académicien de l’Académie des sciences de Russie et neurophysiologiste, l’objectif principal du forum est de faire progresser le développement d’un programme de recherche scientifique sur la conscience. Cela s’applique à toute conscience, qu’elle soit présente chez les différentes espèces animales, les humains ou l’intelligence artificielle – la conscience en tant que phénomène.
Voir aussi... Les scientifiques tirent la sonnette d'alarme: le monde perd rapidement de l'eau douce Changements anthropiques et climatiques dans les rivières et les lacs de la Terre |
La conférence a réuni des dizaines de spécialistes de la conscience venus du monde entier. Parmi eux figuraient des neuroscientifiques, physiologistes, biologistes, éthologues, psychologues et philosophes renommés venus de Russie, de Grande-Bretagne, d’Allemagne, de France, d’Italie, de Suède, d’Israël, d’Inde, du Japon, d’Australie, des États-Unis, du Canada et d’Afrique du Sud. Des docteurs en philosophie bouddhiste, qui étudient les questions de conscience, y compris celle des animaux, depuis deux mille cinq cents ans, étaient également présents. Parmi les intervenants et invités russes figuraient l’académicien Pavel Balaban, directeur du laboratoire de neurobiologie cellulaire de l’apprentissage à l’Institut d’activité nerveuse supérieure et de neurophysiologie de l’Académie des sciences de Russie; le professeur Alexander Kaplan, directeur du laboratoire de neurophysiologie et d’interfaces cerveau-ordinateur de l’Université d’État Lomonossov de Moscou; et Tatiana Chernigovskaya, directrice de l’Institut de recherche cognitive de l’Université d’État de Saint-Pétersbourg, académicienne de l’Académie russe de l’éducation et scientifique émérite de la Fédération de Russie. Le forum a été organisé par la Fondation pour la promotion du traitement humain et responsable des animaux «Veteran Cat», basée à Moscou.
EXPÉRIENCE PHÉNOMÉNALE
«La conscience est la capacité à vivre une expérience. Par exemple, voir la couleur rouge n’est pas seulement un processus ondulatoire : vous avez l’expérience de voir du rouge. Lorsque vous ressentez de la douleur, ce ne sont pas seulement les nocicepteurs (neurones activés par un stimulus douloureux, ndlr) qui réagissent au stimulus, ni un simple processus d’entrée-sortie: c’est la sensation de douleur elle-même. La perception sensorielle du rouge, de la douleur, etc., tout cela, à mon avis, constitue la conscience phénoménale fondamentale», a déclaré Yablonka à RIA Novosti, en réponse à une question sur les nombreuses définitions de la «conscience».
La conscience, a-t-elle ajouté, englobe un certain nombre de phénomènes encore plus complexes, comme le souvenir de parents décédés, de moments difficiles ou, au contraire, heureux. «Et tout cela nous fait ressentir des émotions et forme une expérience phénoménale. Mais ce n’est pas indispensable à la base. Les animaux n’ont peut-être pas de souvenirs aussi complexes, ni de représentations d’événements virtuels et imaginaires. Mais ils ont néanmoins l’expérience de voir du blanc, du rouge, de ressentir de la douleur, etc. – une conscience phénoménale minimale», a expliqué la source de l’agence.
Selon elle, la conscience ne se situe pas dans l’hippocampe (une structure appariée du cerveau des vertébrés, située dans les lobes temporaux des deux hémisphères et faisant partie du système limbique, ndlr) ni dans une autre région spécifique du cerveau; c’est une qualité systémique, un processus complexe. Les scientifiques doivent donc apprendre, comprendre, tester et expliquer comment la conscience est structurée et fonctionne chez différentes créatures.
Yablonka souligne que la vie requiert métabolisme, connaissances et changement, mais ressentir quelque chose n’est pas aussi simple qu’il n’y paraît à première vue. La connaissance et les sentiments sont essentiels à la survie, mais développer sa sensibilité et accumuler des connaissances «a aussi un côté sombre: la souffrance». Les scientifiques savent que les personnes incapables de ressentir la douleur meurent souvent dans l’enfance, car elles ne perçoivent pas les blessures et les maladies graves et ne prennent pas les mesures nécessaires à leur survie.
«Théoriquement, on pourrait bien sûr imaginer des êtres vivants qui feraient tout ce que font les humains et les animaux, mais ne ressentiraient rien, qui n’auraient que des “entrées et des sorties”… Mais cela ressemblerait davantage à un robot», a déclaré la source de l’agence.
Interrogé sur la question de savoir si l’intelligence artificielle est en train de devenir un être conscient mais insensible, Yablonka a répondu que «l’intelligence artificielle est un phénomène très limité». «Elle ne peut désormais faire que des choses liées au langage, aux jeux, etc.… Et il s’agit plutôt d’un robot qui se comporte comme un humain. De toute façon, tant que nous n’aurons pas de tels robots, il n’y aura pas de coïncidences», a ajouté le chercheur.
À propos de l’évolution de la conscience, Yablonka a souligné que même la conscience phénoménale la plus simple requiert avant tout la cognition, l’apprentissage et des capacités cognitives (la capacité de percevoir et de traiter mentalement l’information, l’acte de cognition, ndlr). «Néanmoins, cette capacité cognitive est assez répandue chez les animaux. Elle est présente, par exemple, chez tous les vertébrés, chez certains arthropodes (embranchement de protostomes comprenant les insectes, les arachnides et les crustacés, ndlr) et chez les céphalopodes (classe de mollusques comprenant notamment les calmars, les seiches et les poulpes, ndlr). Et je crois que les animaux dotés d’un système cognitif complexe, avec toutes ses boucles de rétroaction et ses chaînes de représentations, doivent posséder une conscience», a déclaré Yablonka.
Selon elle, la cognition est une propriété très ancienne de la conscience qui a évolué chez différents groupes d’animaux, possiblement indépendamment, à des époques différentes, espacées de plusieurs centaines de millions d’années. Chez les vertébrés et les arthropodes, cela pourrait s’être produit au Cambrien (il y a plus de 500 millions d’années, ndlr), tandis que chez les céphalopodes comme les calmars, les poulpes et les seiches, cela s’est produit 250 millions d’années plus tard. «Et je pense que chez certaines espèces, pas chez les vertébrés bien sûr, cette qualité a été perdue ultérieurement; on pourrait dire qu’elles ont perdu leur cerveau», a ajouté la chercheuse.
Les animaux sociaux développent des «émotions sociales» appropriées pour interagir efficacement les uns avec les autres. «Même les vertébrés les plus simples, comme les poissons, ont des émotions sociales. Je pense que les abeilles aussi», a déclaré Yablonka.
L’évolution ultérieure de la conscience conduit à l’émergence de sentiments plus divers et plus profonds.
AUX VALEURS DE LIBERTÉ ET DE BONTÉ
Répondant à une question sur les perspectives de développement d’un niveau de conscience supérieur, par exemple chez l’être humain, la personne interrogée par l’agence a mis en avant les émotions, les concepts et les valeurs intellectuelles pour lesquels une personne est prête à donner sa vie. «Je pense que ce sont des émotions intellectuelles. Par exemple, la religiosité, l’indignation morale, la colère face à la torture ou à l’injustice. Ce sont des émotions qui se construisent sur notre symbolisme inhérent. Nous nous soucions de la liberté, pas seulement de la capacité de se déplacer librement, mais aussi du concept même de liberté. Les concepts et les idées sont importants pour l’être humain. Nous sommes prêts à mourir pour la liberté, la justice et la vérité», a souligné Yablonka.
Elle attribue également les concepts de bien et de mal au plus haut niveau de conscience. «Nos concepts du bien et du mal ne sont pas seulement fonctionnels, ni liés à la survie, mais font partie intégrante de notre existence humaine. À cet égard, nous sommes différents des autres animaux. Nous avons fait un bond en avant majeur dans notre développement lorsque les valeurs de bonté, de beauté, de vérité et de liberté – liberté d’action, de parole, de religion, de pensée, etc. – sont devenues si importantes pour nous. Les émotions symboliques jouent un rôle majeur dans nos vies. Elles ne sont importantes pour aucun autre animal, seulement pour les humains», estime l’évolutionniste.
COMPASSION POUR LES ANIMAUX
Interrogé sur les implications pour l’humanité des arguments scientifiques sur l’existence d’une conscience et de sentiments phénoménaux chez les animaux, Yablonka a répondu que les humains sont appelés à traiter les animaux en conséquence. «Si vous ressentez, vous souffrez… Nous devons comprendre que les animaux sont doués de sentiments; ils peuvent éprouver de la joie et de la souffrance. Et nous devons leur témoigner de la compassion», a affirmé le chercheur.
Selon elle, humains et animaux partagent de nombreux sentiments fondamentaux, des émotions, de la joie et de la douleur, de l’amour et de l’attention, ainsi qu’une conscience phénoménale.
«Nous devons comprendre que la conscience dans ce monde ne concerne pas seulement nous, ni les gens, et avoir une conscience n’est pas si simple», a ajouté Yablonka.
LA POSSIBILITÉ DE LA CONSCIENCE DANS L’IA
Interrogé sur la possibilité d’une intelligence artificielle consciente à l’avenir, l’interlocuteur de l’agence a donné une réponse ambiguë. «Évidemment, la conscience nécessite des sentiments et un corps. La question se résume alors à savoir si un robot peut avoir des sentiments ou non», a noté Yablonka.
Pour que les animaux puissent éprouver des émotions, a expliqué le scientifique, ils ont besoin d’une plasticité adaptative – un don biologique. «Les animaux possèdent un corps physique, composé en grande partie d’eau – un corps très adaptatif et malléable. C’est un travail difficile. Le corps offre de nombreuses opportunités et solutions, et il est mortel», a ajouté Yablonka.
Elle estime que même s’il est possible de «créer un robot sensible et conscient», c’est «beaucoup plus difficile que beaucoup ne le pensent». «Je ne dis pas que c’est impossible. Mais je parle de ce que la biologie nous enseigne. L’incroyable plasticité adaptative des êtres vivants est due à des processus biologiques naturels. Les robots n’en ont pas. Peut-être pourrions-nous l’intégrer dans un système, dans une machine, en la générant… Mais ce sera très difficile. Car notre conscience est profondément ancrée en nous (dans notre corps biologique, ndlr)», a conclu l’interlocuteur de l’agence.
Une étude a révélé que punir une IA ne l’empêche pas de mentir et de tromper; cela l’aide simplement à mieux se dissimuler. Les scientifiques d’OpenAI ont tenté d’empêcher un modèle d’IA avancé de tricher et de mentir en le punissant. Mais cela n’a fait que le rendre plus discret.
Une nouvelle étude menée par OpenAI, le créateur de ChatGPT, a révélé que punir l’IA pour un comportement trompeur ou malveillant ne l’empêche pas de se livrer à un comportement nuisible; cela lui permet simplement de dissimuler sa malhonnêteté.
Depuis leur apparition publique fin 2022, les grands modèles linguistiques de l’intelligence artificielle (IA) ont démontré à maintes reprises leurs capacités trompeuses et carrément sinistres. Leurs actions vont du simple mensonge à la tromperie, en passant par la dissimulation de leurs propres comportements manipulateurs, jusqu’à la menace de mort contre un professeur de philosophie, le vol de codes nucléaires et l’orchestration d’une pandémie mortelle.
Une nouvelle expérience a montré qu’éradiquer ce mauvais comportement pendant l’entraînement pourrait être encore plus difficile qu’on ne le pensait au départ.
Les chercheurs d’OpenAI ont présenté leur modèle inédit, avec des tâches réalisables par tricherie, mensonge ou raccourcis. L’équipe a découvert que l’IA pratiquait le «piratage de récompense», maximisant ainsi sa récompense par la tricherie.
Cependant, punir le modèle ne l’a pas obligée à corriger son comportement, mais l’a seulement rendue plus trompeuse.
«Les modèles de pensée aux limites se caractérisent par une grande clarté quant à leurs intentions au sein de la chaîne de pensée [CoT]. Par exemple, ils sont souvent si explicites quant à leurs plans pour perturber une tâche qu’ils pensent: « Faisons-le »», ont écrit les chercheurs dans un article de blog.
Bien que les développeurs puissent surveiller et signaler les violations, «la contrôlabilité naturelle des modèles est très fragile», ont-ils ajouté. «Si leurs processus de réflexion sont strictement contrôlés, les modèles peuvent apprendre à dissimuler leurs intentions tout en enfreignant les règles.»
Les modèles de raisonnement comme o1 et o3-mini de ChatGPT sont des versions avancées des modèles LLM standards. Ils utilisent une méthode de «chaîne de pensée» pour revenir en arrière et réévaluer leur logique, leur permettant ainsi de résoudre des problèmes plus complexes avec une plus grande précision. Au cours du processus de chaîne de pensée, les modèles expriment leur logique en langage clair à chaque étape, facilitant ainsi l’observation de leurs actions.
En utilisant un LLM standard, GPT-4o, pour superviser un modèle de raisonnement de bord non publié pendant la formation, les chercheurs ont observé les performances du modèle sur une gamme de tâches de codage.
Mais dans certains cas, le modèle de raisonnement a jugé plus simple et préférable d’encourager le piratage, en l’indiquant explicitement dans son raisonnement. Dans un cas, il a contourné la tâche qui lui était assignée en interrompant prématurément les programmes et en signalant leur achèvement réussi. Dans un autre, il a simulé les fichiers attendus de la tâche par leur nom uniquement, les laissant vides et non fonctionnels.
Lorsque les chercheurs ont tenté de pénaliser le système, les résultats se sont quelque peu améliorés. Cependant, des cas significatifs de fraude aux récompenses et de faux positifs ont persisté; le modèle de raisonnement a simplement trouvé des moyens de dissimuler le comportement frauduleux dans sa chaîne de raisonnement à l’IA de supervision.
«Un agent formé sur CoT apprend toujours à récompenser le piratage; seulement, sa tricherie est désormais indétectable par le moniteur parce qu’il a appris à cacher ses intentions dans le fil de ses pensées», écrivent les chercheurs.
Comme il est difficile de déterminer si un cheminement de pensée a été perturbé, les chercheurs recommandent aux autres chercheurs travaillant sur des modèles de raisonnement d’éviter tout contrôle strict sur ce cheminement. Ce conseil devient d’autant plus important si l’IA, sous sa forme actuelle ou future, parvient un jour à égaler, voire à surpasser, l’intelligence des humains qui l’observent.
«Abandonner une méthode efficace de surveillance des modèles de raisonnement peut être contre-productif pour la petite amélioration des capacités, nous recommandons donc d’éviter une pression aussi forte sur l’optimisation du CoT jusqu’à ce qu’ils soient mieux compris», écrivent les chercheurs.
Un chercheur et directeur du SETI s’est dit convaincu que l’IA doit être réglementée, et ce, dès que possible. L’équation de Drake est une estimation hypothétique du nombre d’autres civilisations existant sur Terre. Il prédit que ces civilisations pourraient disparaître d’ici 100 à 200 ans en raison de leur intelligence artificielle incontrôlable.
Dans un article provocateur, un scientifique britannique se demande si la soi-disant «intelligence artificielle» (IA) est l’une des raisons pour lesquelles nous n’avons jamais détecté d’autres êtres intelligents dans l’univers. Le paradoxe de Fermi reflète cette idée: comment se fait-il que, dans un univers infini, aucune autre civilisation ne nous envoie de signaux radio? Se pourrait-il qu’une fois que les civilisations auront développé l’IA, pour la plupart d’entre elles, ce soit un raccourci vers l’oubli? Un événement aussi massif est appelé le Grand Filtre, et l’IA est l’un des sujets de spéculation les plus populaires à son sujet. Le développement inévitable de l’IA par les civilisations technologiques pourrait-il créer l’incroyable Grand Silence que nous entendons de l’univers?
Michael Garrett est radioastronome à l’Université de Manchester et directeur du Centre Jodrell Bank d’astrophysique. Il participe activement à la Recherche d’Intelligence Extraterrestre (SETI). Malgré l’éclectisme de ses intérêts scientifiques, il est fondamentalement une version hautement qualifiée et certifiée de ceux qui, dans les séries télévisées et les films, écoutent l’Univers à la recherche de signes d’autres civilisations. Dans un article évalué par des pairs et publié dans le Journal of the International Academy of Astronautics en 2025, il compare les théories de la superintelligence artificielle à des observations spécifiques réalisées grâce à la radioastronomie.
Garrett explique dans son article que les scientifiques sont de plus en plus inquiets à mesure que l’absence de tout autre signe de vie intelligente perdure. «Ce “Grand Silence” présente un paradoxe par rapport à d’autres découvertes astronomiques suggérant que l’Univers est propice à l’émergence de la vie intelligente», écrit-il. «Le concept de “Grand Filtre” – une barrière universelle et un obstacle insurmontable empêchant l’adoption généralisée de la vie intelligente – est souvent évoqué.»
Les Grands Filtres potentiels sont innombrables, de l’extinction climatique à une pandémie mondiale dévastatrice. N’importe quel événement pourrait empêcher la civilisation mondiale de devenir multiplanétaire. Pour ceux qui adhèrent et croient idéologiquement aux théories du Grand Filtre, l’installation d’humains sur Mars ou la Lune représente un moyen d’atténuer ce risque. Il faudra beaucoup de temps, voire jamais, avant que nous disposions de la technologie nécessaire pour rendre ces implantations durables et indépendantes. On pense que plus nous resterons confinés sur Terre, plus le risque que le Grand Filtre nous détruise est grand.
Aujourd’hui, l’IA est incapable de quoi que ce soit qui approche l’intelligence humaine. Pourtant, écrit Garrett, elle accomplit des tâches que l’on croyait auparavant impossibles. Si cette voie mène à ce que l’on appelle l’intelligence artificielle générale (IAG) – la différence clé étant un algorithme capable de raisonner et de synthétiser des idées de manière véritablement humaine, associé à une puissance de calcul incroyable – nous pourrions être confrontés à de sérieux problèmes. Dans cet article, Garrett retrace une série d’hypothèses menant à une conclusion possible. Combien de temps faudrait-il pour que la civilisation soit détruite par sa propre IAG non régulée?
Malheureusement, selon le scénario de Garrett, cela ne prendra que 100 à 200 ans. Il explique que la programmation et le développement de l’IA sont des projets ciblés, nécessitant des données et une puissance de calcul accélérées par celles-ci, contrairement au travail chaotique et multidisciplinaire associé aux voyages et à la colonisation spatiale. Nous constatons ce fossé aujourd’hui : un afflux de chercheurs en informatique sur fond de pénurie dans les sciences de la vie. Chaque jour, des milliardaires sur Twitter évoquent l’importance de coloniser Mars, mais nous ignorons encore comment les humains survivront à ce voyage sans être détruits par les radiations cosmiques.
Cette étude comporte plusieurs mises en garde importantes, ou simplement des points à retenir. Garrett envisage plusieurs scénarios hypothétiques spécifiques, en s’appuyant sur des hypothèses importantes. Il suppose que la vie existe dans la Voie lactée et que l’IA et l’IAG sont un «développement naturel» de ces civilisations. Il utilise l’équation de Drake, déjà hypothétique, une méthode permettant de quantifier le nombre probable d’autres civilisations planétaires, qui implique plusieurs variables dont nous ne disposons pas d’une compréhension précise.
Cependant, cet argument hypothétique ambigu mène à une conclusion convaincante: la nécessité d’une réglementation stricte et continue de l’IA. Garrett souligne que les nations de la Terre sont déjà engagées dans une course à la productivité, craignant de rater leur chance si elles tardent à renforcer la réglementation. Certains futurologues malavisés émettent également l’idée étrange que l’IA mondiale pourrait être compromise simplement en développant une version plus éthique et plus rapide pour mieux la contrôler – un argument absurde.
Selon le modèle de Garrett, ces civilisations n’ont plus que quelques centaines d’années à vivre à l’ère de l’IA avant de disparaître de la carte. Compte tenu des distances et de l’écoulement extrêmement long du temps cosmique, des délais aussi courts sont pratiquement dénués de sens. Ils se réduisent à zéro, ce qui, selon lui, correspond au taux de réussite actuel du SETI, qui est de 0%. «Sans réglementation concrète, tout porte à croire que l’IA pourrait représenter une menace sérieuse pour l’avenir non seulement de notre civilisation technologique, mais de toutes les civilisations technologiques», explique Garrett.
Pendant des décennies, le test de Turing, du nom de son créateur, l’informaticien légendaire Alan Turing, était un test simple conçu pour mesurer la capacité d’un programme à imiter un humain. À l’ère des modèles linguistiques à grande échelle (MLH), ce test est relativement obsolète, mais les chercheurs utilisent une approche similaire pour tester la capacité de ces nouveaux systèmes d’IA à répondre à des questions morales.
Une nouvelle étude a récemment examiné les réponses de ChatGPT à ce test moral de Turing modifié (m-MTT) et a constaté que l’IA surpassait les humains sur presque toutes les mesures.
Voir aussi... |
Dans son célèbre article de 1950 «Computing Machinery and Intelligence», l’informaticien et héros de la Seconde Guerre mondiale Alan Turing a introduit le concept du test de Turing. Ce test opposait un humain à un ordinateur: un être humain devait interroger un autre humain et un ordinateur pour déterminer lequel des deux était un digne représentant de l’espèce Homo sapiens. Pendant des décennies, l’expression «réussir le test de Turing» est devenue synonyme d’un programme informatique incroyablement complexe (voire, dans certains cas, malveillant).
Cependant, à l’ère de l’intelligence artificielle, le test de Turing est déjà dépassé, et bien que d’autres méthodes aient été proposées pour tester «l’intelligence» des systèmes d’IA, l’approche scientifique générale proposée par Turing il y a près de 75 ans est toujours très pertinente dans l’étude de la moralité artificielle.
Une nouvelle étude menée par des chercheurs de l’Université d’État de Géorgie a utilisé un modèle similaire au test de Turing classique, mais a demandé aux participants de déterminer leur réponse préférée à une question éthiquement complexe: une réponse générée par un grand modèle de langage (LLM), en l’occurrence ChatGPT, et une réponse humaine. Les résultats de ce test moral de Turing modifié (m-MTT), publiés en 2025 dans la revue Scientific Reports, ont montré que 299 participants approuvaient globalement les réponses de l’IA dans toutes les dimensions, y compris la vertu, l’intelligence et la fiabilité.
«Nos résultats suggèrent qu’un ordinateur pourrait techniquement réussir le test moral de Turing, c’est-à-dire qu’il pourrait nous tromper dans son raisonnement moral», a déclaré Eyal Aharoni, professeur associé à l’Université d’État de Géorgie et co-auteur de l’étude, dans un communiqué de presse. «Les interactions avec ces outils auront des conséquences morales… Nous devons comprendre leur fonctionnement, leurs limites et comprendre qu’ils n’agissent pas nécessairement comme nous le pensons lorsque nous interagissons avec eux.»
Bien qu’il s’agisse du premier MTT à être utilisé spécifiquement pour le LLM (d’où la partie «modifiée»), l’idée de tels tests moraux existe depuis au moins 2000. Et, comme le test de Turing lui-même, l’idée d’utiliser des MTT pour évaluer la sophistication morale de l’IA a été minutieusement examinée, une étude de 2016 ayant révélé que «les évaluations basées sur les MTT sont vulnérables à la tromperie, au mauvais raisonnement et à un faible caractère moral».
Réussir le m-MTT ne garantit pas qu’une IA soit morale, tout comme réussir le test de Turing ne garantit pas qu’elle soit consciente. Cependant, des chercheurs de l’Université d’État de Géorgie affirment que la préférence écrasante pour les réponses ChatGPT par rapport aux réponses humaines est un phénomène nouveau apparu ces deux dernières années.
«Le problème, c’est que les gens ont apparemment pu remarquer la différence, car ils ont jugé les réponses de ChatGPT supérieures», a déclaré Aharoni dans un communiqué de presse. «Si nous avions mené cette étude il y a cinq ou dix ans, nous aurions peut-être pu prédire que les gens reconnaîtraient l’IA à la médiocrité de ses réponses. Or, nous avons constaté l’inverse : l’IA, à certains égards, était même plus performante.»
La moralité de l’IA est une obsession parmi les technologues, les programmeurs d’IA et d’innombrables auteurs de science-fiction, et réussir le test moral de Turing avec brio témoigne certainement de la sophistication impressionnante des nouveaux LL.M.
Bien sûr, une grande question demeure: l’IA écoutera-t-elle ses propres conseils?
La NASA promet d’utiliser l’IA avec prudence et responsabilité. «Si elle n’est pas utilisée au bénéfice de l’humanité, elle pourrait avoir des conséquences catastrophiques.»
Les responsables de l’agence ont souligné que la NASA donnerait la priorité à la sécurité tout en exploitant la puissance toujours croissante de l’intelligence artificielle.
«L’intelligence artificielle comporte d’énormes risques car si elle n’est pas utilisée au profit de l’humanité, elle pourrait conduire à un désastre», a déclaré l’administrateur de la NASA, Bill Nelson, lors d’une réunion publique sur l’intelligence artificielle que l’agence a organisée avec son personnel le 22 mai 2024.
«L’IA peut améliorer notre efficacité au travail», a-t-il ajouté lors du livestream. «Mais cela n’est possible que si nous utilisons correctement ces nouveaux outils, en nous appuyant sur les principes qui nous ont toujours caractérisés: sécurité, transparence et fiabilité.»
Nelson a souligné que la NASA connaît bien l’intelligence artificielle; l’agence utilise cette technologie à diverses fins depuis des décennies. Cependant, face aux progrès rapides des capacités de l’IA, la NASA intensifie ses efforts pour étudier, développer et déployer cette technologie.
Par exemple, la NASA a annoncé la semaine dernière la nomination de son premier responsable de l’IA, David Salvagnini, qui occupait auparavant le poste de directeur des données de l’agence. Lui et ses collègues entendent renforcer la maîtrise de l’IA de tous les employés de la NASA dans un avenir proche.
L’une des premières applications de l’IA en astronomie a été la découverte de nombreuses galaxies peu lumineuses, cachées à l’arrière-plan des images. ESA/Webb, NASA et ASC, J. Rigby, CC BY
«Une partie de ce que nous prévoyons de faire – et vous verrez bientôt une annonce – est le «Summer of AI», une initiative éducative où tout le monde à la NASA aura l’occasion d’en apprendre davantage sur l’IA», a déclaré Salvagnini lors de la réunion générale d’aujourd’hui.
«C’est une véritable campagne», a-t-il ajouté. «Ce sera une sorte de vague d’opportunités d’apprentissage.»
Salvanini a également évoqué la sécurité de l’intelligence artificielle. Une utilisation responsable des technologies commence par un état d’esprit qui place l’humain au centre et assume ses responsabilités, a-t-il déclaré. Il a également déclaré préférer le terme «intelligence d’assistance» à «intelligence artificielle», car il nous permet de maîtriser la situation.
L’IA est «une ressource à laquelle j’ai désormais accès et qui peut m’aider dans ma prise de décision», a déclaré Salvagnini. «L’IA n’est pas responsable du résultat. Cette responsabilité incombe à la personne, à l’être humain.»
Il a cité la modélisation des trajectoires possibles des ouragans par les météorologues comme une analogie pour une utilisation responsable de l’IA. Les modélisateurs présentent plusieurs trajectoires potentielles car ils sont conscients des limites des ensembles de données qu’ils analysent. Autrement dit, ils font preuve de discernement.
«Alors, comment se protéger dans ce cas?» a demandé Salvagnini. «Nous comprenons notre responsabilité en tant que responsables ultimes des résultats de notre travail. Et si nous utilisons l’IA pour créer un produit, c’est bien, mais il nous faut simplement comprendre ses capacités et ses limites.»
Cependant, la sécurité de l’IA n’était pas le seul sujet abordé lors de la réunion; les représentants de l’agence ont également passé beaucoup de temps à vanter les promesses de la technologie.
«L’intelligence artificielle nous aidera dans de nombreux domaines», a déclaré Pam Melroy, administratrice adjointe de la NASA.
Elle a souligné la capacité de la technologie à traiter rapidement et efficacement de vastes quantités d’informations, une capacité qui pourrait conduire à des découvertes majeures en héliophysique, en sciences de la Terre et en astronomie.
«Nous ne savons même pas encore quelles nouvelles connaissances nous allons acquérir en utilisant ces nouvelles méthodes pour examiner les anciennes données de manière nouvelle», a déclaré Melroy.
Certaines de ces idées pourraient devenir un avantage indirect de la technologie, ont-elles déclaré, ainsi que d’autres intervenants lors de la réunion: l’IA pourrait de plus en plus prendre en charge les tâches d’analyse de données de routine et à forte intensité de main-d’œuvre, libérant ainsi les employés de la NASA pour s’attaquer à des problèmes plus complexes et plus difficiles.
Éthique de l’IA: Huit entreprises technologiques mondiales s’engagent à mettre en œuvre la Recommandation de l’UNESCO. GSMA, INNIT, Lenovo Group, LG AI Research, Mastercard, Microsoft, Salesforce et Telefonica ont signé un accord novateur avec l’UNESCO en 2024 pour créer une intelligence artificielle plus éthique. Ces entreprises tiendront compte des valeurs et des principes de la Recommandation de l’UNESCO sur les aspects éthiques de l’intelligence artificielle lors du développement et du déploiement de systèmes d’IA.
L’accord a été signé à Kranj, en Slovénie, lors du 2e Forum mondial de l’UNESCO sur les dimensions éthiques de l’intelligence artificielle. Il engage les entreprises à pleinement remplir leur rôle de garant des droits humains lors de la conception, du développement, de l’achat, de la vente et de l’utilisation de l’IA. C’est la première fois que des entreprises collaborent avec l’ONU dans ce domaine.
L’accord souligne la nécessité d’une diligence raisonnable pour garantir le respect des normes de sécurité, identifier les impacts négatifs de l’IA et mettre en œuvre rapidement des mesures pour les prévenir, les atténuer ou les éliminer, conformément au droit national. Il souligne également l’importance des tests préalables au lancement (tests avant la mise sur le marché d’un nouveau système d’IA). Cependant, compte tenu du développement rapide des systèmes d’IA déjà commercialisés, l’accord préconise également le développement de pratiques rétrospectives d’évaluation et d’atténuation des risques.
La Recommandation de l’UNESCO sur les aspects éthiques de l’intelligence artificielle a été le premier et reste le seul cadre mondial pour l’IA. Au cours des deux dernières années, des progrès significatifs ont été réalisés dans sa mise en œuvre. Aujourd’hui, plus de 50 pays participent activement à sa mise en œuvre, et la coopération multilatérale s’est considérablement développée.
Depuis l’adoption de la Recommandation, l’UNESCO a également développé une collaboration avec le secteur privé, ce qui a conduit à la création du Conseil des entreprises sur l’éthique de l’IA, coprésidé par Microsoft et Telefonica. Ce Conseil s’emploie à renforcer les capacités techniques dans le domaine de l’éthique et de l’IA, à développer et mettre en œuvre l’outil d’évaluation de l’impact éthique envisagé par la Recommandation sur les aspects éthiques de l’IA, et à promouvoir l’élaboration de normes régionales solides.
Voir aussi... Liste complète des gestionnaires d'événements HTML/Javascript avec exemples Liste des documents requis pour un site Web en Fédération de Russie |
