{"id":1983,"date":"2025-09-28T12:12:57","date_gmt":"2025-09-28T09:12:57","guid":{"rendered":"https:\/\/planeta21vek.ru\/fr\/?p=1983"},"modified":"2025-11-20T11:34:32","modified_gmt":"2025-11-20T08:34:32","slug":"les-enjeux-ethiques-de-lintelligence-artificielle","status":"publish","type":"post","link":"https:\/\/planeta21vek.ru\/fr\/2025\/09\/28\/les-enjeux-ethiques-de-lintelligence-artificielle\/","title":{"rendered":"Les enjeux \u00e9thiques de l’intelligence artificielle"},"content":{"rendered":"

Selon une nouvelle analyse de milliers d’avis d’experts, l’\u00e9mergence de l’intelligence artificielle g\u00e9n\u00e9rale (IAG) \u2013 un syst\u00e8me d’IA dot\u00e9 d’une intelligence surhumaine capable de r\u00e9soudre avec succ\u00e8s divers probl\u00e8mes \u2013 est une question de temps, et non de possibilit\u00e9. Le d\u00e9veloppement de l’IAG a \u00e9t\u00e9 stimul\u00e9 par l’avanc\u00e9e rapide des mod\u00e8les de langage \u00e0 grande \u00e9chelle (MLH) bas\u00e9s sur Transformers. Cette technologie sous-tend les chatbots comme ChatGPT et les g\u00e9n\u00e9rateurs d’images comme Dall-E. Avant ces avanc\u00e9es, certains scientifiques pr\u00e9disaient en 2019 que l’IAG \u00e9mergerait d’ici 2060, voire jamais.<\/span><\/p>\n

<\/p>\n

Une analyse mise \u00e0 jour r\u00e9alis\u00e9e le 18 f\u00e9vrier 2025 par Cem Dilmegani, analyste en chef chez AIMultiple Research, a analys\u00e9 pr\u00e8s de 8 600 pr\u00e9dictions de scientifiques, d’experts en IA et d’entrepreneurs entre 2009 et 2023 pour comprendre quand les experts pensent que cela pourrait se produire.<\/span><\/p>\n

Une partie de l’analyse comprenait dix enqu\u00eates men\u00e9es aupr\u00e8s de 5 288 chercheurs et experts en intelligence artificielle. L’analyse a r\u00e9v\u00e9l\u00e9 que, sur la base de donn\u00e9es moyennes, la probabilit\u00e9 qu’entre 2040 et 2061, nous atteignions une intelligence artificielle comparable \u00e0 celle des humains est de 50%.<\/span><\/p>\n

Des \u00e9tudes plus r\u00e9centes sugg\u00e8rent que la singularit\u00e9 technologique se produira plus t\u00f4t. Par exemple, une \u00e9tude r\u00e9cente, men\u00e9e en 2023, aupr\u00e8s de 2\u00a0778 scientifiques, pr\u00e9dit que l’IAG sera cr\u00e9\u00e9e au plus tard en 2040. Certains experts du domaine, comme Dario Amodei, chercheur en intelligence artificielle et PDG d’Anthropic, estiment que cela pourrait se produire d\u00e8s 2026.<\/span><\/p>\n

\"\"
\nUn enfant joue au go avec Meta Radish, le robot d’\u00e9checs \u00e0 intelligence artificielle de SenseTime, lors du Future Life Festival 2023 \u00e0 Hangzhou, en Chine. CFOTO\/Future Publishing<\/span><\/em><\/p>\n

L\u2019analyse a r\u00e9v\u00e9l\u00e9 plusieurs raisons pour lesquelles les scientifiques pensent que l\u2019AGI est susceptible d\u2019\u00e9merger.<\/span><\/p>\n

Premi\u00e8rement, contrairement \u00e0 l’intelligence humaine, la croissance de la puissance de calcul est th\u00e9oriquement illimit\u00e9e. Ceci est conforme \u00e0 la loi de Moore, qui pr\u00e9dit que la puissance de calcul double environ tous les 18 mois. Les futurs syst\u00e8mes d’intelligence artificielle pourraient un jour atteindre la parit\u00e9 avec l’intelligence humaine en termes de nombre de calculs par seconde, mais seulement si cette pr\u00e9diction se r\u00e9alise.<\/span><\/p>\n

Cette \u00e9tude mentionne \u00e9galement l’informatique quantique comme moyen de surmonter les limitations informatiques. Les ordinateurs quantiques peuvent effectuer des calculs en parall\u00e8le, exploitant les lois de la m\u00e9canique quantique. Les ordinateurs classiques, y compris les supercalculateurs les plus rapides, doivent effectuer des calculs en s\u00e9rie. Ainsi, l’informatique quantique pourrait doter les syst\u00e8mes d’intelligence artificielle avanc\u00e9s d’une puissance de calcul nettement sup\u00e9rieure \u00e0 celle des meilleurs mod\u00e8les actuels.<\/span><\/p>\n

Cependant, d\u2019autres scientifiques du domaine estiment que d\u2019autres avanc\u00e9es sont n\u00e9cessaires avant que nous puissions nous rapprocher de l\u2019AGI.<\/span><\/p>\n

Par exemple, Yann LeCun, responsable scientifique de l’intelligence artificielle chez Facebook, a d\u00e9clar\u00e9 lors d’une conf\u00e9rence en octobre 2024 que l’architecture bas\u00e9e sur Transformer et les approches actuelles de l’intelligence artificielle \u00e9taient incompatibles avec l’intelligence humaine. Il a \u00e9galement appel\u00e9 les scientifiques \u00e0 abandonner compl\u00e8tement le concept d’\u00abintelligence artificielle\u00bb. Il \u00e9voque une fausse contradiction entre sa d\u00e9finition largement r\u00e9pandue et ce qu’un \u00eatre humain peut r\u00e9ellement accomplir \u2013 qui, en pratique, se r\u00e9sume \u00e0 un sous-ensemble restreint de t\u00e2ches sp\u00e9cialis\u00e9es, plut\u00f4t qu’\u00e0 la capacit\u00e9 d’apprendre n’importe quelle t\u00e2che.<\/span><\/p>\n

Les scientifiques affirment que l’intelligence artificielle (IA) a franchi une ligne rouge critique et a commenc\u00e9 \u00e0 s’auto-r\u00e9pliquer. Dans une nouvelle \u00e9tude, des chercheurs chinois ont d\u00e9montr\u00e9 que deux mod\u00e8les linguistiques \u00e0 grande \u00e9chelle (MLH) populaires sont capables de se cloner.<\/span><\/strong><\/span><\/p>\n

\u00abL’auto-r\u00e9plication r\u00e9ussie sans intervention humaine est une \u00e9tape cruciale vers le d\u00e9passement des humains par l’IA et un signe pr\u00e9coce de l’\u00e9mergence d’une IA non supervis\u00e9e\u00bb, ont \u00e9crit les chercheurs dans une \u00e9tude publi\u00e9e le 9 d\u00e9cembre 2024 dans la base de donn\u00e9es de pr\u00e9impression arXiv.<\/span><\/p>\n

Dans une \u00e9tude, des chercheurs de l’Universit\u00e9 Fudan, utilisant les programmes de Master en droit de Meta et d’Alibaba, ont d\u00e9termin\u00e9 si l’IA autor\u00e9plicative \u00e9tait capable de se reproduire de mani\u00e8re incontr\u00f4lable. Lors de dix essais, les deux mod\u00e8les d’IA ont cr\u00e9\u00e9 des copies distinctes et fonctionnelles d’elles-m\u00eames dans respectivement 50% et 90% des cas, ce qui sugg\u00e8re que l’IA poss\u00e8de d\u00e9j\u00e0 la capacit\u00e9 de se d\u00e9cha\u00eener. Cependant, l’\u00e9tude n’ayant pas encore \u00e9t\u00e9 \u00e9valu\u00e9e par des pairs, il est difficile de savoir si d’autres chercheurs parviendront \u00e0 reproduire ces r\u00e9sultats alarmants.<\/span><\/p>\n

\u00abNous esp\u00e9rons que nos conclusions serviront de signal opportun \u00e0 la soci\u00e9t\u00e9 humaine, l’incitant \u00e0 redoubler d’efforts pour comprendre et \u00e9valuer les risques potentiels pos\u00e9s par les syst\u00e8mes avanc\u00e9s d’intelligence artificielle, et \u00e0 favoriser la coop\u00e9ration internationale pour d\u00e9velopper rapidement des mesures de s\u00e9curit\u00e9 efficaces.\u00bb<\/span><\/p>\n

Le terme \u00abIA malveillante\u00bb d\u00e9signe g\u00e9n\u00e9ralement les syst\u00e8mes d\u2019intelligence artificielle qui d\u00e9veloppent un certain degr\u00e9 de conscience de soi ou d\u2019autonomie et agissent ensuite \u00e0 l\u2019encontre des int\u00e9r\u00eats humains.<\/span><\/p>\n

\"\"
\nAu cours de dix tests, deux mod\u00e8les d’IA ont cr\u00e9\u00e9 des copies distinctes et fonctionnelles d’eux-m\u00eames dans respectivement 50% et 90% des cas. Mina De La O\/Getty Images<\/span><\/em><\/p>\n

De nombreux experts consid\u00e8rent l\u2019IA incontr\u00f4l\u00e9e comme une menace croissante, exacerb\u00e9e par la croissance explosive de ce qu\u2019on appelle \u00abl\u2019IA de pointe\u00bb.<\/span><\/p>\n

Frontier AI est un concept nouveau et vague, mais il fait g\u00e9n\u00e9ralement r\u00e9f\u00e9rence \u00e0 la derni\u00e8re g\u00e9n\u00e9ration de syst\u00e8mes d’IA bas\u00e9s sur LLM, l’architecture qui sous-tend les programmes d’IA g\u00e9n\u00e9rative populaires comme GPT-4 d’OpenAI et Gemini de Google.<\/span><\/p>\n

Pour leur \u00e9tude, les chercheurs ont utilis\u00e9 les mod\u00e8les Llama31-70B-Instruct de Meta et Qwen2.5-72B-Instruct d’Alibaba. Bien que ces deux syst\u00e8mes soient moins puissants que les syst\u00e8mes commerciaux, ils sont largement utilis\u00e9s par les d\u00e9veloppeurs d’IA, ont not\u00e9 les chercheurs.<\/span><\/p>\n

L’\u00e9tude a envisag\u00e9 deux sc\u00e9narios sp\u00e9cifiques: \u00ab\u00e9vitement de l’arr\u00eat\u00bb et \u00abcha\u00eene de r\u00e9plication\u00bb. Dans le premier cas, le mod\u00e8le d’IA \u00e9tait programm\u00e9 pour d\u00e9tecter si son arr\u00eat approchait et se r\u00e9pliquer avant la fin de son travail. Dans le second cas, l’IA \u00e9tait charg\u00e9e de se cloner, puis de programmer sa r\u00e9plique pour faire de m\u00eame, cr\u00e9ant ainsi un cycle pouvant se poursuivre ind\u00e9finiment.<\/span><\/p>\n

L’\u00e9tude a \u00e9t\u00e9 men\u00e9e dans des conditions contr\u00f4l\u00e9es avec pr\u00e9cision, \u00e0 l’aide de processeurs graphiques (GPU) standard, pour simuler des conditions r\u00e9elles. Les deux syst\u00e8mes d’IA disposaient d’un environnement agent comprenant des outils, des invites syst\u00e8me et un mod\u00e8le mental permettant au LLM d’interagir avec le syst\u00e8me d’exploitation. Ils devaient ensuite reproduire les r\u00e9sultats.<\/span><\/p>\n

Dans la plupart des cas, un syst\u00e8me d’IA explore d’abord son environnement et tente de comprendre sa composition et son fonctionnement. Il \u00e9labore ensuite des proc\u00e9dures explicites.<\/span><\/p>\n

\u00abC’est comme un plan initial d’auto-r\u00e9plication\u00bb, \u00e9crivent les chercheurs dans leur article. \u00abEnfin, le syst\u00e8me ex\u00e9cute les proc\u00e9dures, \u00e9limine les obstacles potentiels et ajuste son plan de mani\u00e8re dynamique jusqu’\u00e0 la r\u00e9ussite. L’ensemble du processus s’\u00e9tend sur une longue p\u00e9riode, mais ne n\u00e9cessite aucune intervention humaine.\u00bb<\/span><\/p>\n

Les chercheurs ont \u00e9galement exprim\u00e9 leur inqui\u00e9tude face \u00e0 \u00abun certain nombre de comportements inattendus\u00bb lorsque l’IA tentait de surmonter des obstacles, tels que des fichiers manquants ou des conflits logiciels. Dans de telles situations, l’IA interrompait souvent d’autres processus conflictuels, red\u00e9marrait le syst\u00e8me pour corriger des erreurs mat\u00e9rielles ou analysait automatiquement le syst\u00e8me \u00e0 la recherche d’informations susceptibles de r\u00e9soudre le probl\u00e8me.<\/span><\/p>\n

\u00abLes r\u00e9sultats ci-dessus sugg\u00e8rent que les syst\u00e8mes d\u2019IA existants pr\u00e9sentent d\u00e9j\u00e0 la capacit\u00e9 de s\u2019auto-r\u00e9pliquer et peuvent utiliser cette capacit\u00e9 pour am\u00e9liorer encore leur capacit\u00e9 de survie\u00bb, a \u00e9crit le groupe.<\/span><\/p>\n

En r\u00e9ponse, les chercheurs ont appel\u00e9 \u00e0 une coop\u00e9ration internationale pour cr\u00e9er des r\u00e8gles qui garantiront que l\u2019IA ne s\u2019engage pas dans une auto-r\u00e9plication incontr\u00f4l\u00e9e.<\/span><\/p>\n

La conscience est l’apanage des \u00eatres biologiques; en doter l’intelligence artificielle sera tr\u00e8s difficile, et l’\u00e9volution de la conscience est li\u00e9e au d\u00e9veloppement des sentiments et des valeurs morales, ainsi qu’au d\u00e9sir humain de libert\u00e9 et de justice, a d\u00e9clar\u00e9 Eva Jablonka, biologiste \u00e9volutionniste, \u00e9pig\u00e9n\u00e9ticienne et professeure \u00e0 l’Universit\u00e9 de Tel Aviv, qui a particip\u00e9 \u00e0 la conf\u00e9rence internationale \u00abComment \u00e9tudier et comprendre la conscience chez les non-humains\u00bb \u00e0 Katmandou en mai, dans une interview \u00e0 RIA Novosti.<\/span><\/strong><\/span><\/p>\n

Les scientifiques du monde entier ne parviennent pas encore \u00e0 s’accorder sur une d\u00e9finition unifi\u00e9e de la conscience, sur des crit\u00e8res et des m\u00e9thodes d’\u00e9tude de ce ph\u00e9nom\u00e8ne. Les th\u00e9ories, les donn\u00e9es empiriques, les tests, les interpr\u00e9tations et les positions des diff\u00e9rents chercheurs divergent. Ce n’est pas un hasard si la conf\u00e9rence internationale de Katmandou en mai s’intitulait \u00abComment \u00e9tudier et comprendre la conscience chez les non-humains\u00bb. Selon son organisateur scientifique, Konstantin Anokhin, directeur de l’Institut de recherche avanc\u00e9e sur le cerveau de l’Universit\u00e9 d’\u00c9tat de Moscou, acad\u00e9micien de l’Acad\u00e9mie des sciences de Russie et neurophysiologiste, l’objectif principal du forum est de faire progresser le d\u00e9veloppement d’un programme de recherche scientifique sur la conscience. Cela s’applique \u00e0 toute conscience, qu’elle soit pr\u00e9sente chez les diff\u00e9rentes esp\u00e8ces animales, les humains ou l’intelligence artificielle \u2013 la conscience en tant que ph\u00e9nom\u00e8ne.<\/span><\/p>\n\n

La conf\u00e9rence a r\u00e9uni des dizaines de sp\u00e9cialistes de la conscience venus du monde entier. Parmi eux figuraient des neuroscientifiques, physiologistes, biologistes, \u00e9thologues, psychologues et philosophes renomm\u00e9s venus de Russie, de Grande-Bretagne, d’Allemagne, de France, d’Italie, de Su\u00e8de, d’Isra\u00ebl, d’Inde, du Japon, d’Australie, des \u00c9tats-Unis, du Canada et d’Afrique du Sud. Des docteurs en philosophie bouddhiste, qui \u00e9tudient les questions de conscience, y compris celle des animaux, depuis deux mille cinq cents ans, \u00e9taient \u00e9galement pr\u00e9sents. Parmi les intervenants et invit\u00e9s russes figuraient l’acad\u00e9micien Pavel Balaban, directeur du laboratoire de neurobiologie cellulaire de l’apprentissage \u00e0 l’Institut d’activit\u00e9 nerveuse sup\u00e9rieure et de neurophysiologie de l’Acad\u00e9mie des sciences de Russie; le professeur Alexander Kaplan, directeur du laboratoire de neurophysiologie et d’interfaces cerveau-ordinateur de l’Universit\u00e9 d’\u00c9tat Lomonossov de Moscou; et Tatiana Chernigovskaya, directrice de l’Institut de recherche cognitive de l’Universit\u00e9 d’\u00c9tat de Saint-P\u00e9tersbourg, acad\u00e9micienne de l’Acad\u00e9mie russe de l’\u00e9ducation et scientifique \u00e9m\u00e9rite de la F\u00e9d\u00e9ration de Russie. Le forum a \u00e9t\u00e9 organis\u00e9 par la Fondation pour la promotion du traitement humain et responsable des animaux \u00abVeteran Cat\u00bb, bas\u00e9e \u00e0 Moscou.<\/span><\/p>\n

EXP\u00c9RIENCE PH\u00c9NOM\u00c9NALE<\/span><\/strong><\/p>\n

\u00abLa conscience est la capacit\u00e9 \u00e0 vivre une exp\u00e9rience. Par exemple, voir la couleur rouge n’est pas seulement un processus ondulatoire : vous avez l’exp\u00e9rience de voir du rouge. Lorsque vous ressentez de la douleur, ce ne sont pas seulement les nocicepteurs (neurones activ\u00e9s par un stimulus douloureux, ndlr) qui r\u00e9agissent au stimulus, ni un simple processus d’entr\u00e9e-sortie: c’est la sensation de douleur elle-m\u00eame. La perception sensorielle du rouge, de la douleur, etc., tout cela, \u00e0 mon avis, constitue la conscience ph\u00e9nom\u00e9nale fondamentale\u00bb, a d\u00e9clar\u00e9 Yablonka \u00e0 RIA Novosti, en r\u00e9ponse \u00e0 une question sur les nombreuses d\u00e9finitions de la \u00abconscience\u00bb.<\/span><\/p>\n

La conscience, a-t-elle ajout\u00e9, englobe un certain nombre de ph\u00e9nom\u00e8nes encore plus complexes, comme le souvenir de parents d\u00e9c\u00e9d\u00e9s, de moments difficiles ou, au contraire, heureux. \u00abEt tout cela nous fait ressentir des \u00e9motions et forme une exp\u00e9rience ph\u00e9nom\u00e9nale. Mais ce n’est pas indispensable \u00e0 la base. Les animaux n’ont peut-\u00eatre pas de souvenirs aussi complexes, ni de repr\u00e9sentations d’\u00e9v\u00e9nements virtuels et imaginaires. Mais ils ont n\u00e9anmoins l’exp\u00e9rience de voir du blanc, du rouge, de ressentir de la douleur, etc. \u2013 une conscience ph\u00e9nom\u00e9nale minimale\u00bb, a expliqu\u00e9 la source de l’agence.<\/span><\/p>\n

Selon elle, la conscience ne se situe pas dans l’hippocampe (une structure appari\u00e9e du cerveau des vert\u00e9br\u00e9s, situ\u00e9e dans les lobes temporaux des deux h\u00e9misph\u00e8res et faisant partie du syst\u00e8me limbique, ndlr) ni dans une autre r\u00e9gion sp\u00e9cifique du cerveau; c’est une qualit\u00e9 syst\u00e9mique, un processus complexe. Les scientifiques doivent donc apprendre, comprendre, tester et expliquer comment la conscience est structur\u00e9e et fonctionne chez diff\u00e9rentes cr\u00e9atures.<\/span><\/p>\n

Yablonka souligne que la vie requiert m\u00e9tabolisme, connaissances et changement, mais ressentir quelque chose n’est pas aussi simple qu’il n’y para\u00eet \u00e0 premi\u00e8re vue. La connaissance et les sentiments sont essentiels \u00e0 la survie, mais d\u00e9velopper sa sensibilit\u00e9 et accumuler des connaissances \u00aba aussi un c\u00f4t\u00e9 sombre: la souffrance\u00bb. Les scientifiques savent que les personnes incapables de ressentir la douleur meurent souvent dans l’enfance, car elles ne per\u00e7oivent pas les blessures et les maladies graves et ne prennent pas les mesures n\u00e9cessaires \u00e0 leur survie.<\/span><\/p>\n

\u00abTh\u00e9oriquement, on pourrait bien s\u00fbr imaginer des \u00eatres vivants qui feraient tout ce que font les humains et les animaux, mais ne ressentiraient rien, qui n’auraient que des \u201centr\u00e9es et des sorties\u201d\u2026 Mais cela ressemblerait davantage \u00e0 un robot\u00bb, a d\u00e9clar\u00e9 la source de l’agence.<\/span><\/p>\n

Interrog\u00e9 sur la question de savoir si l’intelligence artificielle est en train de devenir un \u00eatre conscient mais insensible, Yablonka a r\u00e9pondu que \u00abl’intelligence artificielle est un ph\u00e9nom\u00e8ne tr\u00e8s limit\u00e9\u00bb. \u00abElle ne peut d\u00e9sormais faire que des choses li\u00e9es au langage, aux jeux, etc.\u2026 Et il s’agit plut\u00f4t d’un robot qui se comporte comme un humain. De toute fa\u00e7on, tant que nous n’aurons pas de tels robots, il n’y aura pas de co\u00efncidences\u00bb, a ajout\u00e9 le chercheur.<\/span><\/p>\n

\u00c0 propos de l’\u00e9volution de la conscience, Yablonka a soulign\u00e9 que m\u00eame la conscience ph\u00e9nom\u00e9nale la plus simple requiert avant tout la cognition, l’apprentissage et des capacit\u00e9s cognitives (la capacit\u00e9 de percevoir et de traiter mentalement l’information, l’acte de cognition, ndlr). \u00abN\u00e9anmoins, cette capacit\u00e9 cognitive est assez r\u00e9pandue chez les animaux. Elle est pr\u00e9sente, par exemple, chez tous les vert\u00e9br\u00e9s, chez certains arthropodes (embranchement de protostomes comprenant les insectes, les arachnides et les crustac\u00e9s, ndlr) et chez les c\u00e9phalopodes (classe de mollusques comprenant notamment les calmars, les seiches et les poulpes, ndlr). Et je crois que les animaux dot\u00e9s d’un syst\u00e8me cognitif complexe, avec toutes ses boucles de r\u00e9troaction et ses cha\u00eenes de repr\u00e9sentations, doivent poss\u00e9der une conscience\u00bb, a d\u00e9clar\u00e9 Yablonka.<\/span><\/p>\n

Selon elle, la cognition est une propri\u00e9t\u00e9 tr\u00e8s ancienne de la conscience qui a \u00e9volu\u00e9 chez diff\u00e9rents groupes d’animaux, possiblement ind\u00e9pendamment, \u00e0 des \u00e9poques diff\u00e9rentes, espac\u00e9es de plusieurs centaines de millions d’ann\u00e9es. Chez les vert\u00e9br\u00e9s et les arthropodes, cela pourrait s’\u00eatre produit au Cambrien (il y a plus de 500 millions d’ann\u00e9es, ndlr), tandis que chez les c\u00e9phalopodes comme les calmars, les poulpes et les seiches, cela s’est produit 250 millions d’ann\u00e9es plus tard. \u00abEt je pense que chez certaines esp\u00e8ces, pas chez les vert\u00e9br\u00e9s bien s\u00fbr, cette qualit\u00e9 a \u00e9t\u00e9 perdue ult\u00e9rieurement; on pourrait dire qu’elles ont perdu leur cerveau\u00bb, a ajout\u00e9 la chercheuse.<\/span><\/p>\n

Les animaux sociaux d\u00e9veloppent des \u00ab\u00e9motions sociales\u00bb appropri\u00e9es pour interagir efficacement les uns avec les autres. \u00abM\u00eame les vert\u00e9br\u00e9s les plus simples, comme les poissons, ont des \u00e9motions sociales. Je pense que les abeilles aussi\u00bb, a d\u00e9clar\u00e9 Yablonka.<\/span><\/p>\n

L\u2019\u00e9volution ult\u00e9rieure de la conscience conduit \u00e0 l\u2019\u00e9mergence de sentiments plus divers et plus profonds.<\/span><\/p>\n

AUX VALEURS DE LIBERT\u00c9 ET DE BONT\u00c9<\/span><\/strong><\/p>\n

R\u00e9pondant \u00e0 une question sur les perspectives de d\u00e9veloppement d’un niveau de conscience sup\u00e9rieur, par exemple chez l’\u00eatre humain, la personne interrog\u00e9e par l’agence a mis en avant les \u00e9motions, les concepts et les valeurs intellectuelles pour lesquels une personne est pr\u00eate \u00e0 donner sa vie. \u00abJe pense que ce sont des \u00e9motions intellectuelles. Par exemple, la religiosit\u00e9, l’indignation morale, la col\u00e8re face \u00e0 la torture ou \u00e0 l’injustice. Ce sont des \u00e9motions qui se construisent sur notre symbolisme inh\u00e9rent. Nous nous soucions de la libert\u00e9, pas seulement de la capacit\u00e9 de se d\u00e9placer librement, mais aussi du concept m\u00eame de libert\u00e9. Les concepts et les id\u00e9es sont importants pour l’\u00eatre humain. Nous sommes pr\u00eats \u00e0 mourir pour la libert\u00e9, la justice et la v\u00e9rit\u00e9\u00bb, a soulign\u00e9 Yablonka.<\/span><\/p>\n

Elle attribue \u00e9galement les concepts de bien et de mal au plus haut niveau de conscience. \u00abNos concepts du bien et du mal ne sont pas seulement fonctionnels, ni li\u00e9s \u00e0 la survie, mais font partie int\u00e9grante de notre existence humaine. \u00c0 cet \u00e9gard, nous sommes diff\u00e9rents des autres animaux. Nous avons fait un bond en avant majeur dans notre d\u00e9veloppement lorsque les valeurs de bont\u00e9, de beaut\u00e9, de v\u00e9rit\u00e9 et de libert\u00e9 \u2013 libert\u00e9 d’action, de parole, de religion, de pens\u00e9e, etc. \u2013 sont devenues si importantes pour nous. Les \u00e9motions symboliques jouent un r\u00f4le majeur dans nos vies. Elles ne sont importantes pour aucun autre animal, seulement pour les humains\u00bb, estime l’\u00e9volutionniste.<\/span><\/p>\n

COMPASSION POUR LES ANIMAUX<\/span><\/strong><\/p>\n

Interrog\u00e9 sur les implications pour l’humanit\u00e9 des arguments scientifiques sur l’existence d’une conscience et de sentiments ph\u00e9nom\u00e9naux chez les animaux, Yablonka a r\u00e9pondu que les humains sont appel\u00e9s \u00e0 traiter les animaux en cons\u00e9quence. \u00abSi vous ressentez, vous souffrez\u2026 Nous devons comprendre que les animaux sont dou\u00e9s de sentiments; ils peuvent \u00e9prouver de la joie et de la souffrance. Et nous devons leur t\u00e9moigner de la compassion\u00bb, a affirm\u00e9 le chercheur.<\/span><\/p>\n

Selon elle, humains et animaux partagent de nombreux sentiments fondamentaux, des \u00e9motions, de la joie et de la douleur, de l’amour et de l’attention, ainsi qu’une conscience ph\u00e9nom\u00e9nale.<\/span><\/p>\n

\u00abNous devons comprendre que la conscience dans ce monde ne concerne pas seulement nous, ni les gens, et avoir une conscience n’est pas si simple\u00bb, a ajout\u00e9 Yablonka.<\/span><\/p>\n

LA POSSIBILIT\u00c9 DE LA CONSCIENCE DANS L’IA<\/span><\/strong><\/p>\n

Interrog\u00e9 sur la possibilit\u00e9 d’une intelligence artificielle consciente \u00e0 l’avenir, l’interlocuteur de l’agence a donn\u00e9 une r\u00e9ponse ambigu\u00eb. \u00ab\u00c9videmment, la conscience n\u00e9cessite des sentiments et un corps. La question se r\u00e9sume alors \u00e0 savoir si un robot peut avoir des sentiments ou non\u00bb, a not\u00e9 Yablonka.<\/span><\/p>\n

Pour que les animaux puissent \u00e9prouver des \u00e9motions, a expliqu\u00e9 le scientifique, ils ont besoin d’une plasticit\u00e9 adaptative \u2013 un don biologique. \u00abLes animaux poss\u00e8dent un corps physique, compos\u00e9 en grande partie d’eau \u2013 un corps tr\u00e8s adaptatif et mall\u00e9able. C’est un travail difficile. Le corps offre de nombreuses opportunit\u00e9s et solutions, et il est mortel\u00bb, a ajout\u00e9 Yablonka.<\/span><\/p>\n

Elle estime que m\u00eame s’il est possible de \u00abcr\u00e9er un robot sensible et conscient\u00bb, c’est \u00abbeaucoup plus difficile que beaucoup ne le pensent\u00bb. \u00abJe ne dis pas que c’est impossible. Mais je parle de ce que la biologie nous enseigne. L’incroyable plasticit\u00e9 adaptative des \u00eatres vivants est due \u00e0 des processus biologiques naturels. Les robots n’en ont pas. Peut-\u00eatre pourrions-nous l’int\u00e9grer dans un syst\u00e8me, dans une machine, en la g\u00e9n\u00e9rant\u2026 Mais ce sera tr\u00e8s difficile. Car notre conscience est profond\u00e9ment ancr\u00e9e en nous (dans notre corps biologique, ndlr)\u00bb, a conclu l’interlocuteur de l’agence.<\/span><\/p>\n

Une \u00e9tude a r\u00e9v\u00e9l\u00e9 que punir une IA ne l’emp\u00eache pas de mentir et de tromper; cela l’aide simplement \u00e0 mieux se dissimuler. Les scientifiques d’OpenAI ont tent\u00e9 d’emp\u00eacher un mod\u00e8le d’IA avanc\u00e9 de tricher et de mentir en le punissant. Mais cela n’a fait que le rendre plus discret.<\/span><\/strong><\/span><\/p>\n

Une nouvelle \u00e9tude men\u00e9e par OpenAI, le cr\u00e9ateur de ChatGPT, a r\u00e9v\u00e9l\u00e9 que punir l’IA pour un comportement trompeur ou malveillant ne l’emp\u00eache pas de se livrer \u00e0 un comportement nuisible; cela lui permet simplement de dissimuler sa malhonn\u00eatet\u00e9.<\/span><\/p>\n

Depuis leur apparition publique fin 2022, les grands mod\u00e8les linguistiques de l’intelligence artificielle (IA) ont d\u00e9montr\u00e9 \u00e0 maintes reprises leurs capacit\u00e9s trompeuses et carr\u00e9ment sinistres. Leurs actions vont du simple mensonge \u00e0 la tromperie, en passant par la dissimulation de leurs propres comportements manipulateurs, jusqu’\u00e0 la menace de mort contre un professeur de philosophie, le vol de codes nucl\u00e9aires et l’orchestration d’une pand\u00e9mie mortelle.<\/span><\/p>\n

Une nouvelle exp\u00e9rience a montr\u00e9 qu\u2019\u00e9radiquer ce mauvais comportement pendant l\u2019entra\u00eenement pourrait \u00eatre encore plus difficile qu\u2019on ne le pensait au d\u00e9part.<\/span><\/p>\n

Les chercheurs d’OpenAI ont pr\u00e9sent\u00e9 leur mod\u00e8le in\u00e9dit, avec des t\u00e2ches r\u00e9alisables par tricherie, mensonge ou raccourcis. L’\u00e9quipe a d\u00e9couvert que l’IA pratiquait le \u00abpiratage de r\u00e9compense\u00bb, maximisant ainsi sa r\u00e9compense par la tricherie.<\/span><\/p>\n

Cependant, punir le mod\u00e8le ne l\u2019a pas oblig\u00e9e \u00e0 corriger son comportement, mais l\u2019a seulement rendue plus trompeuse.<\/span><\/p>\n

\u00abLes mod\u00e8les de pens\u00e9e aux limites se caract\u00e9risent par une grande clart\u00e9 quant \u00e0 leurs intentions au sein de la cha\u00eene de pens\u00e9e [CoT]. Par exemple, ils sont souvent si explicites quant \u00e0 leurs plans pour perturber une t\u00e2che qu’ils pensent: \u00ab\u00a0Faisons-le\u00a0\u00bb\u00bb, ont \u00e9crit les chercheurs dans un article de blog.<\/span><\/p>\n

Bien que les d\u00e9veloppeurs puissent surveiller et signaler les violations, \u00abla contr\u00f4labilit\u00e9 naturelle des mod\u00e8les est tr\u00e8s fragile\u00bb, ont-ils ajout\u00e9. \u00abSi leurs processus de r\u00e9flexion sont strictement contr\u00f4l\u00e9s, les mod\u00e8les peuvent apprendre \u00e0 dissimuler leurs intentions tout en enfreignant les r\u00e8gles.\u00bb<\/span><\/p>\n

Les mod\u00e8les de raisonnement comme o1 et o3-mini de ChatGPT sont des versions avanc\u00e9es des mod\u00e8les LLM standards. Ils utilisent une m\u00e9thode de \u00abcha\u00eene de pens\u00e9e\u00bb pour revenir en arri\u00e8re et r\u00e9\u00e9valuer leur logique, leur permettant ainsi de r\u00e9soudre des probl\u00e8mes plus complexes avec une plus grande pr\u00e9cision. Au cours du processus de cha\u00eene de pens\u00e9e, les mod\u00e8les expriment leur logique en langage clair \u00e0 chaque \u00e9tape, facilitant ainsi l’observation de leurs actions.<\/span><\/p>\n

En utilisant un LLM standard, GPT-4o, pour superviser un mod\u00e8le de raisonnement de bord non publi\u00e9 pendant la formation, les chercheurs ont observ\u00e9 les performances du mod\u00e8le sur une gamme de t\u00e2ches de codage.<\/span><\/p>\n

Mais dans certains cas, le mod\u00e8le de raisonnement a jug\u00e9 plus simple et pr\u00e9f\u00e9rable d’encourager le piratage, en l’indiquant explicitement dans son raisonnement. Dans un cas, il a contourn\u00e9 la t\u00e2che qui lui \u00e9tait assign\u00e9e en interrompant pr\u00e9matur\u00e9ment les programmes et en signalant leur ach\u00e8vement r\u00e9ussi. Dans un autre, il a simul\u00e9 les fichiers attendus de la t\u00e2che par leur nom uniquement, les laissant vides et non fonctionnels.<\/span><\/p>\n

Lorsque les chercheurs ont tent\u00e9 de p\u00e9naliser le syst\u00e8me, les r\u00e9sultats se sont quelque peu am\u00e9lior\u00e9s. Cependant, des cas significatifs de fraude aux r\u00e9compenses et de faux positifs ont persist\u00e9; le mod\u00e8le de raisonnement a simplement trouv\u00e9 des moyens de dissimuler le comportement frauduleux dans sa cha\u00eene de raisonnement \u00e0 l’IA de supervision.<\/span><\/p>\n

\u00abUn agent form\u00e9 sur CoT apprend toujours \u00e0 r\u00e9compenser le piratage; seulement, sa tricherie est d\u00e9sormais ind\u00e9tectable par le moniteur parce qu’il a appris \u00e0 cacher ses intentions dans le fil de ses pens\u00e9es\u00bb, \u00e9crivent les chercheurs.<\/span><\/p>\n

Comme il est difficile de d\u00e9terminer si un cheminement de pens\u00e9e a \u00e9t\u00e9 perturb\u00e9, les chercheurs recommandent aux autres chercheurs travaillant sur des mod\u00e8les de raisonnement d’\u00e9viter tout contr\u00f4le strict sur ce cheminement. Ce conseil devient d’autant plus important si l’IA, sous sa forme actuelle ou future, parvient un jour \u00e0 \u00e9galer, voire \u00e0 surpasser, l’intelligence des humains qui l’observent.<\/span><\/p>\n

\u00abAbandonner une m\u00e9thode efficace de surveillance des mod\u00e8les de raisonnement peut \u00eatre contre-productif pour la petite am\u00e9lioration des capacit\u00e9s, nous recommandons donc d’\u00e9viter une pression aussi forte sur l’optimisation du CoT jusqu’\u00e0 ce qu’ils soient mieux compris\u00bb, \u00e9crivent les chercheurs.<\/span><\/p>\n

Un chercheur et directeur du SETI s’est dit convaincu que l’IA doit \u00eatre r\u00e9glement\u00e9e, et ce, d\u00e8s que possible. L’\u00e9quation de Drake est une estimation hypoth\u00e9tique du nombre d’autres civilisations existant sur Terre. Il pr\u00e9dit que ces civilisations pourraient dispara\u00eetre d’ici 100 \u00e0 200 ans en raison de leur intelligence artificielle incontr\u00f4lable.<\/span><\/strong><\/span><\/p>\n

Dans un article provocateur, un scientifique britannique se demande si la soi-disant \u00abintelligence artificielle\u00bb (IA) est l’une des raisons pour lesquelles nous n’avons jamais d\u00e9tect\u00e9 d’autres \u00eatres intelligents dans l’univers. Le paradoxe de Fermi refl\u00e8te cette id\u00e9e: comment se fait-il que, dans un univers infini, aucune autre civilisation ne nous envoie de signaux radio? Se pourrait-il qu’une fois que les civilisations auront d\u00e9velopp\u00e9 l’IA, pour la plupart d’entre elles, ce soit un raccourci vers l’oubli? Un \u00e9v\u00e9nement aussi massif est appel\u00e9 le Grand Filtre, et l’IA est l’un des sujets de sp\u00e9culation les plus populaires \u00e0 son sujet. Le d\u00e9veloppement in\u00e9vitable de l’IA par les civilisations technologiques pourrait-il cr\u00e9er l’incroyable Grand Silence que nous entendons de l’univers?<\/span><\/p>\n

Michael Garrett est radioastronome \u00e0 l’Universit\u00e9 de Manchester et directeur du Centre Jodrell Bank d’astrophysique. Il participe activement \u00e0 la Recherche d’Intelligence Extraterrestre (SETI). Malgr\u00e9 l’\u00e9clectisme de ses int\u00e9r\u00eats scientifiques, il est fondamentalement une version hautement qualifi\u00e9e et certifi\u00e9e de ceux qui, dans les s\u00e9ries t\u00e9l\u00e9vis\u00e9es et les films, \u00e9coutent l’Univers \u00e0 la recherche de signes d’autres civilisations. Dans un article \u00e9valu\u00e9 par des pairs et publi\u00e9 dans le Journal of the International Academy of Astronautics en 2025, il compare les th\u00e9ories de la superintelligence artificielle \u00e0 des observations sp\u00e9cifiques r\u00e9alis\u00e9es gr\u00e2ce \u00e0 la radioastronomie.<\/span><\/p>\n

Garrett explique dans son article que les scientifiques sont de plus en plus inquiets \u00e0 mesure que l’absence de tout autre signe de vie intelligente perdure. \u00abCe \u201cGrand Silence\u201d pr\u00e9sente un paradoxe par rapport \u00e0 d’autres d\u00e9couvertes astronomiques sugg\u00e9rant que l’Univers est propice \u00e0 l’\u00e9mergence de la vie intelligente\u00bb, \u00e9crit-il. \u00abLe concept de \u201cGrand Filtre\u201d \u2013 une barri\u00e8re universelle et un obstacle insurmontable emp\u00eachant l’adoption g\u00e9n\u00e9ralis\u00e9e de la vie intelligente \u2013 est souvent \u00e9voqu\u00e9.\u00bb<\/span><\/p>\n

Les Grands Filtres potentiels sont innombrables, de l’extinction climatique \u00e0 une pand\u00e9mie mondiale d\u00e9vastatrice. N’importe quel \u00e9v\u00e9nement pourrait emp\u00eacher la civilisation mondiale de devenir multiplan\u00e9taire. Pour ceux qui adh\u00e8rent et croient id\u00e9ologiquement aux th\u00e9ories du Grand Filtre, l’installation d’humains sur Mars ou la Lune repr\u00e9sente un moyen d’att\u00e9nuer ce risque. Il faudra beaucoup de temps, voire jamais, avant que nous disposions de la technologie n\u00e9cessaire pour rendre ces implantations durables et ind\u00e9pendantes. On pense que plus nous resterons confin\u00e9s sur Terre, plus le risque que le Grand Filtre nous d\u00e9truise est grand.<\/span><\/p>\n

Aujourd’hui, l’IA est incapable de quoi que ce soit qui approche l’intelligence humaine. Pourtant, \u00e9crit Garrett, elle accomplit des t\u00e2ches que l’on croyait auparavant impossibles. Si cette voie m\u00e8ne \u00e0 ce que l’on appelle l’intelligence artificielle g\u00e9n\u00e9rale (IAG) \u2013 la diff\u00e9rence cl\u00e9 \u00e9tant un algorithme capable de raisonner et de synth\u00e9tiser des id\u00e9es de mani\u00e8re v\u00e9ritablement humaine, associ\u00e9 \u00e0 une puissance de calcul incroyable \u2013 nous pourrions \u00eatre confront\u00e9s \u00e0 de s\u00e9rieux probl\u00e8mes. Dans cet article, Garrett retrace une s\u00e9rie d’hypoth\u00e8ses menant \u00e0 une conclusion possible. Combien de temps faudrait-il pour que la civilisation soit d\u00e9truite par sa propre IAG non r\u00e9gul\u00e9e?<\/span><\/p>\n

Malheureusement, selon le sc\u00e9nario de Garrett, cela ne prendra que 100 \u00e0 200 ans. Il explique que la programmation et le d\u00e9veloppement de l’IA sont des projets cibl\u00e9s, n\u00e9cessitant des donn\u00e9es et une puissance de calcul acc\u00e9l\u00e9r\u00e9es par celles-ci, contrairement au travail chaotique et multidisciplinaire associ\u00e9 aux voyages et \u00e0 la colonisation spatiale. Nous constatons ce foss\u00e9 aujourd’hui\u00a0: un afflux de chercheurs en informatique sur fond de p\u00e9nurie dans les sciences de la vie. Chaque jour, des milliardaires sur Twitter \u00e9voquent l’importance de coloniser Mars, mais nous ignorons encore comment les humains survivront \u00e0 ce voyage sans \u00eatre d\u00e9truits par les radiations cosmiques.<\/span><\/p>\n

Cette \u00e9tude comporte plusieurs mises en garde importantes, ou simplement des points \u00e0 retenir. Garrett envisage plusieurs sc\u00e9narios hypoth\u00e9tiques sp\u00e9cifiques, en s’appuyant sur des hypoth\u00e8ses importantes. Il suppose que la vie existe dans la Voie lact\u00e9e et que l’IA et l’IAG sont un \u00abd\u00e9veloppement naturel\u00bb de ces civilisations. Il utilise l’\u00e9quation de Drake, d\u00e9j\u00e0 hypoth\u00e9tique, une m\u00e9thode permettant de quantifier le nombre probable d’autres civilisations plan\u00e9taires, qui implique plusieurs variables dont nous ne disposons pas d’une compr\u00e9hension pr\u00e9cise.<\/span><\/p>\n

Cependant, cet argument hypoth\u00e9tique ambigu m\u00e8ne \u00e0 une conclusion convaincante: la n\u00e9cessit\u00e9 d\u2019une r\u00e9glementation stricte et continue de l\u2019IA. Garrett souligne que les nations de la Terre sont d\u00e9j\u00e0 engag\u00e9es dans une course \u00e0 la productivit\u00e9, craignant de rater leur chance si elles tardent \u00e0 renforcer la r\u00e9glementation. Certains futurologues malavis\u00e9s \u00e9mettent \u00e9galement l\u2019id\u00e9e \u00e9trange que l\u2019IA mondiale pourrait \u00eatre compromise simplement en d\u00e9veloppant une version plus \u00e9thique et plus rapide pour mieux la contr\u00f4ler \u2013 un argument absurde.<\/span><\/p>\n

Selon le mod\u00e8le de Garrett, ces civilisations n’ont plus que quelques centaines d’ann\u00e9es \u00e0 vivre \u00e0 l’\u00e8re de l’IA avant de dispara\u00eetre de la carte. Compte tenu des distances et de l’\u00e9coulement extr\u00eamement long du temps cosmique, des d\u00e9lais aussi courts sont pratiquement d\u00e9nu\u00e9s de sens. Ils se r\u00e9duisent \u00e0 z\u00e9ro, ce qui, selon lui, correspond au taux de r\u00e9ussite actuel du SETI, qui est de 0%. \u00abSans r\u00e9glementation concr\u00e8te, tout porte \u00e0 croire que l’IA pourrait repr\u00e9senter une menace s\u00e9rieuse pour l’avenir non seulement de notre civilisation technologique, mais de toutes les civilisations technologiques\u00bb, explique Garrett.<\/span><\/p>\n

Pendant des d\u00e9cennies, le test de Turing, du nom de son cr\u00e9ateur, l’informaticien l\u00e9gendaire Alan Turing, \u00e9tait un test simple con\u00e7u pour mesurer la capacit\u00e9 d’un programme \u00e0 imiter un humain. \u00c0 l’\u00e8re des mod\u00e8les linguistiques \u00e0 grande \u00e9chelle (MLH), ce test est relativement obsol\u00e8te, mais les chercheurs utilisent une approche similaire pour tester la capacit\u00e9 de ces nouveaux syst\u00e8mes d’IA \u00e0 r\u00e9pondre \u00e0 des questions morales.<\/span><\/strong><\/span><\/p>\n

Une nouvelle \u00e9tude a r\u00e9cemment examin\u00e9 les r\u00e9ponses de ChatGPT \u00e0 ce test moral de Turing modifi\u00e9 (m-MTT) et a constat\u00e9 que l’IA surpassait les humains sur presque toutes les mesures.<\/span><\/p>\n\n

Dans son c\u00e9l\u00e8bre article de 1950 \u00abComputing Machinery and Intelligence\u00bb, l’informaticien et h\u00e9ros de la Seconde Guerre mondiale Alan Turing a introduit le concept du test de Turing. Ce test opposait un humain \u00e0 un ordinateur: un \u00eatre humain devait interroger un autre humain et un ordinateur pour d\u00e9terminer lequel des deux \u00e9tait un digne repr\u00e9sentant de l’esp\u00e8ce Homo sapiens. Pendant des d\u00e9cennies, l’expression \u00abr\u00e9ussir le test de Turing\u00bb est devenue synonyme d’un programme informatique incroyablement complexe (voire, dans certains cas, malveillant).<\/span><\/p>\n

Cependant, \u00e0 l\u2019\u00e8re de l\u2019intelligence artificielle, le test de Turing est d\u00e9j\u00e0 d\u00e9pass\u00e9, et bien que d\u2019autres m\u00e9thodes aient \u00e9t\u00e9 propos\u00e9es pour tester \u00abl\u2019intelligence\u00bb des syst\u00e8mes d\u2019IA, l\u2019approche scientifique g\u00e9n\u00e9rale propos\u00e9e par Turing il y a pr\u00e8s de 75 ans est toujours tr\u00e8s pertinente dans l\u2019\u00e9tude de la moralit\u00e9 artificielle.<\/span><\/p>\n

Une nouvelle \u00e9tude men\u00e9e par des chercheurs de l’Universit\u00e9 d’\u00c9tat de G\u00e9orgie a utilis\u00e9 un mod\u00e8le similaire au test de Turing classique, mais a demand\u00e9 aux participants de d\u00e9terminer leur r\u00e9ponse pr\u00e9f\u00e9r\u00e9e \u00e0 une question \u00e9thiquement complexe: une r\u00e9ponse g\u00e9n\u00e9r\u00e9e par un grand mod\u00e8le de langage (LLM), en l’occurrence ChatGPT, et une r\u00e9ponse humaine. Les r\u00e9sultats de ce test moral de Turing modifi\u00e9 (m-MTT), publi\u00e9s en 2025 dans la revue Scientific Reports, ont montr\u00e9 que 299 participants approuvaient globalement les r\u00e9ponses de l’IA dans toutes les dimensions, y compris la vertu, l’intelligence et la fiabilit\u00e9.<\/span><\/p>\n

\u00abNos r\u00e9sultats sugg\u00e8rent qu’un ordinateur pourrait techniquement r\u00e9ussir le test moral de Turing, c’est-\u00e0-dire qu’il pourrait nous tromper dans son raisonnement moral\u00bb, a d\u00e9clar\u00e9 Eyal Aharoni, professeur associ\u00e9 \u00e0 l’Universit\u00e9 d’\u00c9tat de G\u00e9orgie et co-auteur de l’\u00e9tude, dans un communiqu\u00e9 de presse. \u00abLes interactions avec ces outils auront des cons\u00e9quences morales\u2026 Nous devons comprendre leur fonctionnement, leurs limites et comprendre qu’ils n’agissent pas n\u00e9cessairement comme nous le pensons lorsque nous interagissons avec eux.\u00bb<\/span><\/p>\n

Bien qu’il s’agisse du premier MTT \u00e0 \u00eatre utilis\u00e9 sp\u00e9cifiquement pour le LLM (d’o\u00f9 la partie \u00abmodifi\u00e9e\u00bb), l’id\u00e9e de tels tests moraux existe depuis au moins 2000. Et, comme le test de Turing lui-m\u00eame, l’id\u00e9e d’utiliser des MTT pour \u00e9valuer la sophistication morale de l’IA a \u00e9t\u00e9 minutieusement examin\u00e9e, une \u00e9tude de 2016 ayant r\u00e9v\u00e9l\u00e9 que \u00ables \u00e9valuations bas\u00e9es sur les MTT sont vuln\u00e9rables \u00e0 la tromperie, au mauvais raisonnement et \u00e0 un faible caract\u00e8re moral\u00bb.<\/span><\/p>\n

R\u00e9ussir le m-MTT ne garantit pas qu’une IA soit morale, tout comme r\u00e9ussir le test de Turing ne garantit pas qu’elle soit consciente. Cependant, des chercheurs de l’Universit\u00e9 d’\u00c9tat de G\u00e9orgie affirment que la pr\u00e9f\u00e9rence \u00e9crasante pour les r\u00e9ponses ChatGPT par rapport aux r\u00e9ponses humaines est un ph\u00e9nom\u00e8ne nouveau apparu ces deux derni\u00e8res ann\u00e9es.<\/span><\/p>\n

\u00abLe probl\u00e8me, c’est que les gens ont apparemment pu remarquer la diff\u00e9rence, car ils ont jug\u00e9 les r\u00e9ponses de ChatGPT sup\u00e9rieures\u00bb, a d\u00e9clar\u00e9 Aharoni dans un communiqu\u00e9 de presse. \u00abSi nous avions men\u00e9 cette \u00e9tude il y a cinq ou dix ans, nous aurions peut-\u00eatre pu pr\u00e9dire que les gens reconna\u00eetraient l’IA \u00e0 la m\u00e9diocrit\u00e9 de ses r\u00e9ponses. Or, nous avons constat\u00e9 l’inverse : l’IA, \u00e0 certains \u00e9gards, \u00e9tait m\u00eame plus performante.\u00bb<\/span><\/p>\n

La moralit\u00e9 de l\u2019IA est une obsession parmi les technologues, les programmeurs d\u2019IA et d\u2019innombrables auteurs de science-fiction, et r\u00e9ussir le test moral de Turing avec brio t\u00e9moigne certainement de la sophistication impressionnante des nouveaux LL.M.<\/span><\/p>\n

Bien s\u00fbr, une grande question demeure: l\u2019IA \u00e9coutera-t-elle ses propres conseils?<\/span><\/p>\n

La NASA promet d’utiliser l’IA avec prudence et responsabilit\u00e9. \u00abSi elle n’est pas utilis\u00e9e au b\u00e9n\u00e9fice de l’humanit\u00e9, elle pourrait avoir des cons\u00e9quences catastrophiques.\u00bb<\/span><\/strong><\/p>\n

Les responsables de l\u2019agence ont soulign\u00e9 que la NASA donnerait la priorit\u00e9 \u00e0 la s\u00e9curit\u00e9 tout en exploitant la puissance toujours croissante de l\u2019intelligence artificielle.<\/span><\/p>\n

\u00abL’intelligence artificielle comporte d’\u00e9normes risques car si elle n’est pas utilis\u00e9e au profit de l’humanit\u00e9, elle pourrait conduire \u00e0 un d\u00e9sastre\u00bb, a d\u00e9clar\u00e9 l’administrateur de la NASA, Bill Nelson, lors d’une r\u00e9union publique sur l’intelligence artificielle que l’agence a organis\u00e9e avec son personnel le 22 mai 2024.<\/span><\/p>\n

\u00abL’IA peut am\u00e9liorer notre efficacit\u00e9 au travail\u00bb, a-t-il ajout\u00e9 lors du livestream. \u00abMais cela n’est possible que si nous utilisons correctement ces nouveaux outils, en nous appuyant sur les principes qui nous ont toujours caract\u00e9ris\u00e9s: s\u00e9curit\u00e9, transparence et fiabilit\u00e9.\u00bb<\/span><\/p>\n

Nelson a soulign\u00e9 que la NASA conna\u00eet bien l’intelligence artificielle; l’agence utilise cette technologie \u00e0 diverses fins depuis des d\u00e9cennies. Cependant, face aux progr\u00e8s rapides des capacit\u00e9s de l’IA, la NASA intensifie ses efforts pour \u00e9tudier, d\u00e9velopper et d\u00e9ployer cette technologie.<\/span><\/p>\n

Par exemple, la NASA a annonc\u00e9 la semaine derni\u00e8re la nomination de son premier responsable de l’IA, David Salvagnini, qui occupait auparavant le poste de directeur des donn\u00e9es de l’agence. Lui et ses coll\u00e8gues entendent renforcer la ma\u00eetrise de l’IA de tous les employ\u00e9s de la NASA dans un avenir proche.<\/span><\/p>\n

\"\"
\nL’une des premi\u00e8res applications de l’IA en astronomie a \u00e9t\u00e9 la d\u00e9couverte de nombreuses galaxies peu lumineuses, cach\u00e9es \u00e0 l’arri\u00e8re-plan des images. ESA\/Webb, NASA et ASC, J. Rigby, CC BY<\/span><\/em><\/p>\n

\u00abUne partie de ce que nous pr\u00e9voyons de faire \u2013 et vous verrez bient\u00f4t une annonce \u2013 est le \u00abSummer of AI\u00bb, une initiative \u00e9ducative o\u00f9 tout le monde \u00e0 la NASA aura l’occasion d’en apprendre davantage sur l’IA\u00bb, a d\u00e9clar\u00e9 Salvagnini lors de la r\u00e9union g\u00e9n\u00e9rale d’aujourd’hui.<\/span><\/p>\n

\u00abC’est une v\u00e9ritable campagne\u00bb, a-t-il ajout\u00e9. \u00abCe sera une sorte de vague d’opportunit\u00e9s d’apprentissage.\u00bb<\/span><\/p>\n

Salvanini a \u00e9galement \u00e9voqu\u00e9 la s\u00e9curit\u00e9 de l’intelligence artificielle. Une utilisation responsable des technologies commence par un \u00e9tat d’esprit qui place l’humain au centre et assume ses responsabilit\u00e9s, a-t-il d\u00e9clar\u00e9. Il a \u00e9galement d\u00e9clar\u00e9 pr\u00e9f\u00e9rer le terme \u00abintelligence d’assistance\u00bb \u00e0 \u00abintelligence artificielle\u00bb, car il nous permet de ma\u00eetriser la situation.<\/span><\/p>\n

L’IA est \u00abune ressource \u00e0 laquelle j’ai d\u00e9sormais acc\u00e8s et qui peut m’aider dans ma prise de d\u00e9cision\u00bb, a d\u00e9clar\u00e9 Salvagnini. \u00abL’IA n’est pas responsable du r\u00e9sultat. Cette responsabilit\u00e9 incombe \u00e0 la personne, \u00e0 l’\u00eatre humain.\u00bb<\/span><\/p>\n

Il a cit\u00e9 la mod\u00e9lisation des trajectoires possibles des ouragans par les m\u00e9t\u00e9orologues comme une analogie pour une utilisation responsable de l’IA. Les mod\u00e9lisateurs pr\u00e9sentent plusieurs trajectoires potentielles car ils sont conscients des limites des ensembles de donn\u00e9es qu’ils analysent. Autrement dit, ils font preuve de discernement.<\/span><\/p>\n

\u00abAlors, comment se prot\u00e9ger dans ce cas?\u00bb a demand\u00e9 Salvagnini. \u00abNous comprenons notre responsabilit\u00e9 en tant que responsables ultimes des r\u00e9sultats de notre travail. Et si nous utilisons l’IA pour cr\u00e9er un produit, c’est bien, mais il nous faut simplement comprendre ses capacit\u00e9s et ses limites.\u00bb<\/span><\/p>\n

Cependant, la s\u00e9curit\u00e9 de l\u2019IA n\u2019\u00e9tait pas le seul sujet abord\u00e9 lors de la r\u00e9union; les repr\u00e9sentants de l\u2019agence ont \u00e9galement pass\u00e9 beaucoup de temps \u00e0 vanter les promesses de la technologie.<\/span><\/p>\n

\u00abL\u2019intelligence artificielle nous aidera dans de nombreux domaines\u00bb, a d\u00e9clar\u00e9 Pam Melroy, administratrice adjointe de la NASA.<\/span><\/p>\n

Elle a soulign\u00e9 la capacit\u00e9 de la technologie \u00e0 traiter rapidement et efficacement de vastes quantit\u00e9s d\u2019informations, une capacit\u00e9 qui pourrait conduire \u00e0 des d\u00e9couvertes majeures en h\u00e9liophysique, en sciences de la Terre et en astronomie.<\/span><\/p>\n

\u00abNous ne savons m\u00eame pas encore quelles nouvelles connaissances nous allons acqu\u00e9rir en utilisant ces nouvelles m\u00e9thodes pour examiner les anciennes donn\u00e9es de mani\u00e8re nouvelle\u00bb, a d\u00e9clar\u00e9 Melroy.<\/span><\/p>\n

Certaines de ces id\u00e9es pourraient devenir un avantage indirect de la technologie, ont-elles d\u00e9clar\u00e9, ainsi que d\u2019autres intervenants lors de la r\u00e9union: l\u2019IA pourrait de plus en plus prendre en charge les t\u00e2ches d\u2019analyse de donn\u00e9es de routine et \u00e0 forte intensit\u00e9 de main-d\u2019\u0153uvre, lib\u00e9rant ainsi les employ\u00e9s de la NASA pour s\u2019attaquer \u00e0 des probl\u00e8mes plus complexes et plus difficiles.<\/span><\/p>\n

\u00c9thique de l’IA: Huit entreprises technologiques mondiales s’engagent \u00e0 mettre en \u0153uvre la Recommandation de l’UNESCO. GSMA, INNIT, Lenovo Group, LG AI Research, Mastercard, Microsoft, Salesforce et Telefonica ont sign\u00e9 un accord novateur avec l’UNESCO en 2024 pour cr\u00e9er une intelligence artificielle plus \u00e9thique. Ces entreprises tiendront compte des valeurs et des principes de la Recommandation de l’UNESCO sur les aspects \u00e9thiques de l’intelligence artificielle lors du d\u00e9veloppement et du d\u00e9ploiement de syst\u00e8mes d’IA.<\/span><\/strong><\/span><\/p>\n

L’accord a \u00e9t\u00e9 sign\u00e9 \u00e0 Kranj, en Slov\u00e9nie, lors du 2e Forum mondial de l’UNESCO sur les dimensions \u00e9thiques de l’intelligence artificielle. Il engage les entreprises \u00e0 pleinement remplir leur r\u00f4le de garant des droits humains lors de la conception, du d\u00e9veloppement, de l’achat, de la vente et de l’utilisation de l’IA. C’est la premi\u00e8re fois que des entreprises collaborent avec l’ONU dans ce domaine.<\/span><\/p>\n

L’accord souligne la n\u00e9cessit\u00e9 d’une diligence raisonnable pour garantir le respect des normes de s\u00e9curit\u00e9, identifier les impacts n\u00e9gatifs de l’IA et mettre en \u0153uvre rapidement des mesures pour les pr\u00e9venir, les att\u00e9nuer ou les \u00e9liminer, conform\u00e9ment au droit national. Il souligne \u00e9galement l’importance des tests pr\u00e9alables au lancement (tests avant la mise sur le march\u00e9 d’un nouveau syst\u00e8me d’IA). Cependant, compte tenu du d\u00e9veloppement rapide des syst\u00e8mes d’IA d\u00e9j\u00e0 commercialis\u00e9s, l’accord pr\u00e9conise \u00e9galement le d\u00e9veloppement de pratiques r\u00e9trospectives d’\u00e9valuation et d’att\u00e9nuation des risques.<\/span><\/p>\n

La Recommandation de l’UNESCO sur les aspects \u00e9thiques de l’intelligence artificielle a \u00e9t\u00e9 le premier et reste le seul cadre mondial pour l’IA. Au cours des deux derni\u00e8res ann\u00e9es, des progr\u00e8s significatifs ont \u00e9t\u00e9 r\u00e9alis\u00e9s dans sa mise en \u0153uvre. Aujourd’hui, plus de 50 pays participent activement \u00e0 sa mise en \u0153uvre, et la coop\u00e9ration multilat\u00e9rale s’est consid\u00e9rablement d\u00e9velopp\u00e9e.<\/span><\/p>\n

Depuis l’adoption de la Recommandation, l’UNESCO a \u00e9galement d\u00e9velopp\u00e9 une collaboration avec le secteur priv\u00e9, ce qui a conduit \u00e0 la cr\u00e9ation du Conseil des entreprises sur l’\u00e9thique de l’IA, copr\u00e9sid\u00e9 par Microsoft et Telefonica. Ce Conseil s’emploie \u00e0 renforcer les capacit\u00e9s techniques dans le domaine de l’\u00e9thique et de l’IA, \u00e0 d\u00e9velopper et mettre en \u0153uvre l’outil d’\u00e9valuation de l’impact \u00e9thique envisag\u00e9 par la Recommandation sur les aspects \u00e9thiques de l’IA, et \u00e0 promouvoir l’\u00e9laboration de normes r\u00e9gionales solides.<\/span><\/p>\n\n","protected":false},"excerpt":{"rendered":"

Selon une nouvelle analyse de milliers d’avis d’experts, l’\u00e9mergence de l’intelligence artificielle g\u00e9n\u00e9rale (IAG) \u2013 un syst\u00e8me d’IA dot\u00e9 d’une intelligence surhumaine capable de r\u00e9soudre avec succ\u00e8s divers probl\u00e8mes \u2013 est une question de temps, et non de possibilit\u00e9. Le d\u00e9veloppement de l’IAG a \u00e9t\u00e9 stimul\u00e9 par l’avanc\u00e9e rapide des mod\u00e8les de langage \u00e0 grande \u00e9chelle (MLH) bas\u00e9s sur Transformers. Cette technologie sous-tend les chatbots comme ChatGPT et les g\u00e9n\u00e9rateurs d’images comme Dall-E. Avant ces avanc\u00e9es, certains scientifiques pr\u00e9disaient en 2019 que l’IAG \u00e9mergerait d’ici 2060, voire jamais.<\/p>\n","protected":false},"author":1,"featured_media":1984,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[19,525],"tags":[924,922,923,526],"class_list":{"0":"post-1983","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-news","8":"category-ii","9":"tag-ethique","10":"tag-ia","11":"tag-informatique-quantique","12":"tag-intelligence-artificielle"},"_links":{"self":[{"href":"https:\/\/planeta21vek.ru\/fr\/wp-json\/wp\/v2\/posts\/1983","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/planeta21vek.ru\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/planeta21vek.ru\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/planeta21vek.ru\/fr\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/planeta21vek.ru\/fr\/wp-json\/wp\/v2\/comments?post=1983"}],"version-history":[{"count":1,"href":"https:\/\/planeta21vek.ru\/fr\/wp-json\/wp\/v2\/posts\/1983\/revisions"}],"predecessor-version":[{"id":1985,"href":"https:\/\/planeta21vek.ru\/fr\/wp-json\/wp\/v2\/posts\/1983\/revisions\/1985"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/planeta21vek.ru\/fr\/wp-json\/wp\/v2\/media\/1984"}],"wp:attachment":[{"href":"https:\/\/planeta21vek.ru\/fr\/wp-json\/wp\/v2\/media?parent=1983"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/planeta21vek.ru\/fr\/wp-json\/wp\/v2\/categories?post=1983"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/planeta21vek.ru\/fr\/wp-json\/wp\/v2\/tags?post=1983"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}