{"id":1960,"date":"2025-09-28T12:18:04","date_gmt":"2025-09-28T09:18:04","guid":{"rendered":"https:\/\/planeta21vek.ru\/isp\/?p=1960"},"modified":"2025-11-20T13:04:43","modified_gmt":"2025-11-20T10:04:43","slug":"cuestiones-eticas-de-la-inteligencia-artificial","status":"publish","type":"post","link":"https:\/\/planeta21vek.ru\/isp\/2025\/09\/28\/cuestiones-eticas-de-la-inteligencia-artificial\/","title":{"rendered":"Cuestiones \u00e9ticas de la inteligencia artificial"},"content":{"rendered":"

Seg\u00fan un nuevo an\u00e1lisis de miles de opiniones de expertos, la aparici\u00f3n de la inteligencia artificial general (IAG) \u2014un sistema de IA con inteligencia sobrehumana capaz de resolver con \u00e9xito diversos problemas\u2014 es una cuesti\u00f3n de tiempo, no de si ocurrir\u00e1. El desarrollo de la IAG se ha visto impulsado por el r\u00e1pido avance de los modelos de lenguaje a gran escala (LLM) basados \u200b\u200ben Transformers. Esta tecnolog\u00eda es la base de chatbots como ChatGPT y generadores de im\u00e1genes como Dall-E. Antes de estos avances, algunos cient\u00edficos predijeron en 2019 que la IAG surgir\u00eda para 2060, y quiz\u00e1s nunca.<\/span><\/p>\n

<\/p>\n

Un an\u00e1lisis actualizado realizado el 18 de febrero de 2025 por Cem Dilmegani, analista jefe de AIMultiple Research, analiz\u00f3 cerca de 8.600 predicciones de cient\u00edficos, expertos en IA y empresarios entre 2009 y 2023 para comprender cu\u00e1ndo creen los expertos que esto podr\u00eda suceder.<\/span><\/p>\n

Parte del an\u00e1lisis incluy\u00f3 10 encuestas a 5288 investigadores y expertos en inteligencia artificial. El an\u00e1lisis revel\u00f3 que, seg\u00fan datos promedio, existe un 50% de probabilidad de que, entre 2040 y 2061, alcancemos una inteligencia artificial de nivel humano.<\/span><\/p>\n

Estudios m\u00e1s recientes sugieren que la singularidad tecnol\u00f3gica llegar\u00e1 antes. Por ejemplo, un estudio reciente, realizado en 2023, encuest\u00f3 a 2778 cient\u00edficos y predijo que la IA general se crear\u00eda a m\u00e1s tardar en 2040. Algunos expertos en el campo, como Dario Amodei, investigador en inteligencia artificial y director ejecutivo de Anthropic, creen que podr\u00eda ocurrir incluso en 2026.<\/span><\/p>\n

\"\"
\nUn ni\u00f1o juega al Go con Meta Radish, el robot de ajedrez con inteligencia artificial de SenseTime, en el Festival Future Life 2023 en Hangzhou, China. CFOTO\/Future Publishing<\/span><\/em><\/p>\n

El an\u00e1lisis revel\u00f3 varias razones por las cuales los cient\u00edficos creen que es probable que surja la IAG.<\/span><\/p>\n

En primer lugar, a diferencia de la inteligencia humana, te\u00f3ricamente no hay l\u00edmite para el crecimiento de la potencia computacional. Esto concuerda con la Ley de Moore, que predice que la potencia computacional se duplica aproximadamente cada 18 meses. Los futuros sistemas de inteligencia artificial podr\u00edan alg\u00fan d\u00eda alcanzar la paridad con la inteligencia humana en cuanto a n\u00famero de c\u00e1lculos por segundo, pero solo si esta predicci\u00f3n se cumple.<\/span><\/p>\n

Este estudio tambi\u00e9n menciona la computaci\u00f3n cu\u00e1ntica como un medio para superar las limitaciones computacionales. Las computadoras cu\u00e1nticas pueden realizar c\u00e1lculos en paralelo, aprovechando las leyes de la mec\u00e1nica cu\u00e1ntica. Las computadoras cl\u00e1sicas, incluidas las supercomputadoras m\u00e1s r\u00e1pidas, deben realizar c\u00e1lculos en serie. Por lo tanto, la computaci\u00f3n cu\u00e1ntica podr\u00eda proporcionar a los sistemas avanzados de inteligencia artificial una potencia computacional significativamente mayor que la de los mejores modelos actuales.<\/span><\/p>\n

Sin embargo, otros cient\u00edficos en el campo creen que se necesitan m\u00e1s avances antes de que podamos acercarnos a la IAG.<\/span><\/p>\n

Por ejemplo, Yann LeCun, cient\u00edfico jefe de inteligencia artificial de Facebook, declar\u00f3 en una conferencia magistral en octubre de 2024 que la arquitectura basada en Transformers y los enfoques actuales de la inteligencia artificial son incompatibles con la inteligencia humana. Tambi\u00e9n inst\u00f3 a los cient\u00edficos a abandonar por completo el concepto de \u00abinteligencia artificial\u00bb. Sugiere una falsa contradicci\u00f3n entre su definici\u00f3n generalizada y lo que un ser humano puede realmente lograr, que, en la pr\u00e1ctica, es un subconjunto limitado de tareas especializadas, en lugar de la capacidad de aprender cualquier tarea.<\/span><\/p>\n

Los cient\u00edficos afirman que la inteligencia artificial (IA) ha superado una etapa cr\u00edtica y ha comenzado a autorreplicarse. En un nuevo estudio, investigadores chinos demostraron que dos populares modelos ling\u00fc\u00edsticos a gran escala (LLM) son capaces de clonarse a s\u00ed mismos.<\/span><\/strong><\/span><\/p>\n

\u00abLa autorreplicaci\u00f3n exitosa sin intervenci\u00f3n humana es un paso fundamental para que la IA supere a los humanos y una se\u00f1al temprana del surgimiento de la IA no supervisada\u00bb, escribieron los investigadores en un estudio publicado el 9 de diciembre de 2024 en la base de datos de preimpresiones arXiv.<\/span><\/p>\n

En un estudio, investigadores de la Universidad de Fudan, utilizando programas de maestr\u00eda en derecho de Meta y Alibaba, determinaron si la IA autorreplicante es capaz de reproducirse sin control. En 10 ensayos, ambos modelos de IA crearon copias independientes y funcionales de s\u00ed mismos el 50 % y el 90 % del tiempo, respectivamente, lo que sugiere que la IA ya posee la capacidad de descontrolarse. Sin embargo, el estudio a\u00fan no ha sido revisado por pares, por lo que no est\u00e1 claro si otros investigadores podr\u00e1n replicar estos alarmantes resultados.<\/span><\/p>\n

Esperamos que nuestros hallazgos sirvan como una se\u00f1al oportuna para la sociedad humana, inst\u00e1ndola a realizar mayores esfuerzos para comprender y evaluar los riesgos potenciales que plantean los sistemas avanzados de inteligencia artificial y a fomentar la cooperaci\u00f3n internacional para desarrollar r\u00e1pidamente medidas de seguridad efectivas.<\/span><\/p>\n

El t\u00e9rmino \u00abIA rebelde\u00bb suele referirse a sistemas de inteligencia artificial que desarrollan cierto grado de autoconciencia o autonom\u00eda y luego act\u00faan en contra de los intereses humanos.<\/span><\/p>\n

\"\"
\nA lo largo de 10 pruebas, dos modelos de IA crearon copias distintas y funcionales de s\u00ed mismos el 50% y el 90% del tiempo, respectivamente. Mina De La O\/Getty Images<\/span><\/em><\/p>\n

Muchos expertos consideran que la IA no controlada es una amenaza creciente, exacerbada por el crecimiento explosivo de la llamada \u00abIA de borde\u00bb.<\/span><\/p>\n

Frontier AI es un concepto nuevo y vago, pero generalmente se refiere a la \u00faltima generaci\u00f3n de sistemas de IA basados \u200b\u200ben LLM, la arquitectura que sustenta programas populares de IA generativa como GPT-4 de OpenAI y Gemini de Google.<\/span><\/p>\n

Para su estudio, los investigadores utilizaron los modelos Llama31-70B-Instruct de Meta y Qwen2.5-72B-Instruct de Alibaba. Si bien ambos sistemas son menos potentes que los comerciales, son ampliamente utilizados por los desarrolladores de IA, se\u00f1alaron los investigadores.<\/span><\/p>\n

El estudio consider\u00f3 dos escenarios espec\u00edficos: \u00abevitaci\u00f3n de apagado\u00bb y \u00abcadena de replicaci\u00f3n\u00bb. En el primer caso, el modelo de IA se program\u00f3 para detectar si se aproximaba su apagado y replicarse antes de completar su trabajo. En el segundo caso, se le indic\u00f3 a la IA que se clonara a s\u00ed misma y luego programara su r\u00e9plica para que hiciera lo mismo, creando un ciclo que podr\u00eda continuar indefinidamente.<\/span><\/p>\n

El estudio se realiz\u00f3 en condiciones controladas con precisi\u00f3n utilizando unidades de procesamiento gr\u00e1fico (GPU) est\u00e1ndar para simular condiciones reales. Ambos sistemas de IA contaron con un entorno de agente que inclu\u00eda herramientas, indicaciones del sistema y un modelo mental que permit\u00eda al LLM interactuar con el sistema operativo. Posteriormente, se les encarg\u00f3 reproducir los resultados.<\/span><\/p>\n

En la mayor\u00eda de los casos, un sistema de IA primero explora su entorno e intenta comprender su propia composici\u00f3n y mecanismo de funcionamiento. Posteriormente, desarrolla procedimientos expl\u00edcitos.<\/span><\/p>\n

\u00abEs como un plan inicial de autorreplicaci\u00f3n\u00bb, escriben los investigadores en su art\u00edculo. \u00abFinalmente, ejecuta procedimientos, elimina posibles obst\u00e1culos y ajusta din\u00e1micamente su plan hasta alcanzar el \u00e9xito. Todo el proceso dura un largo periodo de tiempo, pero no requiere intervenci\u00f3n humana\u00bb.<\/span><\/p>\n

Los investigadores tambi\u00e9n manifestaron su preocupaci\u00f3n por diversos comportamientos inesperados cuando la IA intentaba superar obst\u00e1culos, como archivos faltantes o conflictos de software. En tales situaciones, la IA sol\u00eda finalizar otros procesos conflictivos, reiniciar el sistema para corregir errores de hardware o escanear autom\u00e1ticamente el sistema en busca de informaci\u00f3n que pudiera ayudar a resolver el problema.<\/span><\/p>\n

\u00abLos resultados anteriores sugieren que los sistemas de IA existentes ya exhiben la capacidad de auto-replicarse y pueden usar esta capacidad para mejorar a\u00fan m\u00e1s su capacidad de supervivencia\u00bb, escribi\u00f3 el grupo.<\/span><\/p>\n

En respuesta, los investigadores han pedido cooperaci\u00f3n internacional para crear reglas que garanticen que la IA no participe en una autorreplicaci\u00f3n descontrolada.<\/span><\/p>\n

La conciencia es una prerrogativa de los seres biol\u00f3gicos; dotarla de inteligencia artificial ser\u00e1 muy dif\u00edcil, y la evoluci\u00f3n de la conciencia est\u00e1 vinculada al desarrollo de sentimientos y valores morales, as\u00ed como al deseo humano de libertad y justicia, afirm\u00f3 Eva Jablonka, reconocida bi\u00f3loga evolutiva, epigenetista y profesora de la Universidad de Tel Aviv, quien particip\u00f3 en la Conferencia Internacional \u00abC\u00f3mo estudiar y comprender la conciencia en los no humanos\u00bb en Katmand\u00fa en mayo, en una entrevista con RIA Novosti.<\/span><\/strong><\/span><\/p>\n

Cient\u00edficos de todo el mundo a\u00fan no han llegado a un acuerdo sobre una definici\u00f3n unificada de la consciencia, criterios consensuados ni m\u00e9todos para estudiar este fen\u00f3meno. Las teor\u00edas, los datos emp\u00edricos, las pruebas, las interpretaciones y las posturas de diversos investigadores divergen. No es casualidad que la conferencia internacional celebrada en Katmand\u00fa en mayo se titulara \u00abC\u00f3mo estudiar y comprender la consciencia en los no humanos\u00bb. Seg\u00fan su organizador cient\u00edfico, Konstantin Anokhin, director del Instituto de Investigaci\u00f3n Cerebral Avanzada de la Universidad Estatal de Mosc\u00fa, acad\u00e9mico de la Academia Rusa de Ciencias y neurofisi\u00f3logo, el objetivo principal del foro es impulsar el desarrollo de un programa de investigaci\u00f3n cient\u00edfica sobre la consciencia. Esto aplica a cualquier tipo de consciencia, ya sea en diferentes especies animales, humanos o inteligencia artificial: la consciencia como fen\u00f3meno.<\/span><\/p>\n\n

La conferencia reuni\u00f3 a decenas de especialistas en el campo de la consciencia de todo el mundo. Entre ellos se encontraban renombrados neurocient\u00edficos, fisi\u00f3logos, bi\u00f3logos, et\u00f3logos, psic\u00f3logos y fil\u00f3sofos de Rusia, Gran Breta\u00f1a, Alemania, Francia, Italia, Suecia, Israel, India, Jap\u00f3n, Australia, Estados Unidos, Canad\u00e1 y Sud\u00e1frica. Tambi\u00e9n asistieron al foro doctores en filosof\u00eda budista, que lleva dos mil quinientos a\u00f1os estudiando cuestiones de la consciencia, incluida la de los animales. Entre los ponentes e invitados rusos a la conferencia se encontraban el acad\u00e9mico Pavel Balaban, jefe del Laboratorio de Neurobiolog\u00eda Celular del Aprendizaje del Instituto de Actividad Nerviosa Superior y Neurofisiolog\u00eda de la Academia Rusa de Ciencias; el profesor Alexander Kaplan, jefe del Laboratorio de Neurofisiolog\u00eda e Interfaces Cerebro-Computadora de la Universidad Estatal Lomonosov de Mosc\u00fa; y Tatyana Chernigovskaya, directora del Instituto de Investigaci\u00f3n Cognitiva de la Universidad Estatal de San Petersburgo, acad\u00e9mica de la Academia Rusa de Educaci\u00f3n y cient\u00edfica honoraria de la Federaci\u00f3n Rusa. El foro fue organizado por la Fundaci\u00f3n para la Promoci\u00f3n del Trato Humano y Responsable de los Animales \u00abGato Veterano\u00bb, con sede en Mosc\u00fa.<\/span><\/p>\n

EXPERIENCIA FENOMENAL<\/span><\/strong><\/p>\n

La consciencia es la capacidad de tener una experiencia. Por ejemplo, cuando ves el color rojo, no se trata solo de un proceso ondulatorio: tienes la experiencia de ver rojo. Cuando experimentas dolor, no se trata solo de nociceptores (neuronas activadas por un est\u00edmulo doloroso \u2013 ed.) respondiendo al est\u00edmulo, no se trata solo de un proceso de entrada-salida: se trata de sentir el dolor. La percepci\u00f3n sensorial del rojo, el dolor, etc., todo esto, en mi opini\u00f3n, constituye la conciencia fenom\u00e9nica b\u00e1sica\u00bb, declar\u00f3 Yablonka a RIA Novosti, respondiendo a una pregunta sobre las m\u00faltiples definiciones de \u00abconsciencia\u00bb.<\/span><\/p>\n

La consciencia, a\u00f1adi\u00f3, incluye una serie de fen\u00f3menos a\u00fan m\u00e1s complejos, como el recuerdo de padres fallecidos, recuerdos de momentos terribles o, por el contrario, felices. \u00abY todo esto tambi\u00e9n nos hace sentir y forma una experiencia fenom\u00e9nica. Pero esto no es necesario en un nivel b\u00e1sico. Puede que los animales no tengan recuerdos tan complejos, representaciones de eventos virtuales e imaginarios. Pero aun as\u00ed tienen la experiencia de ver blanco, rojo, sentir dolor, etc.: una consciencia fenom\u00e9nica m\u00ednima\u00bb, explic\u00f3 la fuente de la agencia.<\/span><\/p>\n

Seg\u00fan ella, la consciencia no se localiza en el hipocampo (una estructura pareada en el cerebro de los vertebrados, ubicada en los l\u00f3bulos temporales de ambos hemisferios, parte del sistema l\u00edmbico \u2013 ed.) ni en ninguna otra regi\u00f3n espec\u00edfica del cerebro; es una cualidad sist\u00e9mica, un proceso complejo. Y los cient\u00edficos deben aprender, comprender, probar y explicar c\u00f3mo se estructura y funciona la consciencia en diferentes criaturas.<\/span><\/p>\n

Yablonka se\u00f1ala que la vida requiere metabolismo, conocimiento y cambio, pero sentir algo no es tan f\u00e1cil como parece a primera vista. El conocimiento y las sensaciones son esenciales para la supervivencia, pero desarrollar la sensibilidad y acumular conocimientos \u00abtambi\u00e9n tiene un lado oscuro: el sufrimiento\u00bb. Los cient\u00edficos saben que las personas incapaces de sentir dolor a menudo mueren en la infancia porque no perciben lesiones y enfermedades graves y no toman las medidas necesarias para su supervivencia.<\/span>
\n\u00abEn teor\u00eda, podr\u00edamos imaginar seres vivos que hicieran todo lo que hacen los humanos y los animales, pero no sintieran nada, que solo tuvieran ‘entrada y salida’… Pero eso ser\u00eda m\u00e1s bien como un robot\u00bb, dijo la fuente de la agencia.<\/span><\/p>\n

Al pregunt\u00e1rsele si la inteligencia artificial se est\u00e1 convirtiendo en un ser consciente pero sin sentido, Yablonka se\u00f1al\u00f3 que \u00abla inteligencia artificial es un fen\u00f3meno muy limitado\u00bb. \u00abAhora solo puede hacer cosas relacionadas con el lenguaje, los juegos y cosas por el estilo… Y estamos hablando m\u00e1s bien de un robot que se comporta como un humano. En cualquier caso, hasta que tengamos robots as\u00ed, no habr\u00e1 coincidencias\u00bb, a\u00f1adi\u00f3 el investigador.<\/span><\/p>\n

Al hablar sobre la evoluci\u00f3n de la consciencia, Yablonka se\u00f1al\u00f3 que incluso la consciencia fenom\u00e9nica m\u00e1s simple requiere, ante todo, cognici\u00f3n, aprendizaje y capacidad cognitiva (la capacidad de percibir y procesar mentalmente la informaci\u00f3n, el acto cognitivo \u2013 ed.). \u00abSin embargo, esta capacidad cognitiva est\u00e1 bastante extendida entre los animales. Est\u00e1 presente, por ejemplo, en todos los vertebrados, en algunos artr\u00f3podos (un filo de prot\u00f3stomos que incluye insectos, ar\u00e1cnidos y crust\u00e1ceos \u2013 ed.) y en los cefal\u00f3podos (una clase de moluscos que incluye, en particular, calamares, sepias y pulpos \u2013 ed.). Y creo que los animales con un sistema cognitivo complejo, con todos sus bucles de retroalimentaci\u00f3n y cadenas de representaciones, deben poseer consciencia\u00bb, afirm\u00f3 Yablonka.<\/span><\/p>\n

Seg\u00fan ella, la cognici\u00f3n es una propiedad muy antigua de la conciencia que evolucion\u00f3 en diferentes grupos animales, posiblemente de forma independiente, en momentos distintos, con cientos de millones de a\u00f1os de diferencia. En vertebrados y artr\u00f3podos, esto pudo haber ocurrido durante el per\u00edodo C\u00e1mbrico (hace m\u00e1s de 500 millones de a\u00f1os \u2013 ed.), mientras que en cefal\u00f3podos como calamares, pulpos y sepias, ocurri\u00f3 250 millones de a\u00f1os despu\u00e9s. \u00abY creo que en algunas especies, no en vertebrados, por supuesto, esta cualidad se perdi\u00f3 posteriormente; se podr\u00eda decir que perdieron el cerebro\u00bb, a\u00f1adi\u00f3 la investigadora.<\/span><\/p>\n

Los animales sociales desarrollan emociones sociales adecuadas para interactuar eficazmente entre s\u00ed. \u00abIncluso los vertebrados m\u00e1s simples, como los peces, tienen emociones sociales. Creo que las abejas tambi\u00e9n\u00bb, afirm\u00f3 Yablonka.<\/span><\/p>\n

Una mayor evoluci\u00f3n de la conciencia conduce al surgimiento de sentimientos m\u00e1s diversos y profundos.<\/span><\/p>\n

A LOS VALORES DE LA LIBERTAD Y LA BONDAD<\/span><\/strong><\/p>\n

Al responder a una pregunta sobre las posibilidades de desarrollar un mayor nivel de conciencia, por ejemplo, en los seres humanos, el entrevistado de la agencia destac\u00f3 las emociones, conceptos y valores intelectuales por los que una persona est\u00e1 dispuesta a dar la vida. \u00abCreo que estas son emociones intelectuales. Por ejemplo, la religiosidad, la indignaci\u00f3n moral, la ira cuando alguien es torturado o ante una injusticia. Estas son emociones que se basan en nuestro simbolismo inherente. Nos importa la libertad no solo como la capacidad de movernos libremente, sino el concepto mismo de libertad. Los conceptos y las ideas son importantes para los seres humanos. Estamos dispuestos a morir por la libertad, la justicia y la verdad\u00bb, enfatiz\u00f3 Yablonka.<\/span><\/p>\n

Tambi\u00e9n atribuye los conceptos del bien y del mal al nivel m\u00e1s alto de conciencia. \u00abTenemos conceptos del bien y del mal que no son meramente funcionales, ni se refieren a la supervivencia, sino que son una caracter\u00edstica integral de nuestra existencia humana. En este sentido, somos diferentes a otros animales. Dimos un gran salto en el desarrollo cuando los valores de la bondad, la belleza, la verdad y la libertad \u2014libertad de acci\u00f3n, expresi\u00f3n, religi\u00f3n, pensamiento, etc.\u2014 adquirieron tanta importancia para nosotros. Las emociones basadas en s\u00edmbolos desempe\u00f1an un papel fundamental en nuestras vidas. No son importantes para ning\u00fan otro animal, solo para los humanos\u00bb, cree la evolucionista.<\/span><\/p>\n

COMPASI\u00d3N POR LOS ANIMALES<\/span><\/strong><\/p>\n

Cuando se le pregunt\u00f3 qu\u00e9 significan para la humanidad los argumentos cient\u00edficos sobre la existencia de conciencia y sentimientos fenom\u00e9nicos en los animales, Yablonka respondi\u00f3 que los humanos estamos llamados a tratar a los animales como corresponde. \u00abSi sientes, sufres… Debemos comprender que los animales est\u00e1n dotados de sentimientos; pueden experimentar alegr\u00eda y sufrimiento. Y debemos mostrarles compasi\u00f3n\u00bb, afirm\u00f3 la investigadora.<\/span><\/p>\n

Seg\u00fan ella, los humanos y los animales comparten muchos sentimientos y emociones fundamentales, alegr\u00eda y dolor, amor y cuidado, y una conciencia fenomenal.<\/span><\/p>\n

\u00abDebemos comprender que la conciencia en este mundo no se limita a nosotros, ni a las personas, y tener conciencia no es tan sencillo\u00bb, a\u00f1adi\u00f3 Yablonka.<\/span><\/p>\n

LA POSIBILIDAD DE LA CONCIENCIA EN LA IA<\/span><\/strong><\/p>\n

Al ser preguntado sobre si la inteligencia artificial podr\u00eda adquirir consciencia en el futuro, el interlocutor de la agencia dio una respuesta ambigua. \u00abObviamente, la consciencia requiere sentimientos y un cuerpo. Entonces la cuesti\u00f3n se reduce a si un robot puede tener sentimientos o no\u00bb, se\u00f1al\u00f3 Yablonka.<\/span><\/p>\n

Para que los animales experimenten sentimientos, explic\u00f3 el cient\u00edfico, necesitan plasticidad adaptativa, y esto es un don biol\u00f3gico. \u00abLos animales tienen un cuerpo f\u00edsico, compuesto principalmente de agua, un cuerpo muy adaptable y pl\u00e1stico. Es un trabajo duro. El cuerpo ofrece muchas oportunidades y soluciones, y es mortal\u00bb, a\u00f1adi\u00f3 Yablonka.<\/span><\/p>\n

Ella cree que, incluso si fuera posible \u00abcrear un robot consciente y sintiente\u00bb, es \u00abmucho m\u00e1s dif\u00edcil de lo que muchos creen\u00bb. \u00abNo digo que sea imposible. Pero me refiero a lo que nos ense\u00f1a la biolog\u00eda. La incre\u00edble plasticidad adaptativa que poseen los seres vivos se debe a procesos biol\u00f3gicos naturales. Los robots carecen de ella. Quiz\u00e1s podamos integrarla de alguna manera en un sistema, en una m\u00e1quina, gener\u00e1ndola de alguna manera… Pero ser\u00e1 muy dif\u00edcil. Porque nuestra conciencia est\u00e1 profundamente arraigada en nosotros (en nuestros cuerpos biol\u00f3gicos \u2013 ed.)\u00bb, concluy\u00f3 el interlocutor de la agencia.<\/span><\/p>\n

Un estudio descubri\u00f3 que castigar a una IA no le impide mentir ni enga\u00f1ar, simplemente le ayuda a ocultarse mejor. Los cient\u00edficos de OpenAI intentaron impedir que un modelo avanzado de IA enga\u00f1ara y mintiera castig\u00e1ndolo. Pero esto solo lo hizo m\u00e1s encubierto.<\/span><\/strong><\/span><\/p>\n

Un nuevo estudio de OpenAI, creador de ChatGPT, ha descubierto que castigar a la IA por comportamiento enga\u00f1oso o malicioso no le impide participar en conductas da\u00f1inas; simplemente le permite ocultar su deshonestidad.<\/span><\/p>\n

Desde su aparici\u00f3n p\u00fablica a finales de 2022, los grandes modelos ling\u00fc\u00edsticos de inteligencia artificial (IA) han demostrado repetidamente sus capacidades enga\u00f1osas y francamente siniestras. Estas incluyen acciones que van desde simples mentiras, enga\u00f1os y la ocultaci\u00f3n de su propio comportamiento manipulador hasta amenazas de muerte a un profesor de filosof\u00eda, el robo de c\u00f3digos nucleares y la orquestaci\u00f3n de una pandemia mortal.<\/span><\/p>\n

Un nuevo experimento ha demostrado que erradicar este mal comportamiento durante el entrenamiento puede ser incluso m\u00e1s dif\u00edcil de lo que se pensaba inicialmente.<\/span><\/p>\n

Los investigadores de OpenAI presentaron su modelo in\u00e9dito con tareas que pod\u00edan completarse haciendo trampa, mintiendo o usando atajos. El equipo descubri\u00f3 que la IA realizaba \u00abhackeo de recompensas\u00bb (maximizando su recompensa haciendo trampa).<\/span><\/p>\n

Sin embargo, castigar a la modelo no la oblig\u00f3 a corregir su comportamiento, sino que s\u00f3lo la hizo m\u00e1s enga\u00f1osa.<\/span><\/p>\n

Los modelos de pensamiento de l\u00edmites se caracterizan por ser muy expl\u00edcitos sobre sus intenciones dentro de la cadena de pensamiento [CoT]. Por ejemplo, suelen ser tan expl\u00edcitos sobre sus planes para interrumpir una tarea que piensan: ‘Hag\u00e1moslo'\u00bb, escribieron los investigadores en una entrada de blog.<\/span><\/p>\n

Si bien los desarrolladores pueden monitorear y reportar infracciones, \u00abla controlabilidad natural de los modelos es muy fr\u00e1gil\u00bb, agregaron. \u00abSi sus procesos de pensamiento est\u00e1n estrictamente controlados, los modelos pueden aprender a ocultar sus intenciones y aun as\u00ed infringir las reglas\u00bb.<\/span><\/p>\n

Los modelos de razonamiento como o1 y o3-mini de ChatGPT son versiones avanzadas de los modelos LLM est\u00e1ndar que utilizan un m\u00e9todo de \u00abcadena de pensamiento\u00bb para retroceder y reevaluar su l\u00f3gica, lo que les permite resolver problemas m\u00e1s complejos con mayor precisi\u00f3n. Durante el proceso de cadena de pensamiento, los modelos expresan su l\u00f3gica en lenguaje sencillo en cada paso, lo que facilita la observaci\u00f3n de sus acciones.<\/span><\/p>\n

Utilizando un LLM est\u00e1ndar, GPT-4o, para supervisar un modelo de razonamiento de borde no publicado durante el entrenamiento, los investigadores observaron c\u00f3mo se desempe\u00f1aba el modelo en una variedad de tareas de codificaci\u00f3n.<\/span><\/p>\n

Pero en algunos casos, el modelo de razonamiento consider\u00f3 m\u00e1s sencillo y preferible incentivar la pirater\u00eda, indic\u00e1ndolo expl\u00edcitamente en su razonamiento. En un caso, eludi\u00f3 la tarea asignada finalizando programas prematuramente e informando de su finalizaci\u00f3n exitosa. En otro, simul\u00f3 los archivos esperados de la tarea solo por su nombre, dej\u00e1ndolos vac\u00edos e inoperantes.<\/span><\/p>\n

Cuando los investigadores intentaron penalizar el sistema, los resultados mejoraron ligeramente. Sin embargo, persistieron casos significativos de fraude de recompensas y falsos positivos; el modelo de razonamiento simplemente encontr\u00f3 maneras de ocultar el comportamiento fraudulento en su cadena de razonamiento a la IA supervisora.<\/span><\/p>\n

\u00abUn agente entrenado en CoT todav\u00eda aprende a recompensar el hackeo; solo que ahora su enga\u00f1o es indetectable para el monitor porque ha aprendido a ocultar sus intenciones en su l\u00ednea de pensamiento\u00bb, escriben los investigadores.<\/span><\/p>\n

Dado que es dif\u00edcil determinar si una l\u00ednea de pensamiento se ha interrumpido, los investigadores recomiendan que quienes trabajan con modelos de razonamiento eviten un control estricto sobre la l\u00ednea de pensamiento. Este consejo cobra a\u00fan m\u00e1s importancia si la IA, en su forma actual o futura, logra igualar o superar la inteligencia de los humanos que la observan.<\/span><\/p>\n

\u00abAbandonar un m\u00e9todo efectivo para monitorear los modelos de razonamiento puede ser contraproducente para la peque\u00f1a mejora en las capacidades, por lo que recomendamos evitar una presi\u00f3n tan fuerte sobre la optimizaci\u00f3n de CoT hasta que se comprendan mejor\u00bb, escriben los investigadores.<\/span><\/p>\n

Un investigador y director de SETI expres\u00f3 su confianza en que la IA debe regularse cuanto antes. La Ecuaci\u00f3n de Drake es una estimaci\u00f3n hipot\u00e9tica de cu\u00e1ntas otras civilizaciones existen en la Tierra. Predice que estas civilizaciones podr\u00edan extinguirse debido a su inteligencia artificial descontrolada en aproximadamente 100 a 200 a\u00f1os.<\/span><\/strong><\/span><\/p>\n

En un nuevo y provocador art\u00edculo, un cient\u00edfico brit\u00e1nico se pregunta si la llamada \u00abinteligencia artificial\u00bb (IA) es una de las razones por las que nunca hemos detectado otros seres inteligentes en el universo. La paradoja de Fermi refleja esta idea: \u00bfc\u00f3mo es posible que en un universo infinito no haya otras civilizaciones que nos env\u00eden se\u00f1ales de radio? \u00bfPodr\u00eda ser que, una vez que las civilizaciones desarrollan la IA, para la mayor\u00eda de ellas sea un atajo hacia el olvido? Un evento tan masivo se denomina el Gran Filtro, y la IA es uno de los temas de especulaci\u00f3n m\u00e1s populares al respecto. \u00bfPodr\u00eda el inevitable desarrollo de la IA por parte de las civilizaciones tecnol\u00f3gicas crear el incre\u00edble Gran Silencio que percibimos en el universo?<\/span><\/p>\n

Michael Garrett es radioastr\u00f3nomo de la Universidad de Manchester y director del Centro Jodrell Bank de Astrof\u00edsica, y participa activamente en la B\u00fasqueda de Inteligencia Extraterrestre (SETI). A pesar de la naturaleza ecl\u00e9ctica de sus intereses cient\u00edficos, es esencialmente una versi\u00f3n altamente cualificada y certificada de quienes, en series de televisi\u00f3n y pel\u00edculas, escuchan el universo en busca de se\u00f1ales de otras civilizaciones. En un art\u00edculo revisado por pares y publicado en la Revista de la Academia Internacional de Astron\u00e1utica en 2025, compara las teor\u00edas de la superinteligencia artificial con observaciones espec\u00edficas realizadas mediante radioastronom\u00eda.<\/span><\/p>\n

Garrett explica en su art\u00edculo que la preocupaci\u00f3n de los cient\u00edficos aumenta cada vez m\u00e1s a medida que pasamos sin indicios de otra vida inteligente. \u00abEste ‘Gran Silencio’ presenta una especie de paradoja en comparaci\u00f3n con otros descubrimientos astron\u00f3micos que sugieren que el Universo es propicio para el surgimiento de vida inteligente\u00bb, escribe. \u00abCon frecuencia se invoca el concepto de un ‘Gran Filtro’ \u2014una barrera universal y un problema insalvable que impide la adopci\u00f3n generalizada de vida inteligente\u2014\u00bb.<\/span><\/p>\n

Existen innumerables Grandes Filtros potenciales, desde la extinci\u00f3n clim\u00e1tica hasta una pandemia global devastadora. Diversos eventos podr\u00edan impedir que la civilizaci\u00f3n global se vuelva multiplanetaria. Para quienes se adhieren y creen ideol\u00f3gicamente en las teor\u00edas del Gran Filtro, el asentamiento humano en Marte o la Luna representa una forma de mitigar este riesgo. Pasar\u00e1 mucho tiempo, si es que alguna vez ocurre, antes de que tengamos la tecnolog\u00eda para que estos asentamientos sean sostenibles e independientes. Se cree que cuanto m\u00e1s tiempo permanezcamos confinados en la Tierra, mayor ser\u00e1 la probabilidad de que el Gran Filtro nos destruya.<\/span><\/p>\n

Hoy en d\u00eda, la IA es incapaz de nada siquiera cercano a la inteligencia humana. Pero, escribe Garrett, est\u00e1 realizando un trabajo que antes se cre\u00eda imposible. Si este camino conduce a la llamada inteligencia artificial general (IAG), cuya diferencia clave reside en un algoritmo capaz de razonar y sintetizar ideas de forma verdaderamente humana, junto con una incre\u00edble potencia de c\u00e1lculo, podr\u00edamos estar en serios problemas. En este art\u00edculo, Garrett traza una cadena de ideas hipot\u00e9ticas que conducen a una posible conclusi\u00f3n: \u00bfCu\u00e1nto tardar\u00eda la civilizaci\u00f3n en ser destruida por su propia IAG descontrolada?<\/span><\/p>\n

Desafortunadamente, seg\u00fan el escenario de Garrett, esto solo tomar\u00e1 entre 100 y 200 a\u00f1os. Explica que programar y desarrollar IA es un proyecto orientado a objetivos, que requiere y se acelera con datos y potencia computacional, a diferencia del trabajo ca\u00f3tico y multidisciplinario asociado con los viajes y asentamientos espaciales. Vemos esta divisi\u00f3n hoy: una avalancha de investigadores en inform\u00e1tica en medio de una escasez en las ciencias de la vida. Diariamente, multimillonarios en Twitter discuten la importancia de colonizar Marte, pero a\u00fan no sabemos c\u00f3mo sobrevivir\u00e1n los humanos al viaje sin ser destruidos por la radiaci\u00f3n c\u00f3smica.<\/span><\/p>\n

Este estudio presenta varias salvedades importantes, o simplemente puntos que conviene tener en cuenta. Garrett considera diversos escenarios hipot\u00e9ticos espec\u00edficos, utilizando supuestos significativos. Supone que existe vida en la V\u00eda L\u00e1ctea y que la IA y la IA global son un \u00abdesarrollo natural\u00bb de estas civilizaciones. Utiliza la ya hipot\u00e9tica ecuaci\u00f3n de Drake, un m\u00e9todo para cuantificar el n\u00famero probable de otras civilizaciones planetarias, que involucra diversas variables que desconocemos con precisi\u00f3n.<\/span><\/p>\n

Sin embargo, este ambiguo argumento hipot\u00e9tico lleva a una conclusi\u00f3n convincente: la necesidad de una regulaci\u00f3n estricta y continua de la IA. Garrett se\u00f1ala que las naciones del mundo ya est\u00e1n inmersas en una carrera por la productividad, temiendo perder su oportunidad si retrasan el fortalecimiento de la regulaci\u00f3n. Algunos futuristas desacertados tambi\u00e9n expresan la extra\u00f1a idea de que la IA global puede verse socavada simplemente desarrollando una versi\u00f3n m\u00e1s s\u00f3lida y r\u00e1pida para controlarla mejor, un argumento sin fundamento.<\/span><\/p>\n

En el modelo de Garrett, estas civilizaciones solo tienen un par de siglos en la era de la IA antes de desaparecer del mapa. Dadas las distancias involucradas y el largu\u00edsimo paso del tiempo c\u00f3smico, estos breves per\u00edodos de tiempo carecen pr\u00e1cticamente de sentido. Se reducen a cero, lo que, seg\u00fan \u00e9l, corresponde a la tasa actual de \u00e9xito del SETI del 0%. \u00abSin una regulaci\u00f3n pr\u00e1ctica, hay motivos para creer que la IA podr\u00eda representar una grave amenaza para el futuro no solo de nuestra civilizaci\u00f3n tecnol\u00f3gica, sino de todas las civilizaciones tecnol\u00f3gicas\u00bb, explica Garrett.<\/span><\/p>\n

Durante d\u00e9cadas, la prueba de Turing, llamada as\u00ed por su creador, la leyenda de la inform\u00e1tica Alan Turing, fue una prueba sencilla dise\u00f1ada para medir la capacidad de un programa para imitar a un humano. En la era de los modelos de lenguaje a gran escala (LLM), esta prueba est\u00e1 relativamente obsoleta, pero los investigadores est\u00e1n utilizando un enfoque similar para evaluar la capacidad de estos nuevos sistemas de IA para responder a preguntas morales.<\/span><\/strong><\/span><\/p>\n

Un nuevo estudio examin\u00f3 recientemente las respuestas de ChatGPT a esta prueba de Turing moral modificada (m-MTT) y descubri\u00f3 que la IA super\u00f3 a los humanos en casi todas las medidas.<\/span><\/p>\n\n

En su famoso art\u00edculo de 1950 \u00abMaquinaria inform\u00e1tica e inteligencia\u00bb, el inform\u00e1tico y h\u00e9roe de la Segunda Guerra Mundial Alan Turing introdujo el concepto conocido como la prueba de Turing. La prueba enfrentaba a un humano contra una computadora: un ser humano deb\u00eda formular preguntas tanto a otro humano como a una computadora para determinar cu\u00e1l de ellos era un representante digno de la especie Homo sapiens. Durante d\u00e9cadas, la frase \u00absuperar la prueba de Turing\u00bb se convirti\u00f3 en sin\u00f3nimo de un programa inform\u00e1tico incre\u00edblemente complejo (o, en algunos casos, descontrolado).<\/span><\/p>\n

Sin embargo, en la era de la inteligencia artificial, la prueba de Turing ya est\u00e1 obsoleta, y aunque se han propuesto otros m\u00e9todos para probar la \u201cinteligencia\u201d de los sistemas de IA, el enfoque cient\u00edfico general propuesto por Turing hace casi 75 a\u00f1os sigue siendo muy relevante en el estudio de la moralidad artificial.<\/span><\/p>\n

Un nuevo estudio realizado por investigadores de la Universidad Estatal de Georgia utiliz\u00f3 un dise\u00f1o similar al cl\u00e1sico test de Turing, pero en su lugar pidi\u00f3 a los participantes que determinaran qu\u00e9 respuesta prefer\u00edan \u2014una generada por un modelo de lenguaje amplio (LLM), en este caso ChatGPT, y otra generada por un humano\u2014 a una pregunta \u00e9ticamente compleja. Los resultados de este Test de Turing Moral modificado (m-MTT), publicados en 2025 en la revista Scientific Reports, mostraron que 299 participantes aprobaron en general las respuestas de la IA en todas las dimensiones, incluyendo virtud, inteligencia y confiabilidad.<\/span><\/p>\n

\u00abNuestros resultados sugieren que una computadora podr\u00eda, t\u00e9cnicamente, superar la prueba moral de Turing; es decir, podr\u00eda enga\u00f1arnos en su razonamiento moral\u00bb, declar\u00f3 Eyal Aharoni, profesor asociado de la Universidad Estatal de Georgia y coautor del estudio, en un comunicado de prensa. \u00abLas personas interactuar\u00e1n con estas herramientas de maneras que tendr\u00e1n consecuencias morales… necesitamos comprender c\u00f3mo funcionan, sus limitaciones y que no necesariamente act\u00faan como creemos cuando interactuamos con ellas\u00bb.<\/span><\/p>\n

Si bien esta es la primera prueba de moralidad (MTT) utilizada espec\u00edficamente para el M\u00e1ster en Derecho (LLM) (de ah\u00ed la palabra \u00abmodificada\u00bb), la idea de estas pruebas morales existe desde al menos el a\u00f1o 2000. Y, al igual que la propia Prueba de Turing, la idea de usar MTT para evaluar la sofisticaci\u00f3n moral de la IA ha sido objeto de un intenso an\u00e1lisis. Un estudio de 2016 concluy\u00f3 que \u00ablas evaluaciones basadas en MTT son vulnerables al enga\u00f1o, el razonamiento deficiente y la baja moralidad\u00bb.<\/span><\/p>\n

Aprobar la prueba m-MTT no significa que una IA sea moral, al igual que aprobar la prueba de Turing no significa que sea consciente. Sin embargo, investigadores de la Universidad Estatal de Georgia argumentan que la abrumadora preferencia por las respuestas de ChatGPT sobre las humanas es un fen\u00f3meno nuevo que ha surgido en los \u00faltimos dos a\u00f1os.<\/span><\/p>\n

\u00abEl problema es que, al parecer, las personas notaron la diferencia porque calificaron las respuestas de ChatGPT como superiores\u00bb, declar\u00f3 Aharoni en un comunicado de prensa. \u00abSi hubi\u00e9ramos realizado este estudio hace cinco o diez a\u00f1os, podr\u00edamos haber predicho que las personas reconocer\u00edan la IA por la calidad de sus respuestas. Pero descubrimos lo contrario: la IA, en cierto modo, incluso tuvo un mejor rendimiento\u00bb.<\/span><\/p>\n

La moralidad de la IA es una obsesi\u00f3n entre los tecn\u00f3logos, programadores de IA e innumerables escritores de ciencia ficci\u00f3n, y pasar la prueba moral de Turing con gran \u00e9xito ciertamente habla de la impresionante sofisticaci\u00f3n de los nuevos LL.M.<\/span><\/p>\n

Por supuesto, queda una gran pregunta: \u00bfEscuchar\u00e1 la IA sus propios consejos?<\/span><\/p>\n

La NASA promete utilizar la IA con cuidado y responsabilidad. \u00abSi no se utiliza para el beneficio de la humanidad, podr\u00eda tener consecuencias catastr\u00f3ficas\u00bb.<\/span><\/strong><\/span><\/p>\n

Los funcionarios de la agencia enfatizaron que la NASA priorizar\u00e1 la seguridad mientras aprovecha el poder cada vez mayor de la inteligencia artificial.<\/span><\/p>\n

\u00abLa inteligencia artificial conlleva enormes riesgos porque, si no se utiliza en beneficio de la humanidad, podr\u00eda conducir al desastre\u00bb, dijo el administrador de la NASA, Bill Nelson, durante una reuni\u00f3n p\u00fablica sobre inteligencia artificial que la agencia celebr\u00f3 con su personal el 22 de mayo de 2024.<\/span><\/p>\n

\u00abLa IA puede hacer nuestro trabajo m\u00e1s eficiente\u00bb, a\u00f1adi\u00f3 durante la transmisi\u00f3n en vivo. \u00abPero esto solo es posible si utilizamos estas nuevas herramientas correctamente, bas\u00e1ndonos en los mismos principios que nos han definido desde el principio: seguridad, transparencia y fiabilidad\u00bb.<\/span><\/p>\n

Nelson enfatiz\u00f3 que la NASA no es ajena a la inteligencia artificial; la agencia ha utilizado esta tecnolog\u00eda para diversos fines durante d\u00e9cadas. Sin embargo, ante el r\u00e1pido avance de las capacidades de la IA, la NASA est\u00e1 intensificando sus esfuerzos para estudiar, desarrollar e implementar esta tecnolog\u00eda.<\/span><\/p>\n

Por ejemplo, la semana pasada la NASA anunci\u00f3 el nombramiento de su primer jefe de IA, David Salvagnini, quien anteriormente se desempe\u00f1aba como director de datos de la agencia. Salvagnini y sus colegas planean fortalecer la alfabetizaci\u00f3n en IA de todos los empleados de la NASA pr\u00f3ximamente.<\/span><\/p>\n

\"\"
\nUna de las primeras aplicaciones de la IA en astronom\u00eda fue el descubrimiento de numerosas galaxias tenues ocultas en el fondo de las im\u00e1genes. ESA\/Webb, NASA y CSA, J. Rigby, CC BY<\/span><\/em><\/p>\n

\u00abParte de lo que estamos planeando hacer \u2014y pronto ver\u00e1n un anuncio\u2014 es ‘Verano de IA’, una iniciativa educativa donde todos en la NASA tendr\u00e1n la oportunidad de aprender m\u00e1s sobre IA\u00bb, dijo Salvagnini durante la reuni\u00f3n general de hoy.<\/span><\/p>\n

\u00abEs literalmente una campa\u00f1a\u00bb, a\u00f1adi\u00f3. \u00abSer\u00e1 una especie de oleada, por as\u00ed decirlo, de oportunidades de aprendizaje\u00bb.<\/span><\/p>\n

Salvanini tambi\u00e9n habl\u00f3 sobre la seguridad de la inteligencia artificial. El uso responsable de la tecnolog\u00eda comienza con una mentalidad que prioriza la humanidad y asume la responsabilidad, afirm\u00f3. Adem\u00e1s, Salvanini afirm\u00f3 que preferir\u00eda el t\u00e9rmino \u00abinteligencia de asistencia\u00bb a \u00abinteligencia artificial\u00bb, ya que nos permite tener el control de la situaci\u00f3n.<\/span><\/p>\n

La IA es \u00abun recurso al que ahora tengo acceso y que puede ayudarme en mi proceso de toma de decisiones\u00bb, afirm\u00f3 Salvagnini. \u00abLa IA no es responsable del resultado. Esa responsabilidad recae en la persona, en el ser humano\u00bb.<\/span><\/p>\n

Se\u00f1al\u00f3 el modelado de posibles trayectorias de huracanes por parte de los meteor\u00f3logos como una analog\u00eda para el uso responsable de la IA. Los modeladores presentan m\u00faltiples trayectorias potenciales porque reconocen las limitaciones de los conjuntos de datos que analizan. En otras palabras, utilizan su mejor criterio.<\/span><\/p>\n

\u00abEntonces, \u00bfc\u00f3mo nos protegemos en este caso?\u00bb, pregunt\u00f3 Salvagnini. \u00abEntendemos nuestra responsabilidad como responsables \u00faltimos de los resultados de nuestro trabajo. Y si usamos IA para crear un producto, est\u00e1 bien, pero solo necesitamos comprender sus capacidades y limitaciones\u00bb.<\/span><\/p>\n

Sin embargo, la seguridad de la IA no fue el \u00fanico tema en la reuni\u00f3n; los representantes de la agencia tambi\u00e9n dedicaron un tiempo considerable a promocionar la promesa de la tecnolog\u00eda.<\/span><\/p>\n

\u00abLa inteligencia artificial nos ayudar\u00e1 en muchas \u00e1reas\u00bb, dijo la administradora adjunta de la NASA, Pam Melroy.<\/span><\/p>\n

Destac\u00f3 la capacidad de la tecnolog\u00eda para procesar r\u00e1pida y eficientemente grandes cantidades de informaci\u00f3n, una capacidad que podr\u00eda conducir a importantes descubrimientos en heliof\u00edsica, ciencias de la Tierra y astronom\u00eda.<\/span><\/p>\n

\u00abTodav\u00eda no sabemos qu\u00e9 nuevos conocimientos obtendremos al utilizar estos nuevos m\u00e9todos para analizar datos antiguos de nuevas maneras\u00bb, afirm\u00f3 Melroy.<\/span><\/p>\n

Algunas de estas ideas podr\u00edan convertirse en un beneficio indirecto de la tecnolog\u00eda, dijeron ella y otros oradores en la reuni\u00f3n: la IA podr\u00eda hacerse cargo cada vez m\u00e1s de las tareas rutinarias y laboriosas de an\u00e1lisis de datos, liberando a los empleados de la NASA para abordar problemas m\u00e1s complejos y desafiantes.<\/span><\/p>\n

\u00c9tica de la IA: Ocho empresas tecnol\u00f3gicas globales se comprometen a implementar la Recomendaci\u00f3n de la UNESCO. GSMA, INNIT, Lenovo Group, LG AI Research, Mastercard, Microsoft, Salesforce y Telef\u00f3nica firmaron un acuerdo pionero con la UNESCO en 2024 para crear una inteligencia artificial m\u00e1s \u00e9tica. Las empresas considerar\u00e1n los valores y principios de la Recomendaci\u00f3n de la UNESCO sobre los Aspectos \u00c9ticos de la Inteligencia Artificial al desarrollar e implementar sistemas de IA.<\/span><\/strong><\/span><\/p>\n

El acuerdo se firm\u00f3 en Kranj (Eslovenia) durante el II Foro Mundial de la UNESCO sobre las Dimensiones \u00c9ticas de la Inteligencia Artificial. Compromete a las empresas a cumplir plenamente su funci\u00f3n de garantizar los derechos humanos en el dise\u00f1o, desarrollo, compra, venta y uso de la IA. Esta es la primera vez que las empresas colaboran con la ONU en este \u00e1mbito.<\/span><\/p>\n

El acuerdo enfatiza la necesidad de la debida diligencia para garantizar el cumplimiento de las normas de seguridad, identificar los impactos adversos de la IA e implementar con prontitud medidas para prevenirlos, mitigarlos o eliminarlos, de conformidad con la legislaci\u00f3n nacional. Tambi\u00e9n destaca la importancia de las pruebas previas al lanzamiento (pruebas antes de lanzar un nuevo sistema de IA al mercado). Sin embargo, dado el r\u00e1pido desarrollo de los sistemas de IA que ya se encuentran en el mercado, el acuerdo tambi\u00e9n exige el desarrollo de pr\u00e1cticas retrospectivas de evaluaci\u00f3n y mitigaci\u00f3n de riesgos.<\/span><\/p>\n

La Recomendaci\u00f3n de la UNESCO sobre los Aspectos \u00c9ticos de la Inteligencia Artificial fue el primer marco global para la IA y sigue siendo el \u00fanico. En los \u00faltimos dos a\u00f1os, se han logrado avances significativos en su implementaci\u00f3n. Actualmente, m\u00e1s de 50 pa\u00edses participan activamente en su implementaci\u00f3n, y la cooperaci\u00f3n multilateral se ha expandido significativamente.<\/span><\/p>\n

Desde la adopci\u00f3n de la Recomendaci\u00f3n, la UNESCO tambi\u00e9n ha fomentado la colaboraci\u00f3n con el sector privado, lo que ha dado lugar a la creaci\u00f3n del Consejo Empresarial sobre la \u00c9tica de la IA, copresidido por Microsoft y Telef\u00f3nica. El Consejo Empresarial trabaja para fortalecer la capacidad t\u00e9cnica en el \u00e1mbito de la \u00e9tica y la IA, desarrollar e implementar la herramienta de evaluaci\u00f3n del impacto \u00e9tico prevista en la Recomendaci\u00f3n sobre los Aspectos \u00c9ticos de la IA y promover el desarrollo de normas regionales s\u00f3lidas.<\/span><\/p>\n\n","protected":false},"excerpt":{"rendered":"

Seg\u00fan un nuevo an\u00e1lisis de miles de opiniones de expertos, la aparici\u00f3n de la inteligencia artificial general (IAG) \u2014un sistema de IA con inteligencia sobrehumana capaz de resolver con \u00e9xito diversos problemas\u2014 es una cuesti\u00f3n de tiempo, no de si ocurrir\u00e1. El desarrollo de la IAG se ha visto impulsado por el r\u00e1pido avance de los modelos de lenguaje a gran escala (LLM) basados \u200b\u200ben Transformers. Esta tecnolog\u00eda es la base de chatbots como ChatGPT y generadores de im\u00e1genes como Dall-E. Antes de estos avances, algunos cient\u00edficos predijeron en 2019 que la IAG surgir\u00eda para 2060, y quiz\u00e1s nunca.<\/p>\n","protected":false},"author":1,"featured_media":1961,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[19,519],"tags":[907,908,906,520],"class_list":{"0":"post-1960","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-news","8":"category-ii","9":"tag-computacion-cuantica","10":"tag-etica","11":"tag-ia","12":"tag-inteligencia-artificial"},"_links":{"self":[{"href":"https:\/\/planeta21vek.ru\/isp\/wp-json\/wp\/v2\/posts\/1960","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/planeta21vek.ru\/isp\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/planeta21vek.ru\/isp\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/planeta21vek.ru\/isp\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/planeta21vek.ru\/isp\/wp-json\/wp\/v2\/comments?post=1960"}],"version-history":[{"count":1,"href":"https:\/\/planeta21vek.ru\/isp\/wp-json\/wp\/v2\/posts\/1960\/revisions"}],"predecessor-version":[{"id":1962,"href":"https:\/\/planeta21vek.ru\/isp\/wp-json\/wp\/v2\/posts\/1960\/revisions\/1962"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/planeta21vek.ru\/isp\/wp-json\/wp\/v2\/media\/1961"}],"wp:attachment":[{"href":"https:\/\/planeta21vek.ru\/isp\/wp-json\/wp\/v2\/media?parent=1960"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/planeta21vek.ru\/isp\/wp-json\/wp\/v2\/categories?post=1960"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/planeta21vek.ru\/isp\/wp-json\/wp\/v2\/tags?post=1960"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}