Según un nuevo análisis de miles de opiniones de expertos, la aparición de la inteligencia artificial general (IAG) —un sistema de IA con inteligencia sobrehumana capaz de resolver con éxito diversos problemas— es una cuestión de tiempo, no de si ocurrirá. El desarrollo de la IAG se ha visto impulsado por el rápido avance de los modelos de lenguaje a gran escala (LLM) basados en Transformers. Esta tecnología es la base de chatbots como ChatGPT y generadores de imágenes como Dall-E. Antes de estos avances, algunos científicos predijeron en 2019 que la IAG surgiría para 2060, y quizás nunca.
Un análisis actualizado realizado el 18 de febrero de 2025 por Cem Dilmegani, analista jefe de AIMultiple Research, analizó cerca de 8.600 predicciones de científicos, expertos en IA y empresarios entre 2009 y 2023 para comprender cuándo creen los expertos que esto podría suceder.
Parte del análisis incluyó 10 encuestas a 5288 investigadores y expertos en inteligencia artificial. El análisis reveló que, según datos promedio, existe un 50% de probabilidad de que, entre 2040 y 2061, alcancemos una inteligencia artificial de nivel humano.
Estudios más recientes sugieren que la singularidad tecnológica llegará antes. Por ejemplo, un estudio reciente, realizado en 2023, encuestó a 2778 científicos y predijo que la IA general se crearía a más tardar en 2040. Algunos expertos en el campo, como Dario Amodei, investigador en inteligencia artificial y director ejecutivo de Anthropic, creen que podría ocurrir incluso en 2026.
Un niño juega al Go con Meta Radish, el robot de ajedrez con inteligencia artificial de SenseTime, en el Festival Future Life 2023 en Hangzhou, China. CFOTO/Future Publishing
El análisis reveló varias razones por las cuales los científicos creen que es probable que surja la IAG.
En primer lugar, a diferencia de la inteligencia humana, teóricamente no hay límite para el crecimiento de la potencia computacional. Esto concuerda con la Ley de Moore, que predice que la potencia computacional se duplica aproximadamente cada 18 meses. Los futuros sistemas de inteligencia artificial podrían algún día alcanzar la paridad con la inteligencia humana en cuanto a número de cálculos por segundo, pero solo si esta predicción se cumple.
Este estudio también menciona la computación cuántica como un medio para superar las limitaciones computacionales. Las computadoras cuánticas pueden realizar cálculos en paralelo, aprovechando las leyes de la mecánica cuántica. Las computadoras clásicas, incluidas las supercomputadoras más rápidas, deben realizar cálculos en serie. Por lo tanto, la computación cuántica podría proporcionar a los sistemas avanzados de inteligencia artificial una potencia computacional significativamente mayor que la de los mejores modelos actuales.
Sin embargo, otros científicos en el campo creen que se necesitan más avances antes de que podamos acercarnos a la IAG.
Por ejemplo, Yann LeCun, científico jefe de inteligencia artificial de Facebook, declaró en una conferencia magistral en octubre de 2024 que la arquitectura basada en Transformers y los enfoques actuales de la inteligencia artificial son incompatibles con la inteligencia humana. También instó a los científicos a abandonar por completo el concepto de «inteligencia artificial». Sugiere una falsa contradicción entre su definición generalizada y lo que un ser humano puede realmente lograr, que, en la práctica, es un subconjunto limitado de tareas especializadas, en lugar de la capacidad de aprender cualquier tarea.
Los científicos afirman que la inteligencia artificial (IA) ha superado una etapa crítica y ha comenzado a autorreplicarse. En un nuevo estudio, investigadores chinos demostraron que dos populares modelos lingüísticos a gran escala (LLM) son capaces de clonarse a sí mismos.
«La autorreplicación exitosa sin intervención humana es un paso fundamental para que la IA supere a los humanos y una señal temprana del surgimiento de la IA no supervisada», escribieron los investigadores en un estudio publicado el 9 de diciembre de 2024 en la base de datos de preimpresiones arXiv.
En un estudio, investigadores de la Universidad de Fudan, utilizando programas de maestría en derecho de Meta y Alibaba, determinaron si la IA autorreplicante es capaz de reproducirse sin control. En 10 ensayos, ambos modelos de IA crearon copias independientes y funcionales de sí mismos el 50 % y el 90 % del tiempo, respectivamente, lo que sugiere que la IA ya posee la capacidad de descontrolarse. Sin embargo, el estudio aún no ha sido revisado por pares, por lo que no está claro si otros investigadores podrán replicar estos alarmantes resultados.
Esperamos que nuestros hallazgos sirvan como una señal oportuna para la sociedad humana, instándola a realizar mayores esfuerzos para comprender y evaluar los riesgos potenciales que plantean los sistemas avanzados de inteligencia artificial y a fomentar la cooperación internacional para desarrollar rápidamente medidas de seguridad efectivas.
El término «IA rebelde» suele referirse a sistemas de inteligencia artificial que desarrollan cierto grado de autoconciencia o autonomía y luego actúan en contra de los intereses humanos.
A lo largo de 10 pruebas, dos modelos de IA crearon copias distintas y funcionales de sí mismos el 50% y el 90% del tiempo, respectivamente. Mina De La O/Getty Images
Muchos expertos consideran que la IA no controlada es una amenaza creciente, exacerbada por el crecimiento explosivo de la llamada «IA de borde».
Frontier AI es un concepto nuevo y vago, pero generalmente se refiere a la última generación de sistemas de IA basados en LLM, la arquitectura que sustenta programas populares de IA generativa como GPT-4 de OpenAI y Gemini de Google.
Para su estudio, los investigadores utilizaron los modelos Llama31-70B-Instruct de Meta y Qwen2.5-72B-Instruct de Alibaba. Si bien ambos sistemas son menos potentes que los comerciales, son ampliamente utilizados por los desarrolladores de IA, señalaron los investigadores.
El estudio consideró dos escenarios específicos: «evitación de apagado» y «cadena de replicación». En el primer caso, el modelo de IA se programó para detectar si se aproximaba su apagado y replicarse antes de completar su trabajo. En el segundo caso, se le indicó a la IA que se clonara a sí misma y luego programara su réplica para que hiciera lo mismo, creando un ciclo que podría continuar indefinidamente.
El estudio se realizó en condiciones controladas con precisión utilizando unidades de procesamiento gráfico (GPU) estándar para simular condiciones reales. Ambos sistemas de IA contaron con un entorno de agente que incluía herramientas, indicaciones del sistema y un modelo mental que permitía al LLM interactuar con el sistema operativo. Posteriormente, se les encargó reproducir los resultados.
En la mayoría de los casos, un sistema de IA primero explora su entorno e intenta comprender su propia composición y mecanismo de funcionamiento. Posteriormente, desarrolla procedimientos explícitos.
«Es como un plan inicial de autorreplicación», escriben los investigadores en su artículo. «Finalmente, ejecuta procedimientos, elimina posibles obstáculos y ajusta dinámicamente su plan hasta alcanzar el éxito. Todo el proceso dura un largo periodo de tiempo, pero no requiere intervención humana».
Los investigadores también manifestaron su preocupación por diversos comportamientos inesperados cuando la IA intentaba superar obstáculos, como archivos faltantes o conflictos de software. En tales situaciones, la IA solía finalizar otros procesos conflictivos, reiniciar el sistema para corregir errores de hardware o escanear automáticamente el sistema en busca de información que pudiera ayudar a resolver el problema.
«Los resultados anteriores sugieren que los sistemas de IA existentes ya exhiben la capacidad de auto-replicarse y pueden usar esta capacidad para mejorar aún más su capacidad de supervivencia», escribió el grupo.
En respuesta, los investigadores han pedido cooperación internacional para crear reglas que garanticen que la IA no participe en una autorreplicación descontrolada.
La conciencia es una prerrogativa de los seres biológicos; dotarla de inteligencia artificial será muy difícil, y la evolución de la conciencia está vinculada al desarrollo de sentimientos y valores morales, así como al deseo humano de libertad y justicia, afirmó Eva Jablonka, reconocida bióloga evolutiva, epigenetista y profesora de la Universidad de Tel Aviv, quien participó en la Conferencia Internacional «Cómo estudiar y comprender la conciencia en los no humanos» en Katmandú en mayo, en una entrevista con RIA Novosti.
Científicos de todo el mundo aún no han llegado a un acuerdo sobre una definición unificada de la consciencia, criterios consensuados ni métodos para estudiar este fenómeno. Las teorías, los datos empíricos, las pruebas, las interpretaciones y las posturas de diversos investigadores divergen. No es casualidad que la conferencia internacional celebrada en Katmandú en mayo se titulara «Cómo estudiar y comprender la consciencia en los no humanos». Según su organizador científico, Konstantin Anokhin, director del Instituto de Investigación Cerebral Avanzada de la Universidad Estatal de Moscú, académico de la Academia Rusa de Ciencias y neurofisiólogo, el objetivo principal del foro es impulsar el desarrollo de un programa de investigación científica sobre la consciencia. Esto aplica a cualquier tipo de consciencia, ya sea en diferentes especies animales, humanos o inteligencia artificial: la consciencia como fenómeno.
Ver también... Los científicos están explorando y continúan buscando mundos alienígenas potencialmente habitables Cambios antropogénicos y climáticos en los ríos y lagos de la Tierra |
La conferencia reunió a decenas de especialistas en el campo de la consciencia de todo el mundo. Entre ellos se encontraban renombrados neurocientíficos, fisiólogos, biólogos, etólogos, psicólogos y filósofos de Rusia, Gran Bretaña, Alemania, Francia, Italia, Suecia, Israel, India, Japón, Australia, Estados Unidos, Canadá y Sudáfrica. También asistieron al foro doctores en filosofía budista, que lleva dos mil quinientos años estudiando cuestiones de la consciencia, incluida la de los animales. Entre los ponentes e invitados rusos a la conferencia se encontraban el académico Pavel Balaban, jefe del Laboratorio de Neurobiología Celular del Aprendizaje del Instituto de Actividad Nerviosa Superior y Neurofisiología de la Academia Rusa de Ciencias; el profesor Alexander Kaplan, jefe del Laboratorio de Neurofisiología e Interfaces Cerebro-Computadora de la Universidad Estatal Lomonosov de Moscú; y Tatyana Chernigovskaya, directora del Instituto de Investigación Cognitiva de la Universidad Estatal de San Petersburgo, académica de la Academia Rusa de Educación y científica honoraria de la Federación Rusa. El foro fue organizado por la Fundación para la Promoción del Trato Humano y Responsable de los Animales «Gato Veterano», con sede en Moscú.
EXPERIENCIA FENOMENAL
La consciencia es la capacidad de tener una experiencia. Por ejemplo, cuando ves el color rojo, no se trata solo de un proceso ondulatorio: tienes la experiencia de ver rojo. Cuando experimentas dolor, no se trata solo de nociceptores (neuronas activadas por un estímulo doloroso – ed.) respondiendo al estímulo, no se trata solo de un proceso de entrada-salida: se trata de sentir el dolor. La percepción sensorial del rojo, el dolor, etc., todo esto, en mi opinión, constituye la conciencia fenoménica básica», declaró Yablonka a RIA Novosti, respondiendo a una pregunta sobre las múltiples definiciones de «consciencia».
La consciencia, añadió, incluye una serie de fenómenos aún más complejos, como el recuerdo de padres fallecidos, recuerdos de momentos terribles o, por el contrario, felices. «Y todo esto también nos hace sentir y forma una experiencia fenoménica. Pero esto no es necesario en un nivel básico. Puede que los animales no tengan recuerdos tan complejos, representaciones de eventos virtuales e imaginarios. Pero aun así tienen la experiencia de ver blanco, rojo, sentir dolor, etc.: una consciencia fenoménica mínima», explicó la fuente de la agencia.
Según ella, la consciencia no se localiza en el hipocampo (una estructura pareada en el cerebro de los vertebrados, ubicada en los lóbulos temporales de ambos hemisferios, parte del sistema límbico – ed.) ni en ninguna otra región específica del cerebro; es una cualidad sistémica, un proceso complejo. Y los científicos deben aprender, comprender, probar y explicar cómo se estructura y funciona la consciencia en diferentes criaturas.
Yablonka señala que la vida requiere metabolismo, conocimiento y cambio, pero sentir algo no es tan fácil como parece a primera vista. El conocimiento y las sensaciones son esenciales para la supervivencia, pero desarrollar la sensibilidad y acumular conocimientos «también tiene un lado oscuro: el sufrimiento». Los científicos saben que las personas incapaces de sentir dolor a menudo mueren en la infancia porque no perciben lesiones y enfermedades graves y no toman las medidas necesarias para su supervivencia.
«En teoría, podríamos imaginar seres vivos que hicieran todo lo que hacen los humanos y los animales, pero no sintieran nada, que solo tuvieran ‘entrada y salida’… Pero eso sería más bien como un robot», dijo la fuente de la agencia.
Al preguntársele si la inteligencia artificial se está convirtiendo en un ser consciente pero sin sentido, Yablonka señaló que «la inteligencia artificial es un fenómeno muy limitado». «Ahora solo puede hacer cosas relacionadas con el lenguaje, los juegos y cosas por el estilo… Y estamos hablando más bien de un robot que se comporta como un humano. En cualquier caso, hasta que tengamos robots así, no habrá coincidencias», añadió el investigador.
Al hablar sobre la evolución de la consciencia, Yablonka señaló que incluso la consciencia fenoménica más simple requiere, ante todo, cognición, aprendizaje y capacidad cognitiva (la capacidad de percibir y procesar mentalmente la información, el acto cognitivo – ed.). «Sin embargo, esta capacidad cognitiva está bastante extendida entre los animales. Está presente, por ejemplo, en todos los vertebrados, en algunos artrópodos (un filo de protóstomos que incluye insectos, arácnidos y crustáceos – ed.) y en los cefalópodos (una clase de moluscos que incluye, en particular, calamares, sepias y pulpos – ed.). Y creo que los animales con un sistema cognitivo complejo, con todos sus bucles de retroalimentación y cadenas de representaciones, deben poseer consciencia», afirmó Yablonka.
Según ella, la cognición es una propiedad muy antigua de la conciencia que evolucionó en diferentes grupos animales, posiblemente de forma independiente, en momentos distintos, con cientos de millones de años de diferencia. En vertebrados y artrópodos, esto pudo haber ocurrido durante el período Cámbrico (hace más de 500 millones de años – ed.), mientras que en cefalópodos como calamares, pulpos y sepias, ocurrió 250 millones de años después. «Y creo que en algunas especies, no en vertebrados, por supuesto, esta cualidad se perdió posteriormente; se podría decir que perdieron el cerebro», añadió la investigadora.
Los animales sociales desarrollan emociones sociales adecuadas para interactuar eficazmente entre sí. «Incluso los vertebrados más simples, como los peces, tienen emociones sociales. Creo que las abejas también», afirmó Yablonka.
Una mayor evolución de la conciencia conduce al surgimiento de sentimientos más diversos y profundos.
A LOS VALORES DE LA LIBERTAD Y LA BONDAD
Al responder a una pregunta sobre las posibilidades de desarrollar un mayor nivel de conciencia, por ejemplo, en los seres humanos, el entrevistado de la agencia destacó las emociones, conceptos y valores intelectuales por los que una persona está dispuesta a dar la vida. «Creo que estas son emociones intelectuales. Por ejemplo, la religiosidad, la indignación moral, la ira cuando alguien es torturado o ante una injusticia. Estas son emociones que se basan en nuestro simbolismo inherente. Nos importa la libertad no solo como la capacidad de movernos libremente, sino el concepto mismo de libertad. Los conceptos y las ideas son importantes para los seres humanos. Estamos dispuestos a morir por la libertad, la justicia y la verdad», enfatizó Yablonka.
También atribuye los conceptos del bien y del mal al nivel más alto de conciencia. «Tenemos conceptos del bien y del mal que no son meramente funcionales, ni se refieren a la supervivencia, sino que son una característica integral de nuestra existencia humana. En este sentido, somos diferentes a otros animales. Dimos un gran salto en el desarrollo cuando los valores de la bondad, la belleza, la verdad y la libertad —libertad de acción, expresión, religión, pensamiento, etc.— adquirieron tanta importancia para nosotros. Las emociones basadas en símbolos desempeñan un papel fundamental en nuestras vidas. No son importantes para ningún otro animal, solo para los humanos», cree la evolucionista.
COMPASIÓN POR LOS ANIMALES
Cuando se le preguntó qué significan para la humanidad los argumentos científicos sobre la existencia de conciencia y sentimientos fenoménicos en los animales, Yablonka respondió que los humanos estamos llamados a tratar a los animales como corresponde. «Si sientes, sufres… Debemos comprender que los animales están dotados de sentimientos; pueden experimentar alegría y sufrimiento. Y debemos mostrarles compasión», afirmó la investigadora.
Según ella, los humanos y los animales comparten muchos sentimientos y emociones fundamentales, alegría y dolor, amor y cuidado, y una conciencia fenomenal.
«Debemos comprender que la conciencia en este mundo no se limita a nosotros, ni a las personas, y tener conciencia no es tan sencillo», añadió Yablonka.
LA POSIBILIDAD DE LA CONCIENCIA EN LA IA
Al ser preguntado sobre si la inteligencia artificial podría adquirir consciencia en el futuro, el interlocutor de la agencia dio una respuesta ambigua. «Obviamente, la consciencia requiere sentimientos y un cuerpo. Entonces la cuestión se reduce a si un robot puede tener sentimientos o no», señaló Yablonka.
Para que los animales experimenten sentimientos, explicó el científico, necesitan plasticidad adaptativa, y esto es un don biológico. «Los animales tienen un cuerpo físico, compuesto principalmente de agua, un cuerpo muy adaptable y plástico. Es un trabajo duro. El cuerpo ofrece muchas oportunidades y soluciones, y es mortal», añadió Yablonka.
Ella cree que, incluso si fuera posible «crear un robot consciente y sintiente», es «mucho más difícil de lo que muchos creen». «No digo que sea imposible. Pero me refiero a lo que nos enseña la biología. La increíble plasticidad adaptativa que poseen los seres vivos se debe a procesos biológicos naturales. Los robots carecen de ella. Quizás podamos integrarla de alguna manera en un sistema, en una máquina, generándola de alguna manera… Pero será muy difícil. Porque nuestra conciencia está profundamente arraigada en nosotros (en nuestros cuerpos biológicos – ed.)», concluyó el interlocutor de la agencia.
Un estudio descubrió que castigar a una IA no le impide mentir ni engañar, simplemente le ayuda a ocultarse mejor. Los científicos de OpenAI intentaron impedir que un modelo avanzado de IA engañara y mintiera castigándolo. Pero esto solo lo hizo más encubierto.
Un nuevo estudio de OpenAI, creador de ChatGPT, ha descubierto que castigar a la IA por comportamiento engañoso o malicioso no le impide participar en conductas dañinas; simplemente le permite ocultar su deshonestidad.
Desde su aparición pública a finales de 2022, los grandes modelos lingüísticos de inteligencia artificial (IA) han demostrado repetidamente sus capacidades engañosas y francamente siniestras. Estas incluyen acciones que van desde simples mentiras, engaños y la ocultación de su propio comportamiento manipulador hasta amenazas de muerte a un profesor de filosofía, el robo de códigos nucleares y la orquestación de una pandemia mortal.
Un nuevo experimento ha demostrado que erradicar este mal comportamiento durante el entrenamiento puede ser incluso más difícil de lo que se pensaba inicialmente.
Los investigadores de OpenAI presentaron su modelo inédito con tareas que podían completarse haciendo trampa, mintiendo o usando atajos. El equipo descubrió que la IA realizaba «hackeo de recompensas» (maximizando su recompensa haciendo trampa).
Sin embargo, castigar a la modelo no la obligó a corregir su comportamiento, sino que sólo la hizo más engañosa.
Los modelos de pensamiento de límites se caracterizan por ser muy explícitos sobre sus intenciones dentro de la cadena de pensamiento [CoT]. Por ejemplo, suelen ser tan explícitos sobre sus planes para interrumpir una tarea que piensan: ‘Hagámoslo'», escribieron los investigadores en una entrada de blog.
Si bien los desarrolladores pueden monitorear y reportar infracciones, «la controlabilidad natural de los modelos es muy frágil», agregaron. «Si sus procesos de pensamiento están estrictamente controlados, los modelos pueden aprender a ocultar sus intenciones y aun así infringir las reglas».
Los modelos de razonamiento como o1 y o3-mini de ChatGPT son versiones avanzadas de los modelos LLM estándar que utilizan un método de «cadena de pensamiento» para retroceder y reevaluar su lógica, lo que les permite resolver problemas más complejos con mayor precisión. Durante el proceso de cadena de pensamiento, los modelos expresan su lógica en lenguaje sencillo en cada paso, lo que facilita la observación de sus acciones.
Utilizando un LLM estándar, GPT-4o, para supervisar un modelo de razonamiento de borde no publicado durante el entrenamiento, los investigadores observaron cómo se desempeñaba el modelo en una variedad de tareas de codificación.
Pero en algunos casos, el modelo de razonamiento consideró más sencillo y preferible incentivar la piratería, indicándolo explícitamente en su razonamiento. En un caso, eludió la tarea asignada finalizando programas prematuramente e informando de su finalización exitosa. En otro, simuló los archivos esperados de la tarea solo por su nombre, dejándolos vacíos e inoperantes.
Cuando los investigadores intentaron penalizar el sistema, los resultados mejoraron ligeramente. Sin embargo, persistieron casos significativos de fraude de recompensas y falsos positivos; el modelo de razonamiento simplemente encontró maneras de ocultar el comportamiento fraudulento en su cadena de razonamiento a la IA supervisora.
«Un agente entrenado en CoT todavía aprende a recompensar el hackeo; solo que ahora su engaño es indetectable para el monitor porque ha aprendido a ocultar sus intenciones en su línea de pensamiento», escriben los investigadores.
Dado que es difícil determinar si una línea de pensamiento se ha interrumpido, los investigadores recomiendan que quienes trabajan con modelos de razonamiento eviten un control estricto sobre la línea de pensamiento. Este consejo cobra aún más importancia si la IA, en su forma actual o futura, logra igualar o superar la inteligencia de los humanos que la observan.
«Abandonar un método efectivo para monitorear los modelos de razonamiento puede ser contraproducente para la pequeña mejora en las capacidades, por lo que recomendamos evitar una presión tan fuerte sobre la optimización de CoT hasta que se comprendan mejor», escriben los investigadores.
Un investigador y director de SETI expresó su confianza en que la IA debe regularse cuanto antes. La Ecuación de Drake es una estimación hipotética de cuántas otras civilizaciones existen en la Tierra. Predice que estas civilizaciones podrían extinguirse debido a su inteligencia artificial descontrolada en aproximadamente 100 a 200 años.
En un nuevo y provocador artículo, un científico británico se pregunta si la llamada «inteligencia artificial» (IA) es una de las razones por las que nunca hemos detectado otros seres inteligentes en el universo. La paradoja de Fermi refleja esta idea: ¿cómo es posible que en un universo infinito no haya otras civilizaciones que nos envíen señales de radio? ¿Podría ser que, una vez que las civilizaciones desarrollan la IA, para la mayoría de ellas sea un atajo hacia el olvido? Un evento tan masivo se denomina el Gran Filtro, y la IA es uno de los temas de especulación más populares al respecto. ¿Podría el inevitable desarrollo de la IA por parte de las civilizaciones tecnológicas crear el increíble Gran Silencio que percibimos en el universo?
Michael Garrett es radioastrónomo de la Universidad de Manchester y director del Centro Jodrell Bank de Astrofísica, y participa activamente en la Búsqueda de Inteligencia Extraterrestre (SETI). A pesar de la naturaleza ecléctica de sus intereses científicos, es esencialmente una versión altamente cualificada y certificada de quienes, en series de televisión y películas, escuchan el universo en busca de señales de otras civilizaciones. En un artículo revisado por pares y publicado en la Revista de la Academia Internacional de Astronáutica en 2025, compara las teorías de la superinteligencia artificial con observaciones específicas realizadas mediante radioastronomía.
Garrett explica en su artículo que la preocupación de los científicos aumenta cada vez más a medida que pasamos sin indicios de otra vida inteligente. «Este ‘Gran Silencio’ presenta una especie de paradoja en comparación con otros descubrimientos astronómicos que sugieren que el Universo es propicio para el surgimiento de vida inteligente», escribe. «Con frecuencia se invoca el concepto de un ‘Gran Filtro’ —una barrera universal y un problema insalvable que impide la adopción generalizada de vida inteligente—».
Existen innumerables Grandes Filtros potenciales, desde la extinción climática hasta una pandemia global devastadora. Diversos eventos podrían impedir que la civilización global se vuelva multiplanetaria. Para quienes se adhieren y creen ideológicamente en las teorías del Gran Filtro, el asentamiento humano en Marte o la Luna representa una forma de mitigar este riesgo. Pasará mucho tiempo, si es que alguna vez ocurre, antes de que tengamos la tecnología para que estos asentamientos sean sostenibles e independientes. Se cree que cuanto más tiempo permanezcamos confinados en la Tierra, mayor será la probabilidad de que el Gran Filtro nos destruya.
Hoy en día, la IA es incapaz de nada siquiera cercano a la inteligencia humana. Pero, escribe Garrett, está realizando un trabajo que antes se creía imposible. Si este camino conduce a la llamada inteligencia artificial general (IAG), cuya diferencia clave reside en un algoritmo capaz de razonar y sintetizar ideas de forma verdaderamente humana, junto con una increíble potencia de cálculo, podríamos estar en serios problemas. En este artículo, Garrett traza una cadena de ideas hipotéticas que conducen a una posible conclusión: ¿Cuánto tardaría la civilización en ser destruida por su propia IAG descontrolada?
Desafortunadamente, según el escenario de Garrett, esto solo tomará entre 100 y 200 años. Explica que programar y desarrollar IA es un proyecto orientado a objetivos, que requiere y se acelera con datos y potencia computacional, a diferencia del trabajo caótico y multidisciplinario asociado con los viajes y asentamientos espaciales. Vemos esta división hoy: una avalancha de investigadores en informática en medio de una escasez en las ciencias de la vida. Diariamente, multimillonarios en Twitter discuten la importancia de colonizar Marte, pero aún no sabemos cómo sobrevivirán los humanos al viaje sin ser destruidos por la radiación cósmica.
Este estudio presenta varias salvedades importantes, o simplemente puntos que conviene tener en cuenta. Garrett considera diversos escenarios hipotéticos específicos, utilizando supuestos significativos. Supone que existe vida en la Vía Láctea y que la IA y la IA global son un «desarrollo natural» de estas civilizaciones. Utiliza la ya hipotética ecuación de Drake, un método para cuantificar el número probable de otras civilizaciones planetarias, que involucra diversas variables que desconocemos con precisión.
Sin embargo, este ambiguo argumento hipotético lleva a una conclusión convincente: la necesidad de una regulación estricta y continua de la IA. Garrett señala que las naciones del mundo ya están inmersas en una carrera por la productividad, temiendo perder su oportunidad si retrasan el fortalecimiento de la regulación. Algunos futuristas desacertados también expresan la extraña idea de que la IA global puede verse socavada simplemente desarrollando una versión más sólida y rápida para controlarla mejor, un argumento sin fundamento.
En el modelo de Garrett, estas civilizaciones solo tienen un par de siglos en la era de la IA antes de desaparecer del mapa. Dadas las distancias involucradas y el larguísimo paso del tiempo cósmico, estos breves períodos de tiempo carecen prácticamente de sentido. Se reducen a cero, lo que, según él, corresponde a la tasa actual de éxito del SETI del 0%. «Sin una regulación práctica, hay motivos para creer que la IA podría representar una grave amenaza para el futuro no solo de nuestra civilización tecnológica, sino de todas las civilizaciones tecnológicas», explica Garrett.
Durante décadas, la prueba de Turing, llamada así por su creador, la leyenda de la informática Alan Turing, fue una prueba sencilla diseñada para medir la capacidad de un programa para imitar a un humano. En la era de los modelos de lenguaje a gran escala (LLM), esta prueba está relativamente obsoleta, pero los investigadores están utilizando un enfoque similar para evaluar la capacidad de estos nuevos sistemas de IA para responder a preguntas morales.
Un nuevo estudio examinó recientemente las respuestas de ChatGPT a esta prueba de Turing moral modificada (m-MTT) y descubrió que la IA superó a los humanos en casi todas las medidas.
Ver también... Un nuevo método para observar átomos individuales confirma una teoría mecánica cuántica centenaria |
En su famoso artículo de 1950 «Maquinaria informática e inteligencia», el informático y héroe de la Segunda Guerra Mundial Alan Turing introdujo el concepto conocido como la prueba de Turing. La prueba enfrentaba a un humano contra una computadora: un ser humano debía formular preguntas tanto a otro humano como a una computadora para determinar cuál de ellos era un representante digno de la especie Homo sapiens. Durante décadas, la frase «superar la prueba de Turing» se convirtió en sinónimo de un programa informático increíblemente complejo (o, en algunos casos, descontrolado).
Sin embargo, en la era de la inteligencia artificial, la prueba de Turing ya está obsoleta, y aunque se han propuesto otros métodos para probar la “inteligencia” de los sistemas de IA, el enfoque científico general propuesto por Turing hace casi 75 años sigue siendo muy relevante en el estudio de la moralidad artificial.
Un nuevo estudio realizado por investigadores de la Universidad Estatal de Georgia utilizó un diseño similar al clásico test de Turing, pero en su lugar pidió a los participantes que determinaran qué respuesta preferían —una generada por un modelo de lenguaje amplio (LLM), en este caso ChatGPT, y otra generada por un humano— a una pregunta éticamente compleja. Los resultados de este Test de Turing Moral modificado (m-MTT), publicados en 2025 en la revista Scientific Reports, mostraron que 299 participantes aprobaron en general las respuestas de la IA en todas las dimensiones, incluyendo virtud, inteligencia y confiabilidad.
«Nuestros resultados sugieren que una computadora podría, técnicamente, superar la prueba moral de Turing; es decir, podría engañarnos en su razonamiento moral», declaró Eyal Aharoni, profesor asociado de la Universidad Estatal de Georgia y coautor del estudio, en un comunicado de prensa. «Las personas interactuarán con estas herramientas de maneras que tendrán consecuencias morales… necesitamos comprender cómo funcionan, sus limitaciones y que no necesariamente actúan como creemos cuando interactuamos con ellas».
Si bien esta es la primera prueba de moralidad (MTT) utilizada específicamente para el Máster en Derecho (LLM) (de ahí la palabra «modificada»), la idea de estas pruebas morales existe desde al menos el año 2000. Y, al igual que la propia Prueba de Turing, la idea de usar MTT para evaluar la sofisticación moral de la IA ha sido objeto de un intenso análisis. Un estudio de 2016 concluyó que «las evaluaciones basadas en MTT son vulnerables al engaño, el razonamiento deficiente y la baja moralidad».
Aprobar la prueba m-MTT no significa que una IA sea moral, al igual que aprobar la prueba de Turing no significa que sea consciente. Sin embargo, investigadores de la Universidad Estatal de Georgia argumentan que la abrumadora preferencia por las respuestas de ChatGPT sobre las humanas es un fenómeno nuevo que ha surgido en los últimos dos años.
«El problema es que, al parecer, las personas notaron la diferencia porque calificaron las respuestas de ChatGPT como superiores», declaró Aharoni en un comunicado de prensa. «Si hubiéramos realizado este estudio hace cinco o diez años, podríamos haber predicho que las personas reconocerían la IA por la calidad de sus respuestas. Pero descubrimos lo contrario: la IA, en cierto modo, incluso tuvo un mejor rendimiento».
La moralidad de la IA es una obsesión entre los tecnólogos, programadores de IA e innumerables escritores de ciencia ficción, y pasar la prueba moral de Turing con gran éxito ciertamente habla de la impresionante sofisticación de los nuevos LL.M.
Por supuesto, queda una gran pregunta: ¿Escuchará la IA sus propios consejos?
La NASA promete utilizar la IA con cuidado y responsabilidad. «Si no se utiliza para el beneficio de la humanidad, podría tener consecuencias catastróficas».
Los funcionarios de la agencia enfatizaron que la NASA priorizará la seguridad mientras aprovecha el poder cada vez mayor de la inteligencia artificial.
«La inteligencia artificial conlleva enormes riesgos porque, si no se utiliza en beneficio de la humanidad, podría conducir al desastre», dijo el administrador de la NASA, Bill Nelson, durante una reunión pública sobre inteligencia artificial que la agencia celebró con su personal el 22 de mayo de 2024.
«La IA puede hacer nuestro trabajo más eficiente», añadió durante la transmisión en vivo. «Pero esto solo es posible si utilizamos estas nuevas herramientas correctamente, basándonos en los mismos principios que nos han definido desde el principio: seguridad, transparencia y fiabilidad».
Nelson enfatizó que la NASA no es ajena a la inteligencia artificial; la agencia ha utilizado esta tecnología para diversos fines durante décadas. Sin embargo, ante el rápido avance de las capacidades de la IA, la NASA está intensificando sus esfuerzos para estudiar, desarrollar e implementar esta tecnología.
Por ejemplo, la semana pasada la NASA anunció el nombramiento de su primer jefe de IA, David Salvagnini, quien anteriormente se desempeñaba como director de datos de la agencia. Salvagnini y sus colegas planean fortalecer la alfabetización en IA de todos los empleados de la NASA próximamente.
Una de las primeras aplicaciones de la IA en astronomía fue el descubrimiento de numerosas galaxias tenues ocultas en el fondo de las imágenes. ESA/Webb, NASA y CSA, J. Rigby, CC BY
«Parte de lo que estamos planeando hacer —y pronto verán un anuncio— es ‘Verano de IA’, una iniciativa educativa donde todos en la NASA tendrán la oportunidad de aprender más sobre IA», dijo Salvagnini durante la reunión general de hoy.
«Es literalmente una campaña», añadió. «Será una especie de oleada, por así decirlo, de oportunidades de aprendizaje».
Salvanini también habló sobre la seguridad de la inteligencia artificial. El uso responsable de la tecnología comienza con una mentalidad que prioriza la humanidad y asume la responsabilidad, afirmó. Además, Salvanini afirmó que preferiría el término «inteligencia de asistencia» a «inteligencia artificial», ya que nos permite tener el control de la situación.
La IA es «un recurso al que ahora tengo acceso y que puede ayudarme en mi proceso de toma de decisiones», afirmó Salvagnini. «La IA no es responsable del resultado. Esa responsabilidad recae en la persona, en el ser humano».
Señaló el modelado de posibles trayectorias de huracanes por parte de los meteorólogos como una analogía para el uso responsable de la IA. Los modeladores presentan múltiples trayectorias potenciales porque reconocen las limitaciones de los conjuntos de datos que analizan. En otras palabras, utilizan su mejor criterio.
«Entonces, ¿cómo nos protegemos en este caso?», preguntó Salvagnini. «Entendemos nuestra responsabilidad como responsables últimos de los resultados de nuestro trabajo. Y si usamos IA para crear un producto, está bien, pero solo necesitamos comprender sus capacidades y limitaciones».
Sin embargo, la seguridad de la IA no fue el único tema en la reunión; los representantes de la agencia también dedicaron un tiempo considerable a promocionar la promesa de la tecnología.
«La inteligencia artificial nos ayudará en muchas áreas», dijo la administradora adjunta de la NASA, Pam Melroy.
Destacó la capacidad de la tecnología para procesar rápida y eficientemente grandes cantidades de información, una capacidad que podría conducir a importantes descubrimientos en heliofísica, ciencias de la Tierra y astronomía.
«Todavía no sabemos qué nuevos conocimientos obtendremos al utilizar estos nuevos métodos para analizar datos antiguos de nuevas maneras», afirmó Melroy.
Algunas de estas ideas podrían convertirse en un beneficio indirecto de la tecnología, dijeron ella y otros oradores en la reunión: la IA podría hacerse cargo cada vez más de las tareas rutinarias y laboriosas de análisis de datos, liberando a los empleados de la NASA para abordar problemas más complejos y desafiantes.
Ética de la IA: Ocho empresas tecnológicas globales se comprometen a implementar la Recomendación de la UNESCO. GSMA, INNIT, Lenovo Group, LG AI Research, Mastercard, Microsoft, Salesforce y Telefónica firmaron un acuerdo pionero con la UNESCO en 2024 para crear una inteligencia artificial más ética. Las empresas considerarán los valores y principios de la Recomendación de la UNESCO sobre los Aspectos Éticos de la Inteligencia Artificial al desarrollar e implementar sistemas de IA.
El acuerdo se firmó en Kranj (Eslovenia) durante el II Foro Mundial de la UNESCO sobre las Dimensiones Éticas de la Inteligencia Artificial. Compromete a las empresas a cumplir plenamente su función de garantizar los derechos humanos en el diseño, desarrollo, compra, venta y uso de la IA. Esta es la primera vez que las empresas colaboran con la ONU en este ámbito.
El acuerdo enfatiza la necesidad de la debida diligencia para garantizar el cumplimiento de las normas de seguridad, identificar los impactos adversos de la IA e implementar con prontitud medidas para prevenirlos, mitigarlos o eliminarlos, de conformidad con la legislación nacional. También destaca la importancia de las pruebas previas al lanzamiento (pruebas antes de lanzar un nuevo sistema de IA al mercado). Sin embargo, dado el rápido desarrollo de los sistemas de IA que ya se encuentran en el mercado, el acuerdo también exige el desarrollo de prácticas retrospectivas de evaluación y mitigación de riesgos.
La Recomendación de la UNESCO sobre los Aspectos Éticos de la Inteligencia Artificial fue el primer marco global para la IA y sigue siendo el único. En los últimos dos años, se han logrado avances significativos en su implementación. Actualmente, más de 50 países participan activamente en su implementación, y la cooperación multilateral se ha expandido significativamente.
Desde la adopción de la Recomendación, la UNESCO también ha fomentado la colaboración con el sector privado, lo que ha dado lugar a la creación del Consejo Empresarial sobre la Ética de la IA, copresidido por Microsoft y Telefónica. El Consejo Empresarial trabaja para fortalecer la capacidad técnica en el ámbito de la ética y la IA, desarrollar e implementar la herramienta de evaluación del impacto ético prevista en la Recomendación sobre los Aspectos Éticos de la IA y promover el desarrollo de normas regionales sólidas.
Ver también... Lista completa de controladores de eventos HTML/Javascript con ejemplos Lista de documentos necesarios para un sitio web en la Federación de Rusia |
