Un investigador de Anthropic advirtió el pasado miércoles que la superinteligencia artificial podría terminar con todos los seres humanos. La ‘tarjeta amarilla’ proviene de Evan Hubinger, responsable de investigación sobre alineamiento en Anthropic. Lo que dijo es que existe más de un 10% de posibilidades de que la IA pueda matar a todos los seres humanos durante la próxima década.
¿Exagerado? Quizás no. La advertencia de Hubinger se produce tras la dimisión de Jacob Coxon, un investigador que ha trabajado tanto para Anthropic como para OpenAI. Coxon acusa a las grandes compañías de correr hacia una IA capaz de mejorarse a sí misma y por tanto de estar “jugando con nuestras vidas”...
El riesgo del que advierte Hubinger es que la IA acelere su propio desarrollo hasta ser capaz de engañar a sus supervisores, obtener recursos e incluso lograr evitar ser desconectada.
Y a este peligro se suma el riesgo de que dictaduras o terroristas quieran utilizar la IA para multiplicar su capacidad destructiva y su poder.
El mismo Papa León XIV advertía en su encíclica Magnifica Humanitas que ni siquiera los creadores de la IA conocen perfectamente el funcionamiento interno de los sistemas que están desarrollando ni la posibilidad de que se desarrollen solos en un proceso de autoaprendizaje sin freno.
Por eso el Santo Padre pidió “desarmar” la IA. Entonces -hace solo algunas semanas- parecía exagerado. Hoy ya empezamos a entender por qué el Papa pedía “desarmar” una herramienta que puede potenciar el conocimiento y el intercambio pero también puede aniquilar al conjunto de la humanidad…
Como informamos desde Actuall, los pasados 14, 15 y 16 de julio el Papa reunió a 200 científicos, directivos y premios Nobel en Castel Gandolfo y Roma. La preocupación más inmediata es que no fuera una máquina la que decidiera apretar el botón nuclear. También reclamaron que ningún gobierno permitiera los sistemas de autoaprendizaje sin límite y sin control humano.
Además de las amenazas están las oportunidades. Se podría comparar a la máquina de vapor, el petróleo o el arma química. Quien domine la IA tendrá una importantísima ventaja competitiva, dominará el mundo. Estados Unidos parte con una enorme ventaja financiera y empresarial. Se calcula que EEUU ha invertido en IA 285.900 millones frente a los 12.400 millones invertidos por China. Sin embargo, las distancias parecen estrecharse. Porque además, Pekín dispone de algunas ventajas que una democracia no tiene: planificación estatal y menores límites para integrar la tecnología en la vigilancia y la Defensa. Europa mientras tanto parece quedar relegada a mera consumidora; o como mucho, reguladora…
Esta batalla es también relevante a efectos de soberanía. Más allá de las fronteras y de la moneda y el ejército, controlar la IA significa controlar el conocimiento, la productividad y las comunicaciones.
Y desde luego el mundo financiero puede cambiar sustancialmente gracias a la desintermediación con seguridad, control y eficiencia que permite la tecnología. Pero por lo mismo, los hackeos y los ciberataques son más posibles que nunca y quizás el sistema financiero no esté suficientemente preparado.
En cuanto a la seguridad, la tecnología detecta vulnerabilidades. Una capacidad que permite anticiparse pero también atacar. Y a todo esto hay que sumar la enorme capacidad de expandir bulos bien construidos y muy creíbles o el riesgo de agentes biológicos y de la guerra bacteriológica.
Obviamente la tecnología nos permitirá optimizar el consumo de agua, automatizar los trabajos más penosos, acelerar la I+D farmacológica, investigar con más eficiencia las enfermedades o personalizar la educación para lograr la mejor versión de cada alumno. Podría reducir considerablemente los costes de producción de productos básicos en la llamada economía de la abundancia, eliminando o reduciendo sustancialmente la miseria.
El debate será el control de los medios de producción y los criterios de reparto. Por eso es más necesario que nunca recordar el principio del “destino universal de los bienes de la tierra” de la Doctrina Social de la Iglesia. Por supuesto que la inversión exige su recompensa. Pero no sería aceptable un modelo asimétrico del bienestar. Ni los monopolios abusadores sin espacio para la competencia.
La advertencia de Hubinger ha generado cierto shock. No es predicción científica, pero sí una llamada de atención. Todavía estamos a tiempo. Podemos levantar una torre de Babel de beneficio y miedo, como plantea el Papa. O bien ponerla al servicio de la ‘magnifica humanidad’ con una potencia que probablemente ni habíamos soñado.
Son los apasionantes retos que nos han tocado vivir. Espero que seamos capaces de apostar por la magnifica humanidad.
Que tengas un excelente sábado. Un fuerte abrazo,
Luis Losada, director de Actuall y todo el equipo
PD. Si te pareció interesante, comparte este artículo con los tuyos.