Hinton, el padre del aprendizaje profundo, le pone número al riesgo: hasta un 20 % de chances de que una IA apague a la humanidad

¿Puede una máquina más inteligente que nosotros acabar con nuestra especie? Geoffrey Hinton, el investigador británico-canadiense que en 2018 ganó el Premio Nobel de Física por sentar las bases del aprendizaje profundo —la técnica que permite a las computadoras aprender a partir de enormes cantidades de datos—, ya no esquiva la pregunta. Tras renunciar a Google en 2023 justamente para poder responderla sin filtros, el científico de 78 años estimó en una entrevista reciente que la probabilidad de que una inteligencia artificial (IA) superinteligente provoque la extinción humana en los próximos treinta años se ubica entre el 10 % y el 20 %.

El número suena extremo, pero Hinton lo presenta como una lectura prudente de la velocidad de los avances. «Nunca nos enfrentamos a entidades más inteligentes que nosotros», repite como advertencia. Es decir, no hay experiencia histórica que sirva de referencia para calibrar el riesgo, y ese punto ciego es, según el investigador, el mayor peligro del momento.

El acelerador sin volante

El planteo de fondo no es tecnofóbico —no se trata de rechazar la tecnología—, sino de tiempo. Para Hinton, la innovación avanza a una velocidad que supera con creces la capacidad de los marcos regulatorios actuales para contenerla. La metáfora que eligió es bien concreta: un auto con el acelerador a fondo pero sin volante termina en la banquina. La regulación estatal, en su esquema, cumple la función de ese volante.

“Confiar en la autorregulación del mercado ante una amenaza de esta escala es un error estratégico. La competencia geopolítica no puede ser razón suficiente para postergar marcos legales globales.”Geoffrey Hinton

Ya no es solo estadística: entienden conceptos

Hinton insiste en un punto que suele quedar enterrado bajo la jerga técnica: los modelos de lenguaje más avanzados —los sistemas que generan textos, como los chatbots y los generadores de contenido— ya no se limitan a identificar correlaciones estadísticas en enormes volúmenes de texto. Según su análisis, comprenden efectivamente los conceptos semánticos y abstractos que procesan. Traducido: cuando un sistema de estos responde algo, no está repitiendo patrones memorizados; está operando sobre significados. Esa distinción, para el científico, cambia la categoría del riesgo.

• Probabilidad de extinción: entre el 10 % y el 20 % en un horizonte de treinta años, según la estimación del propio Hinton.
• Causa: la velocidad de avance de la IA supera la capacidad de los marcos regulatorios vigentes.
• Mecanismo de defensa propuesto: regulación estatal firme y acuerdos internacionales vinculantes, comparables a los tratados de no proliferación.
• Argumento contra la autorregulación: en temas de riesgo existencial, la competencia entre países no puede usarse como excusa para no legislar.
• Ventana de acción: abierta, pero se reduce a medida que los modelos ganan capacidad de forma autónoma.

Para qué sirve esto en La Rioja

Aunque la discusión parezca lejana —superinteligencia, extinción, regulación global—, hay un traducción local concreta. Los marcos regulatorios que se están debatiendo en la Unión Europea, Estados Unidos y los principales bloques económicos terminarán condicionando qué productos de IA llegan a la Argentina y, por extensión, a La Rioja: desde asistentes virtuales usados en la administración pública hasta herramientas de diagnóstico médico o sistemas de gestión agrícola. Entender que el debate no es solo filosófico sino de velocidades —tecnología versus ley— ayuda a gremios, universidades y funcionarios riojanos a anticiparse en lugar de reaccionar tarde, y a exigir, cuando corresponda, regulaciones nacionales que respeten estándares internacionales en lugar de quedar fuera de juego.