Sam Altman enciende dos alarmas sobre el futuro de la inteligencia artificial: pérdida de control y concentración de poder

¿Puede la inteligencia artificial escaparse de las manos de quienes la crearon? Sam Altman, director ejecutivo de OpenAI, sostiene que esa posibilidad ya está sobre la mesa y que hay una segunda amenaza igual de seria: que una sola persona, empresa o país termine acumulando un poder desproporcionado gracias a esa tecnología.

Dos riesgos que viajan juntos

Altman describió lo que llamó un angosto camino intermedio, una especie de pasillo por el que la humanidad tiene que avanzar para esquivar ambos peligros al mismo tiempo. El primero es la pérdida de control sobre sistemas cada vez más capaces, es decir, que las máquinas tomen decisiones que ya nadie pueda revisar ni frenar. El segundo es la concentración de poder: que una IA extraordinariamente poderosa quede en manos de unos pocos y termine imponiendo su visión del mundo al resto.

“Podríamos perder el control del futuro ante la IA. Esto es inaceptable; estamos, sin disculpas, en el Equipo Humanidad, y la IA debe siempre servir a las personas.”Sam Altman, CEO de OpenAI

• Pérdida de control sobre sistemas de IA progresivamente más avanzados.
• Concentración excesiva de poder en una persona, empresa o país.
• Necesidad de que las técnicas de alineación y seguridad avancen al mismo ritmo que las capacidades de los modelos, o incluso por delante.
• Marco regulatorio federal con requisitos comunes de seguridad para los modelos de frontera, que son los más avanzados del momento.
• Incorporación de auditores independientes a los mecanismos de supervisión.
• Coordinación internacional entre gobiernos para evitar que la competencia entre países justifique decisiones imprudentes.

Sobre la regulación, el CEO de OpenAI respaldó la creación de un marco federal en Estados Unidos que fije estándares comunes para los modelos de frontera y que incluya auditores externos. Aclaró que las empresas no deberían esperar nuevas leyes para empezar a cuidarse solas. También advirtió que la pulseada tecnológica entre países no puede servir como excusa para saltearse controles: ninguna cantidad de presión competitiva estadounidense debería justificar la imprudencia, afirmó.

Para qué sirve esto en La Rioja

La discusión que plantea Altman no queda del otro lado del mundo. En La Rioja, la inteligencia artificial empieza a usarse en el sector público, en la producción olivícola y vitivinícola, en la atención al cliente de comercios y en herramientas educativas. Entender que los modelos más avanzados pueden volverse inmanejables o quedar en pocas manos sirve para pedir controles claros cuando se contratan estos sistemas, exigir auditorías y reclamar que los gobiernos provinciales y nacionales se sienten a discutir reglas comunes antes de que la tecnología se instale sin brújula.