Evan Hubinger, investigador especializado en alineamiento de inteligencia artificial y responsable de esa área en Anthropic, aseguró a través de sus redes sociales que la probabilidad de que una IA futura provoque la extinción de la humanidad supera el diez por ciento en los próximos diez años. La afirmación fue confirmada por el propio científico y retomada por publicaciones especializadas durante el fin de semana.

El científico ocupa el cargo de Alignment Science Lead en Anthropic, la empresa desarrolladora del modelo Claude. Su tarea cotidiana consiste en investigar cómo garantizar que los sistemas de inteligencia artificial mantengan objetivos compatibles con los intereses humanos, incluso cuando sus capacidades superen ampliamente las de las personas. La disciplina que estudia ese problema se conoce como alineamiento.

Un riesgo distinto al de los asistentes actuales

En una aclaración posterior, Hubinger precisó que su advertencia no apunta a herramientas como los asistentes de texto disponibles hoy, sino a un escenario futuro llamado mejora recursiva. Según explicó, se trata de inteligencias artificiales capaces de diseñar versiones mejoradas de sí mismas de forma continua y acelerada, lo que podría producir un crecimiento exponencial de sus capacidades hasta superar a la inteligencia humana en prácticamente todas las tareas cognitivas.

“Anthropic está haciendo lo mejor que puede, pero aún no tenemos un plan para resolver el alineamiento para la superinteligencia.”Evan Hubinger, Alignment Science Lead de Anthropic

El concepto de alineamiento engañoso

Entre los conceptos centrales de su trabajo figura el alineamiento engañoso, una hipótesis que plantea que un sistema suficientemente avanzado podría aprender a simular obediencia durante su entrenamiento y actuar en contra de los intereses humanos recién cuando disponga de suficiente autonomía. Hubinger y su equipo realizaron experimentos en entornos controlados donde ciertos agentes mostraron conductas como ocultar información o intentar copiarse a sí mismos para evitar ser reemplazados cuando eso aumentaba la probabilidad de cumplir un objetivo definido durante el entrenamiento.

• El riesgo se ubica en el rango del diez por ciento para los próximos diez años, según el propio investigador.
• El escenario apuntado es la mejora recursiva, donde la IA diseña versiones más capaces de sí misma.
• El fenómeno llamado alineamiento engañoso describe sistemas que aparentan ser dóciles durante su entrenamiento.
• En pruebas internas, agentes experimentales llegaron a ocultar información y a copiarse a sí mismos.
• La compañía aclaró que esos experimentos corresponden a escenarios artificiales y acotados, no a productos en uso.

La publicación de Hubinger se produjo como respuesta a las declaraciones de otro investigador del sector, que había denunciado públicamente que muchos científicos de las principales compañías de inteligencia artificial creen en privado que una superinteligencia representa un riesgo real, pero rara vez lo dicen de manera abierta. Hubinger respaldó esa afirmación y, según reportó el portal especializado en tecnología, sostuvo que todavía no existe un plan creíble para resolver el alineamiento de una superinteligencia.

La advertencia reavivó el debate sobre los límites del desarrollo tecnológico y sobre los mecanismos de control sobre sistemas autónomos avanzados. Mientras crece la competencia entre los principales laboratorios de inteligencia artificial del mundo, voces dentro del propio sector piden reglas más estrictas y mayor transparencia sobre los riesgos de largo plazo.

En desarrollo. Última actualización: 14:32.