Sam Altman, director ejecutivo de OpenAI, identificó dos escenarios que, a su criterio, representan los mayores riesgos asociados al avance de la inteligencia artificial: la pérdida de control humano sobre sistemas progresivamente más avanzados y la concentración de poder en una sola persona, empresa o país mediante el uso de esa tecnología. Las declaraciones fueron formuladas por el propio ejecutivo en el marco de una serie de pronunciamientos públicos sobre el desarrollo de modelos de frontera, es decir, aquellos ubicados en el límite actual de las capacidades técnicas del sector.

El primer riesgo: pérdida de control humano

El primer escenario planteado por Altman refiere a la posibilidad de que la humanidad deje de tener dominio sobre sistemas de inteligencia artificial cada vez más capaces. En su propia caracterización, sostuvo que ese desenlace resulta inaceptable y reafirmó su adhesión al control humano sobre la tecnología, una postura que describió como un compromiso irrenunciable.

“Podríamos perder el control del futuro ante la IA. Esto es inaceptable; estamos, sin disculpas, en el Equipo Humanidad, y la IA debe siempre servir a las personas.”Sam Altman, director ejecutivo de OpenAI

El segundo riesgo: concentración desproporcionada de poder

El segundo escenario señalado por el titular de OpenAI es la acumulación de poder en manos de un único actor. Altman sostuvo que, si una inteligencia artificial extraordinariamente poderosa quedara bajo el control de una persona o empresa con capacidad para imponer su visión del mundo al resto de la sociedad, las consecuencias serían extremadamente negativas.

“Si una IA extraordinariamente poderosa es utilizada por una persona o empresa para imponer su visión del mundo a todos los demás, los resultados podrían ser extremadamente distópicos.”Sam Altman

Propuestas regulatorias y coordinación internacional

Para reducir ambos riesgos, Altman respaldó la implementación de un marco regulatorio federal que establezca requisitos de seguridad comunes aplicables a los modelos de frontera, e incorporó a su propuesta la participación de auditores independientes en los mecanismos de supervisión. Al mismo tiempo, aclaró que las empresas del sector no deberían aguardar la sanción de nuevas leyes para comenzar a adoptar medidas de seguridad por iniciativa propia.

• Avanzar en técnicas de alineación y seguridad al mismo ritmo que en las capacidades de los modelos, o incluso por delante de ellas.
• Implementar un marco regulatorio federal con requisitos de seguridad comunes para los modelos de frontera.
• Incorporar auditores independientes en los mecanismos de supervisión.
• Evitar que la presión competitiva entre países justifique la asunción de riesgos innecesarios.
• Promover la coordinación internacional entre gobiernos como soporte indispensable para la regulación del sector.

Altman también abordó la dinámica de competencia geopolítica en el desarrollo de inteligencia artificial y consideró que ninguna presión competitiva debería habilitar decisiones imprudentes en materia de seguridad. En esa línea, señaló que la coordinación entre gobiernos constituye uno de los ámbitos en los que las empresas del sector precisarán del respaldo estatal para sostener cualquier esquema de gobernanza global.

Lo probado y lo que aún resta por definirse

Hasta el momento, las declaraciones del director ejecutivo de OpenAI configuran una postura pública y no se tradujeron, según consta en el material disponible, en medidas regulatorias efectivamente adoptadas por el gobierno federal estadounidense ni en acuerdos vinculantes entre países. Resta por definirse si los lineamientos propuestos serán incorporados a proyectos legislativos concretos y cuál será el alcance de los eventuales procesos de auditoría sobre los modelos de frontera.