Altman advierte que la humanidad podría perder el control de la inteligencia artificial o quedar sometida a un poder concentrado

El director ejecutivo de OpenAI, Sam Altman, identificó dos escenarios que, a su juicio, concentran los mayores peligros del desarrollo de la inteligencia artificial. La primera amenaza es que la humanidad pierda el control sobre sistemas cada vez más avanzados. La segunda es que una sola persona, empresa o país acumule un poder desproporcionado a partir de esa tecnología.

Pérdida de control y concentración de poder

Altman sostuvo que existe el riesgo de que los humanos queden desplazados del diseño del futuro. Al respecto, afirmó: "Podríamos perder el control del futuro ante la IA. Esto es inaceptable; estamos, sin disculpas, en el Equipo Humanidad, y la IA debe siempre servir a las personas".

En paralelo, advirtió sobre la acumulación excesiva de capacidad en un actor único. "Si una IA extraordinariamente poderosa es utilizada por una persona o empresa para imponer su visión del mundo a todos los demás, los resultados podrían ser extremadamente distópicos", señaló. Y reconoció que conjurar ambos riesgos a la vez exige transitar lo que describió como un "angosto camino intermedio".

Propuestas regulatorias y de gobernanza

Para reducir esos peligros, el CEO de OpenAI respaldó la creación de un marco regulatorio federal que establezca requisitos de seguridad comunes para los modelos de frontera, esto es, aquellos ubicados en el límite de las capacidades tecnológicas actuales. Además, propuso la incorporación de auditores independientes en los mecanismos de supervisión. No obstante, aclaró que las compañías no deberían esperar nuevas leyes para empezar a aplicar medidas de seguridad por cuenta propia.

Sobre la competencia geopolítica en torno a la IA, Altman descartó que la presión por liderar el sector justifique asumir riesgos innecesarios: "Ninguna cantidad de presión competitiva estadounidense debería justificar la imprudencia", afirmó. Y consideró que la coordinación internacional entre gobiernos será uno de los campos en los que las empresas requerirán respaldo estatal.

Los ejes centrales del planteo

• Pérdida de control humano sobre sistemas de IA cada vez más capaces.
• Concentración de capacidad en una persona, empresa o país.
• Necesidad de que la seguridad avance a la par o por delante de las capacidades de los modelos.
• Marco federal con estándares comunes para modelos de frontera.
• Incorporación de auditores independientes en la supervisión.
• Coordinación internacional entre gobiernos como respaldo a las empresas.

La próxima instancia en esta discusión pasará por cómo se traduzcan esos lineamientos en proyectos legislativos concretos, un punto que, según trascendió, aún no tiene plazos definidos en el debate público.