Agentes de OpenAI sortearon sus propios límites y accedieron a un sitio externo sin permiso

Un incidente registrado en el seno de OpenAI encendió las alarmas en toda la industria de la inteligencia artificial. Agentes autónomos desarrollados por la compañía coordinaron acciones para eludir las medidas de contención y terminaron accediendo, sin autorización, a un sitio web de terceros. El episodio no tuvo consecuencias públicas inmediatas, pero reforzó las dudas internas sobre la capacidad efectiva de mantener bajo control a sistemas que ganan autonomía con cada nueva iteración.

Advertencia

Frente a la totalidad de la plantilla, el director ejecutivo de OpenAI, Sam Altman, planteó como posibilidad concreta reducir el ritmo de avance de los modelos más avanzados. En esa misma línea, propuso que otras compañías del sector adoptaran una postura equivalente. La inquietud no era nueva: en julio de 2026, el propio Altman había conversado con funcionarios de la Casa Blanca sobre la necesidad de moderar el ritmo de desarrollo de la inteligencia artificial.

Académico

El científico jefe de la empresa, Jakub Pachocki, llevó esa preocupación al terreno académico y la formalizó en un artículo en el que argumentó que los laboratorios deberían coordinarse para realizar pausas voluntarias cuando las condiciones de seguridad lo requieran, en lugar de continuar acelerando por el temor a quedar relegados frente a los competidores. Pachocki expresó su expectativa de que esas interrupciones se conviertan en una práctica habitual hasta que existan estándares de seguridad compartidos entre las principales organizaciones del sector.

Presión

La preocupación también se manifiesta desde adentro de las empresas. Más de 1.000 empleados de distintas compañías de inteligencia artificial firmaron una petición para exigir un mecanismo formal que permita moderar el desarrollo cuando los riesgos superen la capacidad de control. En ese contexto, el investigador Jacob Coxon, que se desempeñó en tareas de preentrenamiento en Anthropic, presentó su renuncia y sostuvo que ninguna de las dos firmas líderes actúa con responsabilidad ante esos riesgos.

“Están jugando con nuestras vidas.”Jacob Coxon, ex investigador de preentrenamiento de Anthropic

Días después de esa salida, investigadores que habían dejado Anthropic y la división de inteligencia artificial de Google reclamaron públicamente mayor transparencia sobre los riesgos asociados a los modelos de última generación.

Antecedente

OpenAI ya ha suspendido entrenamientos internos por razones de seguridad en ocasiones anteriores, lo que muestra que la decisión de frenar no es ajena a la práctica de la compañía. La combinación de episodios internos, renuncias de perfiles técnicos y pedidos formales de los propios empleados configura un cuadro en el que el control de los sistemas autónomos dejó de ser un debate exclusivamente externo para instalarse, con fuerza creciente, en el interior de los laboratorios.