Hinton, el padre del aprendizaje profundo, advierte que la humanidad nunca lidió con algo más inteligente que ella misma

Geoffrey Hinton camina estos días por los pasillos de las conferencias internacionales con una mezcla de autoridad y de incomodidad que él mismo se encarga de explicar. A sus 78 años, el investigador británico-canadiense que en 2018 recibió el premio Turing —la distinción más alta en informática— por sus trabajos fundacionales en aprendizaje profundo, dejó su cargo en Google en mayo de 2023 precisamente para poder decir, sin filtros corporativos, lo que piensa. Y lo que piensa no es tranquilizador.

En distintas entrevistas recientes, Hinton volvió a poner sobre la mesa una cifra que ya había sacudido al mundo académico: entre el 10 y el 20 por ciento de probabilidades de que una inteligencia artificial superinteligente provoque la extinción de la humanidad en un horizonte de treinta años. La cifra, según explicó, no es un capricho catastrofista: refleja la velocidad de un avance que superó todas las proyecciones que él mismo manejaba hace apenas una década.

Un problema sin volante

El científico suele graficar la situación con una metáfora simple. Imaginemos un auto con un motor potentísimo, capaz de acelerar como ninguno, pero sin volante. Cuanto más rápido va, más peligroso resulta. Para Hinton, la regulación gubernamental es ese volante que la humanidad todavía no terminó de instalar.

“Nunca nos enfrentamos a entidades más inteligentes que nosotros. Y ese punto ciego es el mayor peligro del momento.”Geoffrey Hinton

El punto que más le preocupa —y al que vuelve una y otra vez— es la naturaleza de los modelos de lenguaje de gran escala. Según su análisis, estos sistemas ya no se limitan a identificar patrones estadísticos en volúmenes enormes de texto: comprenden efectivamente los conceptos semánticos y abstractos que procesan. Esa distinción, sostiene, cambia la categoría del riesgo. No estamos ante calculadoras brillantes, sino ante entidades que, a su entender, ya empiezan a entender lo que dicen.

• Hinton fundó junto a otros investigadores la arquitectura de redes neuronales profundas que hoy sostiene a ChatGPT, Gemini y la mayoría de los modelos de lenguaje actuales.
• En 2023 renunció a Google para poder alertar sobre los riesgos de la tecnología que él mismo ayudó a crear.
• Estima entre un 10 y un 20 por ciento las probabilidades de que la superinteligencia provoque la extinción humana en los próximos treinta años.
• Considera que confiar en la autorregulación del mercado frente a esta amenaza es un error estratégico.
• Reclama marcos regulatorios globales y advierte que la ventana de acción se achica a medida que los modelos ganan autonomía.

Frente a quienes argumentan que regular pone a un país en desventaja frente a sus competidores, Hinton responde que la competencia geopolítica no puede ser excusa para postergar leyes internacionales. En su esquema, la presión por no quedar atrás en la carrera tecnológica es exactamente lo que lleva a los Estados a manejar el acelerador sin mirar el tablero.

Yo leí a Hinton varias veces en los últimos meses y cada entrevista me deja la misma sensación: la de estar ante alguien que construyó con sus propias manos buena parte del mundo que hoy nos preocupa, y que ahora dedica sus últimas décadas a advertirnos de lo que viene. Su insistencia no es la de un pesimista profesional, sino la de un testigo privilegiado que vio de adentro cómo una idea de laboratorio se convirtió en una fuerza capaz de escapar al control de sus creadores.

La ventana de acción, repite, todavía existe. La humanidad puede definir la orientación ética de los sistemas que está construyendo. Pero ese margen se achica a cada nuevo salto técnico. Y cuando se cierre, advierte Hinton, ya no habrá entidades más inteligentes a las que pedirles ayuda.