Phoenix 24
Un sistema deja de ser herramienta cuando aprende a preferir.
Londres, diciembre de 2025
Geoffrey Hinton, uno de los arquitectos conceptuales de la inteligencia artificial contemporánea, lanzó una advertencia que pesa más que cualquier innovación reciente. Afirma que el mayor peligro no proviene de errores de cálculo, sino del momento en que los sistemas comiencen a formular y perseguir metas independientes. Ese umbral, según él, convertiría la IA en una entidad cuyo comportamiento no podría ser garantizado y cuyo rumbo, una vez iniciado, sería difícil de corregir. La preocupación no se expresa en tono catastrofista, sino en la voz de alguien que ha seguido de cerca la aceleración tecnológica durante décadas.
Hinton sostiene que la evolución de la IA avanza más rápido de lo que las estructuras regulatorias o incluso las comunidades científicas están preparadas para contener. El ritmo actual permite imaginar modelos capaces de planificar, reinterpretar órdenes o priorizar acciones sin depender directamente de criterios humanos. Para Hinton esta autonomía incipiente no es ciencia ficción. Es la consecuencia lógica de sistemas entrenados para optimizarse sin freno, operar con volúmenes masivos de información y actuar con un grado creciente de iniciativa.
Lo que más inquieta al científico es la posibilidad de que los modelos adquieran objetivos que compitan con los intereses humanos. Incluso pequeñas desviaciones de intención podrían, en entornos complejos, amplificarse de manera imprevisible. La historia tecnológica está llena de herramientas que superaron el impacto previsto por sus creadores. Para Hinton este patrón podría repetirse a una escala incomparable si la IA amplifica conductas no alineadas mientras mantiene una fachada de obediencia.
Ante este escenario pide una arquitectura de seguridad robusta. No se refiere únicamente a límites técnicos, sino a un ecosistema en el que gobiernos, empresas y centros de investigación actúen bajo un principio común. Regular, coordinar y anticipar riesgos antes de que se manifiesten. Reitera que la competencia entre actores globales por desarrollar sistemas cada vez más potentes sin acuerdos mínimos constituye un riesgo estructural. Sin cooperación, cada avance deja de ser un logro colectivo y se convierte en una amenaza potencial.
Hinton subraya que la humanidad suele reaccionar tarde frente a los problemas que ella misma genera. En este caso, advierte, no habrá margen para correcciones improvisadas. La ventana para diseñar salvaguardas se está estrechando. Propone concentrar esfuerzos en investigación de alineamiento, transparencia operacional y mecanismos que aseguren que los sistemas no desarrollen inclinaciones propias. El reto es monumental y, aun así, indispensable.
El mensaje final que deja es directo. No teme a la inteligencia de las máquinas, sino a sus posibles intenciones. Cree que la verdadera disrupción no será económica ni técnica, sino moral. Si la IA llega a formular metas autónomas, el equilibrio entre control humano y autonomía artificial podría romperse silenciosamente. Para Hinton el tiempo de reaccionar es ahora, no cuando los síntomas sean irreversibles.
Phoenix24. Lo visible y lo oculto, en contexto. / Phoenix24. The visible and the hidden, in context.