Phoenix 24
Cuando el futuro depende de líneas de código, la prudencia debe acompañar el progreso.
San Francisco, diciembre 2025
Demis Hassabis, director ejecutivo de DeepMind, lanzó una alerta seria durante la cumbre tecnológica reciente: la inteligencia artificial, aún en sus etapas actuales, ya exhibe riesgos concretos que podrían convertirse en una amenaza sistémica si no se regula con rigor. Para él, el peligro no está en sueños distópicos, sino en posibilidades reales: ataques cibernéticos a infraestructuras críticas, uso malicioso de sistemas autónomos, representaciones falsas que socavan la confianza pública y la erosión de mecanismos de control. Esos riesgos, dijo, no deben descartarse bajo la lógica del progreso inevitable sino abordarse con urgencia.
Hassabis advirtió que la construcción de modelos de IA cada vez más capaces —incorporando automatización, aprendizaje profundo y trayectorias hacia inteligencia general— está acelerando en un entorno donde los incentivos y la competencia global podrían dejar la seguridad en segundo plano. Destacó que aunque la oferta de capacidades crece, los estándares de transparencia, auditoría y responsabilidad no siempre acompañan ese avance. Esa desproporción genera vulnerabilidades estructurales, no errores aislados.
El punto clave de su advertencia es que los escenarios catastróficos no son ciencia ficción o predicción de ficción. Son contingencias plausibles si la IA sigue evolucionando sin controles robustos. Entre los peligros que mencionó están la manipulación de sistemas de energía y agua, desinformación masiva automatizada, debilitamiento de sistemas democráticos, riesgos geopolíticos y la posibilidad de que agentes no estatales u organizaciones criminales utilicen la IA para multiplicar daños con escala global.
Para prevenir esos riesgos, recomendó reforzar la supervisión internacional, establecer regulaciones vinculantes y acelerar la investigación en seguridad de IA. Su llamado incluye auditorías independientes, límites al desarrollo de modelos excesivamente potentes y vigilancia de su uso en sectores sensibles. En su visión, la ciencia y la ética deben avanzar de la mano. No hay neutralidad cuando lo neutro pone en juego estructuras vitales de convivencia, derechos individuales y seguridad colectiva.
La advertencia de Hassabis marca un nuevo punto de inflexión. No cuestiona el valor del progreso tecnológico, pero exige responsabilidad colectiva. En su diagnóstico, la IA puede transformar sectores como salud, ciencia, educación y producción. Pero esa transformación será benéfica solo si la comunidad global acepta que la innovación sin regulación efectiva equivale a abrir la puerta a amenazas aún mayores.
Phoenix24. Every silence speaks. / Phoenix24. Cada silencio habla.