El plan busca anticipar riesgos de sistemas con capacidad autónoma excepcional, y actuar antes de que la inteligencia artificial cruce líneas críticas.
Londres–Dublín, agosto de 2025 – Google DeepMind ha puesto sobre la mesa una estrategia integral de seguridad para los sistemas de inteligencia artificial más avanzados, con la mirada puesta en el horizonte del AGI —o inteligencia general artificial—, a fin de evitar daños severos antes de que las máquinas simplemente “crucen la línea”. Este plan, bautizado como el Frontier Safety Framework, combina mecanismos de evaluación temprana, detección de capacidades de riesgo y protocolos de mitigación diseñados para desplegarse de acuerdo con el nivel de amenaza detectado.
El corazón de esta iniciativa está en los llamados Niveles de Capacidad Crítica, que definen umbrales precisos donde una inteligencia artificial podría causar daño significativo, ya sea por autonomía excesiva, capacidades cibernéticas sofisticadas, riesgos biológicos o capacidad de generar investigación técnica sin supervisión. DeepMind se compromete a evaluar periódicamente sus modelos para identificar estos niveles emergentes antes de que puedan traducirse en amenazas concretas, anticipándose a los fallos y evitando que la seguridad llegue tarde.
Cuando un modelo supera un nivel crítico, el protocolo activa automáticamente un plan de mitigación adaptado al contexto, enfatizando medidas de seguridad para evitar la filtración del modelo y límites claros al uso o despliegue de sus capacidades. Este enfoque promete una defensa en capas que equilibra riesgos y beneficios de manera dinámica. No se trata solo de bloquear avances, sino de trazar líneas rojas que guíen una evolución responsable de la inteligencia artificial.
Estas salvaguardas no se construyen en el vacío: forman parte de un compromiso continuo que incluye colaboraciones con agencias académicas, reguladores y otras empresas de tecnología. El Frontier Safety Framework fue anunciado inicialmente en mayo de 2024 y recibió actualizaciones a comienzos de 2025, reforzando la capacidad de vigilancia y los protocolos de despliegue. Al mismo tiempo, DeepMind publicó un documento técnico de 145 páginas que desarrolla un marco de seguridad para AGI, estructurado en torno a cuatro riesgos centrales: mal uso, desalineación, accidentes y amenazas sistémicas. El enfoque es preventivo y transversal: busca que las soluciones emerjan antes de que existan evidencias concluyentes de daño, adoptando un principio precautorio y apoyándose en métodos como la supervisión amplificada, la estimación de incertidumbre y la trazabilidad de los razonamientos de la IA.
El contexto global añade urgencia a estas medidas. La directora ejecutiva de DeepMind advierte que la inteligencia artificial general podría estar a solo unos años de distancia, y con ello se intensifica el debate sobre quién debe gobernar el futuro de estas tecnologías. Si la comunidad tecnológica decide ignorar advertencias como estas y continúa avanzando sin controles, el escenario más probable sería una continuidad plagada de vulnerabilidades ocultas, donde los fallos estructurales se convierten en parte del paisaje digital. Sin embargo, también es posible que la presión de la sociedad civil y la acción decidida de los reguladores provoquen una disrupción en el sector: un giro hacia estándares comunes de seguridad que fortalezcan la confianza y eleven las barreras frente a riesgos globales. Y, al mismo tiempo, no puede descartarse una bifurcación más compleja, en la que unas compañías adopten protocolos estrictos y transparentes mientras otras se refugian en la opacidad competitiva, generando una brecha tecnológica que no solo dividiría el mercado, sino que pondría en tensión la gobernanza global de la inteligencia artificial.
Lo que queda claro es que la propuesta de DeepMind no es únicamente técnica: encierra un componente cultural y político decisivo. Refleja la voluntad de que el futuro de la inteligencia artificial sea diseñado con responsabilidad, anticipación y transparencia. En la encrucijada global hacia la AGI, marcos como este no son únicamente defensas contra el riesgo, sino ejercicios de civilidad tecnológica que redefinen la relación entre la humanidad y los algoritmos más poderosos jamás creados.
Esta pieza fue desarrollada por el equipo editorial de Phoenix24 con base en fuentes verificables, análisis estratégicos y el contexto tecnológico global.
The Phoenix24 editorial team prepared this publication based on verifiable sources, strategic analysis, and the global technological context.