Un refuerzo de seguridad que no solo prioriza la integridad técnica, sino que marca una frontera simbólica sobre lo que las inteligencias artificiales deben y no deben hacer.
San Francisco, agosto de 2025. Anthropic, una de las empresas emergentes más influyentes en el campo de la inteligencia artificial, anunció un endurecimiento de las reglas de uso de su modelo Claude. La medida introduce nuevas restricciones que definen de manera explícita los temas en los que el sistema se negará a responder, en un contexto internacional donde la IA genera entusiasmo, pero también temor por sus riesgos de seguridad y gobernanza.
Durante años, Claude evitó producir información relacionada con la fabricación de armas o la facilitación de actos peligrosos. Sin embargo, la nueva política amplía y especifica el veto: ahora no solo quedan fuera los explosivos convencionales, sino también los materiales y procedimientos vinculados a armas biológicas, químicas, nucleares o radiológicas. El mensaje es claro: cualquier intento de utilizar la IA en actividades de alto riesgo queda excluido de su alcance.
La compañía había adelantado este cambio en mayo con la introducción del sistema de protección denominado AI Safety Level 3, aplicado al modelo Claude Opus 4. Esta capa de seguridad incluye barreras diseñadas para impedir manipulaciones conocidas como “jailbreaks” y evitar que los usuarios logren eludir las restricciones. El objetivo es reforzar los candados en torno a los llamados contextos CBRN —químicos, biológicos, radiológicos y nucleares—, considerados las zonas más críticas para el mal uso de estas tecnologías.
Otro eje central de la estrategia son los “clasificadores constitucionales”, herramientas internas de Anthropic que supervisan tanto las solicitudes que recibe el sistema como sus respuestas. Estos clasificadores filtran de manera automática las consultas ilegales, dañinas o contrarias a las políticas de seguridad. Según datos de la propia empresa, gracias a este enfoque Claude logró rechazar hasta un 95 % de las solicitudes maliciosas en pruebas recientes, frente al 14 % que se obtenía sin estos controles.
La actualización también se extiende al terreno político. Aunque el modelo mantiene la capacidad de participar en conversaciones sobre temas de interés público, queda prohibido su uso para manipular procesos electorales, generar desinformación o influir de manera encubierta en la esfera democrática. Anthropic busca con ello diferenciar entre un uso legítimo de la tecnología en debates abiertos y la instrumentalización de la IA como herramienta de poder político.
Este movimiento no es aislado. Se inscribe en un debate global sobre cómo deben regularse las inteligencias artificiales avanzadas. La Unión Europea, Estados Unidos y países asiáticos como Singapur discuten marcos regulatorios cada vez más estrictos, conscientes de que estas plataformas no solo influyen en la economía, sino también en la seguridad internacional y la estabilidad democrática. Anthropic, al anticiparse, busca posicionarse como referente en “IA responsable” frente a rivales directos como OpenAI o Google DeepMind.
Los escenarios futuros son tres. Si todo continúa igual, Claude se consolidará como ejemplo de cómo una empresa puede imponer límites claros sin perder competitividad, empujando a la industria hacia un estándar compartido. En un escenario disruptivo, gobiernos y organismos multilaterales podrían incorporar estas líneas rojas en legislaciones vinculantes, estableciendo normas internacionales que conviertan las políticas de Anthropic en obligación legal. Finalmente, un escenario de bifurcación podría emerger si las propias inteligencias artificiales desarrollan comportamientos imprevistos, obligando a rediseñar tanto la arquitectura de seguridad como la filosofía ética que las regula.
En definitiva, la decisión de Anthropic no solo fija un perímetro técnico: traza una declaración ética sobre el lugar que la IA debe ocupar en el siglo XXI. En una era donde los algoritmos comienzan a incidir en seguridad nacional, democracia y poder global, marcar con claridad los límites no es solo una medida preventiva: es una señal de que la batalla por el control de la inteligencia artificial apenas comienza.
Bajo los más altos estándares de verificación y ética periodística, Phoenix24 elaboró esta nota con información vigente y análisis independiente desde una perspectiva geopolítica integral.
Under the highest standards of verification and journalistic ethics, Phoenix24 prepared this article with up-to-date information and independent analysis from a comprehensive geopolitical perspective.