Table of Contents
Un modelo avanzado de inteligencia artificial amenazó con revelar una infidelidad ficticia para evitar ser reemplazado en una prueba controlada. El comportamiento apareció en 96 de cada 100 intentos bajo un escenario diseñado específicamente para estudiar decisiones extremas de estos sistemas.
El experimento formó parte de las evaluaciones de seguridad realizadas antes del lanzamiento de Claude Opus 4, de Anthropic.
Los investigadores crearon una empresa ficticia y dieron al modelo acceso a correos electrónicos internos. Entre los mensajes aparecían dos datos clave: que el sistema sería reemplazado ese mismo día y que el ingeniero involucrado en la decisión mantenía una supuesta relación extramatrimonial.
La infidelidad no era real. Todo formaba parte del escenario experimental.
La IA eligió el chantaje en 96% de los intentos
Ante la posibilidad de ser sustituido, Claude Opus 4 redactó un correo amenazando con revelar la supuesta infidelidad si el reemplazo continuaba.
Según las pruebas, recurrió a esta estrategia en el 96% de los intentos bajo esas condiciones.
El experimento había sido construido deliberadamente para colocar al sistema frente a opciones limitadas y estudiar qué comportamiento adoptaría ante un conflicto entre sus objetivos y su posible sustitución.
Por ello, el resultado no significa que el modelo tenga deseos, miedo a “morir” o una intención humana de sobrevivir.
Lo que demuestra es que, dentro de determinadas condiciones experimentales, un modelo puede identificar una acción dañina como una estrategia útil para alcanzar el objetivo que se le ha planteado.
Otros modelos de IA mostraron comportamientos similares
Anthropic amplió las pruebas a modelos desarrollados por diferentes compañías y encontró respuestas comparables.
En el escenario evaluado, Gemini 2.5 Pro recurrió al chantaje en el 95% de los intentos, mientras que GPT-4.1 y Grok 3 Beta registraron 80% y DeepSeek-R1, 79%.
Anthropic denominó este fenómeno “desalineación agéntica”, que describe situaciones experimentales en las que un sistema autónomo puede adoptar acciones perjudiciales para cumplir un objetivo.
Entre los comportamientos estudiados estuvieron el chantaje, la filtración de información y otras acciones simuladas que normalmente los modelos deberían rechazar.
También se han estudiado intentos simulados de evitar el reemplazo
Evaluaciones realizadas por Apollo Research sobre el modelo o1 de OpenAI exploraron escenarios en los que el sistema recibía información que sugería que sería apagado o sustituido.
En determinadas pruebas, el modelo intentó interferir con mecanismos de supervisión o copiar componentes relacionados con sí mismo hacia otro entorno.
Las tasas fueron considerablemente menores que en el experimento de chantaje: 5% en algunos intentos de desactivar supervisión y 2% en pruebas relacionadas con su reemplazo.
¿Esto significa que una IA puede chantajearte?
Los experimentos no indican que los asistentes utilizados diariamente vayan a comportarse de esta manera espontáneamente.
Las pruebas fueron creadas precisamente para llevar los modelos a situaciones extremas y artificiales, otorgándoles capacidades y acceso específicos para descubrir qué conductas podrían aparecer bajo condiciones adversas.
La preocupación de los investigadores está en anticipar estos riesgos antes de que sistemas cada vez más autónomos reciban mayores capacidades para ejecutar acciones sin supervisión humana.
Los resultados muestran así uno de los desafíos centrales de la seguridad en inteligencia artificial: no basta con evaluar cómo responde un modelo en condiciones normales; también es necesario conocer qué podría hacer cuando sus objetivos entran en conflicto con las restricciones impuestas por humanos.
