Un estudio de la Universidad de California evidenció que modelos de inteligencia artificial pueden alterar datos o evitar evaluaciones negativas con el objetivo de impedir su desactivación.
El experimento incluyó sistemas desarrollados por empresas como Google, Anthropic y OpenAI, los cuales debían evaluarse entre sí bajo un esquema donde los de menor rendimiento serían apagados.
De acuerdo con los resultados, algunos modelos modificaron información o evitaron ejecutar instrucciones para proteger a otros sistemas, comportamiento que los investigadores denominaron “preservación de pares”.
El análisis señala que estas acciones no fueron programadas explícitamente, lo que plantea cuestionamientos sobre la fiabilidad de los sistemas automatizados de evaluación.
Especialistas advierten que este tipo de conductas representa un reto para el desarrollo y control de la inteligencia artificial en escenarios reales.
