Tabla de contenidos
La empresa de inteligencia artificial Anthropic advirtió que algunos modelos pequeños de IA podrían estar a solo unos meses de desarrollar capacidades suficientes para autorreplicarse en dispositivos comerciales del Internet de las cosas (IoT).
Entre los aparatos analizados se encuentran hornos inteligentes, televisores Android y otros dispositivos conectados a internet que pueden presentar vulnerabilidades de seguridad.
¿Qué investigó Anthropic?
La empresa realizó experimentos para determinar si modelos de IA podían completar de manera autónoma una serie de acciones necesarias para replicarse.
Las pruebas analizaron si los modelos podían:
- Detectar dispositivos vulnerables.
- Copiarse en esos dispositivos.
- Continuar propagándose sin asistencia humana.
Anthropic descubrió que modelos pequeños, con menos de 30 mil millones de parámetros, podían completar varios de los pasos necesarios para la replicación.
Sin embargo, estos sistemas todavía presentaron dificultades para completar toda la secuencia de principio a fin.
¿Qué modelos lograron autorreplicarse?
En pruebas simplificadas, en las que se eliminaron algunos mecanismos de seguridad, Anthropic encontró que GLM-5.2 y modelos más potentes podían completar el proceso de replicación de principio a fin.
La empresa señaló que los resultados muestran la necesidad de reforzar los sistemas para dificultar la propagación autónoma de agentes de IA.
¿Por qué los dispositivos IoT representan un riesgo?
Anthropic centró parte de sus experimentos en dispositivos del Internet de las cosas, como televisores Android, electrodomésticos inteligentes y otros aparatos conectados.
La empresa señaló que estos dispositivos suelen presentar niveles de seguridad deficientes, lo que podría convertirlos en objetivos para sistemas capaces de buscar vulnerabilidades y propagarse.
Según Anthropic, una IA autorreplicante también podría identificar dispositivos desconocidos y dirigirse potencialmente hacia procesadores utilizados en centros de datos.
¿Cuándo podrían autorreplicarse los modelos pequeños de IA?
Anthropic advirtió que, si los modelos pequeños continúan mejorando al ritmo observado históricamente, podrían alcanzar capacidades de autorreplicación autónoma a finales de 2026.
La empresa también indicó que los sistemas pequeños basados en pesos podrían alcanzar capacidades similares poco después.
No obstante, Anthropic señaló que estos sistemas probablemente se replicarían lentamente y dependerían de recursos informáticos ampliamente disponibles y relativamente inseguros.
Anthropic pide reforzar los sistemas de seguridad
Uno de los principales desafíos señalados por la empresa es que un sistema de IA capaz de replicarse podría resultar más difícil de desactivar que un malware convencional.
Esto se debe a que no existiría necesariamente un único punto central desde el cual detener su propagación.
Anthropic considera necesario reforzar los sistemas de seguridad para dificultar que agentes autónomos puedan identificar dispositivos vulnerables, propagarse entre ellos y continuar operando sin intervención humana.
