Table of Contents
Anthropic informó que actores vinculados al Gobierno de Irán utilizaron su modelo de inteligencia artificial Claude para operaciones de vigilancia y para elaborar recomendaciones tácticas relacionadas con posibles ataques contra fuerzas navales de Estados Unidos en la región.
La compañía estadounidense documentó el caso en un informe de 154 páginas sobre el uso indebido de sus sistemas durante los últimos ocho meses.
El documento señala actividades atribuidas a actores relacionados con distintos países, principalmente Irán, Rusia, China y Yemen, que habrían utilizado estas herramientas para tareas de ciberespionaje, propaganda y análisis militar.
Actores iraníes habrían utilizado Claude para identificar objetivos
De acuerdo con Anthropic, un grupo asociado al Gobierno iraní empleó Claude para procesar grandes cantidades de información e identificar objetivos de interés.
Entre las personas analizadas se encontraban disidentes, periodistas, activistas y políticos.
La herramienta habría permitido hacer más eficientes procesos relacionados con sistemas de vigilancia que ya existían previamente.
Anthropic también señaló que los operadores utilizaron Claude para desarrollar recomendaciones tácticas vinculadas con posibles acciones contra fuerzas navales estadounidenses.
El informe, sin embargo, describe actividades de análisis y planificación; no establece que esos posibles ataques hayan sido ejecutados.
Utilizaron VPN para acceder a Claude desde Irán
Claude no está disponible oficialmente en territorio iraní, por lo que los usuarios involucrados habrían recurrido a mecanismos para evadir las restricciones geográficas.
Según Anthropic, los operadores utilizaron redes privadas virtuales (VPN) y números telefónicos extranjeros para conseguir acceso a la plataforma.
La compañía documentó además otros casos de posible uso indebido relacionados con armas convencionales y operaciones cibernéticas vinculadas con actores de China, Rusia y Yemen.
Anthropic advierte sobre el uso dual de la inteligencia artificial
El reporte también aborda uno de los principales desafíos que enfrentan actualmente los desarrolladores de inteligencia artificial: el denominado uso dual.
Una misma herramienta capaz de ayudar en investigación científica, programación o análisis de grandes cantidades de información también puede ser utilizada con objetivos potencialmente peligrosos.
Anthropic reconoció que, en algunos de los casos estudiados, no pudo determinar de manera definitiva si las investigaciones tenían propósitos legítimos o maliciosos.
La compañía también señaló que demostrar que un modelo posee determinadas capacidades no significa necesariamente que estas vayan a utilizarse para desarrollar armas o ejecutar ataques en el mundo real.
Modelos más capaces pueden reducir barreras técnicas
El informe advierte que el aumento en la capacidad y autonomía de los sistemas de inteligencia artificial puede facilitar tareas que anteriormente requerían conocimientos especializados, mayores recursos económicos o equipos numerosos.
Esto representa un reto para las empresas responsables de desarrollar estos modelos, especialmente cuando son utilizados para ciberespionaje, vigilancia, propaganda o análisis militar.
El caso documentado por Anthropic vuelve a colocar en el centro del debate internacional la necesidad de establecer mecanismos capaces de detectar y limitar el uso indebido de sistemas avanzados de inteligencia artificial.
