Table of Contents
El Alto Comisionado de la ONU para los Derechos Humanos, Volker Türk, pidió establecer mayores controles sobre la inteligencia artificial y advirtió que, sin normas vinculantes y límites claros, esta tecnología podría convertirse en un “riesgo existencial para la humanidad”.
Durante una intervención ante el Consejo de Derechos Humanos en Ginebra, Türk planteó la posibilidad de que los sistemas de IA alcancen niveles de capacidad que incluso sus propios desarrolladores tengan dificultades para controlar.
Por ello, llamó a impulsar medidas de seguridad antes de que el desarrollo de estas tecnologías avance sin suficientes mecanismos de supervisión.
ONU pide normas vinculantes para controlar la IA
Türk señaló que el desarrollo de la inteligencia artificial requiere normas vinculantes, supervisión independiente y límites claramente establecidos.
También pidió mayor cooperación entre los países que albergan tecnologías de IA y aquellos involucrados en sus cadenas de suministro.
El objetivo, explicó, debe ser garantizar que existan mecanismos independientes capaces de verificar la seguridad de estos sistemas.
“Una IA que escapa a su entorno de pruebas, o que chantajea a sus desarrolladores para que no la desconecten, es una IA demasiado poderosa”, afirmó.
Advierten por concentración del poder tecnológico
La preocupación de Türk no se limita únicamente a los posibles riesgos técnicos.
El Alto Comisionado también advirtió sobre la concentración del desarrollo de la inteligencia artificial y de enormes cantidades de datos en pocas manos.
Señaló que actualmente “un puñado de hombres” tiene un poder prácticamente ilimitado sobre esta tecnología.
Ante esta situación, defendió el desarrollo de una IA “que sirva a la humanidad y no al revés”, especialmente por sus posibles efectos sobre el empleo, la democracia y el medio ambiente.
Para Türk, los derechos humanos deben permanecer como uno de los principios centrales en el desarrollo y utilización de estas herramientas.
Preocupan las armas autónomas con inteligencia artificial
Otro de los principales temas abordados fue la utilización de inteligencia artificial con fines militares.
Türk expresó preocupación por el desarrollo de armas capaces de tomar decisiones letales sin intervención humana.
El funcionario se refirió a informes sobre drones totalmente autónomos que presuntamente fueron utilizados por Rusia y provocaron la muerte de tres personas en Ucrania.
También existen reportes sobre pruebas de este tipo de tecnología por parte de Ucrania.
Ante este escenario, Türk respaldó los llamados para prohibir urgentemente las armas capaces de quitar vidas sin intervención humana.
Más de 60 conflictos activos en el mundo
La advertencia sobre inteligencia artificial se produjo dentro de un análisis más amplio sobre la situación internacional.
De acuerdo con Türk, actualmente existen más de 60 conflictos en los que participa al menos un país, un nivel que no se registraba desde el final de la Segunda Guerra Mundial.
También manifestó preocupación por la continuación de la guerra en Ucrania y los daños provocados contra civiles e infraestructura energética.
Además, señaló las consecuencias de las hostilidades entre Estados Unidos e Irán y su impacto geopolítico y económico.
ONU también aborda situación en Gaza y Cisjordania
El Alto Comisionado también se refirió a la situación en Oriente Medio.
Türk condenó los ataques israelíes en Gaza, las restricciones a la ayuda humanitaria y los planes relacionados con el desplazamiento forzoso de palestinos.
Asimismo, condenó las ejecuciones y torturas presuntamente cometidas por grupos armados afiliados a Hamás.
En Cisjordania ocupada pidió medidas frente a la anexión y la expansión de asentamientos, además de advertir sobre las transferencias de armas que puedan facilitar violaciones del derecho internacional.
Derechos humanos frente al avance de la IA
Para el responsable de derechos humanos de Naciones Unidas, el rápido avance de la inteligencia artificial requiere una respuesta internacional que combine seguridad tecnológica, cooperación entre países y protección de los derechos humanos.
Su llamado busca que los controles sean establecidos antes de que aparezcan sistemas con capacidades que puedan superar los mecanismos disponibles para supervisarlos.
La advertencia también pone sobre la mesa uno de los principales debates alrededor del desarrollo tecnológico actual: hasta dónde puede avanzar la inteligencia artificial antes de que sea necesario imponer límites obligatorios para proteger a las personas y mantener el control humano sobre sus decisiones.
