Tabla de contenidos
David Robinson deja OpenAI
David Robinson, quien trabajó durante aproximadamente tres años y medio en OpenAI, renunció a la compañía y publicó críticas sobre la manera en que la industria desarrolla sistemas de inteligencia artificial cada vez más capaces.
Robinson explicó sus motivos en un ensayo publicado en The Atlantic, donde sostuvo que las empresas responsables de desarrollar esta tecnología no están siendo suficientemente cuidadosas.
Según Robinson, durante su etapa en OpenAI encabezó la elaboración de informes de seguridad relacionados con lanzamientos importantes y participó en la elaboración del Preparedness Framework de la compañía.
También supervisó los informes de seguridad correspondientes a 12 lanzamientos de modelos de frontera.
Cuestiona estrategia de prueba y error
Una de las principales críticas de Robinson está relacionada con el enfoque de despliegue iterativo utilizado por OpenAI.
Esta estrategia permite lanzar sistemas, identificar problemas durante su utilización y posteriormente reforzar las medidas de seguridad.
Robinson considera que este enfoque se vuelve más riesgoso conforme aumentan las capacidades de los modelos, debido a que posibles fallas también podrían alcanzar una mayor escala.
Su postura forma parte de un debate más amplio sobre la seguridad de inteligencia artificial y el ritmo con el que las empresas desarrollan nuevos sistemas.
Pide estándares similares a industrias de alto riesgo
Robinson planteó que los laboratorios de inteligencia artificial deberían adoptar prácticas de seguridad comparables con sectores como la aviación o la energía nuclear.
Su argumento se centra en aumentar la prevención y el análisis de riesgos antes de que sistemas más avanzados sean desarrollados o puestos a disposición de los usuarios.
También advirtió que las capacidades de los modelos podrían estar avanzando más rápido que la comprensión científica sobre alineación, disciplina enfocada en conseguir que los sistemas actúen de acuerdo con objetivos y valores humanos.
Estas afirmaciones representan la evaluación y preocupaciones expresadas por Robinson y no demuestran por sí mismas que los sistemas actuales inevitablemente provoquen daños graves.
OpenAI responde a las críticas
OpenAI rechazó la idea de que simplemente continúe desarrollando modelos sin considerar sus riesgos.
La compañía afirmó que busca evitar que sus sistemas alcancen capacidades superiores a aquellas que puede administrar y proteger de manera segura.
También señaló que puede pausar entrenamientos o retener el lanzamiento de modelos cuando considera necesario disminuir el ritmo.
OpenAI indicó además que está fortaleciendo la seguridad de sus entornos de investigación y pruebas, ampliando las evaluaciones externas y mejorando el monitoreo para detectar comportamientos preocupantes durante etapas más tempranas.
Renuncia reabre debate sobre seguridad de la IA
La salida de Robinson se suma a las advertencias realizadas por otros exempleados y especialistas sobre la velocidad con la que avanza la inteligencia artificial.
Sin embargo, actualmente existe debate entre investigadores, empresas y autoridades sobre qué nivel de riesgo representan los sistemas avanzados y cuáles son las medidas adecuadas para mitigarlo.
La renuncia tampoco demuestra por sí misma que OpenAI haya incumplido estándares específicos de seguridad.
El caso vuelve a colocar en discusión hasta qué punto las compañías deberían reducir el ritmo de desarrollo mientras avanzan las investigaciones sobre seguridad de inteligencia artificial, supervisión y control de sistemas cada vez más capaces.

