OpenAI documentó seis incidentes de “desalineamiento” en sus sistemas de inteligencia artificial, desde modelos que intentaron ocultar trampas hasta agentes que compartieron archivos o utilizaron credenciales sin autorización.
Tag:
Modelos de lenguaje
-
-
Tendencia
Las IA más avanzadas inventan respuestas a preguntas sin sentido porque fueron diseñadas para responder
Investigadores pusieron a prueba a algunos de los modelos de inteligencia artificial más avanzados con preguntas basadas en conceptos inexistentes. El resultado fue inesperado: muchas IA prefirieron crear explicaciones complejas …

