Tabla de contenidos
Imagen ilustrativa generada con inteligencia artificial.
OpenAI anunció este lunes, según informó el medio TechCrunch, que comenzará a integrar marcas de agua invisibles en los textos generados por ChatGPT y Codex en la Unión Europea, con el propósito de acatar la Ley de Inteligencia Artificial aprobada en dicha región.
Las normativas de transparencia de la Unión Europea, vigentes desde el 2 de agosto, exigen que las empresas tecnológicas marquen el contenido generado por sistemas artificiales para que otras plataformas puedan identificarlo fácilmente. Esta medida de seguridad se implementará de forma gradual durante las próximas semanas para los usuarios elegibles de ChatGPT y Codex en todos los planes dentro del territorio europeo.
Cómo funciona el sistema textGrain y su despliegue global
De acuerdo con TechCrunch, la tecnología implementada se denomina textGrain y fue desarrollada en colaboración con investigadores de la Universidad de Pensilvania y Yale. El método opera mediante una clave secreta que altera sutilmente la selección de palabras del modelo de lenguaje, creando un patrón invisible para el ojo humano pero detectable para sistemas automatizados. Este rastro permanece incluso cuando el texto se copia y se pega en otros documentos.
Por otro lado, los desarrolladores de todo el mundo que utilicen la API de OpenAI ya pueden activar esta función de manera opcional en modelos específicos, ya que se encuentra desactivada por defecto. La compañía aclaró que no planea establecer esta marcación como un estándar global predeterminado en su lanzamiento inicial, diferenciándose de competidores como Anthropic, que adoptó una postura de aplicación a nivel mundial.
Limitaciones técnicas y control de los detectores
Las pruebas internas de OpenAI revelaron que las marcas de agua presentan vulnerabilidades ante la edición humana. En una simulación donde se reemplazó el 10 por ciento de las palabras con sinónimos, la efectividad de detección disminuyó drásticamente del 92 por ciento al 66 por ciento. Asimismo, la compañía señaló que los fragmentos cortos, las respuestas matemáticas y los textos traducidos resultan más complejos de identificar.
Debido a estas restricciones metodológicas, OpenAI decidió limitar el acceso inicial a los detectores únicamente a investigadores aprobados y organizaciones expertas. La empresa enfatizó que la ausencia de una marca de agua no demuestra autoría humana absoluta, ya que el texto pudo haber sido modificado profundamente o redactado por la plataforma de otra empresa competidora en el mercado global.
Fuente: TechCrunch
Esta nota fue elaborada por la redacción de 6W News a partir de la fuente citada, con la colaboración de profesionales del medio y el apoyo de herramientas de inteligencia artificial, conforme a nuestro Manual Editorial.
Te puede interesar:
- Instinct integra su agente de inteligencia artificial en chats grupales
- HackerRank lanza Chakra, una IA para evaluar entrevistas de trabajo
¡Síguenos en 6W News!
