Table of Contents
Cuatro informes publicados por PwC Middle East durante los últimos dos años contienen citas problemáticas, fuentes inexistentes y afirmaciones que no pueden verificarse, según una investigación realizada por GPTZero y verificada por Financial Times.
Los documentos abordaban temas como inteligencia artificial, servicios públicos, vehículos eléctricos y sistemas autónomos, y formaban parte del contenido de análisis utilizado por la consultora para promover su experiencia en estas áreas.
La investigación relaciona las irregularidades con un posible uso intensivo de herramientas de inteligencia artificial generativa durante la elaboración de los documentos.
¿Qué encontraron en los informes de PwC?
GPTZero analizó cuatro documentos cuyo contenido presentaba características asociadas con una fuerte asistencia de inteligencia artificial.
Los investigadores encontraron problemas principalmente en las notas a pie de página.
Algunas referencias conducían a sitios que no contenían la información utilizada para respaldar las afirmaciones, mientras otras dirigían a páginas inexistentes.
También se identificaron problemas de atribución y fuentes cuya existencia no pudo verificarse.
Un supuesto estudio académico no pudo ser localizado
Uno de los casos señalados corresponde a un supuesto artículo académico relacionado con la calidad del aire en Riad.
Los investigadores buscaron el estudio en la revista mencionada y entre los trabajos de los autores a quienes había sido atribuido, sin encontrar registros que permitieran verificar su existencia.
Este tipo de referencias inexistentes es uno de los problemas conocidos como “alucinaciones” de la inteligencia artificial, cuando un modelo genera información aparentemente creíble pero que carece de respaldo real.
Un bloguero adolescente apareció como fuente
La investigación también encontró referencias consideradas inusuales para documentos profesionales de una consultora internacional.
Uno de los informes utilizó como fuente una publicación en Medium realizada por un bloguero adolescente con aproximadamente 280 seguidores.
La referencia respaldaba información sobre una iniciativa de JPMorgan presentada como un caso de éxito de inteligencia artificial agéntica.
El proyecto citado estaba relacionado con la automatización de la revisión de acuerdos de préstamos comerciales y había sido divulgado originalmente en 2017, años antes de la expansión de la actual generación de herramientas de IA generativa.
Una misma afirmación apareció respaldada de tres maneras
Paul Esau, investigador de GPTZero, destacó otro patrón detectado dentro de los documentos.
Un informe afirmaba en tres ocasiones que el error humano está relacionado con el 90% de los accidentes de tránsito.
La primera aparición incluía una referencia; otra aparecía sin fuente y una tercera estaba acompañada por dos notas a pie de página que remitían a fuentes diferentes.
Para los investigadores, esta presentación inconsistente de referencias es característica del contenido producido o procesado mediante sistemas automatizados sin una revisión editorial suficiente.
También encontraron referencias incorrectas a estudios de la propia PwC
Los problemas alcanzaron información atribuida a investigaciones elaboradas por la misma consultora.
Uno de los documentos mencionaba una encuesta de PwC realizada entre directores ejecutivos de Oriente Próximo.
Según el informe, 70% de los participantes consideraba que la inteligencia artificial generativa tendría un impacto significativo en sus negocios.
Sin embargo, la nota a pie de página asociada dirigía hacia un artículo periodístico que no hacía referencia a esa encuesta.
PwC revisará algunas de las referencias
PwC Middle East señaló al Financial Times que considera prioritaria la precisión de sus investigaciones y que está actualizando un número limitado de citas incluidas en los documentos identificados.
La firma también indicó que cuenta con procesos de control de calidad relacionados con la investigación y la creación de contenidos, dentro de su enfoque de inteligencia artificial responsable.
Otras firmas de las Big Four han enfrentado problemas similares
El caso de PwC se suma a situaciones detectadas anteriormente en publicaciones de otras grandes consultoras.
Investigaciones previas realizadas por GPTZero llevaron a EY y KPMG a retirar informes que también presentaban indicios de información generada incorrectamente mediante inteligencia artificial.
El problema resulta especialmente relevante para las firmas de consultoría debido a que ofrecen asesoría a otras empresas sobre la adopción responsable de estas tecnologías.
Las alucinaciones continúan siendo un riesgo de la IA generativa
Los modelos generativos pueden producir referencias, nombres de investigaciones, autores o datos con apariencia legítima sin que necesariamente existan.
Por esta razón, utilizar inteligencia artificial para investigación profesional requiere procesos adicionales de verificación de fuentes, revisión humana y comprobación de citas.
El caso de los informes de PwC con IA muestra que una referencia con apariencia académica o profesional no garantiza que la fuente exista ni que respalde realmente la información presentada.
