Tabla de contenidos
El uso excesivo o inadecuado de herramientas de inteligencia artificial entre niños podría representar riesgos para su pensamiento crítico y bienestar, advirtió Tom Siegel, especialista en confianza y seguridad tecnológica que trabajó en Google y que ahora se incorporó a Common Sense Media.
Siegel señaló que las compañías dedicadas al desarrollo de inteligencia artificial podrían estar repitiendo algunos de los problemas que, desde su perspectiva, ocurrieron durante la expansión de las redes sociales entre usuarios jóvenes.
“Nos encontramos en una situación realmente terrible en lo que respecta al impacto que la IA está teniendo en los niños”, declaró a Reuters.
¿Qué riesgos advierte sobre la IA y los niños?
Entre las principales preocupaciones mencionadas por Siegel se encuentran posibles interacciones de menores con sistemas de IA relacionadas con ideación suicida, episodios de alteración de la percepción o del pensamiento y dependencia excesiva de estas herramientas para resolver tareas cognitivas.
Uno de los conceptos señalados es la denominada “descarga cognitiva”, que ocurre cuando una persona delega parte de sus procesos mentales a herramientas externas.
En el contexto de la inteligencia artificial, esto podría suceder cuando un estudiante recurre sistemáticamente a un chatbot para obtener respuestas en lugar de desarrollar por cuenta propia procesos como analizar información, resolver problemas, argumentar o evaluar diferentes posibilidades.
La descarga cognitiva no implica automáticamente un deterioro del pensamiento crítico. Sus efectos pueden depender de factores como la edad, la frecuencia de uso, el tipo de tarea y la manera en que se integra la tecnología al aprendizaje.
Preocupación por la salud mental
Siegel también señaló como preocupación las conversaciones que algunos menores pueden mantener con sistemas de inteligencia artificial sobre temas sensibles relacionados con la salud mental.
Los chatbots pueden producir respuestas convincentes y mantener conversaciones extensas, pero no sustituyen la atención de profesionales de salud mental ni garantizan respuestas apropiadas en situaciones de crisis.
Además, atribuir directamente condiciones como la psicosis o la ideación suicida al uso de inteligencia artificial requiere evidencia clínica específica. La existencia de casos o interacciones preocupantes no demuestra por sí sola que la IA sea la causa de estos problemas.
La preocupación se centra, entre otros aspectos, en cómo responden estos sistemas cuando una persona vulnerable expresa pensamientos de autolesión, desarrolla una dependencia emocional hacia un chatbot o recibe información inadecuada.
Siegel compara el momento actual con las redes sociales
El especialista considera que la industria tecnológica debe evitar repetir errores asociados con el desarrollo de las redes sociales.
Durante años, investigadores, organizaciones civiles y autoridades han debatido sobre los efectos que determinadas plataformas y patrones de uso pueden tener sobre menores de edad.
Para Siegel, el crecimiento acelerado de la inteligencia artificial hace necesario establecer medidas de protección desde etapas tempranas, en lugar de reaccionar cuando las herramientas ya se encuentren ampliamente incorporadas a la vida cotidiana de los niños.
Se incorpora a Common Sense Media
Ante estas preocupaciones, Siegel decidió incorporarse a Common Sense Media, organización enfocada en la relación de niños y familias con los medios y la tecnología.
Su trabajo estará relacionado con el desarrollo de estándares que permitan evaluar productos de inteligencia artificial y establecer criterios de responsabilidad para las empresas que los desarrollan.
La organización ha realizado investigaciones sobre la manera en que los menores utilizan sistemas de IA y busca impulsar medidas que permitan identificar posibles riesgos.
Siegel espera que estos estándares puedan contar con la participación tanto de compañías tecnológicas como de organizaciones independientes.
El desafío: utilizar IA sin sustituir el aprendizaje
La inteligencia artificial también puede funcionar como herramienta educativa cuando se utiliza para explicar conceptos, proporcionar retroalimentación, generar ejercicios o ayudar a explorar diferentes formas de resolver un problema.
La preocupación aparece cuando la tecnología sustituye de manera constante procesos que el estudiante necesita practicar para desarrollar sus propias capacidades.
Por ello, el debate no se limita a determinar si los niños deben utilizar inteligencia artificial, sino a establecer cómo, cuándo y bajo qué supervisión resulta apropiado hacerlo.
Mientras estas herramientas continúan incorporándose a escuelas y hogares, especialistas y organizaciones dedicadas a la seguridad digital buscan definir mecanismos que permitan aprovechar sus posibilidades sin ignorar los riesgos potenciales para los usuarios más jóvenes.
