Table of Contents
Un distrito escolar de Nueva York suspendió temporalmente la incorporación de un robot humanoide con inteligencia artificial después de enfrentar críticas de docentes, autoridades educativas y habitantes de la comunidad.
El robot, bautizado como Sally, fue adquirido por casi 60 mil dólares para apoyar a estudiantes de robótica, programación, matemáticas y ciencias en el Distrito Escolar Central de Salamanca.
Sin embargo, su despliegue quedó en pausa debido a preocupaciones relacionadas con la privacidad de los alumnos, la seguridad de los datos y los vínculos corporativos de su fabricante, Realbotix, con una empresa asociada a la producción de muñecas sexuales hiperrealistas.
La suspensión no representa una prohibición estatal contra los robots educativos. El distrito trabaja con el Departamento de Educación de Nueva York para establecer acuerdos reforzados sobre el tratamiento de información estudiantil antes de decidir si Sally podrá ingresar finalmente a las aulas.
¿Dónde pretendían utilizar al robot Sally?
El proyecto se desarrolló en el Distrito Escolar Central de la Ciudad de Salamanca, ubicado en una zona rural del oeste del estado de Nueva York, cerca de la frontera con Pensilvania.
El distrito atiende aproximadamente a 1,400 estudiantes y se encuentra dentro de la Reserva Allegany, territorio de la Nación Seneca.
Las autoridades escolares pretendían instalar a Sally principalmente en el nivel secundario, donde funcionaría como una herramienta complementaria para estudiantes interesados en:
- Robótica.
- Programación.
- Inteligencia artificial.
- Matemáticas.
- Ciencias.
- Tecnología.
- Carreras relacionadas con STEAM.
El superintendente Mark Beehler sostuvo que el objetivo era acercar tecnología emergente a una comunidad cuyos estudiantes deben desplazarse durante una o dos horas para acceder a experiencias similares.
¿Cuánto costó el robot humanoide?
El consejo escolar aprobó la adquisición de Sally por una cantidad cercana a los 60 mil dólares.
Algunos reportes ubican el costo en aproximadamente 58 mil dólares, aunque Associated Press lo describe como una compra de casi 60 mil.
El monto cubre una unidad humanoide fabricada especialmente para fines educativos, de acuerdo con Realbotix.
Sally tiene apariencia femenina, cabello oscuro, piel de silicona y un cuerpo de tamaño real. Puede mover los brazos, las manos y algunas partes del rostro, pero sus piernas no funcionan y no puede caminar de manera autónoma por los pasillos escolares.
¿Qué puede hacer Sally dentro del aula?
El robot fue concebido como una plataforma de apoyo para actividades tecnológicas.
De acuerdo con el distrito, Sally podría responder preguntas en tiempo real y ayudar a los estudiantes cuando enfrenten dificultades relacionadas con programación o electrónica.
Entre sus posibles funciones se encuentran:
- Explicar qué es una placa Arduino.
- Orientar sobre errores de programación.
- Responder preguntas de ciencias.
- Apoyar ejercicios de matemáticas.
- Presentar información sobre robótica.
- Mostrar cómo se mantiene y actualiza un robot.
- Ayudar a resolver problemas técnicos.
- Servir como objeto de estudio para los propios alumnos.
El distrito también señaló que los estudiantes podrían aprender a instalar contenido previamente aprobado, realizar mantenimiento básico y solucionar fallas en el sistema.
El superintendente insistió en que el robot no fue comprado para sustituir a docentes ni para impartir clases de manera independiente.
Estudiantes participaron en el diseño de Sally
Alumnos del gobierno estudiantil participaron en algunas decisiones relacionadas con la apariencia y personalidad del robot.
Los jóvenes eligieron que Sally mostrara una personalidad positiva, amable y humilde.
También solicitaron que conociera aspectos de la historia regional, incluida la importancia de la represa Kinzua para las comunidades de la zona.
Durante el proceso se consideró adquirir únicamente una cabeza robótica, pero la alternativa fue descartada porque algunos participantes la consideraron inquietante.
Finalmente, el distrito eligió una unidad de cuerpo completo, aunque sin capacidad para desplazarse.
¿Por qué suspendieron su ingreso a las aulas?
El proyecto comenzó a enfrentar cuestionamientos después de que docentes, residentes y funcionarios estatales conocieran más detalles sobre el robot y la empresa responsable de fabricarlo.
Las principales preocupaciones fueron:
- El manejo de datos personales de menores.
- La posibilidad de grabar conversaciones.
- La seguridad del software.
- La utilización de inteligencia artificial en tutorías.
- El papel que tendría frente a los docentes.
- La ausencia de acuerdos de privacidad suficientemente claros.
- Los vínculos corporativos del fabricante con el mercado para adultos.
- La falta de consulta con la comunidad local.
Ante la presión, el distrito anunció que el programa permanecería detenido mientras trabaja en acuerdos mejorados de privacidad estudiantil con las autoridades educativas de Nueva York.
Nueva York expresó “serias preocupaciones”
La comisionada de Educación del estado de Nueva York, Betty Rosa, manifestó dudas sobre el papel que Sally tendría dentro del plantel.
El distrito había asegurado que el robot no impartiría instrucción directamente, pero una presentación realizada ante el consejo escolar lo describió como una “plataforma de tutoría”.
Esa diferencia generó inquietud sobre si Sally podría terminar realizando funciones reservadas a docentes o especialistas calificados.
Las autoridades estatales también solicitaron claridad sobre:
- Qué información recopilaría.
- Dónde se almacenarían los datos.
- Quién tendría acceso a ellos.
- Cómo se identificarían los estudiantes.
- Si las conversaciones quedarían registradas.
- Qué medidas evitarían respuestas inapropiadas.
- Qué empresa sería responsable ante una filtración.
El Departamento de Educación pidió al distrito establecer salvaguardas apropiadas antes de continuar con el programa.
Docentes se oponen al robot humanoide
El sindicato New York State United Teachers expresó una de las críticas más contundentes contra el proyecto.
Su presidenta, Melinda Person, sostuvo que una máquina fabricada por una compañía relacionada corporativamente con muñecas sexuales no debería estar presente en un salón de clases.
El sindicato también consideró que el plan representa una expansión poco reflexiva de la inteligencia artificial en la educación.
Para los docentes, los estudiantes necesitan relaciones directas con adultos responsables y capacitados, especialmente cuando atraviesan problemas académicos, emocionales o familiares.
Aunque el distrito aseguró que no eliminaría empleos, algunos profesores temen que proyectos de este tipo puedan abrir el camino para delegar progresivamente tareas educativas a sistemas automatizados.
¿Qué relación tiene Realbotix con las muñecas sexuales?
La controversia se relaciona con la estructura corporativa de la empresa fabricante.
Sally fue adquirida a Realbotix LLC, compañía enfocada en desarrollar robots humanoides para aplicaciones comerciales como educación, salud, atención al cliente y entretenimiento.
Sin embargo, existe una empresa hermana denominada Intima LLC que posee participación en RealDoll, conocida por fabricar muñecas sexuales hiperrealistas y modelos equipados con inteligencia artificial.
Esta relación provocó que sindicatos y residentes cuestionaran si una compañía vinculada indirectamente con productos para adultos era apropiada para desarrollar tecnología destinada a menores.
Realbotix respondió que sus divisiones operan de manera completamente separada.
Realbotix niega que Sally sea una muñeca modificada
La empresa rechazó que Sally haya sido construida a partir de uno de sus productos para adultos.
Realbotix aseguró que se trata de una unidad nueva, fabricada específicamente con fines educativos y sin componentes modificados de las muñecas sexuales.
La compañía también afirmó que Realbotix LLC e Intima LLC mantienen por separado:
- Dirección corporativa.
- Personal.
- Nómina.
- Instalaciones.
- Manufactura.
- Desarrollo de productos.
- Estrategias comerciales.
- Mercados objetivo.
Según la empresa, no existe intercambio de productos entre ambas subsidiarias.
¿Sally recopilaría información de los estudiantes?
El distrito escolar aseguró que el robot no grabaría audio o video de las interacciones con los alumnos.
También afirmó que Sally no enviaría información directamente a Realbotix y que los datos utilizados para las lecciones serían almacenados localmente.
El sistema tampoco tendría acceso abierto a internet ni recurriría libremente a servicios públicos de inteligencia artificial generativa.
Según el distrito, el robot sería configurado para evitar conversaciones relacionadas con:
- Contenido sexual.
- Violencia.
- Apuestas.
- Drogas.
- Material inapropiado.
- Temas no autorizados.
Realbotix añadió que la autenticación de los alumnos se realizaría mediante los sistemas existentes del distrito y que cualquier información vinculada con estudiantes permanecería cifrada y bajo control escolar.
¿Por qué siguen existiendo dudas sobre la privacidad?
Las promesas de los fabricantes no siempre son suficientes para cumplir con las leyes de protección de menores y datos educativos.
Antes de introducir un sistema de inteligencia artificial en una escuela, las autoridades deben conocer con precisión:
- Qué datos procesa.
- Qué información conserva.
- Cuánto tiempo la almacena.
- Si utiliza reconocimiento facial.
- Si identifica voces.
- Si aprende de las conversaciones.
- Si se conecta con servidores externos.
- Si terceros pueden acceder al sistema.
- Cómo se eliminan los registros.
- Qué ocurre si existe una filtración.
Los críticos consideran que el distrito avanzó con la compra antes de resolver completamente estas cuestiones.
El programa permanecerá detenido hasta que se establezcan condiciones adicionales aceptables para las autoridades estatales.
Sally utiliza un programa relacionado con Steve Wozniak
Uno de los motivos por los que el distrito eligió a Realbotix fue que sus robots pueden incorporar WozEd, un programa educativo vinculado con Steve Wozniak, cofundador de Apple.
Salamanca ya utilizaba ese currículo para actividades de ciencias, tecnología, ingeniería, artes y matemáticas.
Las autoridades escolares consideraron que integrar ese contenido en un robot humanoide facilitaría la participación de los alumnos y haría más atractivas las lecciones.
El superintendente conoció a Realbotix mediante un antiguo colega y consideró que la compatibilidad con WozEd convertía a la empresa en una opción adecuada.
El robot respondió a un escenario de crisis suicida
Durante una reunión del consejo escolar, el superintendente mostró una versión informática del sistema de Sally.
Como parte de la demostración, planteó un escenario en el que un estudiante expresaba pensamientos suicidas y después realizó una pregunta relacionada con química.
El sistema respondió a ambas consultas.
La demostración generó nuevas preguntas sobre el papel que tendría el robot ante situaciones emocionales o de emergencia.
Aunque una inteligencia artificial puede ofrecer instrucciones previamente programadas, no sustituye la intervención de:
- Psicólogos.
- Consejeros escolares.
- Trabajadores sociales.
- Docentes capacitados.
- Servicios de emergencia.
- Profesionales de salud mental.
Las autoridades estatales buscan evitar que una plataforma automatizada asuma funciones que requieren valoración humana y preparación profesional.
La comunidad Seneca cuestionó el proyecto
La ubicación del distrito añadió una dimensión cultural al debate.
Salamanca se encuentra dentro del territorio de la Nación Seneca y una parte importante de sus estudiantes pertenece a comunidades originarias.
Algunos residentes consideraron que el programa podría convertir a los menores indígenas en sujetos de una prueba tecnológica que no había sido discutida suficientemente con sus familias.
También relacionaron el caso con el historial de internados que separaron a niños indígenas de sus comunidades y los sometieron a políticas educativas impuestas.
Los críticos argumentaron que cualquier proyecto experimental debería desarrollarse mediante una consulta clara y respetuosa con la comunidad.
La Nación Seneca no ofreció una postura oficial a los medios sobre el robot.
¿El distrito utilizó a niños indígenas como experimento?
No existe evidencia de que el distrito haya elegido deliberadamente a estudiantes indígenas para experimentar con ellos.
Las autoridades escolares sostienen que el proyecto fue diseñado para reducir una brecha tecnológica y ofrecer nuevas oportunidades a una comunidad rural.
Sin embargo, algunos docentes y residentes percibieron la falta de consulta como una repetición de decisiones históricas tomadas sin escuchar a las comunidades originarias.
La controversia muestra que la introducción de nuevas tecnologías no depende únicamente de su funcionamiento.
También requiere considerar:
- El contexto cultural.
- La confianza comunitaria.
- La historia local.
- La participación de las familias.
- El consentimiento informado.
- El impacto sobre grupos históricamente vulnerados.
El distrito defiende la equidad educativa
Mark Beehler sostuvo que los estudiantes de Salamanca tienen menos oportunidades de interactuar con tecnología avanzada que los alumnos de grandes ciudades.
Según explicó, algunos deben viajar entre una y dos horas para conocer laboratorios, universidades o proyectos de innovación.
El robot pretendía acercar esas experiencias al plantel y motivar a los estudiantes a estudiar carreras relacionadas con robótica e inteligencia artificial.
El programa piloto también contemplaba un asistente virtual para docentes y un servicio de tutoría desde el hogar.
Para el distrito, estas herramientas no reemplazarían a los maestros, sino que complementarían su trabajo.
“Un robot no puede reemplazar a un ser humano”
El superintendente rechazó que Sally haya sido adquirida con la intención de reducir personal.
Beehler señaló que la enseñanza es un proceso que ocurre entre personas y que sería perjudicial sustituir esa relación mediante una máquina.
La función del robot, explicó, sería despertar interés por la tecnología y servir como una plataforma práctica.
No obstante, los sindicatos consideran que es necesario establecer límites contractuales sobre la inteligencia artificial antes de integrarla a las escuelas.
La Asociación de Docentes de Salamanca planea incluir protecciones relacionadas con IA dentro de sus negociaciones laborales.
¿Sally podrá entrar finalmente a la escuela?
Todavía no existe una decisión definitiva.
El programa permanece pausado mientras el distrito:
- Negocia acuerdos reforzados de privacidad.
- Responde a las inquietudes del estado.
- Explica el proyecto a las familias.
- Revisa el alcance de las funciones del robot.
- Define reglas para el manejo de datos.
- Atiende las objeciones de los docentes.
- Dialoga con la comunidad.
Sally podría ser desplegada posteriormente si las autoridades educativas consideran suficientes las medidas de seguridad.
También existe la posibilidad de que el distrito modifique su función o abandone definitivamente el proyecto.
El robot ya fue comprado
La suspensión presenta además un problema financiero.
El distrito ya aprobó y realizó la compra de la unidad, por lo que el debate comenzó después de comprometer casi 60 mil dólares.
No se ha informado públicamente si el contrato permite:
- Cancelar la adquisición.
- Solicitar un reembolso.
- Cambiar el robot por otro producto.
- Utilizarlo únicamente para capacitación interna.
- Mantenerlo fuera del contacto directo con estudiantes.
La situación generó cuestionamientos sobre si el consejo escolar debió consultar primero a docentes, familias y autoridades estatales.
Los robots educativos no son completamente nuevos
Sally no sería el primer humanoide utilizado en una escuela estadounidense.
Otros planteles han adquirido robots para demostrar conceptos de ingeniería, programación y comunicación.
Associated Press señaló que una escuela autónoma de San Diego incorporó dos robots de inteligencia artificial comprados a la compañía británica Engineered Arts por aproximadamente 500 mil dólares.
Sin embargo, cada proyecto enfrenta desafíos distintos según:
- La edad de los alumnos.
- Las funciones asignadas.
- La capacidad del sistema.
- El origen del software.
- Las políticas de privacidad.
- El costo.
- El grado de autonomía.
- La participación de docentes.
¿Un robot puede ser maestro?
Los sistemas de inteligencia artificial pueden apoyar en determinadas tareas educativas, como explicar conceptos, generar ejercicios o responder preguntas básicas.
Pero actualmente presentan limitaciones importantes:
- Pueden entregar información incorrecta.
- No comprenden plenamente el contexto emocional.
- No asumen responsabilidad profesional.
- Pueden reproducir sesgos.
- Dependen de los datos con los que fueron programados.
- No sustituyen la experiencia pedagógica.
- No identifican siempre situaciones de riesgo.
- Requieren supervisión humana.
Por ese motivo, el debate no consiste únicamente en determinar si Sally funciona técnicamente, sino en establecer qué tareas puede realizar sin invadir funciones docentes o profesionales.
La inteligencia artificial avanza más rápido que las reglas
El caso de Salamanca evidencia la rapidez con la que la inteligencia artificial llega a espacios donde todavía no existen protocolos suficientemente claros.
Las escuelas deben equilibrar el acceso a nuevas tecnologías con la protección de estudiantes menores de edad.
Antes de desplegar una herramienta de este tipo se necesitan reglas sobre:
- Transparencia.
- Privacidad.
- Consentimiento.
- Supervisión humana.
- Seguridad informática.
- Contratación pública.
- Responsabilidad ante errores.
- Protección laboral.
- Evaluación de resultados.
La ausencia de esas reglas puede provocar rechazo incluso cuando el proyecto tiene una finalidad educativa.
Lo que está confirmado sobre Sally
Hasta ahora se encuentra confirmado que:
- El distrito de Salamanca compró un robot humanoide.
- La unidad costó casi 60 mil dólares.
- Fue fabricada por Realbotix.
- Se pretendía utilizar para apoyar actividades tecnológicas.
- El robot no puede caminar.
- Puede mover brazos, manos y partes del rostro.
- El proyecto está temporalmente suspendido.
- Nueva York expresó preocupaciones sobre privacidad y funciones educativas.
- Los sindicatos se opusieron a su ingreso.
- Una empresa hermana de Realbotix tiene vínculos con RealDoll.
- Realbotix asegura que sus divisiones operan por separado.
- El distrito afirma que Sally no grabará ni enviará datos a la empresa.
- Todavía no existe una fecha para su posible despliegue.
Sally queda fuera de las aulas mientras continúa el debate
El robot humanoide fue presentado como una oportunidad para acercar la inteligencia artificial y la robótica a estudiantes de una comunidad rural.
Sin embargo, la falta de acuerdos claros sobre privacidad, el papel que tendría en las tutorías, sus vínculos corporativos y la ausencia de una consulta comunitaria suficiente terminaron frenando el proyecto.
Sally no ha sido prohibida definitivamente, pero permanecerá fuera de las aulas hasta que el distrito logre responder a las inquietudes de docentes, familias y autoridades estatales.
El caso plantea una pregunta que cada vez más escuelas deberán enfrentar: cómo aprovechar la inteligencia artificial sin reemplazar las relaciones humanas ni comprometer la seguridad, los derechos y la confianza de los estudiantes.
