La inteligencia artificial ya no es una propuesta de ciencia ficción, sino una herramienta tecnológica que ha pasado a integrar de forma llamativa nuestro universo digital. Y, como este universo digital también lo habitan los niños, niñas y adolescentes, el uso de la IA se ha extendido a su vida cotidiana, irrumpiendo de forma natural en el ámbito educativo. En este escenario, la IA está cambiando la forma en la que niños, niñas y adolescentes buscan información, resuelven dudas o preparan los trabajos escolares, lo que tiene un impacto directo en su aprendizaje.
Esta nueva realidad plantea importantes retos en el entorno educativo y abre oportunidades, pero también plantea interrogantes que no pueden ignorarse si hablamos de escuelas seguras. Estos riesgos pueden derivarse tanto de la interacción directa de niños y niñas con estos sistemas de IA, es decir, de para qué y cómo utilizan estas herramientas, como de los efectos indirectos de decisiones automatizadas que influyen en su aprendizaje y en su trayectoria educativa. Entre ellos, se incluyen los sesgos informativos o la toma de decisiones basadas en información incompleta o descontextualizada. Aunque son riesgos que se asocian de forma general al uso de la IA que potencialmente pueden afectar a cualquiera, su impacto es especialmente grave cuando hablamos de niños niñas y adolescentes. Se encuentran en un proceso clave de desarrollo y aprendizaje y aún están construyendo su capacidad crítica.
Por otro lado, existe el riesgo de que, en lugar de constituir una herramienta que mejore el proceso educativo, se convierta justo en lo contrario: en un atajo que sustituya procesos clave en la construcción y retención del conocimiento, afectando negativamente al desarrollo de habilidades cognitivas. Por eso, antes de integrar estas herramientas de forma generalizada en las aulas, es imprescindible establecer límites claros, salvaguardas y medidas de acompañamiento adecuadas. Solo después de haber abordado estas cuestiones podremos afrontar debidamente el siguiente reto: ver de qué manera estas herramientas tienen cabida en el aprendizaje y cómo podemos incorporarlas en los procesos educativos de forma beneficiosa y segura.
Una escuela segura en la era digital no es aquella que evita la tecnología, sino la que la incorpora con criterios éticos, pedagógicos y de protección. Esto implica generar evidencia sólida sobre sus efectos reales en el aprendizaje como herramienta de apoyo, definir a partir de qué edades y para qué usos puede resultar adecuada, y garantizar que nunca sustituya la relación educativa entre profesorado y alumnado.
En este sentido, puede resultar clave reforzar el trabajo y el estudio en el aula, en lugar de depender de tareas que deban realizar en casa. Y podemos también aprovechar sus posibles ventajas para replantear el modo en el que se imparte el conocimiento. Por ejemplo, en lugar de centrar la enseñanza en procesos que la IA puede automatizar, su uso puede servir para elevar la calidad del aprendizaje, la reflexión y el debate. En el aula se puede pedir al alumnado que evalúe una respuesta generada por IA, que identifique posibles errores o sesgos y que la contraste con otras fuentes, convirtiendo así la tecnología en un punto de partida para aprender más y mejor, en lugar de en un atajo que empobrezca el proceso educativo. Actualmente existe poca evidencia empírica sobre los efectos de la IA en el aprendizaje que es necesario investigar, pilotar y evaluar con rigor antes de su implantación a gran escala.
Al margen de cómo se decida integrar esta tecnología en las aulas, en una era digital en constante y rápido cambio, resulta innegable que educar en un uso consciente y seguro de la IA debe formar parte de la educación para la ciudadanía digital. Esto implica necesariamente trabajar la capacidad crítica desde edades tempranas. Los niños, niñas y adolescentes deben comprender cómo funcionan estos sistemas y cómo se relacionan con sus derechos, tal y como han señalado diversas agencias y órganos de Naciones Unidas (entre ellas, el Comité de los Derechos del Niño) en su declaración conjunta sobre inteligencia artificial y derechos del niño. La formación no debe limitarse a la infancia: los y las profesionales del ámbito educativo deben recibir formaciones sobre un uso adecuado de estas herramientas, así como para una gestión adecuada de las mismas en el aula.
También resulta imprescindible prestar atención al impacto en la salud mental y emocional. La percepción de estas tecnologías como constantes fuentes de respuesta puede llevar a que se generen vínculos de dependencia emocional, riesgo que se agrava especialmente durante una etapa vital sensible como lo es adolescencia, marcada por la búsqueda de reconocimiento, validación y pertenencia, y en el que las relaciones sociales, la autoestima y la identidad aún se están construyendo. Trabajar la empatía resulta también una herramienta de protección frente a usos manipulativos o deshumanizantes de la IA, como la generación de contenidos perjudiciales o dañinos para otros niños y niñas. Es clave prevenir dinámicas de acoso en el entorno educativo, incluidas prácticas como la creación de deepfakes o contenidos generados por IA que humillan o vulneran la dignidad de otros compañeros y compañeras.
En este escenario, construir escuelas seguras en la era de la inteligencia artificial requiere una responsabilidad compartida. Es responsabilidad de las administraciones públicas invertir en investigación sobre la IA ética, en formación de docentes y dotación de recursos a las comunidades educativas. También a las familias, para que puedan acompañar a sus hijos e hijas en un uso seguro, moderado y consciente de estas herramientas.
No cabe duda de que nos hallamos frente a un complejo reto, que debe abordarse con profundidad y rigurosidad, y siempre desde una mirada que sitúe los derechos en el centro. Integrar la inteligencia artificial en la educación solo será una oportunidad real si se hace desde un enfoque que garantice la no discriminación, la participación, la privacidad y la protección integral de niños, niñas y adolescentes. Porque una escuela verdaderamente segura no es la que incorpora más tecnología, sino la que asegura que su utilización refuerza el bienestar, el progreso y los derechos de su alumnado.
Este artículo forma parte del Dosier Corresponsables: Escuelas seguras, en alianza con #Notecalles.org
