La educación en tiempos de inteligencia artificial: cuestiones para el debate

La educación en tiempos de inteligencia artificial: cuestiones para el debate

Faraón Llorens Largo, Universidad de Alicante

Jornadas sobre IA aplicada a la docencia, especialmente en matemáticas
Institut Universitari de Matemàtiques i Aplicacions de Castelló – IMAC
Universitat Jaume I de Castelló
14 de octubre de 2025

https://www.uji.es/institucional/estructura/instituts/imac/noticias/ActivitatIA

Guion y resumen

0. Llueve sobre mojado

Vivimos una época en la que las transformaciones tecnológicas, ya aceleradas de por sí, se superponen, sin darnos tiempo a asimilar las anteriores. Cada nueva ola llega antes de que la anterior se haya completado. Este solapamiento de innovaciones no solo multiplica las oportunidades, sino también la confusión sobre qué está cambiando realmente. Ante una digitalización de las universidades, en algunos casos aún inconclusa, hemos pasado al vértigo de la inteligencia artificial. Este salto sin consolidar etapas puede amplificar desigualdades internas y errores estructurales.

[Conceptos: percepción + tecnología]

1. El oxímoron de la inteligencia artificial

No debemos intentar definir la inteligencia artificial como la superposición de los dos significados: inteligencia y artificial. Debemos verla como un oxímoron, es decir, que la combinación, en una misma estructura sintáctica, de dos palabras o expresiones de significado opuesto, originan un nuevo sentido.

2. El vértigo de la inteligencia artificial

El término IA se ha convertido en un mantra omnipresente, repetido con tal insistencia que amenaza con vaciarse de sentido, erosionando su capacidad para articular debates rigurosos y decisiones informadas. Entre el entusiasmo acrítico y el catastrofismo, corremos el riesgo de perder el rigor necesario para distinguir la innovación auténtica del discurso tecno optimista y las narrativas interesadas de las grandes tecnológicas (con intereses creados e inmensa inversión a rentabilizar). Escuchar a quienes investigan desde hace décadas, con mirada ética y social, es hoy más importante que seguir los cantos de sirena del mercado. Pero, ¿es realmente así? ¿qué voces se oyen con más fuerza? ¿qué visión terminará imponiéndose?

3. La inteligencia artificial como tecnología

La rama de la inteligencia artificial que actualmente ha causado tanta expectación y revuelo, el aprendizaje automático y la IA generativa, es una construcción técnica que combina matemáticas, ingeniería y datos: algoritmos entrenados en infraestructuras de cómputo masivo alimentadas por información digitalizada. Lo que ha hecho que ahora estemos hablando de ellos es fundamentalmente la actual disponibilidad de inmensas cantidades de datos (de todo tipo, metadatos, documentos…). Una política de datos en la universidad se vuelve, así, una cuestión estratégica central.

4. Tecnología de propósito general

La IA es una tecnología de propósito general, y por tanto no transforma solo un sector, sino la forma misma en que todos los sectores funcionan. En nuestro caso nos preocupa el sector educativo, en concreto el universitario, en el que su impacto puede ser importante. En su momento, la separación entre hardware (máquinas de propósito general) y el software (programas específico para cada tarea) supuso un planteamiento disruptivo. En estos momentos, con un mismo software basado en IA se pueden resolver distintos tipos de problemas según los datos de entrenamiento. Parece que los grandes modelos de lenguaje (LLM) saben de todo. Estamos frente una nueva generación de software, en cierta manera, de propósito general.

5. Software de nueva generación

Se avecina una nueva generación de software que multiplicará las capacidades de los sistemas informáticos actuales. La universidad debe prepararse mapeando sus procesos, identificando cuáles pueden beneficiarse de la IA y cómo. A veces bastará con usar herramientas ya disponibles; otras, con desarrollar soluciones sencillas o complejas según los datos y los sistemas implicados. Pero el criterio no debe ser la moda, sino la pertinencia y el valor añadido educativo.

[Docencia: enseñanza + aprendizaje]

6. Aprendices de brujo

Nos comportamos como aprendices de brujo que manejan fuerzas que apenas comprenden. Invocamos herramientas poderosísimas sin comprender del todo sus mecanismos ni sus límites. La IA generativa nos ofrece poder sin conocimiento, respuestas sin comprensión y una sensación de competencia ilusoria. Democratizar el acceso a herramientas potentes no equivale a estar capacitado para su uso crítico. Y sin ese espíritu, cualquiera puede sentirse “experto” mientras repite, sin saberlo, fórmulas ajenas, incluso cando estas no son del todo veraces.

7. El rey va desnudo

La irrupción de la IA generativa no ha creado las debilidades del sistema educativo: solo las ha hecho visibles. La evaluación, concebida como control del resultado, revela ahora su fragilidad frente a modelos capaces de producir textos impecables sin aprendizaje genuino. Quizá el reto no sea prohibir la IA, sino repensar qué y cómo evaluamos, y qué queremos realmente que los estudiantes aprendan.

8. Preguntar para aprender

Aprender no es solo responder correctamente, sino también formular preguntas significativas. Los profesores deben ser conscientes del poder y las implicaciones de sus preguntas; a los estudiantes, hasta ahora solo responsables de la calidad de sus respuestas, debemos exigirles preguntas pertinentes. La educación no puede reducirse a un juego de aciertos, sino que debe cultivar la capacidad de preguntar bien, que es, en última instancia, la forma más profunda de pensar.

9. Abundancia de información (y desinformación)

Nunca habíamos tenido tanto acceso al conocimiento ni tanta dificultad para distinguirlo del ruido y la desinformación. La inteligencia artificial amplifica esa abundancia, generando contenidos plausibles pero no siempre veraces. En este contexto, educar ya no consiste en transmitir información, sino en desarrollar criterio: la capacidad de discernir, contrastar y construir sentido en medio de la saturación.

10. Evaluar menos resultados, entender más el camino.

El aprendizaje auténtico se adquiere en el proceso. Pero hasta ahora nos hemos limitado a evaluar el resultado. En una era donde las máquinas pueden producir respuestas perfectas, lo valioso es comprender cómo se llega a ellas. Evaluar los caminos del pensamiento, la argumentación y la creatividad se convierte en la mejor defensa frente a la automatización del saber.

[Gobernanza: ética y responsabilidad]

11. Veracidad y confianza

La inteligencia artificial generativa nos enfrenta a un nuevo régimen de la verdad. No todo lo falso es mentira: a menudo es simple indiferencia hacia la verdad, el bullshit que se disfraza de conocimiento. En estos momentos se está hablando de un nuevo término, el botshit, es decir, los contenidos generados por chatbots que pueden ser inexactos o engañosos, y que los usuarios humanos incorporan en tareas significativas sin una verificación adecuada. Cuando los contenidos se multiplican sin control, la universidad debe reafirmarse como garante de la veracidad, no por conservar un privilegio, sino por sostener el sentido mismo del conocimiento.

12. El dueño de la inteligencia artificial

Toda inteligencia artificial encarna una visión del mundo: la de quien define sus objetivos, selecciona sus datos de entrenamiento y modela sus aprendizajes. De la programación clásica basada en traducimos a un lenguaje de programación el conocimiento de un experto (algoritmos y sistemas expertos), pasamos a sistemas que aprenden de ejemplos (aprendizaje automático) y finalmente llegamos a otros que maximizan una función objetivo. La pregunta clave ya no es qué sabe la IA, sino quién decide qué debe saber y con qué fin. Eso determinará el modelo del mundo que tenga la IA.

13. Modelos abiertos

La apertura de los modelos de IA no es solo una cuestión técnica, sino política y cultural. Los sistemas abiertos permiten la auditoría, la colaboración y la adaptación a contextos locales. Sin ellos, el conocimiento se privatiza y se empobrece. Apostar por modelos abiertos es, por tanto, una forma de defender la autonomía intelectual y el derecho colectivo a comprender cómo funciona el mundo digital. Estos modelos fundacionales podrán servir a las universidades para montar asistentes inteligentes sobre ellos. Si no se diseñan estrategias específicas que impulsen el desarrollo de sistemas de inteligencia artificial de código abierto, accesibles, públicos y sin fines de lucro, la IA quedará en manos de unos pocos actores, limitando su potencial como herramienta equitativa.

14. Soberanía digital

La soberanía digital de la universidad consiste en su capacidad para gobernar sus propios recursos, datos, infraestructuras y decisiones relacionadas con la tecnología, sin quedar subordinada a las corporaciones tecnológicas globales. No se trata de aislarse, sino de cooperar con equilibrio y conciencia crítica. Si el conocimiento se convierte en propiedad privada, la universidad pierde su esencia pública. Gobernar la IA es, hoy, proteger el conocimiento mismo.

15. La tecnología no es neutra

Pensar que la tecnología es neutral es una ingenuidad peligrosa. Cada herramienta incorpora las intenciones, valores y estructuras de poder de quienes la crean. La universidad no puede limitarse a consumir tecnología de forma pasiva: debe participar activamente en su diseño, desarrollo y gobernanza. La verdadera pregunta no es si debemos usar inteligencia artificial, sino qué inteligencia artificial queremos, para qué fines y cómo queremos utilizarla.

[Epílogo]

Manifiesto IA segura

https://manifesto.safeaieducation.org

El Manifiesto para una IA Segura en la Educación propone los principios fundamentales que garantizan que la IA se implemente en entornos educativos de manera ética, segura y alineada con los objetivos fundamentales de la educación. Estos principios se basan en la creencia de que la IA siempre debe estar al servicio de las personas, mejorando las capacidades humanas en lugar de reemplazarlas. La IA debe actuar como una herramienta que empodere a estudiantes, educadores e instituciones para alcanzar su máximo potencial, preservando al mismo tiempo la naturaleza centrada en el ser humano de la educación.