Home » reflexiones

Category Archives: reflexiones

octubre 2024
M T W T F S S
 123456
78910111213
14151617181920
21222324252627
28293031  

Safe AI in Education Manifesto

Safe AI in Education Manifesto

http://manifesto.safeaieducation.org

Preamble
In the rapidly evolving landscape of education, Artificial Intelligence (AI) holds great promise to enhance learning experiences, streamline administrative tasks, and support both students and educators. However, with these advancements come significant responsibilities.
The Safe AI in Education Manifesto establishes the foundational principles that ensure AI is deployed in educational settings in a manner that is ethical, secure, and aligned with the core objectives of education.
This principles are intended to provide a framework to guide educators, educational institutions, developers and AI vendors in their decision making process about the use of AI in education.

Principle 1: Guaranteeing Confidentiality
Principle 2: Alignment with Educational Strategies
Principle 3: Alignment with Didactic Practices
Principle 4: Accuracy and Minimization of Errors
Principle 5: Comprehensive Interface and Behavior
Principle 6: Ethical Training and Transparency

Conclusion
The integration of AI into education is inevitable and holds great potential. However, this integration must be guided by principles that prioritize the well-being, privacy, and educational success of students. The Safe AI in Education Manifesto is a commitment to these principles, ensuring that AI enhances the educational experience without compromising ethical standards or educational integrity.

¿Deberíamos revisar el alcance del término inteligencia?

¿Deberíamos revisar el alcance del término inteligencia? (I)
UniverSÍdad (www.universidadsi.es)
Faraón Llorens
06/06/2024

¿Deberíamos revisar el alcance del término inteligencia? (II)
UniverSÍdad (www.universidadsi.es)
Faraón Llorens
07/06/2024

El 8 y 9 de mayo tuvo lugar en Madrid, en la Universidad Camilo José Cela, el Global Education Forum, que en esta ocasión tenía por título EducAItion. Shaping the Future, Keeping Us Human. La temática está de moda y el debate y la reflexión eran muy oportunos. Gracias por invitarme a participar. Por lo que a mí respecta, ha sido una ocasión más para repensar nuestra “humanidad” a la luz de la discusión sobre la inteligencia artificial. De todo ello dejo constancia en estas dos entradas que publica universídad, hoy y mañana.

El nivel de los ponentes internacionales reunidos en el Global Education Forum  (organizado por la UCJC) auguraba unas excelentes jornadas de aprendizaje, debatiendo sobre tecnología y educación. Pero lo que más me gustó vino de la mano de un antropólogo, no de un informático o un educador, que eran los perfiles que me esperaba encontrar. Hizo presente mi interés por el estudio de la inteligencia humana.

Ignacio Martínez Mendizábal impartió la conferencia magistral (de las pocas que se merecen tal calificativo) What does it mean to be human? . Para poder responder a quiénes somos, nos llevó por un viaje en el tiempo para descubrir de dónde venimos.

/…/

No se trata de decidir si IA sí o IA no. La opción de no IA ni es viable ni es conveniente. Superemos la ley del tercio excluso de la lógica clásica y apostemos por una tercera vía que he querido llamar AI (invirtiendo las siglas).

El aumento de inteligencia (AI) que representaría que ambas, la natural y la artificial, se pusieran a colaborar y se complementaran, sería la opción más inteligente (permitidme la redundancia).

En las universidades debemos formar universitarios que, junto a una inteligencia natural bien ejercitada, sepan sacar partido a la inteligencia artificial en su vida profesional (y personal).

/…/

Para concluir, mi pregunta es si la inteligencia seguirá la línea de los tres mosqueteros y todas las inteligencias vistas establecerán sinergias para hacernos más inteligentes. O si siguiendo el planteamiento del señor de los anillos, existirá un anillo único, que, con aspecto de anillo normal, someterá a todos los demás.

Yo abogo por la suma de inteligencias.

Leer las entradas completas:
www.universidadsi.es/el-alcance-de-la-inteligencia-humana

www.universidadsi.es/el-alcance-del-termino-inteligencia-artifical

IA o AI, esta es la cuestión

IA o AI, esta es la cuestión
Faraón Llorens Largo
Podium: revista iberoamericana de educación e innovación para la productividad.
https://oei.int/colecciones/revista-podium
Instituto Iberoamericano para la Educación y la Productividad
Organización de Estados Iberoamericanos (OEI)

Nº 12, junio de 2024
Iberoamérica 4.0: innovación y productividad en la era de la inteligencia artificial
https://oei.int/publicaciones/podium-revista-iberoamericana-de-educacion-e-innovacion-para-la-productividad-n-12-junio-de-2024
Página 12

Acceso al pdf completo

Reflexión
La frase To be, or not to be, that is the question es considerada como esencia de grandes momentos de indecisión y duda, y por ello nos puede venir ahora a la cabeza al hablar de inteligencia artificial (IA), ya que son tiempos fuertemente marcados por la incertidumbre y, por tanto, de duda e indecisión, de posibilidades y temores. Parafraseando esta famosa expresión shakesperiana formulada por Hamlet, puede pensar el lector que el título de este escrito debería haber sido «IA o no IA, esta es
la cuestión». Pero no, esa no es la cuestión.

Dilema
La frase sugiere un dilema: optar por la adopción de la inteligencia artificial o no hacerlo. Pero en mi opinión, la «no IA» no es una opción verosímil (ni conveniente) actualmente, y menos aún en el futuro. Por eso, permitidme un juego de palabras, y en este caso no utilizar «no IA» como complementario de IA, sino cambiar el orden de las letras y utilizar AI, en referencia a un posible, y deseable, aumento de inteligencia. La competición no va de humanos contra máquinas, actuar en función de este escenario sería un error. Y más aún en el ámbito educativo

/…/

Hic sunt dracones
Esta frase («aquí hay dragones») aparecía en mapas medievales para indicar áreas desconocidas o peligrosas, donde se creía que habitaban criaturas míticas como los dragones. Servía para marcar regiones inexploradas o poco conocidas, indicando así la incertidumbre y los peligros asociados con esas áreas.
Al igual que marcamos con esta frase en los mapas antiguos las zonas que representaban territorios desconocidos, la inteligencia artificial la situamos en esos nuevos territorios inexplorados, con dudas razonables en términos de capacidades, aplicaciones y consecuencias. No sabemos con certeza cómo evolucionará la IA en el futuro ni cuáles serán todas sus implicaciones, lo que agrega a su desarrollo un elemento de misterio y desconcierto. La inteligencia artificial, al igual que las áreas desconocidas de los mapas antiguos, está llena de promesas y peligros, y debemos abordarla con precaución y cuidado mientras exploramos sus posibilidades.
Pero el aviso de hic sunt dracones no debe detenernos. Debemos adentrarnos en estos nuevos territorios. La historia de la humanidad está marcada por avances tecnológicos que han transformado radicalmente la sociedad y la forma en que vivimos y trabajamos. Y la inteligencia artificial representa la próxima frontera en este avance.

MANIAC

MANIAC
Benjamín Labatut
Editorial ANAGRAMA

https://www.anagrama-ed.es/libro/narrativas-hispanicas/maniac/9788433911001/NH_723

Frases entresacadas e ideas interesantes que puedo utilizar:

(Página 115)
“Al combinar las ideas de Gödel y von Neumann, el resultado desafiaba la lógica. Desde entonces hasta la eternidad, los matemáticos tendrían que elegir entre dos escenarios: o se resignaban a convivir con paradojas y contradicciones, o debían aceptar verdades que no podían probar.”

(Página 214)
“Turing aprendió algo fundamental al observar a sus “niños”: para que las máquinas llegasen algún día a avanzar hacia la verdadera inteligencia, tendrían que ser falibles; capaces no solo de cometer errores y salirse de su programación original, sino también de tener comportamientos ilógicos y absurdos. Turing creía que el azar y la aleatoriedad jugarían un rol crucial en las máquinas inteligentes, porque permiten respuestas nuevas e impredecibles, creando una gran variedad de posibilidades, entre las cuales un programa de búsqueda podría encontrar la acción apropiada para cada circunstancia en particular.”

La inteligencia artificial en el gobierno universitario

La inteligencia artificial en el gobierno universitario
UniverSÍdad (www.universidadsi.es)
Faraón Llorens y Francisco J. García Peñalvo
05/12/2023

Llevamos un año en el que la inteligencia artificial (IA) ha saltado al debate público debido al lanzamiento el último día de noviembre de 2022 de ChatGPT, que ha roto todos los récords de penetración. Y las universidades, como era de esperar no han sido ajenas a esta vorágine. Tanto los máximos responsables universitarios como el profesorado han estado pendientes del tema y debatiendo sobre su posible impacto en sus instituciones y en su labor docente.

La rápida evolución de la IA, especialmente con la llegada de la IA generativa, requiere un enfoque estratégico de gobernanza en las instituciones de educación superior.

Aunque en el ámbito de la gobernanza universitaria hemos visto una preocupación creciente y una actitud proactiva, publicándose numerosas guías y recomendaciones para el uso de la IA generativa en la docencia, aun no existen políticas institucionales al respecto.

/…/

Liderando la universidad del futuro

Las dificultades y riesgos de la IA no deben parar su implantación y utilización en nuestras universidades en aquellas tareas en las que proporcione soluciones más eficientes y personalizadas. Debemos ser conocedores de estos y tomar las medidas oportunas para paliar los posibles efectos negativos.

Con esta entrada, queremos enfatizar la gobernanza estratégica de la IA y presentar un enfoque integral para las instituciones de educación superior. Pero también queremos subrayar la importancia de abrazar la IA, no como una herramienta tecnológica aislada, sino como una parte integral del viaje transformador de una institución.

La IA debería entrelazarse con la gobernanza de las TI y su estrategia de transformación digital.

Que la IA forme parte del gobierno universitario es necesario para establecer el escenario en el que las universidades sigan liderando una época que se verá impulsada por esta herramienta. Con la IA hay que asegurar que las instituciones permanezcan a la vanguardia de la innovación educativa al tiempo que salvaguardan sus principios fundamentales.

Leer la entrada completa:
www.universidadsi.es/la-inteligencia-artificial-en-el-gobierno-universitario/

CEEC-Planner

Hoy se ha presentado en la Feria Internacional del Libro de Guadalajara (FIL), en el Foro Las TIC en las IES, la publicación CEEC-PLANNER, Herramienta para el diseño de planes de continuidad educativa para emergencias y crisis. Guía práctica, que he tenido el honor de prologar.

¡Enhorabuena a las autoras!

Gracias a ANUIES-TIC y CUDI por la publicación.

Vicario-Solórzano C. M., Pérez-Maldonado Y. & Solórzano-Murillo M. A., (2023). CEEC-PlANNER. Herramienta para el diseño de planes de continuidad educativa para emergencias y crisis. Guía práctica. CUDI-ANUIES, México.

Se puede descargar desde aquí.

Prólogo:

Prever el futuro para planificar en el presente está en la esencia del ser humano y es lo que nos ha permitido convertirnos en la especie dominante, en el Homo sapiens.

Según Yuval Harari [1] el aspecto diferencial del sapiens está en su capacidad de contar historias, de inventar relatos, de imaginarnos el futuro, lo que nos ayuda a entender mejor el mundo en el que vivimos y a fijar esa experiencia en nuestros cerebros, y por tanto en nuestro comportamiento. Y de esta forma encarar situaciones futuras, nuevas, pero a las que podemos hacer frente gracias a la capacidad de imaginar lo que puede ocurrir. Así, nuestro dominio del mundo se debería a nuestro talento para la ficción, para construir y creer relatos sobre cosas que solo existen en nuestra imaginación.

Hemos asumido que la inteligencia es el rasgo fundamental del sapiens. Jeff Hawkins [2] dice que la predicción es la evidencia de la inteligencia humana. Así, las pruebas que utilizamos para medir la inteligencia general son esencialmente ejercicios de predicción (dada una secuencia de números o de formas, ¿cuál sería la siguiente?). Y para hacer esa predicción necesitamos reconocer patrones y establecer relaciones. Esta capacidad de predicción hace que nuestro cerebro esté, en segundo plano, continuamente analizando la situación y solo nos avise, ocupe nuestra atención, cuando la realidad no coincide con la predicción hecha (lo percibido es distinto a los esperado). Lo podemos comprobar fácilmente todos los días cuando volvemos a casa. Si todo está como nuestro cerebro predice, no nos alerta y continuamos con nuestra tarea. Pero si algo ha sido movido de sitio, como no coindice con la predicción realizada por el cerebro, llama nuestra atención. Nuestro cerebro elabora un modelo del mundo y lo actualiza constantemente. Y así, almacena y reproduce experiencias para ayudarnos a predecir lo que sucederá a continuación.

El cerebro humano es asombroso elaborando narrativas y vislumbrando futuros.

Y llegamos al tema de moda, la inteligencia artificial (IA). Esta capacidad de predicción y de centrar la atención es lo que caracteriza a la actual inteligencia artificial, la que está revolucionando los medios de comunicación generalistas y creando cierta alarma social. Conversamos con la máquina como si lo hiciéramos con un humano. Nos entiende y nos responde. Y entendemos su respuesta. Pero más allá de estas inteligencias artificiales generativas, hace ya mucho tiempo que delegamos múltiples tareas a distintos tipos de IA. Mariano Sigman y Santiago Bilinkis [3] en su libro Artificial. La nueva inteligencia y el contorno de lo humano resaltan un aspecto que ha llamado mi atención. Comentan que, aunque pensemos que aprender es un rasgo propio de la especie humana, muchos seres vivos (y ahora artificiales) lo tienen. Lo que es menos común en otras especies, y que por tanto podría caracterizarnos, es la habilidad que tenemos para enseñar, para propagar el conocimiento como un virus contagioso.

Y se preguntará el lector qué tiene que ver esto con el documento que tiene en sus manos. Imaginar el futuro. Planificar el presente. Predecir. Focalizar la atención. Actuar de forma inteligente. Aprender. Enseñar. Todo esto es lo que está encerrado en la publicación Herramienta para el diseño de planes de continuidad educativa para emergencias y crisis (CEEC-PLANNER). Es muy importante disponer de una guía práctica que nos ayude a diseñar planes de continuidad educativa que nos permitan enfrentarnos en su momento a situaciones de emergencia y crisis, que seguro que pronto o tarde van a darse, pero que si no se dan, mejor. Como dice el dicho, más vale prevenir que curar. Disponer de un relato, imaginar la situación de emergencia y pensar detenidamente lo que deberíamos hacer en ese caso, nos permitirá enfrentarnos mejor a esas crisis cuando venga el momento. Las decisiones precipitadas no suelen ser las más adecuadas. Esto quedó patente durante la pandemia, en la que las instituciones educativas tuvieron que seguir atendiendo a los estudiantes en un entorno para el que no habían diseñado su docencia. Y si se nos puede disculpar lo ocurrido esa primera vez, no ocurrirá los mismo en futuras crisis. Y no necesariamente serán crisis sanitarias, mundiales y de tanto calado.

Aprender de lo ocurrido y enseñar lo aprendido. Esta publicación cubre las dos facetas.

Garantizar la continuidad de los servicios educativos debería formar parte de la política, tanto de las instituciones de educación como de los gobiernos. Hace un par de años tuve el honor de prologar la publicación del Modelo de continuidad de servicios educativos ante un contexto de emergencia y sus etapas de crisis, sobre el que se construye la herramienta que se presenta en esta publicación. En ese momento puse el énfasis en la importancia de ser conscientes de los riesgos existentes y de la conveniencia de estar preparados. Pero una vez convencidos y comprometidos con ello, necesitamos aterrizarlo, llevarlo a cabo. La herramienta CEEC-PLANNER guía al usuario en el desarrollo de todos los elementos que contiene un plan de continuidad de los servicios educativos, desde una perspectiva sistémica y de riesgos. Ofrece 8 plantillas para la construcción del plan: filosofía institucional; rasgos institucionales, amenazas y oportunidades; jerarquía rasgos institucionales; matriz de riesgos; contexto de emergencia institucional; política, criterios y estrategia; planeación de las líneas de actuación (estratégica, táctica y operativa); y cronograma.

Finalizo este prólogo animando a leer el documento, pero sobre todo a aplicarlo en sus instituciones educativas. Quiero felicitar a las instituciones auspiciadoras de la publicación, a la Asociación Nacional de Universidades e Instituciones de Educación Superior (ANUIES), la Corporación Universitaria para el Desarrollo de Internet (CUDI), al Instituto Politécnico Nacional (IPN) y al Consejo Nacional de Humanidades, Ciencias y Tecnologías (CONAHCYT) por esta iniciativa. Y, fundamentalmente, agradecer a las autoras, Marina Vicario, Yara Pérez y María de los Ángeles Solórzano, por compartir su conocimiento. Estoy convencido de que esta publicación hará que las instituciones de educación seamos más resilientes y demos mejor respuesta a las demandas de la sociedad del aprendizaje.

[1] Yuval Noah Harari, Sapiens. De animales a dioses (2014) y Homo Deus. Breve historia del mañana (2016), ambos libros publicados por Debate (Penguin Random House Grupo Editorial).

[2] Jeff Hawkins, Sobre la inteligencia (2005) de Espasa Libros y Mil cerebros (2023) de Tusquets Editores.

[3] Mariano Sigman y Santiago Bilinkis, Artificial. La nueva inteligencia y el contorno de lo humano (2023) de Debate (Penguin Random House Grupo Editorial).

Preguntar para aprender

Preguntar para aprender
UniverSÍdad (www.universidadsi.es)
Faraón Llorens
20/07/2023

El mes pasado la Universidad de Málaga organizó la Jornada Inteligencia artificial generativa y docencia. ¿Qué vas a hacer? en la que impartí la charla El Rey va desnudo. Replanteando los trabajos académicos en la universidad. En ella argumentaba que al igual que el niño de la fábula, ahora la IA generativa estaba señalando las deficiencias del sistema educativo, en general y de la evaluación en particular. Pero estas deficiencias no son nuevas ni causadas por esta nueva tecnología.

/…/

Como dice el título del post, debemos explorar el valor de las preguntas en el aprendizaje. Suelo empezar mis charlas diciendo a los asistentes que, si han venido en busca de respuestas, no soy el orador adecuado. Mi objetivo es que, si han acudido con dos o tres preguntas sobre el tema, salgan con más de diez. Y es en ese momento cuando se está en condiciones de aprender: espoleado por la curiosidad y guiado por la satisfacción de saber.

Querida lectora, querido lector, espero que en estos momentos tengas más preguntas que al iniciar la lectura de este post. Tienes por delante el mes de agosto para reflexionar. ¡Felices vacaciones!

Leer la entrada completa:
www.universidadsi.es/preguntar-para-aprender

Educando centauros digitales

Educando centauros digitales
Faraón Llorens
Revista Hipótesis
https://www.ull.es/portal/cienciaull/revistahipotesis/
Nº 15. Más allá del ChatGPT. Reflexiones sobre el presente y futuro de la IA
https://www.ull.es/portal/cienciaull/tabletplanet/?w=4806
Universidad de La Laguna

¿Estamos enseñando a nuestros jóvenes lo que saben hacer las máquinas? Esto sería un error imperdonable, ya que las máquinas lo harán no solo mejor, sino más barato y sin cansarse ni pedir vacaciones. Hemos de aprender a colaborar con las máquinas, no a luchar contra ellas, ya que el resultado de esta colaboración será superior al que se consigue de forma separada.
/…/
Soy optimista, lo sé, pero va en el ADN de ser profesor. Tenemos un sistema educativo diseñado para un mundo con escasez de información, en el que había que ir a buscarla y guardarla para cuando la necesitásemos. Eso justificaba la etapa de nuestras vidas en la que nos formábamos y acudíamos a la universidad. Pero ahora vivimos en una sociedad con sobreinformación (verdades, medias verdades y falsedades), con acceso inmediato y a demanda a la misma. Las universidades, cumpliendo nuestro compromiso con la sociedad de creación, transmisión y preservación del conocimiento, ¿sabremos dar respuesta a este reto?

Aprendizaje inteligente, más que ChatGPT

Aprendizaje inteligente, más que ChatGPT
Extra Educación Comunidad Valenciana
El País

Kristin Suleng
29 abr 2023

https://elpais.com/espana/comunidad-valenciana/2023-04-29/aprendizaje-inteligente-mucho-mas-que-chatgpt.html

La Inteligencia Artificial evidencia las debilidades sin resolver del sistema educativo, si bien cada vez más centros la incorporan como tecnología para aprender y como objeto de estudio.

El valor de la pregunta

ChatGPT evidencia las debilidades de la educación actual, diseñada para un mundo con escasez de información cuando rige la sobreinformación, y también que la adecuación de las respuestas viene marcada por la interacción. “Esto nos debería dar una pista como profesores: empecemos a tener en cuenta las preguntas, no solo las respuestas”, observa Faraón Llorens, catedrático de Escuela Universitaria de Ciencia de la Computación e Inteligencia Artificial de la Universidad de Alicante. Propone tres vías para una “docencia a prueba de IA”: 1) que no salga a cuenta utilizarla para realizar la tarea; 2) que aunque se utilice, el estudiante aprenda; 3) pedirle al estudiante que la utilice para obtener mejores trabajos y enseñarle a hacer un buen uso.

Nada nuevo bajo el sol, pero la educación no lo había solucionado hasta ahora, reconoce este especialista. “No podemos estancarnos en el debate de si ahora pediremos los trabajos escritos a mano o si prohibiremos el uso de ChatGPT. El problema son las tareas que les pedimos a los jóvenes en las aulas y el sistema de evaluación que se utiliza. La competición no irá de humanos contra la inteligencia artificial (IA), sino que se dará entre humanos-con-IA y humanos-sin-IA. Debemos educar a centauros digitales, teniendo en cuenta que la tecnología no es un medio para alcanzar un fin, sino que también moldea ese fin”, analiza Llorens.

¡Tempus fugit! Y en tecnología, más

¡Tempus fugit! Y en tecnología, más
EspacioS de Educación Superior (www.espaciosdeeducacionsuperior.es)
Faraón Llorens
25 de abril de 2023

A mis estudiantes les hablo de la ley de rendimientos acelerados de Kurzweil (7) que dice que cuando algo lo convertimos en información, se acelera y crece exponencialmente. Una tecnología representa un avance con un crecimiento en forma de curva S. Pero cada nueva tecnología se sube sobre los hombros de las anteriores, conformando una superposición de curvas tecnológicas, consiguiendo así una penetración más acelerada que la anterior. ¡Un respiro, por favor! Pidamos tiempo muerto.

/…/

¡Paren las máquinas! Está es la orden que podríamos dar ahora. Pero en relación con la tecnología, la tendríamos siempre en la boca, ya que como he reflejado en lo ocurrido estos doce últimos meses, cuando aún estamos analizando las implicaciones de una, aparece otra nueva y con más fuerza, y al estilo del periodismo impreso, a mitad proceso, tienes que parar las máquinas para cambiar los titulares, las planchas y comenzar una nueva tirada.

Leer la entrada completa:

www.espaciosdeeducacionsuperior.es/25/04/2023/tempus-fugit-y-en-tecnologia-mas