Número especial: Inteligencia Artificial

Inteligencia artificial para la educación del ser humano

Verónica Esther Arriola Ríos *
Facultad de Ciencias, UNAM

1.Introducción

El surgimiento de la Inteligencia Artificial Generativa (IAG) ha venido a disrumpir el desarrollo de numerosas profesiones, especialmente las artes y la atención al cliente, al haber llegado a la costa de un dominio considerado de exclusividad humana: la creatividad y adaptabilidad al individuo. El calificativo de maquinal, referente a la monotoneidad con que la automatización se apropiaba del dominio de las actividades repetitivas, dejó de ser el descriptor indiscutible para los artefactos de diseño humano. Hoy en día, la creatividad computacional es un campo de discusión abierto. En este contexto, la IAG se ha convertido en fuente de contrariedades para los profesores que siguen el método tradicional de enseñanza y, al mismo tiempo, en una herramienta con el potencial para que la educación pueda alcanzar una cobertura de otro modo inimaginable. Para desarrollar este potencial, las personas nos vemos obligadas a repensar no sólo nuestros métodos, si no nuestros roles mismos.

En 2001, el videojuego Final Fantasy X comenzó narrando la historia de una sociedad tan avanzada tecnológicamente, que las máquinas se encargaban de trabajar por ellos, mientras las personas se divertían asistiendo a partidos de un juego llamado Blitzball. Esta imagen idílica nos sitúa en la mente del jóven estudiante que interroga: ``¿Para qué quiero aprender esto, si la máquina ya lo hace?''. Esta pregunta aparece al enseñar a multiplicar a quien ya tiene la calculadora en los dedos, al dejar una tarea a quien ya se la puede pedir a Chat GPT, Gemini u otro sistema generativo. La pregunta al final es mucho más filosófica y más profunda ¿para qué queremos aprender los seres humanos? Desde un punto de vista pragmático, en el ideal escenario donde las máquinas pueden realizar nuestras tareas, pareciera ser que la educación es sólo una ociosidad más de la mente humana. ¿Por qué indulgir en ella?

2.Antecedentes

-Para comenzar, lo que las máquinas han traído hasta el 2024 en el mundo real es un fenómeno bastante más complejo que el planteado por las ficciones: oleadas de despidos de personas cuyas actividades son ahora realizadas por máquinas con Inteligencia Artificial (IA) dejándoles sin ingresos, mientras otros adquieren herramientas que les permiten obtener resultados de otro modo inalcanzables a un costo razonable.

El 2023 estuvo marcado por una de las huelgas de escritores en Estados Unidos más larga en su historia: uno de los principales puntos a debatir fue el rol de la inteligencia artificial generativa, que amenazaba con reemplazarlos (Wikipedia, 2024), tal como le sucedió a numerosos artistas visuales que se han visto desplazados en varios escenarios por productos como DALL·E, Mid Journey o tantos otros que han surgido desde entonces.  A pesar de que estos sistemas reproducen estilos y carecen de la originalidad de los mejores artistas humanos, atienden efectiva y rápidamente solicitudes menores de diseño por un módico precio.

Incluso el rol laboral de los programadores, quienes en principio están detrás de la creación de esta exitosa tecnología, se encuentra ahora en entredicho tras los despidos masivos del año pasado (Hughes, 2024) y el surgimiento de tecnologías como GitHub Copilot que, a decir de Jensen Huang, CEO de NVidia, permitirán en el futuro que cualquier persona dé instrucciones a una computadora, sin necesidad de saber programar, lo cual dejará obsoleta esta profesión (Castañón, 2024).  Un argumento en contra de esta afirmación defiende que la programación no consiste sólo en crear códigos en algún lenguaje como Java o Python, sino en la habilidad para diseñar algoritmos: recetas sistemáticas para resolver familias de problemas; mientras que los nuevos sistemas de IA sólo permitirían describir los algoritmos utilizando lenguaje natural, mas no generarlos.  Esto no impide que varios programadores nivel junior ahora compiten con la máquina por el empleo.

El mundo tiene recursos finitos, pero con muchas capacidades aún inexploradas; todo ser humano requiere alimento, vivienda, vestido, experiencias que le lleven a sentirse en plenitud y satisfecho.  Es importante mantener el equilibrio de la población y los recursos que puede producir y consumir de manera equitativa; innovando en los procedimientos que permiten cuidar de la salud y manutención de la población, desde sus primeros años hasta la vejez.  Es así que contamos con un flujo constante de desafíos que deben ser atendidos y es frecuentemente nuestra creatividad la que nos permitirá idear cada vez mejores soluciones.  Luego entonces, el mundo no es un ideal sencillo donde las máquinas trabajan y el humano se divierte.  Requerimos la capacidad para reconocer y resolver problemas tanto de índole material como satisfacer el hambre del espíritu humano.

3.Justificación

La introducción de la IA y más específicamente, de la IA generativa a la educación nos brinda, como nunca, la oportunidad de alcanzar a cada educando justo ahí donde está y tomarle de la mano para aprender a su ritmo y según los ejemplos y el contexto que necesita, lujo antes sólo alcanzable para quienes tuvieren acceso a clases particulares (educación individualizada). Esta educación, lejos de reemplazar al profesor, es una herramienta potenciadora para que el profesor funja como facilitador del ambiente donde el educando podrá encontrar deseos, metas y herramientas para alcanzarlas de manera ética y responsable.

El tipo de educación que perseguimos ya no es de ningún modo de índole informativo y mecanizado, memorizar datos es un desperdicio de energía y recursos cuando las mejores bases de datos se encuentran al alcance en un navegador de internet, conforme esta red de redes se expande para cubrir a más localidades; el campo de las actividades repetitivas se encuentra cada vez mejor cubierto por robots, tanto mecánicos como virtuales. Luego entonces alentar la búsqueda de este tipo de empleos es condenar a la población a un inminente desplazamiento. Cobra más relevancia el día de hoy una nueva forma de enseñanza que prepare a los educandos para un uso crítico de la información y las herramientas, para trabajar en equipos, con objetivos propositivos para una sociedad donde se incluya a todos en los beneficios del desarrollo (Pérez-Mateo Subirà & Guitert Catasús, 2014).

4.Objetivo

¿Qué es lo que necesitarán aprender los estudiantes en esta nueva era? Analizar, cuestionar, crear y convivir.

La era de la internet se caracteriza por una gran cantidad de contenidos a disposición, tanto profundos e innovadores, como basura en abundancia en diversos grados de toxicidad.  Es posible encontrar desde artículos de investigación de las mejores universidades del mundo hasta retos virales que ponen en riesgo la vida de quienes los asumen.  De ahí la vital necesidad de educar a las nuevas generaciones para formarse un criterio maduro y responsable, capaz de tomar la información y escrutarla para elegir en qué confiar y qué rechazar.

En esta dirección el método científico aplicado a las diversas disciplinas del conocimiento se vuelve indispensable: ser capaz de recabar información, formular hipótesis, diseñar pruebas para verificar su autenticidad, cuestionar métodos y generar argumentos y experimentos para probar la validez de afirmaciones y negaciones, o incluso determinar cuándo no es posible llegar a un resultado contundente.

Igualmente, el desarrollo del lenguaje y un discurso basado en el uso y análisis de argumentos que justifiquen las conclusiones a las que se llega, así como habilidades psicoemocionales como la empatía y el desarrollo de la inteligencia emocional para una sana convivencia, permitirán al estudiante experimentar la vida y la convivencia social de forma enriquecedora y satisfactoria.

Alentar la curiosidad del educando será la mejor estrategia para fomentar su creatividad, de modo que la información se convertirá en requisito para alcanzar un objetivo y no aparentaba ser un objetivo en sí misma. En esta dirección, esfuerzos como los círculos matemáticos recurren al uso de problemas que tienden a retar a los participantes, les intrigan y los involucran para buscar una solución. La dinámica consiste en guiar a los equipos que discuten cómo atacar los problemas, acercándoles las herramientas que van requiriendo, pero de ningún modo se fundamentan en la exposición que deja al estudiante sólo en un rol pasivo (IMATE, 2024).

Este tipo de educación, que fomenta la comprensión y la creatividad, prepara a los estudiantes con lo que se conoce como habilidades transferibles, es decir, habilidades que se adquieren en un contexto, pero pueden ser utilizadas en otros contextos. Este es el tipo de educación que promueve el modelo cognitivista (Collins et al., 2006), donde el profesor pasa de ser un expositor de información a un facilitador de experiencias.

Se busca desarrollar entonces la habilidad para crear e innovar. Se valora poco el repetir lo que ya está hecho, más aún si ahora lo puede hacer una máquina, pero siempre será necesario detectar problemas emergentes, qué hace falta para resolverlos, comprensión del campo donde se presentan estos problemas para proponer soluciones con conocimiento de causa. Cuando se trata de resolver problemas nuevos, presentar argumentos, participar en sociedad, entregar un texto que no se ha leído o comprendido carece de valor, pues es el conocimiento hecho propio el que se requiere para verse involucrado en la dinámica social.

Si bien estas propuestas educativas no son nuevas, lo que surge con las herramientas computacionales es la posibilidad de atender una de las deficiencias más difíciles de superar para implementar esta forma de educación: la falta de personal y de tiempo para acompañar a todos los participantes como es debido. El surgimiento de la educación en línea ha permitido que expertos en diversas áreas del conocimiento superen las barreras físicas para llegar hasta estudiantes en todo el mundo a través de plataformas como Coursera, Udemy, EdX, entre otras, incluyendo YouTube donde han surgido influencers que desarrollan detalladamente temas de música, diseño, manufactura, programación, matemáticas, etc, de forma amena e ilustrada, facilitando la comprensión de los temas. Tanto éxito ha tenido varios de estos canales, que colateralmente los profesores locales podrían estar ya compitiendo con ellos, siendo que en ocasiones ya se escucha a alumnos manifestar que ciertos temas ``se aprenden mejor en YouTube''. Esto devuelve nuestra atención al nuevo rol que debe tomar el profesor, para proveer aquello que estas plataformas no pueden dar: guiar, retroalimentar y facilitar las experiencias, trabajo que también requerirá un esfuerzo extraordinario por parte de la planta docente para reformar los métodos de trabajo tradicionales.

Uno de los éxitos de los mejores cursos masivos en línea o MOOC (Massive Open Online Course), que registran miles de participantes en cada edición, es que no sólo los expertos comparten conocimientos, metodologías y experiencias a través de videos, sino que también incluyen ejercicios y proyectos para poner en práctica diversas habilidades. Proveer retroalimentación a una población tan grande sería imposible sin el uso de herramientas de calificación automatizada. Más aún, hoy en día no sólo es posible calificar automáticamente tareas fijas, sino que se están desarrollando rutas de conocimiento donde los ejercicios se van adaptando al progreso e interés de cada estudiante (Moodle, 2023). La IAG podría ampliar esta oferta, brindando la oportunidad de guiar al estudiante en su propio lenguaje, el lenguaje natural, con mayores niveles de automatización. Sin embargo, antes de abrazar el uso de la IAG para implementar este modelo educativo y proponer rutas de acción, debemos hacer una pausa para analizar las limitantes actuales de esta tecnología, que aún no se encuentra completamente comprendida y presenta serias deficiencias.

5.Modelos generativos

Para hacer uso correcto de la inteligencia artificial, debemos comprender primero hasta dónde ha llegado realmente, retrocediendo un paso para separarnos del entusiasmo mediático y económico. Para destilar las promesas de los equipos de ventas, es más importante que nunca conocer qué puede entregar en verdad el producto en oferta. Esta realidad es especialmente notable en el caso de las redes neuronales, particularmente con los modelos generativos de lenguaje porque, a nivel científico, aún se ignora demasiado sobre lo que realmente hacen (Elhage et al., 2021).

De una forma completamente práctica, esto es lo que denuncia el caso de Timnit Gebru y sus colaboradores del equipo de Ética en la IA de Google, cuya separación de la compañía tras la publicación de un artículo de investigación para un congreso, ha causado gran controversia.  Pareciera ser que el hito más notable de este artículo es su título: "Sobre los peligros de los loros estocásticos: ¿pueden los modelos de lenguaje ser demasiado grandes?'' (Simonite, 2021).  Visualizar a los modelos generativos de lenguaje como "loros estocásticos'' es accesiblemente ilustrativo y pone de manifiesto un hecho fundamental que la mayoría de los usuarios de estos sistemas ignora: que estos sistemas no entienden absolutamente nada de lo que escriben, sus resultados provienen de procesar patrones de probabilidad presentes en los textos con los que fueron alimentados.  La controversia proviene de que esta publicación pudiera ser equiparable con la crítica del ficticio matemático, Ian Malcom, a la creación del Parque Jurásico: "Antes de que incluso supieran lo que tenían, lo empacaron, lo pusieron en una lonchera de plástico y ahora lo están vendiendo, lo están vendiendo''.

Para hacer tangible el punto débil que este grupo, y varios otros expertos denuncian, propondré el siguiente experimento pensado: supongamos que se entrena a un modelo de lenguaje con nueve historias de ciencia ficción y un libro de texto científico, sin indicarle de qué tipo es cada texto.  Cuando se interrogue al sistema sobre temas de ciencia, responderá con lo que aprendió de los textos de ciencia ficción y dará poco peso al texto científico, pero su lenguaje podrá lucir tan formal como este último en varias ocasiones.  Para la IAG, la ciencia ficción será incluso más real que la ciencia, por haber sido el contenido más común y por ende, el más probable.

El problema con los sistemas comerciales es que, como fueron entrenados con textos sacados del internet, el sistema corre un gran riesgo de estar fuertemente cargado de errores, noticias falsas y ficciones.  Ahora que incluso la última versión del sistema desarrollado por OpenAI, ChatGPT-4, es de arquitectura cerrada, los usuarios no tienen más garantía de que los resultados obtenidos serán correctos, que la palabra de quienes venden el sistema.  A pesar de ello, su éxito deriva de que los patrones aprendidos frecuentemente reproducen la lógica de textos confiables con los que también fueron entrenados.

Si a partir de procesar lenguaje escrito el sistema puede aprender a razonar o no sobre los temas de los que trata, es tema de debate hoy en día (Zhu et al., 2024). Entre los argumentos a favor, se propone que los patrones probabilísticos capturados por el sistema corresponden a las formas de razonamiento simbólico descritas en los textos de entrenamiento; de ahí se aduce que, aunque la red no se encuentre en contacto con el mundo real sobre el que tratan los textos, en los patrones del texto se encuentran codificadas las relaciones válidas del mundo real (Piantadosi & Hill, 2022).

Por otro lado, el dilema del cuarto chino, un problema tradicional en IA, sirve para ilustrar una postura contraria.  El dilema plantea el escenario siguiente: supongamos que encerramos a una persona occidental en un cuarto sin ventanas.  El cuarto sólo tiene dos rendijas que le conectan con el mundo exterior: por una entran tarjetas con secuencias de kanjis y por la otra su ocupante puede devolver otras tarjetas con nuevas secuencias de kanjis.  Además, esta persona cuenta con tablas que le indican qué kanjis devolver para cada secuencia de entrada.  Con el tiempo, esperaríamos que la persona dentro de la habitación termine memorizando la tabla y se vuelva capaz de devolver la respuesta correcta sin necesidad de consultar las reglas.  Parecería que esta persona ahora entiende chino.  Claramente podemos imaginar que no es así.  Esto favorece llegar a la conclusión de que un sistema que no está en contacto con el mundo, no puede entender el significado de los símbolos que procesa, aunque memorice las reglas para predecir la secuencia de símbolos que será considerada como una respuesta correcta (Russell & Norvig, 2010).  Pero... si esta persona que ya memorizó los patrones del lenguaje, de pronto pudiera ver el escenario que dio origen a las frases y las consecuencias de sus respuestas ¿qué pasaría?

Actualmente los nuevos sistemas, como ChatGPT-4, son multimodales, es decir, mezclan texto, imágenes y voz.  En este punto podría estarse estableciendo la conexión faltante entre el ambiente y el lenguaje, es decir, los símbolos que utilizamos para describirlo y razonar sobre él.  El cuarto chino ahora tiene una ventana.  Aún esto no garantiza que el sistema sea capaz de razonar acerca de conceptos abstractos, ni siquiera de realizar inferencias lógicas confiables.  Por ello el término alucinaciones ha sido designado para referirse a las respuestas alejadas de la realidad, que pueda proveer una de estas plataformas, usualmente debido a que sus respuestas siguen siendo sólo encadenamientos altamente probables de palabras.  Igualmente, a pesar de los esfuerzos por regular el comportamiento de estos sistemas, introduciendo supervisión humana en fases críticas de su entrenamiento y mantenimiento, se detectan inconsistencias al cuestionar al sistema sobre temas especializados, notablemente temas médicos, así como sesgos provocados por datos de entrenamiento sesgados (Open AI, 2023).

Más aún, estos sistemas no pueden realizar juicios éticos, desconocen la moral o la idiosincrasia de los pueblos.  Intentos por incrustar valores han llevado a resultados comprometedores; como el caso del sistema que, en búsqueda de ser más inclusivo, terminó generando imágenes de nazis negros (Open AI, 2023).

Por lo tanto, hasta ahora, la limitante más grande para utilizar estos sistemas en el tipo de educación que propusimos como objetivo: una que dé retroalimentación específica a los estudiantes, es el hecho de que estos sistemas carecen de la habilidad para detectar causalidad y por ello no pueden razonar realmente.  Sin embargo, ya hay científicos notables trabajando para derribar esta última frontera. Por ejemplo, en los últimos tres años se pueden encontrar publicaciones con el nombre de Yoshua Bengio entre los autores, uno de los científicos más importantes en el campo, realizando primeras propuestas de estudios y mecanismos que pudieran llevar a los sistemas de aprendizaje automatizado a descubrir relaciones de causalidad en los datos que estudian (Jiralerspong et al., 2024).  De alcanzar este objetivo, habrán incluido en la frontera de las tareas automatizables el descubrimiento mismo de conocimiento novedoso y verificable, con sistemas de aprendizaje automático.

De lograrse este descubrimiento, tendremos a la puerta dos consecuencias inmediatas para la educación.  La primera será un énfasis aún mayor en la necesidad de preparar a los estudiantes en las habilidades antes planteadas, pues casi todas las profesiones serán susceptibles de ser automatizadas. Afortunadamente la IA también nos ofrece una garantía: no podemos construir el sistema perfecto.  Cuando de encontrar soluciones a problemas se trata, el espacio de búsqueda, para cualquier problema no trivial, es infinito.  Es por ello que incluso la IA seguirá siendo una herramienta de descubrimiento, jamás un oráculo infalible.  Podemos recurrir a otra escena de ficción para vislumbrar el rol que una IA semejante pudiera jugar: pensemos en Tony Stark solicitando a Jarvis que desarrolle simulaciones para los nuevos modelos que está ideando.  En este escenario, la IA juega un papel indispensable realizando tareas que, de otro modo, requerirían grandes equipos de científicos trabajando durante meses o incluso años; pero aún requiere las entradas y críticas de otros usuarios a su alrededor para realizar bien su trabajo.  Queremos que nuestros estudiantes se conviertan en esos críticos.

La segunda consecuencia que traerían sistemas capaces de captar principios de causalidad, sería la posibilidad de evaluar los hilos argumentales de los pupilos y ofrecer observaciones, consejos y correcciones.  Nos encontraríamos con sistemas con los cuales sería posible mantener una discusión bien informada sobre cualquier tema de interés.  Y requeriría de nosotros la madurez y preparación para no aceptar como infalible todo lo que nos diga.  Este último descubrimiento definitivamente vendría a transformar el desarrollo de nuestras sociedades.

 En este punto, podemos dar una propuesta para la última habilidad que mencionamos es necesario desarrollar: la inteligencia emocional de los estudiantes y su empatía.  Hace unos años, en Escocia, ¡se desarrolló el proyecto Fear Not! con personajes sintéticos en un ambiente virtual para contrarrestar el bullying, al permitir que los pequeños interactúan con agentes afectivos y probaran los resultados de diferentes comportamientos (Aylett et al., 2006).  Sin embargo, las escenas y diálogos se encontraban fuertemente limitadas por utilizar un sistema de planeación restringido a pocas posibilidades, que fueron diseñadas manualmente.  La IAG se podría utilizar, cuidadosamente, para enriquecer los ambientes y las interacciones, permitiendo a los educandos explorar el mundo virtual con seguridad y desarrollar habilidades psicosociales, que podrán poner en práctica en el mundo real.

6.Conclusiones

El surgimiento de la IAG nos ofrece, como nunca, la capacidad para magnificar las tareas de los seres humanos: la enseñanza, las artes, la ingeniería, la ciencia. Sin embargo, debe ser utilizada con criterio. Nuestra habilidad para investigar, analizar, criticar, discernir entre lo beneficioso y lo que debe ser descartado debe ser desarrollada para no caer víctimas de las alucinaciones de sistemas imperfectos.

Olvidémonos del sueño donde las máquinas vienen a resolver nuestros problemas trabajando por nosotros. Lo que no puede ser desplazado es nuestra humanidad, nuestro rol en la sociedad, pero depende de nosotros darnos nuestro lugar dentro de la misma, en lugar de desplazarnos unos a otros por ambición. Los sistemas de aprendizaje automático son, hoy en día, un reflejo de nuestras decisiones pasadas. Alimentados con nuestras historias, estos sistemas no hacen más que reflejar lo que nosotros pensamos, decidimos y actuamos. Incluso si es posible dotarlos con capacidades de razonamiento causal, lo que harán será retarnos con nuevas formas de argumentación, donde nosotros deberemos decidir qué tomamos y qué hacemos a un lado. La IA será el reflejo de la humanidad y tendremos que prepararnos para mirarnos en ese espejo.

* Verónica Esther Arriola Ríos: Profesora de tiempo completo para la carrera de Ciencias de la Computación en la UNAM, donde realizó sus estudios de física (licenciatura) y ciencias de la computación (licenciatura y maestría). Posteriormente realizó el doctorado en la Universidad de Birmingham, Inglaterra. Su área de especialidad es la inteligencia artificial aplicada a robótica, con especial interés en la adquisición automática de representaciones del conocimiento y el aprendizaje de acciones a partir de la experiencia. Ofrece regularmente cursos y pláticas sobre programación, inteligencia artificial, redes neuronales y robótica.