Número especial: Inteligencia Artificial

Aspectos éticos y lineamientos para el uso de las herramientas de IA generativa para la enseñanza-aprendizaje de lenguas extranjeras

Lucila Mendoza Reyes*
Raquel Acosta Fuentes**
UAM - Azcapotzalco

El mercado laboral está en constante evolución y las carreras del futuro se verán envueltas y relacionadas con las herramientas de la IA generativa; por lo cual se debe dotar a los estudiantes de competencias que les permitan tener acceso y se puedan beneficiar de las nuevas tecnologías. En el ámbito educativo se ha incrementado el interés por utilizar la inteligencia artificial (IA) en la enseñanza-aprendizaje (AIED “Artificial Intelligence in Education”) para poder producir contenidos que ayuden al aprendizaje. Esto representa una gama de oportunidades y desafíos para la integridad académica y la integridad de la investigación. La aparición del Chat GPT, en diciembre de 2022, en el ámbito educativo trajo una gran discusión; lo que ha provocado discursos contradictorios sobre el impacto y valor del mismo. Algunas exposiciones enfatizan los beneficios que tienen las herramientas de la inteligencia Artificial (IA) generativa para mejorar la enseñanza-aprendizaje. Sin embargo, también se ha planteado la preocupación sobre los inconvenientes y posibles consecuencias no deseadas con el uso de la IA en el ámbito de la enseñanza-aprendizaje. Las instituciones educativas se enfrentarán a los retos que surjan, mediante los vínculos que se vayan estableciendo con la IA. Al mismo tiempo que se irán afrontando los riesgos éticos con el uso de las herramientas de IA generativa, para garantizar el buen uso del desarrollo de los sistemas de IA que lleven a un buen término la enseñanza-aprendizaje dentro de un aula de lenguas extranjeras.

Inteligencia Artificial generativa

El discurso que se tiene actualmente sobre la IA generativa y su impacto en la educación se enfoca en los desafíos que hay para los docentes o las oportunidades que se presentan tanto para los académicos, como para los estudiantes. Este nuevo discurso da paso a dos posiciones extremas:

• La primera, ve a la IA generativa como la destrucción del sistema educativo.
• La segunda, ve a la IA generativa como una reforma que accede a la información accesible que mejorará la calidad de la educación .

Estos dos puntos de vista muestran la naturaleza paradójica de la IA generativa y su rol en la educación. Podrían destruir algunas prácticas educativas y al mismo tiempo podrían apoyarlas. Pavlik y Zhai (Pavlik, JV, 2023:40) exponen cuatro paradojas de la IA generativa para el futuro educativo:

Paradoja número 1. La IA generativa es una “amiga” pero al mismo tiempo es un “enemigo”.

Paradoja número 2. La IA es “capaz”, pero “dependiente”.

Paradoja número 3. La IA generativa es “accesible”, pero “restrictiva”.

Paradoja número 4. La IA generativa es “popular” cuando está “prohibida”.

La inteligencia artificial generativa se define como una tecnología que aprovecha los modelos de aprendizaje profundo para generar contenido similar al del ser humano, por ejemplo: las palabras en respuestas a indicaciones complejas y variadas; como en los idiomas, en las instrucciones y en las preguntas. Es decir, la IA generativa tiene la capacidad de generar nuevas respuestas, más allá de su programación explícita; mientras que la IA conversacional normalmente se basa en respuestas predefinidas. Aunque, se tiene que tener presente que no toda la IA generativa es conversacional, ni toda la IA conversacional carece de la capacidad de generar contenido. La inteligencia Artificial generativa no es nueva. Se ha manifestado a través de redes generativa adversarias (GAN) que pueden crear imágenes realistas. Las herramientas de IA generativa, como Bard, Chat GPT, DALL-E combinan la IA generativa y la IA conversacional para mejorar sus capacidades. A causa del rápido desarrollo de las herramientas de IA generativa en la generación de contenidos ha surgido un debate sobre su uso en el ámbito educativo.

Uso de las herramientas de IA generativa en la enseñanza de Lenguas Extranjeras desde un enfoque comunicativo

El enfoque comunicativo se centra en ayudar a los alumnos a utilizar un idioma. En las actividades se utilizan materiales diversos que aproximan a los estudiantes a la realidad de una lengua. En el enfoque comunicativo, la comunicación es muy importante, porque se trata de decir algo a alguien, sea oral o por escrito dentro de un contexto o situación. Con ayuda del enfoque comunicativo, el alumno aprenderá como usar la lengua en situaciones sociales; y es en este momento, que con la ayuda de la IA generativa el docente puede apoyarse en una de sus herramientas. Las primeras investigaciones que se han hecho, sugieren que el Chat GPT (ejemplo específico de la IA generativa) es una herramienta que facilita la adquisición del conocimiento. Puede dar apoyo en las tareas de escritura, por ejemplo, en la creación de guiones en una conversación para crear situaciones sociales. El alumno puede hacer uso del conocimiento adquirido para practicar y sentir que puede desenvolverse en una situación creada virtualmente. En el siguiente cuadro damos un ejemplo, la IA generativa (prompt) indica la respuesta:

Fig 1. Cuadro proporcionado por las autoras.

El Chat GPT es un chatbot que tiene un formato de diálogo simple con un área en donde hay dos entradas; una para el usuario. Ahí él puede escribir un texto. Otra es para la salida del texto del ChatGPT; la cual es una herramienta de propósito general que facilita la interacción y apoya el aprendizaje de los estudiantes. Aunque las respuestas son técnicamente “artificiales”.

Fig 2. Ilustración proporcionada por las autoras.

El diseño de la interfaz va ayudar a que la conversación la inicie el usuario y sea él mismo quien controle la dirección de la conversación. Aunque, para que la conversación siga una trayectoria adecuada, es necesario que el alumno guíe de manera planificada y organizada la conversación del Chat GTP para tener resultados de logro en su aprendizaje. Así pues, el estudiante obtendrá respuestas coherentes, contextualizadas y similares a las conversaciones humanas en un lenguaje natural. Chatterjee y Dethlefs (Chatterjee, J., y Dethlefs, 2023:58) se refieren al ChatGPT, de las herramientas de IA generativa, como un amigo, debido a la forma “humana” en que generan respuestas. Sin embargo, es importante señalar que la IA generativa tiene sus defectos.

En una clase de inglés usamos el ChatGPT para que nuestros alumnos tuvieran una conversación guiada. El estudiante debía hacerle unas preguntas simples; sin embargo, la IA generativa es “capaz”, pero “dependiente”. Las respuestas que genera dependen de los datos que reciba, tanto en términos de cantidad como de calidad.

Fig 3. Ilustración proporcionada por las autoras.

Sin la información adecuada, las respuestas del ChatGPT puede confundir al estudiante o puede llevarlo a una conversación no deseada en una situación social. Las herramientas de IA generativa pueden plantear desafíos para los académicos, principalmente para los que trabajan en instituciones a nivel superior. Va a ser un gran reto saber si los conocimientos que presenten los estudiantes en un trabajo de investigación son en verdad novedosos; o sólo son el producto de una información obtenida por una herramienta de la IA generativa. La pregunta que se hará un profesor, si el trabajo entregado por el alumno, es sólo trabajo a base de “copia y pega” desde lo básico hasta la paráfrasis avanzada de respuestas generadas por una serie de respuestas recopiladas por la IA generativa. Críticos como Noam Chomsky (Open Culture, 2023:3) han sugerido que las herramientas de IA generativa, tales como el ChatGPT son esencialmente un “Plagio de alta tecnología” y una forma de evitar el aprendizaje. Todo esto ha provocado la necesidad de proponer y aprobar lineamientos éticos para el uso de las herramientas de IA generativa en el campo de la educación.

Contenido no autorizado para usar con IA

La integridad Académica (AI) ha propuesto una serie de definiciones que sirvan como protección en contra de contenido no autorizado y el uso inapropiado de la IA. La GCU (Generación de contenidos no autorizados) es la producción parcial o total de contenidos de textos para un reconocimiento académico, para obtener premios o lograr un avance académico; en donde se reciba o no se reciba algún pago, o se obtenga algún favor. En donde se usen recursos humanos o tecnológicos que no hayan sido aprobados o declarados.

La AIED (inteligencia artificial en la educación) se puede usar para transmitir contenido no autorizado; aunque esto no significa que no sea ético. Entre las disciplinas académicas, las instituciones educativas, los cursos, los diferentes tipos de evaluación, las culturas, las regiones, y los países puede haber diferencias de lo que es considerado un uso aceptable, y de lo que no es aceptable de la Inteligencia Artificial (AI). Así pues, puede parecer una amenaza para la Integridad Académica, pero al mismo tiempo está representando una gama de oportunidades. La Inteligencia Artificial (IA) incrementa las habilidades de los usuarios, tanto para bien como para mal. Por lo tanto, los estudiantes y los docentes deben guiarse por los beneficios y las limitaciones de las herramientas de la IA, para que puedan aprender y puedan usarla de una manera ética; y así puedan defender la Integridad Académica. Además, se debe tomar en consideración, la creciente automatización en la sociedad moderna; es muy probable que utilicen las herramientas de la inteligencia artificial en su vida profesional. Por lo tanto, el alumno debería tener la oportunidad de aprender el uso de las herramientas de la Inteligencia Artificial durante su educación.

Aspectos éticos y lineamientos para el uso del ChatGPT

El uso de las herramientas de IA suele ser aceptado. Sin embargo, de acuerdo a Loreta Tauginiené, “ any action or attempted action that undermines academic integrity and may result in an unfair academic advantage or disadvantage for any member of the academic community or wider society”( Tauginiené et al., 2018:9); es decir, el mal uso o el uso no autorizado de las herramientas de IA generativa que se utilicen para hacer trabajos que den créditos académicos o ayuden a tener un progreso en el ámbito educativo pueden considerarse como una forma no ética. Por ejemplo, si son utilizadas en tareas que deben entregar los alumnos, tesis, ensayos académicos, falsificación de datos. El fácil acceso a las herramientas de IA puede intensificar el riesgo de la integridad académica (AI. Academic Integrity). Por lo tanto, el ChatGPT y otras herramientas de IA tienen un gran potencial, pero no se pueden actualizar de una manera natural o de una manera automática. Debe haber una actualización informada y actualizada. La pregunta que surge, es ¿Quién hará esa actualización? ¿Qué parámetros regirán dichas actualizaciones?; en este caso las instituciones de educación media o media superior deben estar preparadas para adaptarse de manera adecuada y responsable en el momento que se requiera. Se debe llevar una preparación en la relación interactiva entre los humanos y la IA; tomando en cuenta que la IA generativa, ya no sólo será una herramienta pasiva y estática que los estudiantes podrán manipular; sino por el contrario, el ChatGPT y las otras herramientas de IA se convertirán en un participante activo que podrá dar un significado a la experiencia del aprendizaje de los alumnos. Se percibe que el campo de la Inteligencia Artificial está avanzando a una velocidad sorprendente; y los cambios que está provocando a su paso en el ámbito de la enseñanza-aprendizaje no pasan desapercibidos. Lo que ha ocasionado que un grupo de especialistas y conocedores de IA que forman la Red Europea para la Integridad Académica (ENAI) tomen cartas en el asunto. Para los integrantes de la red del INAI, el avance de la IA en el ámbito académico, no sólo representa un avance tecnológico; sino todo lo que esto implica a nivel ético. Para ellos es muy importante establecer aspectos y lineamientos éticos para el uso de las herramientas de IA para la enseñanza-aprendizaje, porque cada vez es más difícil hacer una distinción de manera confiable entre el contenido que produce la IA y el contenido que produce un ser humano.

Recomendaciones del ENAI para el uso ético de la Inteligencia Artificial en la Educación (AIED)

La Inteligencia Artificial (IA) son los sistemas que por medio del análisis de su entorno y la toma de decisiones parecen tener un comportamiento inteligente, con un grado de autonomía, para lograr objetivos o metas específicas” (Comisión Europea, 2018:4). La Red Europea para la Integridad Académica (ENAI) es la asociación internacional que reúne a las instituciones educativas y a las personas que están interesados en mantener y promover la integridad académica (AI. Academic Integrity). La integridad Académica (AI) es “el cumplimiento de los principios éticos, los principios profesionales, el cumplimiento de los estándares, de las prácticas; y de un sistema consistente de valores que sirva como guía para la toma de decisiones que ayuden a llevar a cabo acciones en el ámbito educativo y en el área de investigación.” (Tauginiené et al,2018:8). Las herramientas de IA se pueden usar para transformar, producir o generar cualquier tipo de contenido. Pueden ser textos, imágenes, arte, música o código de programación. Se utilizan las diferentes tecnologías, incluyendo el aprendizaje automático; es decir un proceso mediante el cual la computadora mejora su propia capacidad para realizar tareas mediante el análisis de datos nuevos, sin que un ser humano necesite dar instrucciones en forma de programa; y las redes neuronales para desarrollar las capacidades de las herramientas de la IA. La red del ENAI se creó porque el uso de las herramientas de IA no siempre puede tener un uso coherente, responsable e integro que vayan de acuerdo a la práctica y valores de los objetivos académicos. El ENAI establece recomendaciones -sometidas a consideración, en una sección especial, en la Conferencia Europea de Ética e Integridad en la Academia 2023 en Derby, UK- sobre el buen uso ético de las herramientas de IA generativa, para apoyar a los académicos, a los investigadores y a las organizaciones de estudiantes.

Todas las personas involucradas, las fuentes que se usen y las herramientas tecnológicas que se utilicen o influyan en las ideas o que ayuden a generar contenido; deben ser debidamente reconocidas. Por tal razón, en cuanto se use una herramienta de IA generativa, debe ser acreditada. La acreditación puede ser de diferentes formas. Por ejemplo, pueden ser según el contexto, las políticas institucionales o se pueden tomar en cuenta otros requisitos. Cuando sea posible, la información que se le da a las herramientas de IA debe ser específica. El uso apropiado de los servicios, de las fuentes y de las herramientas que sólo influyen en la forma es generalmente aceptable (por ejemplo, los correctores, y las herramientas de corrección de ortografía). Los usuarios, los estudiantes o todos aquellos que usen las herramientas de IA deben estar conscientes que los resultados que produzcan las herramientas de IA pueden incluir un contenido cortado, inexacto o incorrecto. Los resultados incorrectos que se producen con la ayuda de las herramientas de IA pueden ser a causa de un sesgo de los datos o algoritmos que se introduzcan para hacer funcionar las herramientas de la IA. Una herramienta de Inteligencia Artificial no puede aparecer como coautora de una publicación, porque no puede asumir la responsabilidad del contenido de una publicación. La persona, ya sea un ser humano o una persona o entidad jurídica se le considerará el o la responsable del contenido del trabajo. No importará si fue elaborado o creado por las herramientas de la Inteligencia artificial (consulte las directrices COPE para la autoría e inteligencia artificial de Levene 2023) (Levene, 2023:34).

En el ámbito educativo es importante dar información sobre un uso ético de la IA tanto a estudiantes como profesores. Se les debe dar la oportunidad de aprender cuales son los lineamientos éticos para un buen uso de las herramientas generativas de IA. De esta forma se evitará que se haga mal uso de dichas herramientas y será difícil que los alumnos o docentes hagan un mal uso en el proceso de la enseñanza-aprendizaje.

Recomendaciones del ENAI para los estudiantes en el uso de las herramientas de IA generativas

Los alumnos deben de recibir formación y educación sobre el uso de las herramientas de IA en los siguiente:

• Propósito de todas las actividades que estén relacionadas con el aprendizaje y la evaluación; y el por qué se deben de desarrollar sus tareas de trabajo y, o en grupo.
• Por ejemplo, escribiéndolas. Cómo desarrollar las habilidades de redacción y producción de contenidos siguiendo los lineamientos éticos.

Recomendaciones del ENAI para los docentes en el uso de las herramientas de IA generativas

Los docentes deben recibir capacitación sobre el uso de los lineamientos éticos de la IA. Se debe de tocar el tema del desarrollo de los resultados de aprendizaje que sean relevantes, de las actividades de aprendizaje de la las estrategias de evaluación.

Se deben desarrollar normas nacionales y políticas a nivel institucional que ayuden a repensar la inclusión de la IA; y proporciones una guía de lo que se debería incluir en las políticas institucionales.

El objetivo de sus recomendaciones se centra en:

• Importancia de tener habilidades y conocimientos para usar las herramientas de IA de manera ética.
• Necesidad de desarrollar e implementar Políticas educativas que discutan cuales son las oportunidades y cuáles son los desafíos que plantea la AIED (Artificial Intelligence in Education).

Conclusión

El ChatGPT ha hecho contribuciones significativas en el avance de la investigación científica y hay un potencial para continuar transformando el campo en el futuro. Sin embargo, está muy lejos todavía, de ser independiente. No hay dudas de que las herramientas de la Inteligencia Artificial (IA) generativa aumenta y mejora la capacidad del ser humano; lo cual está aportando cambios significativos en el ámbito de la educación. Es un recurso transformador, que los maestros y los estudiantes pueden aprovechar. Al abordar los desafíos y las preocupaciones éticas asociadas a su uso, los investigadores en el campo educativo pueden aprovechar todos los beneficios de las herramientas de la IA generativa de una manera responsable para ampliar el desarrollo del conocimiento en la enseñanza-aprendizaje. Por lo que es importante establecer los lineamientos éticos que se van a considerar en el momento del uso que se les dé a las herramientas de IA generativa en la educación, puesto que pueden utilizarse de una forma positiva o negativa. La Red Europea para la integridad Académica (The European Network for Academic Integrity) están solicitando con apremio, a los responsables que hacen las políticas nacionales, a las instituciones y a los miembros de la comunidad académica, el uso de protocolos éticos de las herramientas de IA generativa que puedan alertar a los usuarios y a las instituciones del mal manejo de dichas herramientas en el campo de la enseñanza-aprendizaje. Además de que solicita que se comparta cómo se le daría uso a las herramientas de IA generativa para obtener beneficios de las muchas oportunidades que ofrece a todas las áreas educativas; y entre ellas, a la adquisición del conocimiento de una lengua extranjera, en este caso el aprendizaje de la lengua inglesa.

* Lucila Mendoza Reyes: Profesora-Investigadora del Departamento de Humanidades de la Universidad Autónoma Metropolitana-Azcapotzalco (UAM). Licenciada en Letras Inglesas (UNAM). Maestría en Literatura Comparada (UNAM). Sus intereses de investigación son: las Teorías de enseñanza-aprendizaje. TICs aplicados a la enseñanza-aprendizaje de lenguas extranjeras. Enseñanza-aprendizaje del Español para Extranjeros. Ha publicado artículos sobre la enseñanza-aprendizaje de Lenguas Extranjeras a nivel nacional e internacional.

** Raquel Acosta Fuentes: Licenciada en Antropología Social por la Escuela Nacional de Antropología e Historia, Maestra en Lingüística Aplicada por la Universidad Nacional Autónoma de México y Doctora en Lingüística por la Universidad Nacional Autónoma de México. Su interés se ha enfocado en dos áreas, por un lado, conocer fenómenos del contacto de lenguas, por otro, la docencia de inglés como lengua extranjera, en donde se ha especializado en el desarrollo de la escritura académica. Raquel Acosta se ha desempeñado como docente de inglés en CELEX UAM-Azc desde el 2016.