Uno de los ámbitos donde más se habla de ChatGPT desde su lanzamiento es en la educación: dentro y fuera de las aulas. Tanto docentes como estudiantes que acceden a esta inteligencia artificial entienden que su aparición es un momento histórico, también en las aulas, y que muchas cosas pueden cambiar a partir de ahora.
Los educadores que han probado ChatGPT para responder preguntas de exámenes o ejercicios rápidamente se han dado cuenta de que el tablero de juego se ha alterado con ChatGPT: los textos que devuelve son coherentes (aunque no siempre veraces) y en bastantes casos dan respuestas con las que se puede aprobar exámenes.
Este ha sido el caso de Daniel Herman, un profesor de varias asignaturas de Humanidades en un instituto de San Francisco (Estados Unidos), que ha dicho que lo que ChatGPT puede producir ahora mismo es mejor que la gran mayoría de los escritos que ve el profesor medio, como recoge The Atlantic.
Qué es ChatGPT y qué son las IA generativas
ChatGPT es una de las versiones más evolucionadas de inteligencia artificial que existen, y la empresa que lo ha desarrollado, OpenAI, lo ha puesto a disposición del público general, de forma gratuita, y a través de una web muy fácil de usar. El sitio web de ChatGPT solo requiere un registro antes de empezar a chatear.
Lo que más sorprende de ChatGPT es que genera textos coherentes y creíbles, y no copia y pega, sino que cada texto se genera en el momento. Esto es así porque pertenece a un tipo de sistemas de inteligencia artificial llamados Large Language Models (LLM), o grandes modelos de lenguaje, que se basan en aprendizaje automático y pueden leer, resumir, traducir textos y predecir palabras futuras en una frase. Han sido entrenados con inmensas cantidades de textos que hay en internet, con bibliotecas, foros, transcripciones, y bases de datos masivas, lo que les permite generar discursos similares a cómo hablan y escriben los humanos en tiempo real. No es difícil entender que ChatGPT puede ser muy útil para estudiantes y docentes en el aula.
Las IA generativas son un concepto amplio con el que se describe cualquier tipo de inteligencia artificial que se utiliza para crear nuevos textos, imágenes, vídeos, audio, código o datos generados a partir de un modelo estadístico (como predicciones).
Qué puede hacer ChatGPT, y por qué es usado en el aula
¿Cómo funciona? Simplemente escribiendo una pregunta o pidiéndole que haga algo, por ejemplo:
- ¿Puedes darme una lista de científicas latinoamericanas?
- Dame ideas para comenzar una presentación sobre volcanes
- Cuéntame el origen de la computación en un párrafo
Este tipo de IA generativas también resuelven problemas y escriben código informático. La variedad de usos es inmensa y con millones de personas probándola en todo el mundo, han surgido muchísimas utilidades. En Newtral.es hemos escrito sobre los usos prácticos que tiene ChatGPT para la vida cotidiana y el trabajo, con tareas que sirven para el aula, como resumir, generar o traducir textos.
Esta IA puede recordar y utilizar como contexto lo que el usuario ha dicho en la misma conversación, lo que la hace incluso más versátil. Por el contrario, entre sus limitaciones está su falta de contenido de los dos últimos años, ya que no está conectada a internet y no puede ofrecer información actualizada, aunque esto cambiará con futuras actualizaciones. Microsoft ya ha presentado una versión de su motor de búsqueda, Bing, con ChatGPT integrado, y Google también ha anunciado su propio chatbot con inteligencia artificial.
Al estar abierta a un público general, a ChatGPT también la han limitado en otro sentido: cuando detecta un posible contenido ofensivo, conflictivo o lo que considere de riesgo, evita dar respuestas.
El problema de la veracidad y las fuentes
El talón de Aquiles de ChatGPT es la veracidad y su oscurecimiento de las fuentes. Aunque las respuestas sean en todos los casos coherentes y, por lo menos, creíbles, nada garantiza que sean fiables. Esta IA sido optimizada para el diálogo usando un método que llaman Aprendizaje Reforzado con Respuesta Humana (RLHF por sus siglas en inglés), que utiliza respuestas humanas para guiar al modelo hacia los comportamientos esperados. En cierto sentido, ChatGPT está programada para ser conversacional, no para ser veraz, y hace muy bien lo primero.
Usándola, rápidamente encontramos algunos casos en los que ChatGPT inventa hechos, personas, datos, y los mezcla en textos muy bien redactados y convincentes. Esto, que es muy peligroso, se advierte en la web por la misma compañía madre de ChatGPT, que avisa del carácter experimental de esta herramienta.
Con el telón de fondo de las campañas de desinformación recurrentes, desde la misma OpenAI y 30 universidades proponen un marco de trabajo para mitigar la amenaza que supone la IA en este campo. La última etapa de este modelo es la formación de la opinión y detalla dos puntos: el compromiso de las instituciones en campañas de alfabetización mediática y el desarrollo de herramientas de inteligencia artificial destinadas al consumidor final. Con ambos se puede trabajar usando ChatGPT desde distintos niveles de la educación en las aulas.
ChatGPT puede ser una máquina de generar información falsa, y por lo tanto demanda un uso responsable y un espíritu crítico por parte del humano que lo interroga. Justo allí es donde se convierte en una oportunidad para la enseñanza en las aulas.
Un ejemplo en el que ChatGPT ha redactado un texto con datos erróneos de forma convincente Cómo integrar ChatGPT en las aulas
Tras usarlo una vez, cualquiera puede darse cuenta de que el primer uso que viene a la mente al pensar en la educación es el de copiar los textos para los ejercicios de clase. Pero también se dará cuenta que los textos generados por ChatGPT de primeras suelen tener errores, repeticiones, o a menudo necesitan algún tipo de edición.
Con ChatGPT y este tipo de IA generativas la respuesta varía según la pregunta, por lo que saber cómo preguntar tiene mucha relevancia. Aquí es donde los profesores pueden hacer mucho para utilizar ChatGPT como una herramienta que dispare ejercicios para expandir el conocimiento en las aulas. Enumeramos algunas ideas:
Fomentar el espíritu crítico
Los textos que genera ChatGPT no tienen referencias ni fuentes, por lo que la puesta en duda de toda la información que genera puede convertirse en una actitud que proyecte distintos ejercicios de verificación.
Formar en la producción de contenidos y no solo en el consumo
Si el estudiante entiende cómo se genera una noticia, un ensayo o un texto de no ficción promovemos una mirada crítica con respecto a la producción de los textos que recibirá a través de medios y prensa.
Verificación de fuentes con ChatGPT como excusa desde el aula
Los textos generados de primeras con ChatGPT están incompletos, y a partir de ellos comienza el ejercicio de comprobación de hechos y fuentes en el aula.
Detección de errores, sesgos y asuntos olvidados
Dentro del aula, también es interesante utilizar el entusiasmo que genera la novedad de ChatGPT para explorar los límites de las inteligencias artificiales. Se puede partir de estos textos para que los alumnos desarrollen análisis sobre lo que falta en los mismos y propiciar una reflexión sobre qué tipo de contenidos tienen sesgos o falta de información.
Elaboración de metodologías para IA generativas
Una estrategia en el aula es pedir al estudiante que al usar ChatGPT incluya un apartado en donde explique cómo lo ha usado, qué pasos ha dado y que especifique cada uno de los comandos o prompts, las instrucciones o preguntas que le ha hecho.
Contexto y reflexión sobre la tecnología
Reflexión sobre la tecnología y sus usos más productivos, debatiendo en clase. El aula es el lugar más idóneo para que los alumnos planteen dudas sobre ChatGPT, su funcionamiento, los dilemas éticos, y las especulaciones que genera, y se enfrenten a este tipo de herramientas nuevas. Darles la espalda, lejos de evitar su uso, puede propiciar el abuso. Entre profesores y alumnos pueden aprender a usarlas de forma productiva y responsable, e incluso pensar ideas para su desarrollo futuro.
