Recientemente tuve la emocionante oportunidad de participar en un programa llamado Skype a Scientist , que conecta a científicos de diversas disciplinas (biólogos, botánicos, ingenieros, informáticos, etc.) con clases infantiles para hablar sobre nuestro trabajo y responder a sus preguntas. Estoy bastante familiarizado con hablar de inteligencia artificial y aprendizaje automático con un público adulto, pero esta fue la primera vez que me detuve a pensar seriamente en cómo hablar con niños sobre este tema, y fue un reto interesante. Hoy, compartiré algunas ideas que surgieron durante este proceso, que pueden ser útiles para quienes tienen niños en sus vidas. Estas ideas ofrecen valiosas perspectivas sobre cómo simplificar conceptos complejos de IA para niños de una manera atractiva y comprensible.
Prepárese para explicar un concepto
Cuando me preparo para cualquier charla, frente a cualquier público, sigo algunas reglas básicas. Necesito tener muy claro qué información voy a presentar y qué conceptos nuevos debe conocer la audiencia después de la charla, porque esto determina todo sobre la información que voy a compartir. También quiero presentar mi material en un nivel de complejidad apropiado para el conocimiento preexistente de la audiencia, sin simplificar demasiado las cosas, pero tampoco llevándolos más allá de su nivel de comprensión.
En mi vida diaria, no necesariamente soy plenamente consciente de lo que los niños ya saben (o creen saber) sobre la inteligencia artificial (IA). Quiero que mis explicaciones sean adecuadas al nivel de la audiencia, pero en este caso tengo una visión un tanto limitada de sus conocimientos previos. En algunos casos, me sorprendió descubrir que los niños eran muy conscientes de cuestiones como la competencia de inteligencia artificial entre empresas y a través de fronteras internacionales. Un ejercicio útil a la hora de decidir cómo enmarcar el contenido es idear metáforas que utilicen conceptos o técnicas que la audiencia ya conoce bien. Pensar en esto también te da un punto de acceso a los antecedentes de la audiencia. Además, prepárate para cambiar y ajustar tu estilo de presentación si decides que no estás a la altura. Me gusta preguntarles a los niños un poco sobre lo que piensan acerca de la IA y lo que saben al principio, para poder empezar a obtener esa claridad antes de avanzar demasiado.
Comprensión de la tecnología: conceptos básicos de los modelos de IA
Especialmente con los niños, centro mis presentaciones en varios puntos principales. Los lectores saben que soy un gran defensor de enseñar a los no expertos cómo entrenar modelos de lenguaje grandes (LLM) y otros modelos de IA, y con qué datos se entrenan. Esto es vital para formar expectativas realistas sobre los resultados de estos modelos. Creo que es fácil para cualquiera, incluidos los niños, dejarse llevar por la naturaleza encarnada del tono, la voz e incluso la “personalidad” de los modelos LLM y perder de vista las limitaciones realistas de estas herramientas.
El desafío es mantener las cosas apropiadas para la edad, pero una vez que les explicas cómo funciona el entrenamiento, cómo los modelos LLM aprenden de ejemplos de material escrito o cómo un modelo de difusión aprende de pares texto-imagen, pueden sacar sus propias conclusiones sobre los posibles resultados. A medida que los agentes de IA se vuelven más complejos y los mecanismos subyacentes se vuelven más difíciles de aislar, es importante que los usuarios comprendan los componentes básicos que conducen a esta capacidad.
Para mí, empiezo explicando el entrenamiento como un concepto general, evitando al máximo la jerga técnica. Al hablar con niños, un poco de lenguaje corporal puede ayudar a que las cosas parezcan menos ambiguas. Por ejemplo: “Le damos a las computadoras mucha información y les pedimos que aprendan los patrones que contiene”. A continuación, describiré ejemplos de patrones como los que se encuentran en el lenguaje o los píxeles de una imagen, porque la palabra “patrones” por sí sola es demasiado general y amplia. Entonces, “Estos patrones que aprendes se escriben usando matemáticas, y luego estas matemáticas son lo que está dentro de un 'modelo'”. Ahora, cuando le damos nueva información al modelo, nos envía una respuesta basada en los patrones que ha aprendido”. A partir de ahí, doy otro ejemplo completo y explico un proceso de entrenamiento simplificado (normalmente un modelo de series de tiempo porque es muy fácil de visualizar). A continuación, entraré en más detalle sobre los diferentes tipos de modelos y explicaré la diferencia entre redes neuronales y modelos de lenguaje, en la medida que sea apropiado para la audiencia.
Ética de la IA e influencias externas
También me gustaría abordar las cuestiones éticas que rodean a la inteligencia artificial. Creo que los niños de primaria, secundaria y bachillerato son perfectamente capaces de comprender el impacto ambiental y social que pueden tener las tecnologías de IA, incluidos los Modelos de Lenguaje a Gran Escala (MLE). Me parece que muchos niños hoy en día tienen un nivel avanzado de comprensión sobre el cambio climático global y la crisis ambiental, por lo que hablar sobre la cantidad de energía, agua y minerales de tierras raras necesarios para el funcionamiento de los MLE no es descabellado. Simplemente es importante que las explicaciones sean comprensibles y adecuadas a su edad. Como mencioné antes, utilicen ejemplos relevantes que se relacionen con las experiencias de vida de su público. Debemos centrarnos en la ética de la IA y su impacto en la sociedad y el medio ambiente.
He aquí un ejemplo de la transición desde la experiencia de un niño al impacto ambiental de la IA.
¿No tienen todos Chromebooks para las tareas escolares? ¿Se han dado cuenta de que, al trabajar mucho tiempo con la laptop en el regazo, la parte trasera se calienta? ¿Quizás si tienen muchos archivos abiertos o ven muchos videos? Este calentamiento es el mismo que ocurre en los servidores, computadoras grandes que se ejecutan al entrenar o usar un modelo de lenguaje grande (LLM), como cuando visitan el sitio web chatGPT.
Los centros de datos que mantienen ChatGPT en funcionamiento están llenos de servidores que funcionan simultáneamente y se calientan mucho, lo cual perjudica el hardware. Por lo tanto, estos centros de datos a veces utilizan agua fría y algunos productos químicos juntos, que se bombean a través de tuberías que pasan directamente por todos los servidores. Esto ayuda a enfriar las máquinas y a mantenerlas en funcionamiento. Sin embargo, esto implica que se utiliza una gran cantidad de agua, mezclada con los productos químicos, que se calienta al pasar por estos sistemas. Esto puede significar que esta agua no esté disponible para otros fines, como granjas o agua potable.
En otras ocasiones, estos centros de datos utilizan grandes equipos de aire acondicionado que consumen mucha electricidad, lo que significa que podría no haber suficiente energía para nuestros hogares o negocios. A veces, la electricidad también se produce quemando carbón en centrales eléctricas, lo que libera gases de escape al aire y aumenta la contaminación.
Esto incorpora la experiencia del niño a la conversación y le ofrece una forma concreta de relacionarse con el concepto. Se pueden mantener debates similares sobre la ética de los derechos de autor y el robo de contenidos, utilizando artistas y creadores familiares para los niños, sin tener que ahondar en los detalles de la legislación sobre propiedad intelectual. Los deepfakes, sexuales o de otro tipo, son sin duda un tema con el que muchos niños también están familiarizados, y es importante que sean conscientes de los riesgos que representan para los individuos y la sociedad cuando utilizan IA.
Puede ser aterrador, especialmente para los niños pequeños, cuando comienzan a comprender algunas de las aplicaciones poco éticas de la IA o los desafíos globales que crea, y se dan cuenta de lo poderosas que pueden ser algunas de estas cosas. Los niños me han preguntado: "¿Cómo podemos solucionarlo si alguien le enseña a la IA a hacer cosas malas?" Por ejemplo. Ojalá tuviera mejores respuestas para eso, porque básicamente tuve que decir: "La IA a veces tiene la información para hacer cosas malas, pero también hay mucha gente trabajando duro para hacer que la IA sea más segura y evitar que comparta información incorrecta o instrucciones sobre cómo hacer cosas malas".
Deconstruyendo el concepto de “verdad”
Humanizar la inteligencia artificial supone un verdadero reto tanto para adultos como para niños: solemos confiar en una voz amigable y segura cuando nos habla. Gran parte del problema reside en que la voz del Modelo de Lenguaje Grande (MLG) que nos habla suele ser amigable, segura e imprecisa. El concepto de alfabetización mediática ha sido un tema importante en la pedagogía durante años, y extenderlo para incluir los Modelos de Lenguaje Grande (MLG) es una evolución natural . Del mismo modo que los estudiantes (y los adultos) necesitan aprender a ser consumidores críticos de la información creada por otras personas o empresas, necesitamos ser consumidores críticos y reflexivos del contenido generado por ordenador. Esto incluye comprender las limitaciones de estas tecnologías.
Pienso que esto también va de la mano con la comprensión de la tecnología. Cuando explico que la tarea de un modelo de lenguaje grande (LLM) es aprender y copiar el lenguaje humano, en el nivel más simple, determinando la siguiente palabra posible en una cadena basándose en lo que vino antes, tiene sentido cuando digo que un LLM no puede entender la idea de “verdad”. La verdad no es parte del proceso de entrenamiento y, al mismo tiempo, la verdad es un concepto realmente difícil de comprender incluso para las personas. Un modelo de lenguaje grande (LLM) puede acertar con los datos la mayor parte del tiempo, pero de vez en cuando aparecerán puntos ciegos y posibles errores, en virtud de la probabilidad. Como resultado, los niños que lo utilizan deben ser plenamente conscientes de la falibilidad de la herramienta.
Sin embargo, esta lección tiene un valor que va más allá del simple uso de la IA, ya que lo que enseñamos se centra en cómo lidiar con la incertidumbre, la ambigüedad y los errores. Como señalan Berman y Agawi (2023) , «la educación en un mundo mediado por la IA implica aprender a trabajar con situaciones vagas, parciales y ambiguas, que reflejan las intrincadas relaciones entre las personas y las tecnologías». Me gusta mucho este enfoque porque retoma algo en lo que pienso a menudo: que los grandes modelos de lenguaje (MLL) son creados por humanos y reflejan interpretaciones de contenido creado por humanos. Cuando los niños aprenden cómo se forman los modelos, que estos son falibles y que sus resultados provienen de entradas creadas por humanos, adquieren una comprensión más amplia de la naturaleza nebulosa del funcionamiento de la tecnología en nuestra sociedad actual. (De hecho, recomiendo encarecidamente el artículo completo a cualquiera que esté considerando cómo enseñar a los niños sobre IA).
Nota al margen sobre fotos y vídeos
Como mencioné antes, la proliferación de contenido de video e imágenes “basura de IA” plantea muchas preguntas difíciles. Creo que es fundamental proporcionar información a los niños en esta área, ya que es fácil absorber información errónea o mentiras descaradas a través de contenido visual atractivo. Este contenido también está a un paso del proceso de creación real para la mayoría de los niños, ya que gran parte de este material se comparte ampliamente en las redes sociales y es poco probable que esté categorizado adecuadamente. Hablar con los niños sobre las señales que ayudan a detectar material generado por IA puede ser útil, así como también habilidades generales de alfabetización mediática crítica como "Si parece demasiado bueno para ser verdad, probablemente sea falso" y "Verifique dos veces lo que escucha en este tipo de publicaciones". Es esencial enseñar a los niños a verificar los hechos y las fuentes de información para mejorar su capacidad de distinguir entre contenido real y falso.
Hacer trampa usando inteligencia artificial
A pesar de todos los problemas éticos y los riesgos de los errores de LLM, estas herramientas de IA son increíblemente útiles y atractivas, por lo que es comprensible que algunos estudiantes recurran a ellas para hacer trampa en las tareas y en la escuela. Yo diría que simplemente necesitamos hablar con ellos, explicándoles que el objetivo es aprender las habilidades necesarias para completar las tareas, y si no las aprenden, perderán las habilidades que necesitarán en los grados posteriores y más adelante en la vida... pero todos sabemos que los niños rara vez son tan lógicos. Sus cerebros aún están en desarrollo, y a veces incluso a los adultos les resulta difícil pensar en este tipo de cosas. Comprender el impacto de la IA en la educación requiere una comprensión profunda de las capacidades de estas herramientas y su impacto potencial en el desarrollo de habilidades esenciales.
Básicamente, existen dos enfoques: encontrar maneras de dificultar o imposibilitar las trampas en las tareas, o integrar la IA en el aula, asumiendo que los estudiantes eventualmente la tendrán a su disposición. Actualmente, el trabajo supervisado en el aula puede brindar a los estudiantes la oportunidad de adquirir algunas de las habilidades necesarias sin intervención digital. Sin embargo, como mencioné anteriormente, la alfabetización mediática debería incluir ahora modelos reconocidos, y creo que el uso supervisado de estos modelos por parte de un docente experto puede tener un valor pedagógico significativo. Además, es realmente imposible lograr que las tareas sean resistentes a la IA sin la supervisión directa del profesor, y debemos reconocerlo. No quiero que parezca fácil, sin embargo; consulte la sección de Lecturas Adicionales a continuación para acceder a varios artículos académicos sobre los amplios desafíos de la enseñanza de la alfabetización en IA en el aula. Los docentes se enfrentan a la ardua tarea no solo de mantenerse al día con la tecnología y adaptar sus métodos de enseñanza a los tiempos, sino también de brindar a sus estudiantes la información necesaria para usar la IA de manera responsable. Los profesores también deberían centrarse en enseñar a los alumnos a evaluar críticamente la información producida por la inteligencia artificial y a desarrollar sus habilidades de pensamiento crítico.
Aprendiendo del ejemplo de la educación sexual: lecciones de inteligencia artificial
En última instancia, la pregunta es qué exactamente deberíamos recomendar a los niños y qué deberían evitar en un mundo con IA, tanto dentro como fuera del aula. Rara vez soy defensor de prohibir o prohibir ideas, y creo que el ejemplo de una educación sexual integral, basada en la ciencia y apropiada para cada edad ofrece una buena lección. Si a los niños no se les proporciona información precisa sobre sus cuerpos y su sexualidad, no tendrán el conocimiento para tomar decisiones informadas y responsables en esta área. Los adultos no estarán allí para hacer cumplir los mandatos cuando los niños tomen decisiones difíciles sobre qué hacer en circunstancias difíciles, por lo que debemos asegurarnos de que los niños estén equipados con la información necesaria para tomar estas decisiones por sí mismos de manera responsable. Esto incluye orientación moral, pero también información factual. Asimismo, debemos asegurarnos de que los estudiantes adquieran una comprensión integral del potencial y los riesgos de la IA, para que puedan utilizarla de manera eficaz y responsable en la era digital.
Modelando la responsabilidad en el uso de la inteligencia artificial
Otra cosa que creo que es importante mencionar es que los adultos también deberían modelar un comportamiento responsable al tratar con la IA. Si los maestros, padres y otros adultos en la vida de los niños no tienen un conocimiento crítico de la IA, no podrán enseñar a los niños a ser consumidores críticos y reflexivos de esta tecnología.
Un reciente artículo del New York Times sobre cómo los profesores utilizan la inteligencia artificial (IA) me ha resultado algo frustrante. El artículo no demuestra un conocimiento profundo de la IA, confundiéndola con estadística básica (un profesor que analiza datos de los alumnos para adaptar la enseñanza a sus niveles no es ni IA ni algo nuevo ni problemático), pero sí inicia un debate sobre cómo los adultos en la vida de los niños utilizan herramientas de IA, mencionando la necesidad de que estos adultos den ejemplo de un uso transparente y crítico. (También aborda brevemente el tema de la industria con fines de lucro que impulsa la IA en las aulas, un problema que parece merecer más atención; quizás escriba sobre ello más adelante).
Para refutar una de las afirmaciones del artículo, no me opondría a que los profesores utilicen Modelos de Lenguaje a Gran Escala ( MLG ) para la revisión inicial y la evaluación de textos escritos, siempre que supervisen y validen los resultados. Si los criterios de evaluación se centran en la gramática, la ortografía y la mecánica de la escritura, entonces un MLG probablemente sea apropiado según su entrenamiento. No quiero confiar ciegamente en un MLG sin al menos una revisión superficial, pero, de hecho, está diseñado para comprender el lenguaje humano. La idea de que "el alumno tuvo que escribirlo, así que el profesor debería tener que evaluarlo" es absurda, porque el objetivo del ejercicio es que el alumno aprenda. Los profesores ya conocen la mecánica de la escritura, y este no es un proyecto diseñado para obligarlos a aprender algo que solo se puede lograr mediante la evaluación manual. Sospecho que el New York Times lo sabe, y que el enfoque fue principalmente sensacionalista, pero vale la pena aclararlo.
Este punto nos lleva de nuevo a la sección anterior sobre la comprensión de la tecnología. Si entiende con confianza cómo es el proceso de capacitación, puede determinar si ese proceso producirá o no una herramienta capaz de manejar una tarea. Pero la automatización de la evaluación ha sido parte de la educación durante al menos décadas: cualquiera que haya completado una hoja de calificaciones lo sabe.
El desarrollo de esta tecnología está obligando a nuestro sistema educativo a adaptarse hasta cierto punto, pero aún no podemos dar marcha atrás. Ciertamente, la IA puede tener efectos positivos en la educación (ejemplos frecuentes incluyen la personalización y la liberación del tiempo de los docentes, que pueden dedicarse a la atención directa al alumnado), pero, como en casi todo, soy realista. Como creo que la mayoría de los docentes saben, la educación no puede seguir siendo como era antes de que los Modelos de Lenguaje a Gran Escala ( MLG ) entraran en nuestras vidas.
Conclusión
Los niños son más inteligentes de lo que a veces pensamos, y creo que pueden entender mucho sobre lo que significa la IA en nuestro mundo. Mi consejo es ser transparentes y honestos sobre las realidades de esta tecnología, incluidas las ventajas y desventajas que representa para nosotros como individuos y para nuestra sociedad en su conjunto. La forma en que utilizamos la IA determinará las elecciones de los niños, ya sean positivas o negativas, y es algo a lo que prestarán atención, por lo que ser reflexivos sobre nuestras acciones y lo que decimos es esencial. Debemos explicarles el potencial y los desafíos de la IA, con énfasis en el uso ético y responsable de esta tecnología.
Los comentarios están cerrados.