Los juegos con inteligencia artificial están generando inquietud: una pequeña caja roja ofrece una solución prometedora.

Este artículo forma parte de Trending Forward, nuestra serie de vídeos y audios que explora cómo las tecnologías revolucionarias están cambiando nuestra forma de vida.

Si eres de los que dicen: " La inteligencia artificial parece estar en todas partes", te equivocas. Es cierto que se está infiltrando en el trabajo, las escuelas y otros lugares, pero también se está expandiendo rápidamente a otros ámbitos nuevos.

Un ejemplo de ello es el mundo de los videojuegos, y esto conlleva riesgos aterradores. Como padre o madre, la idea de que tu hijo o hija tenga acceso casi ilimitado a lo mejor (y lo peor) de internet parece totalmente inaceptable; sin embargo, estamos presenciando una proliferación de juegos que pueden convertir los cuentos para dormir en auténticas historias de terror.

Por eso hablamos con Arun Gupta, un emprendedor que ha creado empresas exitosas en el sector de la moda y los dispositivos portátiles. Mientras pasaba tiempo con su familia, empezó a pensar en cómo la tecnología podría entretener, educar y estimular la creatividad de los niños simultáneamente. Como hemos visto en otros ejemplos, la inteligencia artificial puede abrir nuevas vías para la creatividad, como el desarrollo de juegos mediante la aplicación gratuita Meta, que utiliza IA.

Gupta retomó el contacto con su socio técnico, Robert Whitney, y juntos comenzaron a trabajar en la creación de Stickerbox , un dispositivo independiente que utiliza inteligencia artificial para permitir a los niños describir las imágenes que imaginan (casi cualquier cosa) y verlas representadas en la pantalla monocromática de la interfaz antes de que se impriman bajo demanda.

Su diseño recuerda al antiguo dispositivo Etch a Sketch, y las pegatinas se imprimen en una impresora térmica incorporada, lo que significa menos desorden, y los niños pueden colorearlas a su gusto.

El concepto es sencillo, y he comprobado que ya ha trascendido a sus usuarios iniciales y está ganando popularidad. Cuando le comenté Stickerbox a una amiga en el Reino Unido con niños pequeños, me dijo: «¡Ah, esa cosa adhesiva con IA que parece un Etch-a-Sketch! ¡Quiero una!».

Si bien supongo que se refería a que lo quería para sus hijos, esto demuestra que la inteligencia artificial es secundaria en este caso; lo que entusiasma es la capacidad de crear cosas tangibles mediante el sonido, no solo la presencia del aprendizaje automático en su núcleo.

Una nueva generación de juegos

Stickerbox parece haber sido diseñado, construido y funcionado para ser todo lo contrario de otros juguetes con inteligencia artificial disponibles en el mercado. Los juguetes más problemáticos se presentan como un amigo y confidente para el niño.

Escucha constantemente todo lo que se dice a su alrededor e incluso puede manipular a los niños. Se han reportado ejemplos de juegos con IA que les indican a los niños cómo encontrar armas y cerillas.

Aquí reside la paradoja: las herramientas de IA pueden fomentar la curiosidad y la creatividad de los niños, permitiéndoles hacer cosas antes imposibles. Pero esta oportunidad también conlleva enormes riesgos, por lo que nuestra conversación con Gupta es sencilla: ¿cómo se puede crear un juego que ofrezca los beneficios de la IA sin los riesgos asociados a su uso?

Un estudio reciente publicado por PIRG puso de relieve importantes preocupaciones sobre los juegos que dependen del acceso a modelos de lenguaje a gran escala (LLM, por sus siglas en inglés), como ChatGPT de OpenAI, y cómo, incluso con las medidas de seguridad implementadas, estas pueden eludirse.

Entonces, ¿en qué se diferencia Stickerbox?

Gupta afirma: “Partimos de una pregunta muy sencilla: ¿Qué pasaría si la inteligencia artificial se diseñara específicamente para niños?”.

Añade: «Creo que Bob y yo, cuando fundamos esta empresa, nos inspiramos mucho en las redes sociales y su impacto en la generación más joven. Las redes sociales, como todo el mundo sabe, están construidas con mecanismos similares a los de los juegos de casino, diseñados para generar esa descarga de dopamina y para maximizar la interacción, de modo que puedan serte lo más útiles posible».

Y continúa: “Pero si tomamos este modelo y lo aplicamos a los niños… no encaja del todo bien. No existen plataformas de redes sociales diseñadas específicamente para niños. Y creo que ocurre lo mismo con la inteligencia artificial”.

Por lo tanto, Stickerbox se diseñó para aprovechar el poder creativo de la inteligencia artificial sin comprometer la seguridad de los niños. Sus tres características de seguridad clave son: el dispositivo solo "escucha" cuando se presiona el botón del micrófono; pautas estrictas para la seguridad del contenido resultante; y la posibilidad de que los padres supervisen completamente las creaciones de sus hijos a través de la aplicación complementaria.

El fondo no permite que los niños filmen ni muestren escenas de desnudez, sangre, violencia ni ningún otro contenido gráfico. Como afirmó Gupta, la empresa quería “priorizar la máxima seguridad en lugar de reducirla al inicio de nuestras operaciones”.

Stickerbox se conecta a internet para acceder a la inteligencia artificial, pero utiliza su propio sistema propietario en lugar de OpenAI, como hacen muchas otras empresas. La creación de su propio modelo de lenguaje a gran escala ha permitido a Hapiko integrar lo que Gupta denomina "puntos de control".

“Actualmente, el dispositivo cuenta con muchos controles integrados y depende de un software especializado, pero básicamente, se puede entender de esta manera sencilla: existe un sistema en el que el niño pronuncia una frase, esta se traduce a texto, luego el texto se traduce a una imagen y, finalmente, se devuelve la imagen.”

“Por lo tanto, en este proceso existen múltiples puntos de control. Está el punto de control donde se crea el texto, y se puede examinar su contenido. Luego se le puede aplicar un filtro de seguridad. (Después de eso) está el indicador que convierte el texto en imagen, y se puede examinar para ver qué se convertirá en una imagen.”

Stickerbox enseña a los niños una lección importante sobre cómo formular sus instrucciones a un motor de IA. Cuando la pegatina resultante no es exactamente lo que imaginaban, deben pensar en cómo modificar su instrucción para obtener el resultado deseado.

Si bien puedes hacer lo mismo con cualquier chatbot, la función de impresión requiere que conectes dispositivos y necesita la supervisión y la guía de los padres para controlar el proceso y, tal vez, explicar algunos temas delicados.

Nos adentramos en la exploración del futuro de esta caja: cómo la recibieron tanto padres como profesores, cómo superaron algunos de los primeros desafíos y preguntas, qué podría deparar el futuro en este campo de juegos de IA en rápido crecimiento... y cómo Hapiko tuvo que renunciar a algunas funciones para lanzar este producto al mercado de forma segura.