Los errores de la IA de Google: expresiones idiomáticas y dichos populares alucinantes

La última tendencia en inteligencia artificial es divertidísima. Un usuario descubrió que es posible introducir una frase falsa en la búsqueda de Google y añadirle la palabra "significado". Luego, la función "Descripción general de IA" de Google generará un significado para esa frase basándose en tu imaginación.

El historiador Greg Jenner inició esta tendencia con una publicación en Bluesky en la que le pedía a Google que explicara el significado de la frase "no se puede lamer a un tejón dos veces". La función "Descripción general de la IA" explicó, muy útilmente, que la expresión significa que no se puede engañar a alguien por segunda vez después de haber sido engañado una vez; una explicación plausible, pero que ignora el hecho de que el término no existía antes de que esta consulta se volviera viral.

Desde entonces, la gente se ha divertido mucho haciendo que la función Descripción general de IA explique términos como "un calamar en un jarrón no hablará mal de ti".Significado Algo fuera de su entorno natural no podría causar daño, aparentemente) o “Puedes llevar a tu perro a la playa, pero no puedes navegar hasta Suiza” (EsSegún la función “Descripción general de IA”, es una afirmación bastante sencilla sobre la dificultad de viajar internacionalmente con mascotas.

Sin embargo, esto no funciona en todos los casos, ya que algunas consultas no arrojan los resultados de la "Descripción general de la IA". El científico cognitivo Gary Marcus declaró a Wired : "Es muy inconsistente, lo cual es de esperar de GenAI".

Jenner señala que, si bien esto resulta divertido, también pone de manifiesto algunos peligros potenciales de depender demasiado de fuentes generadas por IA, como «AI Overview», para obtener información. Escribe : «Es una señal de alerta de que una de las funciones principales de Google —la capacidad de verificar una cita, comprobar una fuente o encontrar algo que solo se recordaba parcialmente— se volverá mucho más difícil si la IA prioriza las probabilidades estadísticas sobre la verdad».

Esta no es la primera vez que se señalan las limitaciones de la información que proporciona la IA, en particular la función de descripción general de la IA. Cuando se publicó la “Descripción general de la IA”, sugirió infamemente que las personas deberían comer una piedra pequeña al día y que podrían poner pegamento en su pizza, aunque estas respuestas específicas fueron eliminadas rápidamente.

Desde entonces, Google ha dicho que la mayoría de las descripciones generales de IA brindan información útil y objetiva, y que continúa recopilando comentarios sobre su producto de IA.

Por ahora, esto sirva como recordatorio para volver a verificar la información que aparece en el cuadro “Descripción general de IA” en la parte superior de los resultados de Google, ya que puede no ser precisa.