Cómo detectar el bombo publicitario sobre la IA y evitar el “engaño de la IA”, según dos expertos.

“La inteligencia artificial, francamente, es una estafa: un producto que te venden para llenar los bolsillos de alguien”.

Este es el punto central del argumento presentado por la lingüista Emily Bender y el sociólogo Alex Hanna en su nuevo libro, *The AI ​​Con* . Es una guía valiosa para cualquiera cuya vida haya tenido contacto con tecnologías comercializadas como inteligencia artificial y para cualquiera que haya cuestionado su verdadera utilidad, es decir, para la mayoría de nosotros. Bender es profesora en la Universidad de Washington y fue nombrada por la revista Time como una de las personas más influyentes en el campo de la IA; Hanna es director de investigación del Instituto de Investigación de IA Distribuida ( una organización sin fines de lucro) y exmiembro del equipo de IA ética de Google.

La enorme popularidad de ChatGPT a finales de 2022 ha provocado un nuevo ciclo de revuelo mediático en torno a la inteligencia artificial. El hype, como lo definen los autores, es el “bombo publicitario” de una tecnología que estás convencido de que necesitas comprar o en la que debes invertir “para no perderte la diversión, la recompensa en efectivo, el retorno de la inversión o la participación de mercado”. Pero esta no es la primera vez, y probablemente no será la última, que científicos, líderes gubernamentales y gente común se han sentido atraídos y preocupados por la idea del aprendizaje automático y la inteligencia artificial.

Binder y Hanna rastrean las raíces del aprendizaje automático a la década de 1950, cuando el matemático John McCarthy acuñó el término inteligencia artificial. Esta fue una época en la que Estados Unidos buscaba financiar proyectos que ayudaran al país a obtener algún tipo de superioridad sobre los soviéticos a nivel militar, ideológico y tecnológico. "No surgió de la cabeza de Zeus ni nada por el estilo. Tiene una historia más larga", dijo Hanna a CNET. “Este ciertamente no es el primer ciclo de exageración con, cito, IA”.

El actual ciclo de bombo mediático se ve impulsado por miles de millones de dólares en inversiones de capital riesgo en startups como OpenAI y por gigantes tecnológicos como Meta, Google y Microsoft, que destinan miles de millones a la investigación y el desarrollo de la IA. El resultado es evidente: los últimos teléfonos , portátiles y actualizaciones de software están repletos de IA. Y no hay indicios de que la investigación y el desarrollo de la IA vayan a ralentizarse, gracias al creciente afán por superar a China en este campo. De hecho, este no es el primer ciclo de bombo mediático.

Por supuesto, la IA generativa en 2025 es mucho más avanzada que el chatbot de psicoterapia Eliza que cautivó a los científicos por primera vez en la década de XNUMX. Los líderes empresariales y empleados de hoy están inundados de publicidad mediática, con una fuerte dosis de miedo a perderse algo y una terminología aparentemente compleja pero a menudo mal utilizada. Al escuchar a los líderes tecnológicos y entusiastas de la IA, podría parecer que la IA ocupará su puesto de trabajo y le ahorrará dinero a su empresa. Pero los autores sostienen que ninguna de estas dos cosas es enteramente probable, y esa es una de las razones por las que es importante reconocer y acabar con la propaganda mediática.

¿Cómo podemos reconocer la exageración mediática en torno a la inteligencia artificial? Según Bender y Hanna, a continuación presentamos algunas señales reveladoras. En su libro, ya disponible en Estados Unidos, los autores describen varias preguntas y estrategias para identificar la exageración mediática sobre la IA.

Preste atención al lenguaje que humaniza la IA.

La humanización, o el proceso de otorgar cualidades o características humanas a un objeto inanimado, es una gran parte del entusiasmo por la IA. Un ejemplo de este tipo de lenguaje es cuando las empresas de IA dicen que sus chatbots ahora pueden “ver” y “pensar”.

Estas comparaciones pueden ser útiles cuando se intenta describir la capacidad de los nuevos programas de IA para identificar objetos o modelos de IA con razonamiento profundo, pero también pueden ser engañosas. Los chatbots impulsados ​​por IA no pueden ver ni pensar porque no tienen mente. Incluso la idea de las redes neuronales, como señala Hannah en nuestra entrevista y en el libro, se basa en una comprensión humana de las neuronas de la década de 1950, que en realidad no sabe cómo funcionan las neuronas, pero puede engañarnos haciéndonos creer que hay una mente detrás de la máquina.

Esta creencia es algo a lo que estamos predispuestos debido a la forma en que procesamos el lenguaje como humanos. Estamos condicionados a imaginar que hay una mente detrás del texto que vemos, incluso cuando sabemos que fue generado por inteligencia artificial, dijo Bender. “Interpretamos el lenguaje desarrollando un modelo en nuestras mentes de quién fue el hablante”, añadió Bandar.

En estos modelos, utilizamos nuestro conocimiento de la persona que habla para crear significado, no sólo el significado de las palabras que dice. "Entonces, cuando nos encontramos con texto sintético generado por algo como ChatGPT, haremos lo mismo", dijo Bandar. Es muy difícil recordarnos que la mente no existe. Es solo una construcción que hemos creado.

Los autores sostienen que parte del motivo por el que las empresas de IA intentan convencernos de que sus productos son similares a los humanos es que esto sienta las bases para convencernos de que la IA puede reemplazar a los humanos, ya sea en el trabajo o como creadores. Es convincente creer que la IA podría ser la solución mágica a problemas complejos en industrias críticas como la atención médica y los servicios gubernamentales.

Pero la mayoría de las veces, sostienen los autores, la IA no se utiliza para solucionar nada. La IA se vende por su eficiencia, pero los servicios de IA terminan reemplazando a trabajadores calificados por máquinas de caja negra que requieren importantes cantidades de cuidados por parte de trabajadores independientes o con contratos de bajos salarios. Como dijo Hannah en nuestra entrevista: “La IA no te quitará el trabajo, pero lo empeorará”.

Tenga cuidado con la frase “superinteligencia”.

Si los humanos no pueden hacer algo, debemos ser cautelosos con las afirmaciones de que la IA puede hacerlo. “Superinteligencia, o superinteligencia, es un término muy peligroso, en la medida en que sugiere que alguna tecnología hará que los humanos sean innecesarios”, dijo Hannah. En ciertas áreas, como la comparación de patrones a gran escala, las computadoras son muy buenas en eso. Pero si existe la idea de que va a surgir un poema innovador, o una idea revolucionaria para la investigación o la práctica científica, eso es claramente un ascenso. "No estamos hablando de aviones como súper aviones ni de gobernantes como súper medidas", añadió Bender. “Eso parece ocurrir sólo en el campo de la inteligencia artificial”.

La idea de IA de “superinteligencia” surge a menudo cuando se habla de inteligencia artificial general. A muchos ejecutivos les resulta difícil definir exactamente qué es la inteligencia artificial general (AGI), pero es esencialmente la forma más avanzada de inteligencia artificial, potencialmente capaz de tomar decisiones y manejar tareas complejas. Aún no hay evidencia de que estemos cerca de un futuro posibilitado por la IA general, pero es una palabra de moda popular.

Muchas de estas declaraciones futuristas de los líderes de IA toman prestados tropos de la ciencia ficción. Tanto los partidarios como los pesimistas (así describen Binder y Hannah a los entusiastas de la IA y a quienes se preocupan por el potencial daño) se basan en escenarios de ciencia ficción. Los partidarios imaginan una sociedad futura impulsada por inteligencia artificial. Los pesimistas lamentan un futuro en el que los robots con IA se apoderen del mundo y exterminen a la humanidad.

Según los autores, el vínculo común es la creencia profunda de que la IA es más inteligente que los humanos y es inevitable. “Una de las cosas que vemos mucho en el discurso es la idea de que el futuro está fijado y que es sólo cuestión de cuán rápido lleguemos allí”, dijo Bender. Luego está la afirmación de que esta tecnología en particular es un paso en esa dirección, y todo es marketing. Es útil poder ver más allá.

Parte de la razón por la que la IA es tan popular es que un asistente de IA funcional y autónomo significará que las empresas de IA cumplirán sus promesas de innovación que cambiará el mundo a sus inversores. Planificar este futuro, ya sea utópico o distópico, hace que los inversores miren hacia adelante mientras las empresas queman miles de millones de dólares y admiten que no alcanzarán sus objetivos de emisiones de carbono. Para bien o para mal, la vida no es ciencia ficción. Cuando ves a alguien afirmar que su producto de inteligencia artificial está sacado directamente de una película, es una buena señal acercarse a él con escepticismo.

Infórmese sobre las entradas de la IA y cómo evaluar sus salidas.

Una de las formas más fáciles de detectar el fraude de marketing de IA es verificar si la empresa revela cómo funciona. Muchas empresas de IA no revelan el contenido utilizado para entrenar sus modelos. Pero generalmente revelan lo que la empresa hace con sus datos y a veces se jactan de cómo sus modelos superan a los competidores. Aquí es donde debes comenzar tu investigación, generalmente en sus políticas de privacidad.

Una de las mayores quejas y preocupaciones de los creadores es cómo se entrenan los modelos de IA. Existen numerosas demandas relacionadas con supuestas violaciones de derechos de autor y existen muchas preocupaciones sobre el sesgo en los chatbots impulsados ​​por IA y su potencial para causar daños. “Si quieres crear un sistema diseñado para hacer avanzar las cosas en lugar de reproducir las injusticias del pasado, tienes que empezar por organizar tus datos”, dice Bender. En cambio, las empresas de inteligencia artificial están apoderándose de “todo lo que no estaba instalado en Internet”, afirma Hannah.

Si escuchas sobre un producto de IA por primera vez, una cosa a la que debes prestar especial atención es cualquier tipo de estadística que destaque su eficacia. Al igual que muchos otros investigadores, Bender y Hannah señalan que cualquier resultado sin una cita es una señal de alerta. “Cada vez que alguien te vende algo y no te da acceso a su valor, estás en terreno inestable”, dice Bender.

Puede resultar frustrante y decepcionante cuando las empresas de IA no revelan cierta información sobre el funcionamiento y el desarrollo de sus productos. Sin embargo, identificar estas lagunas en su presentación comercial puede ayudar a reducir las expectativas, aunque disponer de la información sería aún mejor. Para más información, consulta nuestro glosario completo de ChatGPT y cómo desactivar Apple Intelligence.