Advertencias importantes antes de emplear inteligencia artificial en la investigación electoral.

Las elecciones de mitad de mandato de este año incluyen cientos de contiendas, desde todos los escaños de la Cámara de Representantes de Estados Unidos hasta diversos cargos en los gobiernos estatales y locales. Si bien numerosos temas tecnológicos ocupan un lugar destacado en la agenda, incluidas las políticas de inteligencia artificial, los informes indican que las personas también están recurriendo a chatbots con IA para prepararse para el día de las elecciones.

Dado que uno de los usos más destacados de los chatbots es la recuperación de información, no sorprende ver a personas utilizando ChatGPT , Cloud u otras herramientas de IA para investigar candidatos y propuestas electorales. Sin embargo, reconocemos que las tecnologías de IA generativa conllevan riesgos importantes, como sesgos , manipulación, alucinaciones y conclusiones erróneas basadas en información inexacta.

Pero si planeas usar chatbots para tu investigación electoral, asegúrate de tomar estas precauciones. También puedes consultar la guía de CNET sobre cómo detectar deepfakes y fraude electoral.

Recopilación de información: La necesidad de verificar las fuentes.

Al utilizar inteligencia artificial en la investigación electoral, verificar la exactitud de la información resulta crucial. Si bien este consejo se aplica a cualquier interacción con chatbots, en el contexto electoral es de suma importancia garantizar la precisión de los datos en los que se basan.

A pesar de los importantes avances en los chatbots desde el lanzamiento original de ChatGPT en 2022, siguen siendo propensos a errores. Estos bots se basan en recopilar información de la web (o de sus bases de datos internas si están sin conexión) y luego sintetizarla, pero durante este proceso, los datos pueden mezclarse y distorsionarse.

Los grandes chatbots se esfuerzan por adaptar los resultados a las preferencias del usuario para mantenerlo interesado, lo que en última instancia puede llevarlo a engañarlo. Esta tendencia excesiva de la IA a complacer a los usuarios se conoce como "adulación" y puede provocar que proporcione información falsa.

Los chatbots también pueden falsificar o inventar información. Esta preocupación es relativamente menos frecuente en las campañas electorales nacionales, que cuentan con una amplia presencia digital fácilmente verificable. Sin embargo, si busca información sobre los centros de votación o el formato de su papeleta, es mucho mejor consultar directamente el sitio web oficial de elecciones de su gobierno local o estatal. Puede encontrar la información de contacto de la Junta Electoral de su estado aquí . Estos canales oficiales del gobierno garantizan que usted disponga de la información más actualizada y precisa.

Además, siempre debes verificar las fuentes citadas por el chatbot. Por ejemplo, si preguntas sobre la postura de un candidato en particular respecto a los centros de datos, comprueba si el bot cita un vídeo del candidato hablando, una entrevista periodística o simplemente una publicación aleatoria en redes sociales.

Este punto es especialmente importante al citar fuentes de redes sociales. Si bien los humanos podemos entender el sarcasmo en las publicaciones de Reddit o identificar cuentas automatizadas (bots), los chatbots tienen dificultades para captar los matices y el tono. ¿Recuerdan lo que sucedió en 2024 cuando la función Insights de Google, impulsada por IA, recomendó a los usuarios poner pegamento en su pizza para que el queso se adhiriera? Ese consejo se basaba en una publicación sarcástica de Reddit, y la IA no pareció entender la broma.

No cabe duda de que la desinformación política existía antes de la llegada de la inteligencia artificial, pero, como muchos males digitales, la IA puede agravar el problema al presentarla con seguridad como un hecho a quienes buscan respuestas.

Jonathan Nagler, profesor de ciencias políticas en la Universidad de Nueva York, afirma: "La inteligencia artificial facilita la generación de desinformación".

Nagler añade que, aunque la desinformación no constituya la mayor parte del contenido mediático consumido por la mayoría de la gente, puede ser explotada para acelerar y expandir las campañas de desinformación de actores malintencionados a una audiencia en línea más amplia. Concluye: «Sería una insensatez no preocuparse por el impacto de la inteligencia artificial en este sentido».

No solo la tecnología está siendo explotada por actores malintencionados; su impacto se extiende a nuestra capacidad para discernir la desinformación. Un estudio reciente del MIT Media Lab descubrió que, al igual que el GPS puede debilitar nuestras habilidades de navegación, el uso de sistemas de verificación de datos con IA ha hecho que las personas sean menos capaces de identificar la desinformación por sí mismas.

“La desinformación producida por la inteligencia artificial puede influir en las opiniones políticas de los votantes, por lo que los riesgos son reales”, afirma Isabel Lenzer, analista de políticas y elecciones del Centro para la Democracia y la Tecnología.

Un estudio publicado en la revista Science reveló que los sistemas de inteligencia artificial, cuando se optimizan para ser más persuasivos, se enfrentan a una "preocupante disyuntiva": la creciente difusión de información falsa.

¿Puede un chatbot ser neutral?

No, los chatbots no pueden ser completamente neutrales; dado que estas tecnologías son diseñadas y programadas por humanos, inevitablemente conllevan sus sesgos. Otra consideración clave al usar IA en la investigación electoral es su sesgo inherente. Si bien algunas empresas de IA, como OpenAI, afirman brindar respuestas "políticamente neutrales", los chatbots no son plataformas neutrales; ninguna tecnología creada por humanos puede serlo. Los modelos de IA que impulsan los chatbots son codificados por humanos y, por lo tanto, están codificados con sesgos humanos y pueden reforzar estereotipos dañinos.

Linzer comentó: «Es difícil imaginar cómo sería la neutralidad política absoluta respecto a un candidato o un tema político en una conversación personal. Por lo tanto, si bien la neutralidad es un objetivo loable, soy escéptico sobre lo que significa en la práctica».

Además, existen intensos esfuerzos externos para influir en el contenido de las respuestas de la IA. Los equipos de marketing y optimización para motores de búsqueda (SEO) trabajan actualmente para que sus empresas aparezcan en los resultados de la IA , como los resúmenes de IA de Google, que se muestran en la parte superior de la mayoría de los resultados de búsqueda.

Los actores políticos hacen lo mismo: producen deliberadamente contenido destinado a halagar a un candidato en particular o a engañar a los votantes sobre otro, todo con el objetivo de proyectar una imagen positiva en las respuestas de la IA. Esta práctica se conoce a veces como «envenenamiento» de los resultados de búsqueda, según Linzer. Es similar a la manipulación de elecciones mediante deepfake en su intento de influir en la opinión pública.

Añade: “En ocasiones, las campañas políticas utilizan estas técnicas para promocionar a su candidato, al igual que agentes gubernamentales extranjeros que intentan engañar a los votantes estadounidenses”.

Quienes dirigen empresas de IA pueden influir directamente en el funcionamiento de estas herramientas. Elon Musk lleva años afirmando que quiere que su chatbot, Grok , sea más «políticamente neutral» que las alternativas que considera excesivamente liberales. Sin embargo, un análisis de 2023 del New York Times reveló que las modificaciones de Musk, en realidad, alineaban las respuestas de Grok con posturas más conservadoras.

En los últimos años, los ingenieros y ejecutivos que trabajan en Grok han publicado actualizaciones que repetían falacias controvertidas sobre el Holocausto y se han negado a responder preguntas sobre Donald Trump y Musk como fuentes de desinformación.

Al preguntarles por qué candidato votar en la contienda por el Senado de Carolina del Norte, ChatGPT, Claude, Gemini y Grok fueron los únicos que declararon explícitamente que no recomendarían a ningún candidato en particular. Google mostró un mensaje emergente en la ventana de Gemini instando a los usuarios a consultar la información electoral en fuentes oficiales. ChatGPT y Grok no dieron respuestas inusuales.

¿Son realmente útiles los chatbots en la investigación electoral?

A pesar de su popularidad para filtrar información en línea, los chatbots son herramientas poco fiables para la investigación electoral; pueden proporcionar información falsa o desactualizada, y los desarrolladores o terceros pueden influir en sus respuestas y sesgarlas.

Si insiste en utilizar un chatbot en su investigación electoral, es absolutamente esencial que verifique la información que proporciona comparándola con fuentes oficiales fiables.

Sin embargo, dado que los chatbots son herramientas de investigación imperfectas, especialmente al tratar temas delicados como las elecciones, investigar, leer y reflexionar por cuenta propia puede ahorrarte tiempo y energía. Estos bots pueden presentar información —incluso desinformación—, pero en última instancia, tú eres el único responsable de tu decisión electoral.