Recuerdo cuando apareció ChatGPT Por primera vez, lo primero que todos empezaron a decir fue: “El papel de los escritores se acabó”. La gente comenzó a especular que los sitios de noticias, blogs y prácticamente todo el contenido escrito en Internet serían generados por IA; y aunque estas predicciones me parecieron extremas, también me impresionó el texto que GPT podía producir.
Naturalmente, tuve que probar yo mismo la sorprendente nueva herramienta, pero pronto descubrí que los resultados no eran tan impresionantes como parecían. Más de dos años después, en lo que respecta a mi experiencia y casos de uso, nada ha cambiado: cada vez que uso ChatGPT para ayudarme con mi escritura, no hace más que ralentizarme y frustrarme. De hecho, considero que el uso de herramientas como ChatGPT en textos profesionales suele arrojar resultados deficientes, especialmente en lo que respecta a precisión y estilo.
¿Por qué ChatGPT no me funciona?
ChatGPT puede generar contenido realmente bueno. Puede producir un lenguaje natural, coherente e incluso inteligente e interesante. Pero la mayoría de los ejemplos principales que se suelen ver provienen de indicaciones muy simples: del tipo "escribe un poema sobre las compras en Walmart, pero al estilo de William Shakespeare", que todos hacían en 2023. Sin embargo, al tratar con tareas complejas o requisitos específicos, ChatGPT suele mostrar limitaciones para comprender el contexto y proporcionar respuestas precisas y relevantes. Esta deficiencia lo hace ineficaz en escenarios que requieren análisis profundo o creatividad especializada.
Lo siento, simplemente no puedo ser cínico acerca de una tecnología que puede lograr esto. foto.twitter.com/yjlY72eZ0m
— Thomas H. Ptacek (@tqbf) 2 de diciembre de 2022
Cuando pides algo así, parte de lo que hace que el resultado sea fantástico es que es inesperado. Básicamente le estás pidiendo que te sorprenda y, en la mayoría de los casos, lo logrará.
Por otro lado, cuando intentas usar ChatGPT para el aburrido trabajo de escritura, la historia es completamente diferente. En primer lugar, para artículos como éste, es inútil. Todo lo que escribo ahora se basa en mis propias experiencias y opiniones: la IA no puede escribirlo por mí. Algunos podrían argumentar que puede ayudar a planificar, generar ideas o mejorar argumentos, pero de todos modos nunca he querido ayuda con ese tipo de cosas.
El tipo de trabajo para el que realmente he intentado utilizar ChatGPT son blogs corporativos. Ya conoces el tipo: publicaciones explicativas, instructivas y de recomendaciones que cubren temas relacionados con la empresa y sus productos (con algo de autopromoción sutil también). Cuando escribes este tipo de cosas, a menudo te dan muchos requisitos: una guía de estilo para el lenguaje y la gramática, palabras clave para incluir, fuentes para incluir, fuentes para evitar y un esquema del contenido con encabezados, estructura y puntos principales ya decididos.
Si quiero una copia utilizable, no puedo simplemente proporcionarle a GPT un mensaje de una línea y dejarlo funcionar sin control. Así que probé una estructura como ésta:
- Un mensaje de “contexto” inicial que explicaba lo que estaba escribiendo y el tipo de cosas que pediría, junto con un párrafo de ejemplo para mostrar el estilo de lenguaje que quería.
- Las indicaciones posteriores con “descripciones de contenido” proporcionaron uno o dos títulos junto con viñetas sobre lo que se debía cubrir.
Nunca pediría demasiado a la vez y como no confiaba en que él agregara estadísticas y fuentes, dejaría todo eso con la intención de hacerlo yo mismo más tarde.
Pero por más que intenté dividir el trabajo en partes pequeñas y dar instrucciones muy claras, siempre me encontré con los mismos problemas:
- ChatGPT horrible Al escuchar instrucciones.
- Tiene la mala costumbre de llevar las cosas al extremo.
- A menudo se filtra en el texto información incorrecta o irrelevante.
- Su "estilo de escritura" se vuelve repetitivo y cliché muy rápidamente.
- Cuando ocurre cualquiera de los problemas mencionados anteriormente, es casi imposible lograr que un modelo de lenguaje grande (LLM) revise o corrija con éxito su salida.
Déjame mostrarte lo que quiero decir.
1. La debilidad de ChatGPT para comprender instrucciones detalladas
Al intentar obtener resultados precisos y específicos de ChatGPT, es necesario dar instrucciones claras y detalladas. Sin embargo, parece que cuanto más requisitos haya, más probable es que el modelo ignore algunos de ellos. Por ejemplo, las indicaciones pueden incluir encabezados, viñetas, la cantidad de palabras necesarias, instrucciones de formato y la necesidad del chatbot de recordar las instrucciones de estilo desde el comienzo de la sesión. He probado muchas formas diferentes de simplificar las cosas, pero siempre he sentido que ChatGPT no puede manejar tantas instrucciones.
En particular, tuve dificultades frecuentes con el recuento de palabras y las viñetas. El modelo de lenguaje grande (LLM) rara vez me dio la cantidad de palabras que solicité (generalmente mucho menos de lo solicitado) y nunca escuchó si quería o no elementos puntuales.
A veces esto se puede solucionar: por ejemplo, si solicitaste 200 palabras con viñetas pero recibiste 300 palabras sin viñetas. Es relativamente fácil eliminar algunas palabras y agregar algunas viñetas. Lamentablemente, siempre sentí que me tocaban los errores más difíciles de solucionar.
Cuando pides 500 palabras sin viñetas y recibes 200 palabras con viñetas, básicamente tienes que hacer la mayor parte del trabajo tú mismo. Esto requiere una refactorización extensa y un esfuerzo significativo, lo que reduce la efectividad del uso de ChatGPT en estos casos.
2. Tendencia a exagerar: un problema con ChatGPT
Cuando le pides a ChatGPT algo específico, como usar un lenguaje amigable o la segunda persona, tiende a aferrarse a estos conceptos y a usarlos en exceso de manera notable. Esta exageración se considera una de las más destacadas. Desventajas de ChatGPT.
El lenguaje amigable se convierte en un chat de texto completo con emojis, y el modo de segunda persona de alguna manera se convierte en preguntas y referencias excesivas al lector con el objetivo de usar el pronombre "tú" tanto como sea posible. Este es uno de Desafíos de ChatGPT Entendiendo el contexto.
También tendrás dificultades si quieres un gran número de ejemplos o citas. Si simplemente le pides a GPT “mucho” o “muchas” cantidades de algo, probablemente te dará el doble o el triple de la cantidad que deseas. Si le das un número específico, probablemente lo ignorará por completo y te dará algo al azar. En otras palabras, difícilmente puedes controlar la salida. Este problema en el control de salida se considera Debilidad en ChatGPT Es necesario abordarlo.
3. A menudo se introduce en el texto información incorrecta o irrelevante.
Todos sabemos que la IA “alucina” y a veces se equivoca aleatoriamente con los datos; esto sucede con tanta frecuencia que hay que volver a verificar todo lo que dice, lo que consume mucho tiempo y afecta la cantidad de tiempo que se puede ahorrar al usarla. Las “alucinaciones de IA” son uno de los mayores desafíos que enfrenta su uso en la redacción de contenidos.
Para combatir esto, no pedí principalmente hechos o cifras. Lo intenté algunas veces al principio, pero el proceso de verificación de datos era realmente tedioso y pronto dejé de importarme.
El problema es que GPT arrojará información inexacta al azar en sus respuestas independientemente de que pidas hechos y cifras o no. Esto significa que no puedes simplemente comprobar qué tan bien se lee el texto o si estás satisfecho con los puntos que intentas plantear: tienes que verificar y considerar todo lo que dices. Es muy molesto. La validación es una parte fundamental del proceso de uso de modelos de lenguaje grandes (LLM).
Ya que estoy hablando de errores y alucinaciones, también podría mencionar los "peores escenarios posibles". A veces, un modelo de lenguaje grande (LLM) se desvía, y si bien esto no sucede todo el tiempo, cuando sucede, debes descartar esa sesión y dedicar algún tiempo a pegar tus indicaciones en un nuevo chat y comenzar de nuevo. Personalmente, no he visto a ChatGPT volverse realmente loco de una manera particularmente divertida, pero mi amigo una vez recibió esta joya:
4. Estilo de escritura de ChatGPT: repetitivo y cliché fácil.
Al principio, podría parecer una locura lo “humano” que suena ChatGPT. Pero a medida que lo uses más y más, te darás cuenta de que no sólo parece humano, parece una "persona normal".
Los conjuntos de datos de OpenAI incluyen la mayor parte del contenido de Internet: millones de artículos y foros personales en Reddit. Lamento decir que gran parte de este contenido es simplemente basura. Pero como ChatGPT está entrenado para ello, detecta todos los malos hábitos más comunes.
Entonces, cuando generas una gran cantidad de texto con ChatGPT, comenzarás a notar que algunas estructuras de oraciones y frases se vuelven muy repetitivas. Para mí, los dos peores ejemplos fueron las siguientes dos estructuras de oraciones:
- “De A y B a C y D, etc., etc., etc.” (ejemplo: En el mundo de TikTok, hay lugar para todos: desde entusiastas del bricolaje y expertos en belleza hasta amantes de las mascotas y profesores.)
- “Ya seas A o B, etc., etc., etc.” (ejemplo: Ya sea que recién esté comenzando o buscando avanzar, usar estrategias inteligentes para generar un compromiso real es clave para destacarse.)
A ChatGPT le gustan tanto estas dos estructuras de oraciones que estaba casi seguro de obtener tres o cuatro de ellas en cada sesión. Incluso estos dos ejemplos provienen del mismo párrafo en una de sus respuestas. La frase “en el mundo de…” en el primer ejemplo es otra forma en que le gusta comenzar una oración. Todo esto es aburrido, lleno de clichés y ridículamente usado en exceso (que es, por supuesto, la razón principal por la que ChatGPT los crea tan a menudo). Incluso intenté prohibir explícitamente ciertas frases y tipos de oraciones, comenzando cada mensaje con esta pequeña lista:
La gente dice que hoy en día es casi imposible distinguir entre un texto generado por IA y uno escrito por humanos, pero no estoy de acuerdo. Si intenta utilizar estas herramientas de IA y experimenta todos los problemas y malos hábitos, reconocerá muchas señales reveladoras. Cuando las personas mezclan contenido de IA con material escrito por humanos y editan en gran medida la mayor parte de la producción de ChatGPT, puedes ocultarlo por completo. Pero el contenido que viene directamente del modelo de lenguaje y se publica prácticamente tal cual, se nota. Puedes descubrirlo con bastante facilidad.
5. Dificultad para depurar o modificar con éxito la salida de modelos de lenguaje grandes (LLM).
El verdadero desafío es que ChatGPT rara vez puede solucionar los problemas por sí solo. Cuando las cosas salen mal, los intentos de explicar el problema y solicitar revisiones repetidas suelen fracasar.
Por ejemplo, cuando se solicita ajustar el número de palabras, a menudo se obtiene el mismo número. Cuando se solicita eliminar puntos, se enfatiza la implementación y luego se ofrece un punto positivo. Cuando se solicita ajustar el tono o el estilo, es difícil implementar el cambio de forma integral, lo que resulta en una mezcla inconsistente.
La solución puede ser repetir las indicaciones y regenerar las respuestas de ChatGPT hasta alcanzar aproximadamente el resultado deseado. Pero para los escritores, el uso de ChatGPT los obliga a asumir el papel de editor.
Puede que esto no sea un problema para todos (muchos escritores realizan alguna tarea de edición como parte de su trabajo), pero a otros les molesta. La idea de editar el trabajo de otras personas o la salida GPT no es deseable.
En cuanto a la frecuencia de errores, en cada sesión que dura horas con más de 30 indicaciones, siempre existe la posibilidad de encontrar algún obstáculo.
Resultado: me rendí.
Pasé meses intentando aprender a usar ChatGPT en 2023 y volví a usarlo después de actualizaciones importantes durante los siguientes dos años, pero mi experiencia nunca cambió. También se han probado otros modelos de lenguaje grandes (LLM), pero incluso los modelos más nuevos que utilizan “inferencia” y desencadenan un monólogo interno antes de responder todavía sufren los mismos problemas de usabilidad.
Modelos actuales de LLM Para mí, no acelera el proceso de escritura; lo único que hace es obligarme a pasar tiempo haciendo lo que odio en lugar de hacer tiempo para lo que disfruto. Si odias escribir y nunca quieres hacerlo, ChatGPT definitivamente puede ayudarte. Pero si escribir es un pasatiempo para ti o lo que eliges hacer para ganarte la vida, probablemente te volverá loco.
En definitiva, nunca he publicado nada que pueda llamarse "generado por IA". Cada vez que intentaba, como dicen, “integrarlo a mi flujo de trabajo”, terminaba dándome cabezazos contra la pared, perdiendo mucho tiempo y luego cerrando el programa cuando me daba cuenta de que no había logrado nada y que la fecha límite estaba a la vuelta de la esquina.
Los comentarios están cerrados.