Empresa pierde contrato por mal uso de inteligencia artificial

Lo que pasó: El caso Exdrog y el uso de inteligencia artificial

En los últimos años , el aprovechamiento de la inteligencia artificial (IA) se ha convertido en una tendencia clave en el mundo empresarial actual. Muchas empresas buscan automatizar procesos, agilizar la preparación de documentos y lograr ahorros significativos mediante el uso de la IA. Sin embargo, el caso de Exdrog , una constructora que opera en la región de Małopolska, demuestra que, sin una supervisión adecuada y procedimientos de verificación de datos, el uso de la IA puede acarrear graves complicaciones. El equipo de análisis señala que problemas similares se han presentado en otros proyectos, donde los sistemas de IA generaron cronogramas o informes con errores.

En 2025, Exdrog perdió un contrato, lo que demostró de inmediato que el uso ineficiente y poco rentable de la inteligencia artificial (IA) puede generar costes empresariales significativos. La IA se implementó para agilizar la preparación de los documentos de licitación y reducir los gastos operativos. Sin embargo, en la práctica, surgieron riesgos importantes: la IA produjo datos que parecían precisos en apariencia, pero contenían errores fundamentales: procedimientos inexistentes, interpretaciones erróneas de las normativas y plazos parcialmente inexactos. Los profesionales de las industrias creativas han observado repetidamente que, si bien la IA puede acortar el camino hacia un resultado, no siempre garantiza su fiabilidad.

Inicialmente, el personal de Exdrog valoró la rapidez con la que los algoritmos generaban los documentos, considerándolo un ejemplo de cómo la automatización podía optimizar el trabajo de oficina. Sin embargo, un análisis más detallado reveló numerosos errores. Durante la evaluación de la oferta por parte del comité de licitación, se pusieron de manifiesto los típicos fallos de la IA : datos que parecían profesionales pero eran inexactos. El equipo editorial señala que los riesgos de usar IA en los negocios siguen siendo reales, especialmente con documentos oficiales, donde los errores pueden conllevar la descalificación de la licitación o responsabilidades legales.

El caso Exdrog demuestra que incluso las herramientas más sofisticadas requieren una supervisión rigurosa. Si bien la IA puede acelerar los procesos e impulsar la rentabilidad , sin una debida diligencia exhaustiva, es fácil incurrir en pérdidas financieras, sufrir daños a la reputación y enfrentar riesgos legales. Los expertos enfatizan que la IA en los negocios debe desempeñar un papel de apoyo, no reemplazar a los expertos humanos en la preparación de documentos de licitación o la realización de análisis técnicos.

La siguiente sección analiza el impacto de las "alucinaciones de IA" en la documentación de Exdrog, las consecuencias regulatorias y las conclusiones para las empresas que planean implementar IA en sus operaciones. Para las organizaciones interesadas en obtener beneficios de la IA , esto constituye una importante advertencia.

Detalles de la licitación y oferta

La licitación consistió en la modernización de las carreteras regionales del voivodato de Małopolska, y la documentación completa comprendía aproximadamente entre 280 y 300 páginas. El equipo editorial analizó cómo Exdrog utilizó la inteligencia artificial para generar justificaciones de costes, descripciones tecnológicas, plazos y respuestas a las preguntas del comité de licitación.

Inicialmente, la implementación se consideró un ejemplo de rentabilidad efectiva de la IA . Sin embargo, pronto surgieron problemas con la IA : errores relacionados con la creación de información aparentemente fiable pero inexacta. Estos errores incluían interpretaciones inexistentes de leyes, datos técnicos incorrectos y cálculos erróneos.

Explicación de los riesgos del uso de inteligencia artificial

La siguiente tabla describe las principales áreas donde la inteligencia artificial puede generar errores durante la preparación de los pliegos de condiciones. Los datos representan una síntesis de los problemas reportados en los medios de comunicación:

Este ejemplo ilustra que Exdrog perdió el contrato de IA no por falta de experiencia técnica, sino por una verificación inadecuada de los datos generados por sus sistemas de IA. Esta es una lección importante para las empresas que planean utilizar IA en documentos de licitación y otros procesos que requieren alta fiabilidad de los datos.

El fenómeno de las "alucinaciones de inteligencia artificial" y cuáles son sus peligros

Cuando Exdrog decidió utilizar inteligencia artificial (IA) para preparar los documentos de licitación, los expertos del sector señalaron el potencial de rentabilidad rápida que ofrecía la IA . Las herramientas basadas en IA permitieron crear explicaciones técnicas completas, cronogramas y estimaciones de costos en mucho menos tiempo que un equipo tradicional. Sin embargo, en la práctica, surgió un fenómeno típico de muchas aplicaciones de IA en los negocios: las llamadas alucinaciones de IA.

¿Qué son las alucinaciones de IA?

El término «alucinaciones de IA» se refiere a situaciones en las que un sistema de inteligencia artificial genera información que parece creíble, pero que en realidad es inconsistente con la realidad. No se trata de un error técnico clásico: el modelo lingüístico carece de conciencia y, por lo tanto, no «sabe» que está equivocado. Crea contenido basándose en patrones de datos de entrenamiento, conectándolos de una manera aparentemente lógica, pero objetivamente incorrecta.

En el caso de Exdrog, que fue analizado, la IA generó cronogramas, datos de costos y explicaciones técnicas que parecían profesionales, pero que podían inducir a error al comité de evaluación de ofertas. Según los informes disponibles, aparecieron datos relacionados con tecnologías, procedimientos e interpretaciones de regulaciones que no se encontraban en ninguna norma aplicable. El comité detectó irregularidades, lo que llevó a la descalificación de la empresa del proceso por parte de KIO. Este incidente subraya los riesgos significativos asociados con el uso de la IA en los negocios , particularmente en áreas que requieren alta precisión.

Ejemplos de problemas con documentos

Según el análisis de la industria y las observaciones de expertos, las alucinaciones de IA pueden adoptar diversas formas, entre ellas:

• Datos numéricos incorrectos: La inteligencia artificial genera cronogramas o estimaciones de costos que parecen claros y profesionales, pero difieren de las suposiciones reales del proyecto. En la documentación de Exdrog, esto se relaciona, entre otras cosas, con la subestimación o sobreestimación de los tiempos de ejecución en las fases de obra vial.
• Procedimientos o técnicas inexistentes: Los sistemas de IA pueden identificar métodos o materiales de implementación que no han sido aprobados según las normas técnicas aplicables. La documentación de Exdrog incluía sugerencias para el uso de tecnologías que no estaban disponibles en el mercado local ni aprobadas en Polonia.
• Falsas interpretaciones de la normativa: La inteligencia artificial puede generar datos similares a análisis jurídicos profesionales, pero basados ​​en interpretaciones fiscales o estándares del sector inexistentes. En el caso de Exdrog, la presencia de dicho contenido fue una de las razones de su descalificación de la licitación.

La recopilación de estos ejemplos subraya que, si bien la inteligencia artificial puede respaldar las operaciones comerciales, cualquier empresa que planee beneficiarse de ella debe considerar el riesgo de un uso indebido y la necesidad de que especialistas verifiquen los datos. La IA no reemplaza a los humanos en su función de revisores responsables de contenido técnico y oficial.

¿Por qué son tan altos los riesgos?

El fenómeno de las alucinaciones de IA no se limita a las licitaciones ni al sector de la construcción. Cualquier proceso en el que una herramienta de IA genere contenido que requiera un alto nivel de precisión o conocimientos jurídicos o técnicos es susceptible a errores similares. Desde una perspectiva regulatoria, esto significa:

• Posibles pérdidas económicas derivadas del uso de datos incorrectos.
• Riesgos legales en el trato con contratistas e instituciones.
• Una seria amenaza para la reputación si se revelan errores.
• Es necesario implementar procedimientos de verificación adicionales.

El caso de estudio de Exdrog sugiere que la IA en los negocios debe considerarse un apoyo, no una fuente independiente de información absolutamente certera y fiable. Las alucinaciones provocadas por la IA ponen de manifiesto la importancia de la supervisión y el control humanos.

En resumen, el fenómeno de las alucinaciones generadas por la IA es uno de los desafíos más importantes que enfrentan las empresas que implementan soluciones basadas en IA . Los documentos generados por algoritmos pueden parecer profesionales, pero sin la supervisión adecuada, pueden exponer a las organizaciones a riesgos graves. En el caso de Exdrog, las consecuencias fueron severas: pérdida de contratos y disminución de la confianza del mercado. Desde una perspectiva editorial, las conclusiones son inequívocas: la IA requiere una supervisión responsable.

Consecuencias para la empresa y el mercado

La pérdida del contrato de Exdrog se convirtió en un claro ejemplo de cómo el mal uso de la inteligencia artificial (IA) puede acarrear graves consecuencias para las empresas. La decisión de utilizar IA en el negocio tenía como objetivo agilizar la documentación y aumentar la rentabilidad , pero en la práctica surgieron los riesgos típicos asociados a la automatización. El sistema de IA generó datos que parecían fiables, pero contenían errores de hecho en los plazos, las estimaciones de costes y las interpretaciones normativas. El comité de licitación identificó estos errores de inmediato, descalificando a Exdrog del proceso. Los expertos en tecnología señalan que los riesgos de utilizar IA en los negocios son reales, y una implementación inadecuada puede resultar en la pérdida de contratos, pérdidas financieras y daños a la reputación.

Además, los expertos que analizan el caso enfatizan que el incidente de Exdrog forma parte de una tendencia más amplia observada en el mercado. Muchas empresas que implementan herramientas de IA carecen de procedimientos de seguridad, protocolos de verificación de datos y estándares para una operación responsable con la automatización. En consecuencia, incluso las empresas que funcionan bien pueden exponerse a errores que no se deben a acciones deliberadas, sino a la falta de conocimiento de las limitaciones de la tecnología. En la práctica, esto requiere el desarrollo gradual de nuevos estándares de calidad, auditoría y rendición de cuentas, garantizando que la IA respalde los procesos existentes y no genere riesgos operativos y financieros adicionales.

Exclusión de la licitación

La consecuencia más inmediata fue la descalificación de Exdrog de la licitación por parte de la Cámara Nacional de Apelaciones (KIO). El comité concluyó que algunos datos de los documentos eran incorrectos o no verificables, lo que, según la Ley de Licitaciones, constituía una base inequívoca para la descalificación. En la práctica, esto significó la pérdida de un contrato por un valor aproximado de 15.5 millones de zlotys polacos, un proyecto que podría haber afectado significativamente los ingresos y el desarrollo de la empresa.

La decisión de KIO fue clara: la falta de verificación de los datos generados por IA no justifica errores. Aunque las herramientas basadas en IA agilicen la creación de documentos, la responsabilidad de su precisión recae en el contratista. En el caso de Exdrog, los métodos de trabajo innovadores resultaron insuficientes para cumplir con los requisitos oficiales.

Riesgos legales y reputación

Perder el contrato es solo una parte de las consecuencias. Los analistas señalan también importantes riesgos legales y para la reputación . Las interpretaciones de la IA, que hacían referencia a leyes inexistentes, podrían interpretarse como engañosas para las instituciones públicas. En casos extremos, estas situaciones podrían dar lugar a nuevas acciones legales, sanciones económicas o la necesidad de dar explicaciones a los organismos reguladores.

Las implicaciones para la imagen de la empresa también son significativas. Información sobre errores en los documentos generados por IA de Exdrog ha aparecido en medios especializados, como Business Insider y Puls Biznesu. Para contratistas e inversores, esto sugiere que la empresa podría tener dificultades para verificar los datos de forma fiable, incluso utilizando herramientas tecnológicas avanzadas. En la práctica, esto se traduce en una mayor cautela en futuras negociaciones comerciales y posibles dificultades para conseguir nuevos contratos.

En un contexto de mercado más amplio, el caso Exdrog subraya que los riesgos del uso de la IA en los negocios afectan a todas las empresas que la utilizan para crear documentos oficiales, análisis financieros o cronogramas de proyectos. Los errores reiterados pueden dar lugar a una mayor supervisión por parte de los reguladores del sector, lo que incrementa los costes operativos y prolonga los procesos de toma de decisiones para toda la industria.

Consecuencias a largo plazo de Exdrog

Para la propia empresa, las consecuencias son multidimensionales:

• المالية: Pérdida de contrato y falta de ingresos de un gran proyecto.
• reputación: La información sobre errores de IA ha llegado a los medios, afectando la confianza de clientes y socios.
• Operacional: La necesidad de implementar procedimientos de control y auditoría de datos de inteligencia artificial,
• Legal: El riesgo de reclamaciones o la necesidad de aclarar el proceso en futuras licitaciones.

Esto envía un mensaje claro al mercado: la IA en los negocios es una herramienta poderosa, pero requiere responsabilidad, supervisión y verificación. La falta de supervisión podría acarrear graves daños financieros, legales y de reputación.

Lecciones para las empresas: Cómo utilizar la inteligencia artificial en los negocios de forma segura

El caso Exdrog sirve como un valioso ejemplo para que los expertos lo analicen. Demuestra que, si bien la rentabilidad de la inteligencia artificial y su uso generalizado en los negocios pueden generar beneficios significativos, una implementación inadecuada de la tecnología puede acarrear graves consecuencias. Incluso los sistemas más avanzados no pueden reemplazar la supervisión humana, los procedimientos de verificación ni el control de calidad de los datos. Las empresas que implementan IA en documentos oficiales, propuestas de licitación y análisis de negocio deben considerar los riesgos típicos: datos inexactos, interpretaciones erróneas de las normativas y plazos incompletos.

En el caso de Exdrog, el uso de la IA sí aceleró la preparación de documentos, pero al mismo tiempo puso de manifiesto importantes deficiencias en los procesos de supervisión. Como señalan los analistas, el equipo de la empresa se percató con relativa rapidez de que las explicaciones, las estimaciones de costes y los plazos generados requerían una rigurosa verificación humana. La falta de esta verificación provocó la pérdida del contrato. En efecto, la lección es clara: la IA puede contribuir a una rápida rentabilidad , pero solo en combinación con la supervisión humana, la auditoría de datos y las medidas de seguridad adecuadas.

Auditoría y verificación de datos de IA

La base del uso seguro de las herramientas de IA reside en la auditoría y verificación de los datos que generan . Cada dato utilizado en los procesos de toma de decisiones debe ser examinado por un profesional cualificado. En la práctica, esto significa, entre otras cosas:

• Controlar estimaciones de costos, cronogramas e interpretaciones técnicas.
• Verificar las fuentes y estándares a los que se refiere la inteligencia artificial,
• Realizar pruebas periódicas de los sistemas de inteligencia artificial en busca de errores, alucinaciones e incumplimientos de las regulaciones.

Gracias a esto, la inteligencia artificial puede apoyar la automatización de procesos, reduciendo al mismo tiempo el riesgo de errores que conduzcan a la exclusión de licitaciones, pérdida de reputación o auditorías regulatorias adicionales.

Responsabilidad humana versus inteligencia artificial

La práctica del sector demuestra claramente que la inteligencia artificial (IA) es una herramienta de apoyo, no un sustituto del trabajo humano. Todo proyecto, contrato o documento oficial creado con IA debe someterse a una revisión manual. Esta es la única forma eficaz de minimizar los riesgos, garantizar el cumplimiento normativo y aprovechar de forma segura el potencial de la IA en los negocios.

Principios del uso responsable de la inteligencia artificial

Al trabajar con inteligencia artificial (IA), a menudo se percibe que estas herramientas son un atajo mágico hacia el éxito. Sin embargo, estudios de caso de empresas como Exdrog demuestran que es fundamental una clara separación entre la responsabilidad humana y la IA. La IA debe considerarse únicamente como una herramienta de apoyo , y toda decisión basada en datos generados por IA requiere la verificación de un especialista. La revisión periódica del contenido generado reduce los riesgos asociados con las ilusiones y la información inexacta que podría inducir a error a quienes toman las decisiones.

La aplicación de este enfoque permite lo siguiente:

• Reducir los riesgos legales y financieros,
• Mayor confianza entre clientes y contratistas,
• Mantener la reputación en caso de inspecciones o auditorías,
• Uso efectivo de la inteligencia artificial manteniendo el control total sobre las operaciones.
• Identificar posibles errores antes de que afecten los resultados de licitaciones o proyectos.

Procedimientos de control

Las empresas deben implementar procedimientos de control que incluyan, entre otras cosas:

• Listas de verificación para verificar datos generados por inteligencia artificial,
• Comprobar la calidad de la información antes de enviar documentos a clientes o instituciones públicas.
• Capacitar a los empleados para reconocer las alucinaciones de la IA y analizar críticamente los resultados de los sistemas de IA.

Estos procedimientos permiten maximizar los beneficios de la inteligencia artificial, como el ahorro de tiempo y recursos, a la vez que reducen el riesgo de errores costosos, como es el caso de Exdrog.

Cultura de uso responsable de la inteligencia artificial

La lección más importante que se desprende del caso Exdrog es la necesidad de construir una cultura de uso responsable de la IA . La IA debe ser tratada como un socio tecnológico, no como un atajo mágico hacia el éxito. Los elementos clave de esta cultura incluyen:

• Conciencia de las capacidades y limitaciones de la inteligencia artificial,
• Seguimiento periódico de los resultados de los sistemas de inteligencia artificial,
• Procedimientos de escalamiento en caso de que se descubran errores.
• Planes de contingencia en caso de datos incorrectos o análisis defectuosos.

El caso Exdrog demuestra que los riesgos de usar inteligencia artificial en los negocios son reales. La combinación de automatización, supervisión humana y rendición de cuentas permite que la IA se utilice como apoyo, no como fuente de errores costosos.

En conclusión: la inteligencia artificial es una herramienta, no un atajo hacia el éxito.

El caso de Exdrog ejemplifica la importancia crucial de una implementación responsable de la IA en los negocios. Ni siquiera los sistemas más avanzados pueden reemplazar la supervisión, el conocimiento y los procedimientos de seguridad humanos. La IA puede acelerar procesos, generar informes y analizar datos, pero sin verificación ni control, su uso conlleva riesgos significativos.

Las conclusiones más importantes para las organizaciones son:

• La inteligencia artificial no es infalible: Las alucinaciones de IA pueden generar datos que parecen creíbles pero en realidad son falsos, lo que podría tener consecuencias graves en los documentos oficiales.
• La supervisión humana es esencial: Cada pieza de información generada por inteligencia artificial debe ser revisada y aprobada por una persona.
• Los riesgos financieros y reputacionales son reales: La falta de control sobre el contenido de la IA puede provocar la pérdida de contratos, pérdidas financieras y una disminución de la confianza de los socios comerciales.
• Los procedimientos y procesos de auditoría reducen los riesgos: Las listas de verificación, las auditorías y la capacitación permiten el uso seguro de la inteligencia artificial y maximizar los beneficios.

En términos prácticos, esto significa que la inteligencia artificial debe considerarse únicamente como una herramienta . Las empresas que asumen que la simple implementación de esta tecnología aumentará la eficiencia y las ganancias se arriesgan a sufrir graves consecuencias, como se vio con Exdrog. Combinar el potencial de la IA con la rendición de cuentas, la supervisión y la experiencia permite obtener beneficios reales sin poner en peligro la reputación ni la estabilidad financiera.

En resumen, los riesgos de usar inteligencia artificial en los negocios son reales, pero con el enfoque adecuado, pueden minimizarse. Es fundamental conocer las limitaciones del sistema y la importancia de la supervisión y verificación humanas. La IA no reemplazará a los humanos, pero puede convertirse en un apoyo indispensable en los procesos empresariales, permitiendo un crecimiento impulsado por la IA de forma segura y eficiente.

El caso Exdrog deja una lección importante: la tecnología es poderosa, pero la responsabilidad y la competencia humanas siguen siendo esenciales en los procesos de negocio, la documentación y las licitaciones.

Asesoramiento de expertos

El consejo editorial, con el apoyo de expertos en inteligencia artificial, derecho y auditoría tecnológica, señala que el caso Exdrog constituye una advertencia crucial: el uso de IA generativa en documentos comerciales y licitaciones requiere una verificación rigurosa. Un error de verificación puede tener graves consecuencias.

Puls Biznesu y la Cámara Nacional de Apelación informaron que Exdrog presentó una explicación de 280 páginas para la licitación, en la que, entre otras cosas, la inteligencia artificial generó interpretaciones fiscales ficticias. La Cámara Nacional de Apelación determinó que la empresa “no verificó la información generada por la IA y proporcionó información engañosa” a la parte solicitante. ( Puls Biznesu/KIO )

Expertos técnicos advierten que la inteligencia artificial generativa, especialmente en el contexto de documentos oficiales, puede producir las llamadas «alucinaciones»: contenido que parece convincente pero que no se basa en hechos. Según un informe de NeuralTrust, estos errores representan un grave riesgo reputacional y legal para las empresas. ( NeuralTrust – Riesgo empresarial de las alucinaciones )

• Verifique siempre el contenido que genera la inteligencia artificial: Especialmente en documentos oficiales, financieros o relacionados con licitaciones, no se puede dar por sentado que la inteligencia artificial funcione a la perfección.
• Introducir procedimientos de auditoría de IA: Utiliza mecanismos de intervención humana, de modo que un humano pueda verificar los componentes clave creados por la inteligencia artificial.
• Establecer una política para el uso responsable de la inteligencia artificial: Determine cuándo puede confiar en la inteligencia artificial y cuándo es necesaria una verificación manual completa.

Para los empresarios y contratistas de licitaciones, la recomendación de los editores es inequívoca: el uso de inteligencia artificial puede proporcionar una ventaja, pero requiere cautela, estructura y supervisión; de lo contrario, el costo de los errores podría ser muy alto.