Inteligencia artificial oculta: no solo un problema de seguridad, sino también una cuestión jurídica según la legislación de la UE.

Es improbable que el incidente de ciberseguridad más grave que su organización podría enfrentar este año, derivado de la inteligencia artificial , provenga de atacantes externos que utilicen modelos nuevos y sofisticados. Lo más probable es que comience con un empleado que copie y pegue un contrato con un cliente, una previsión financiera o un conjunto de registros de recursos humanos en una herramienta de IA porque le facilita el trabajo, sin que nadie le explique por qué es importante.

La IA en la sombra es un problema creciente, y nuestra investigación ha revelado que casi la mitad de los empleados de grandes empresas introducen regularmente datos corporativos confidenciales en herramientas de IA que no han sido aprobadas ni gestionadas por sus departamentos de TI.

Aún más alarmante es que el 85 % de los empleados persiste en este comportamiento incluso cuando disponen de herramientas aprobadas por la empresa, lo que evidencia una falla en la gobernanza que se extiende hasta los niveles ejecutivos más altos. Con la IA sigilosa, los datos confidenciales pueden filtrarse silenciosamente a través de canales que la mayoría de los sistemas de seguridad no están diseñados para interceptar.

Además de los riesgos de seguridad que plantea este flujo incontrolado de datos, la entrada en vigor de la Ley de IA de la UE implica que las organizaciones ahora deben cumplir con requisitos legales específicos para la gestión del uso de la IA. La capacidad de garantizar una gobernanza integral sobre cómo se implementa, gestiona y supervisa la IA se ha convertido en un imperativo fundamental en materia de regulación y seguridad.

¿Por qué la ley de IA de la UE convierte esto en un asunto que debe tratarse a nivel de la junta directiva?

La IA en la sombra supone una grave amenaza para la seguridad. El informe de IBM de 2026 sobre el coste de las filtraciones de datos estima que las herramientas no autorizadas contribuyeron al 43 % de las filtraciones del año pasado. Ahora, la Ley de IA de la UE añade importantes requisitos normativos a estos riesgos.

Las obligaciones legales se han ido implementando por etapas; más recientemente, las organizaciones clasificadas como usuarias públicas de inteligencia artificial quedaron sujetas a nuevos requisitos relacionados con el inventario, la gobernanza de datos, el registro de auditorías y la transparencia a partir del 2 de agosto de 2026.

Se han pospuesto otros plazos, y los controles relacionados con el uso de inteligencia artificial de alto riesgo, que abarcan áreas como la contratación, la calificación crediticia y la calificación biométrica, entrarán en vigor a partir del 2 de diciembre de 2027. La IA integrada en productos regulados estará regulada a partir del 2 de agosto de 2028.

Cualquier organización cuyos empleados utilicen sistemas de inteligencia artificial tiene ahora obligaciones de cumplimiento como implementador, independientemente de si esos sistemas han sido autorizados oficialmente.

Todas las organizaciones que utilizan inteligencia artificial deben tener en cuenta que la obligación de alfabetización en IA, según el artículo 4, está en vigor desde febrero de 2025, lo que significa que las organizaciones son responsables de garantizar que sus empleados conozcan el uso seguro y autorizado de la IA.

Las normas para el uso de inteligencia artificial de alto riesgo no se limitarán a lo que pueda parecer a primera vista, sino que incluirán operaciones más amplias, como el uso por parte de un empleado de una herramienta de consumo no autorizada (como aplicaciones de IA ) en tareas como la revisión de currículos, la evaluación de la solvencia crediticia o la evaluación del desempeño.

Se trata de tareas comunes que podrían dar lugar a que la ley otorgue plenos poderes de control sobre un sistema del que el departamento de TI ni siquiera tenía conocimiento.

Con sanciones que pueden alcanzar los 15 millones de euros o el 3 % de los ingresos anuales globales por infracciones de alto riesgo, muchas organizaciones están asumiendo más riesgos de los que se dan cuenta.

¿Por qué su sistema de seguridad actual no puede detectar eso?

El problema de la inteligencia artificial sigilosa es que explota los puntos ciegos entre las capas de seguridad tradicionales, colándose por huecos que la mayoría de las herramientas no están diseñadas para cerrar.

Por ejemplo, las soluciones CASB y las pasarelas web seguras no pueden descifrar los datos conversacionales que fluyen hacia dominios LLM legítimos a través de HTTPS. Desde la perspectiva de la red, un enrutador que contiene una base de datos completa de clientes es indistinguible de cualquier otra sesión web cifrada. Además, las extensiones del navegador se limitan a los puntos finales administrados y no son compatibles con dispositivos personales ni con la IA integrada en aplicaciones SaaS legítimas.

Del mismo modo, las pasarelas API suelen diseñarse en torno a implementaciones empresariales aprobadas, lo que significa que registran la actividad de IA que ya ha sido aprobada por las organizaciones, ignorando las herramientas de IA orientadas al consumidor, que son las que presentan mayor riesgo.

Estos puntos ciegos se acumulan entre sí, por lo que una organización que gestione las tres capas aún puede carecer de una visibilidad completa de la actividad de la IA en una gran parte de sus activos, y no tener medios para crear registros de interacción o pruebas de cumplimiento de políticas requeridas por ley.

¿Cómo es el proceso de descubrir una inteligencia artificial eficaz?

Los flujos de datos de IA suelen estar controlados por empleados que desempeñan sus funciones sin mala intención. Sin embargo, esto es muy similar a defenderse de una amenaza externa que podría acceder a sus datos de forma encubierta.

La lógica de detección debe ajustarse a esta realidad. La detección auténtica de puntos finales intercepta los datos confidenciales en el punto de transmisión, antes de que lleguen a un sistema de IA externo, y aplica políticas a nivel de enrutador en navegadores gestionados y no gestionados, dispositivos personales y funciones de IA integradas en herramientas SaaS. Opera donde se produce la actividad, en lugar de intentar detectarla en etapas posteriores.

Dado el posible importe de las multas, la capacidad de demostrar el cumplimiento es tan importante como la prevención de las brechas de seguridad.

La detección continua en todos los activos, incluidas las herramientas no autorizadas, proporciona a las organizaciones el inventario de sistemas de IA exigido por ley.

Los registros detallados de interacción —que muestran quién usó qué, cuándo y qué datos estuvieron involucrados— cumplen con los requisitos de documentación de los artículos 12 y 13, eliminando la necesidad de que los equipos intenten reconstruir la actividad desesperadamente una vez ocurrida. Estos mismos registros también identifican con precisión las lagunas en el conocimiento de la IA, lo que hace que el cumplimiento del artículo 4 sea demostrable en lugar de simplemente afirmable.

Pasos prácticos para el cumplimiento

Los equipos de seguridad y cumplimiento normativo que buscan cumplir con la legislación de la UE sobre IA encuentran un camino claro que pueden seguir.

El punto de partida es crear un mapa exhaustivo de todos los activos de IA. La divulgación debe ir más allá de las herramientas aprobadas por el departamento de TI e incluir dispositivos no gestionados, dispositivos personales conectados a redes corporativas e IA integrada en soluciones de software como servicio (SaaS).

La gobernanza de datos debe trasladarse al extremo de la red. Las políticas que prohíben compartir datos confidenciales con herramientas no autorizadas no son controles técnicos, y para cuando estas políticas se aplican en el extremo de la red, los datos ya han salido.

Es importante recordar que la información compartida con un sistema de IA externo puede almacenarse en registros de eventos, incorporarse a los datos de entrenamiento del modelo o guardarse en servidores ubicados en jurisdicciones a las que la organización no tiene acceso. En el momento en que los datos cruzan este umbral, la organización pierde el control total sobre ellos y ningún documento de política puede recuperarlos. Esto aumenta el riesgo de ciberataques mediante IA.

Dado que el artículo 12 exige que se registren las interacciones con los organismos reguladores cuando estos lo soliciten, las organizaciones deberán realizar auditorías automatizadas y continuas tanto de las actividades como de los procedimientos de seguridad.

Finalmente, los programas de alfabetización en IA, destinados a mejorar la comprensión del usuario, deberían basarse en datos de comportamiento en lugar de programas de capacitación generales. Los registros de actividad que revelan fallas de gobernanza —tanto en el nivel de liderazgo más alto como en cualquier otro ámbito— proporcionan tanto un diagnóstico del problema como las pruebas que los reguladores querrán ver.