La inteligencia artificial necesita reglas y marcos: por qué la gobernanza debe ir más allá de la política.

Las autopistas no son seguras simplemente porque los conductores obedezcan las leyes de tránsito. La seguridad depende de los límites de velocidad, las marcas viales y las barreras de seguridad que mantienen un flujo de tráfico fluido y ayudan a prevenir que los errores se conviertan en accidentes graves.

La gobernanza de la IA funciona de la misma manera. Las políticas establecen las reglas, pero los controles operativos son los que mantienen a las organizaciones en el buen camino a medida que cambian la tecnología, los usuarios y los riesgos.

A medida que las organizaciones aceleran la adopción de la inteligencia artificial, muchas se han centrado en desarrollar políticas, marcos de gobernanza y directrices de uso aceptable. Estos son pasos iniciales necesarios. Sin embargo, las políticas por sí solas no pueden impedir que los sistemas de IA accedan a datos incorrectos, interactúen con aplicaciones inapropiadas o generen riesgos operativos no deseados.

La Ley Europea de Inteligencia Artificial (Ley de IA de la UE) ha convertido la gobernanza de la IA en una cuestión que compete al consejo de administración, exigiendo a las organizaciones que utilizan o desarrollan IA que identifiquen, gestionen y documenten los riesgos, especialmente en el caso de sistemas de alto riesgo.

Esto ha generado nuevas expectativas en cuanto a supervisión, documentación, gobernanza de datos y transparencia. Sin embargo, la regulación por sí sola no resolverá el mayor desafío práctico: la adopción de la IA avanza más rápido que su gobernanza.

Los empleados utilizan herramientas de IA genéricas, los desarrolladores recurren a asistentes de programación y los equipos de negocio implementan capacidades de IA en las plataformas existentes. En muchos casos, estas tecnologías se introducen antes de que los equipos de seguridad, cumplimiento y gestión de riesgos comprendan completamente a qué pueden acceder, a qué sistemas afectan o cómo modifican el perfil de riesgo general de la organización.

Esta es la brecha entre la ambición organizacional y la realidad operativa. Las organizaciones pueden tener casos de uso de IA y marcos de gobernanza aprobados, pero a menudo solo gestionan una parte de la IA que realmente opera en toda la empresa.

Para superar esta brecha, es fundamental abordar la inteligencia artificial como un desafío operativo, no solo como un mero trámite de cumplimiento normativo. En la práctica, ir más allá de las políticas requiere comprender cómo se utiliza la IA, aplicar controles acordes a los riesgos empresariales y adaptar la gobernanza a las capacidades en constante evolución de la IA.

La IA oculta está cambiando el desafío de la gobernanza.

La gobernanza tradicional parte de la premisa de que las organizaciones conocen las tecnologías que se utilizan en toda la empresa. La inteligencia artificial ha transformado esta realidad. La IA oculta ya no se limita a los empleados que experimentan con herramientas públicas.

También incluye capacidades de IA integradas que se implementan mediante actualizaciones de software rutinarias, flujos de trabajo impulsados ​​por IA creados por usuarios empresariales y agentes independientes que operan en los sistemas de la empresa sin ser considerados proyectos formales de IA. Estas capacidades suelen adoptarse con mayor rapidez de la que los procesos de gobernanza pueden identificarlas, evaluarlas y gestionarlas.

Hoy en día, la inteligencia artificial no solo apoya a los empleados, sino que también actúa en su nombre. Los agentes de IA pueden recuperar información, activar flujos de trabajo, interactuar con los sistemas empresariales y tomar decisiones operativas utilizando los permisos heredados de las personas o los sistemas que representan.

Por este motivo, el panorama de los ataques en las organizaciones ha cambiado drásticamente. Los equipos de seguridad ya no solo protegen a las personas, los dispositivos y las aplicaciones, sino que también protegen los sistemas autónomos capaces de navegar por diferentes entornos, acceder a información confidencial, interactuar con flujos de trabajo críticos y tomar decisiones de forma independiente.

Cada nuevo agente de IA representa otra vía potencial para el mal uso accidental o la actividad maliciosa si no se gestiona adecuadamente.

La organización establece las reglas. El contexto construye los caminos.

La legislación europea sobre inteligencia artificial hace especial hincapié en la rendición de cuentas, la supervisión y la gestión de riesgos a lo largo de todo el ciclo de vida de la IA. Pero para cumplir con estas expectativas se necesita mucho más que simple documentación.

Las regulaciones definen los resultados que las organizaciones deben lograr; el desafío radica en traducir esos requisitos en una gobernanza operativa en entornos donde la inteligencia artificial está en constante evolución.

Esto comienza por comprender la inteligencia artificial en su contexto. El riesgo no puede evaluarse analizando un sistema de IA de forma aislada. Un asistente de IA que resume documentos internos puede parecer de riesgo relativamente bajo hasta que accede a información comercialmente sensible.

Del mismo modo, un agente de IA que automatiza las adquisiciones puede funcionar de forma segura en circunstancias normales, pero su perfil de riesgo cambia drásticamente si puede aprobar transacciones financieras, heredar identidades privilegiadas o iniciar acciones en sistemas empresariales críticos.

La definición de riesgo va más allá de la inteligencia artificial en sí misma, abarcando las identidades, aplicaciones, infraestructura, datos y procesos de negocio con los que está asociada. A medida que la IA se interconecta cada vez más entre estos sistemas, se vincula cada vez más con la ciberseguridad.

La innovación necesita reglas y fundamentos.

La inteligencia artificial seguirá transformando la forma en que las organizaciones operan, innovan y compiten. Sin embargo, las organizaciones que aprovecharán todo el potencial de la IA no serán aquellas con los documentos normativos más extensos.

Serán ellos quienes integren la gobernanza en las operaciones diarias, gestionen las identidades y los poderes de la IA con la misma disciplina que aplican a cualquier otro activo crítico y adapten continuamente los controles a medida que evolucione la tecnología.

La ley de IA de la UE ha generado expectativas en materia de rendición de cuentas, pero las instituciones que vayan más allá de las meras políticas y el cumplimiento normativo estarán mejor posicionadas para liberar todo el potencial de la inteligencia artificial.

En la era de la inteligencia artificial autónoma, la gobernanza ya no se trata solo de establecer reglas, sino de crear salvaguardas que permitan a las organizaciones innovar con confianza sin comprometer la seguridad, la confianza o la resiliencia.

Hemos analizado los mejores creadores de sitios web con inteligencia artificial.