Superar el principal obstáculo que dificulta la activación de la inteligencia artificial.

Intentar integrar entidades no deterministas en estos modelos supone para los ingenieros un tiempo del que carecen e introduce riesgos que ninguna organización puede gestionar. El verdadero peligro reside en esta brecha.

Eve Contsevoy

El director ejecutivo de Teleport.

Muchos proyectos se han estancado debido a la preocupación por su implementación sin una base de seguridad sólida, y con razón. Ya hemos visto cómo un agente borraba la base de datos de productividad completa de una empresa, junto con sus copias de seguridad, en nueve segundos. Se les pide a los equipos de seguridad que eviten este tipo de situaciones utilizando herramientas diseñadas para un entorno con solo dos actores. Están empezando a aparecer fisuras. Algo tiene que cambiar, o la innovación se estancará bajo sus propias limitaciones. Los riesgos de ciberseguridad aumentan a medida que crece la dependencia de la inteligencia artificial.

Los agentes de IA requieren un nuevo modelo de identidad.

La presión sobre los equipos de producción e ingeniería para acelerar las entregas es real y generalizada. Por lo tanto, a menudo recurren a viejos hábitos, como otorgar a los agentes privilegios excesivos y tratarlos como cualquier otro microservicio.

Pero los agentes de IA son muy diferentes de las máquinas; son falibles e indeterminados, igual que los humanos. Sin embargo, operan a velocidad de máquina, las 24 horas del día, los 7 días de la semana. Un agente puede borrar bases de datos de productividad completas en nueve segundos. ¿Cuántos humanos conoces que puedan hacer eso?

Esto me lleva al meollo del problema. Los sistemas de identidad se diseñaron para un mundo con dos tipos de actores —humanos y máquinas—, pero ahora hay tres. Intentar integrar IA proxy en sistemas heredados convierte a cada proxy en una fuente potencial de intrusión, capaz de ejecutar miles de acciones en toda la infraestructura en cuestión de segundos.

Sin embargo, esto es precisamente lo que se les exige a los ingenieros: prevenir escenarios catastróficos mediante el uso de herramientas obsoletas de gestión de identidades y accesos (IAM) que están empezando a fallar. Las grietas ya se hacen evidentes.

¿Por qué se está desmoronando el antiguo modelo?

Históricamente, los ingenieros que trabajan con clústeres de Kubernetes, plataformas en la nube, orquestación de contenedores, pipelines de CI/CD, bases de datos, etc., han sufrido la fragmentación de la identidad.

En lo que respecta a la mano de obra humana, esto era manejable. Se podía hacer un seguimiento de los trabajadores; fichaban al entrar y al salir. Eran lo suficientemente lentos como para que los lapsos de visibilidad rara vez se convirtieran en accidentes inmediatos.

Con la llegada de la IA proxy, la velocidad aumenta drásticamente. De repente, los equipos se ven inundados con miles de registros de actividad y carecen de la capacidad de contener eficazmente al proxy antes de que realice cambios no autorizados.

Intentar implementar una autenticación sólida y privilegios a corto plazo implicaría crear integraciones individuales para cada herramienta del conjunto. Esto dificulta la escalabilidad de la IA cuando cada herramienta utiliza un protocolo de integración diferente.

En lugar de centrarse en la innovación mediante el uso de IA proxy, los ingenieros se ven obligados a vincular manualmente la gestión de identidades y accesos (IAM), la infraestructura y los secretos, sin una identidad coherente, sin visibilidad de las acciones del proxy y con cada equipo creando su propio flujo de trabajo de contenedores o máquinas virtuales desde cero.

Sin embargo, crear una nueva herramienta para gestionar un tercer tipo de identidad es la peor respuesta posible para el sector. Duplicaría el trabajo de los ingenieros, quienes tendrían que reconstruir la política de identidades desde cero e incorporar un nivel de anonimato aún mayor. El nuevo sistema de identidades sería anónimo para otros sistemas aislados, lo que dificultaría aún más la detección de atacantes.

Esto nos lleva a preguntarnos cómo controlan las organizaciones el comportamiento de los agentes. La solución no consiste simplemente en añadir "Plus" a la pila tecnológica o implementar herramientas "Plus"; se trata de cambiar nuestros modelos de identidad para eliminar por completo el anonimato.

Controlar la inteligencia artificial significa anonimato total.

Para eliminar el anonimato en la infraestructura, las organizaciones deben otorgar a cada actor —ya sea humano, máquina, carga de trabajo o agente de IA— identidades de primera clase, protegidas criptográficamente mediante una raíz de confianza física. Es imperativo replantear fundamentalmente la estrategia de infraestructura.

Elimine por completo las credenciales persistentes. Eliminar las claves API y las contraseñas evita la propagación de credenciales que provocan filtraciones, así como el riesgo de que se roben secretos o se entreguen a personas no autorizadas. Al basar la identidad en factores del mundo real, los atacantes no pueden suplantar la identidad de una máquina de confianza ni engañar a un agente para que extraiga una base de datos.

Pero una autenticación sólida por sí sola no basta. Los agentes de IA, al igual que todos los demás actores, deben adherirse a los principios de confianza cero. Esto solo es posible cuando los sistemas aislados se reemplazan por una capa de infraestructura donde los agentes tienen exactamente el mismo tipo de identidad que las máquinas que operan y los humanos que los autorizan.

Los agentes deben operar con privilegios temporales directamente vinculados a acciones específicas autorizadas por un usuario humano. El privilegio está ligado a la acción, no al usuario. Por ejemplo, un agente que genera código debe heredar su autorización de un usuario humano con la misma autoridad, lo que restringe los privilegios únicamente a las hojas de cálculo específicas necesarias para esa tarea.

Los actores no deterministas también requieren un entorno de ejecución seguro y fiable antes de poder interactuar con la infraestructura de producción.

Sin privilegios predeterminados, el alcance del daño es extremadamente limitado. Pero esto solo se puede lograr cuando un único sistema establece una política única para todas las identidades.

También se puede introducir una política de identidad como capa de control entre el agente y su punto final de inferencia, de modo que el comportamiento se controle antes de que se ejecuten las instrucciones.

Con una arquitectura unificada, la identidad se convierte en el nivel de control para la inteligencia artificial.

Los agentes de IA abren enormes oportunidades en entornos empresariales, especialmente cuando se implementan en infraestructuras en producción, donde ofrecen el mayor valor. Desde la gestión de cambios rutinarios hasta mejoras en la implementación en tiempo real, las posibilidades son infinitas. El éxito de la IA en procesos empresariales tan críticos requiere un control estricto de su comportamiento.