Amenaza para la resiliencia: Mayor dependencia de los proveedores de IA

Ahora que la inteligencia artificial se ha convertido rápidamente en una parte integral de las operaciones comerciales globales, tiene el potencial de influir en todo, desde el análisis de datos hasta la toma de decisiones e incluso la seguridad.

Sin embargo, la mayoría de los debates se centran en las capacidades, el poder, la productividad y la precisión de la inteligencia artificial, e ignoran una cuestión clave.

Si bien todos están centrados en lo que sucede cuando se aplica la inteligencia artificial, muy pocos se preguntan qué ocurrirá cuando el acceso a las capacidades de IA desaparezca repentinamente.

Un ejemplo notable de esto es la controversia en torno a la recuperación del acceso de Anthropic a sus modelos de IA Fable y Mythos, que se centró principalmente en los plazos de cumplimiento y los mecanismos de control de exportaciones.

Sin embargo, pocos se han preguntado por qué tantas organizaciones descubrieron que una sola decisión externa, ajena a su control, había eliminado de la noche a la mañana una capacidad empresarial vital. En resumen, las interrupciones en el acceso a la IA son sintomáticas de un problema mucho mayor relacionado con la resiliencia operativa y revelan una brecha de gobernanza desatendida en lo que respecta a la dependencia.

A medida que las organizaciones integran la inteligencia artificial más profundamente en sus operaciones comerciales, deben cambiar su enfoque: en lugar de explorar si la IA es actualmente lo suficientemente segura, deben comenzar a cuestionarse si sus organizaciones podrán seguir operando si estos servicios de IA dejan de estar disponibles.

Seguridad no equivale a flexibilidad

Estos temas, de los que rara vez se habla, plantean una cuestión importante: que seguridad y resiliencia no son sinónimos.

La seguridad previene y protege los sistemas contra intrusiones. Esto bloquea el acceso de los atacantes, reduce el número de vulnerabilidades y protege contra actores maliciosos; todos ellos elementos cruciales para las operaciones de seguridad. La resiliencia, por otro lado, es la capacidad de continuar las operaciones comerciales cuando los sistemas, servicios o datos dejan de estar disponibles, independientemente del motivo.

Solemos asociar la resiliencia con situaciones como ciberataques o fallos en la infraestructura informática. La inteligencia artificial (IA) ha transformado el panorama de amenazas para las organizaciones, su forma de operar con ella y cómo se protegen. Ahora, las organizaciones deben planificar cada vez más las interrupciones en el acceso a herramientas y funciones esenciales de IA, causadas por decisiones geopolíticas, cambios normativos o modificaciones implementadas por los propios proveedores de tecnología.

El servicio no debería verse comprometido hasta el punto de quedar inaccesible. Una decisión política al otro lado del mundo puede tener el mismo impacto operativo. Lo vimos claramente con Anthropic.

Teniendo esto en cuenta, la resiliencia debe integrarse en el funcionamiento de la organización e incluir cualquier nueva infraestructura de IA, para garantizar la continuidad del negocio incluso ante interferencias políticas.

La inteligencia artificial está creando un nuevo tipo de dependencia de los proveedores.

Si bien las dependencias de software tradicionales suelen involucrar a un único proveedor o a unos pocos, la IA empresarial a menudo se basa en un ecosistema interconectado que la organización no posee ni controla. Cada capa adicional en el ecosistema de IA representa una dependencia y, por lo tanto, un posible punto de fallo.

Esto genera cuatro factores de riesgo que los conductores deben tener en cuenta:

Soberanía de los datos : Los datos empresariales pueden procesarse en jurisdicciones legales no controladas por la empresa, con visibilidad limitada sobre quién puede acceder a ellos o si se utilizan para entrenar modelos futuros.

Supremacía del modelo : Las organizaciones a menudo tienen poco o ningún control sobre la disponibilidad del modelo, las capacidades y los cambios de las funciones, o las decisiones de acceso, lo que las deja vulnerables si un proveedor decide repentinamente restringir el acceso o retirar funcionalidades.

Dependencia de la infraestructura : Gran parte del ecosistema actual de IA empresarial depende de un pequeño número de proveedores de servicios en la nube que operan bajo jurisdicciones nacionales específicas.

Riesgos de la cadena de suministro de IA : El sistema interconectado de modelos fundamentales, plataformas de computación en la nube y proveedores de software indica que cualquier interrupción en una capa puede propagarse rápidamente por toda la pila tecnológica.

Estos factores dependen cada vez más de la geopolítica que de la tecnología en sí misma.

Gobernanza de la IA: un tema en la agenda del consejo

La realidad es que un contrato con un proveedor por sí solo no puede garantizar el acceso ininterrumpido a las herramientas y plataformas en las que una organización ha invertido. Sin embargo, los marcos de gobernanza no han evolucionado lo suficiente para abordar este problema. Solo los marcos emergentes, como NIS2 y DORA, reconocen que la resiliencia debe ir más allá de la simple mitigación de las amenazas de ciberseguridad.

La mejor práctica para las organizaciones al tratar con contratos de proveedores y sus marcos de gobernanza es comprender de qué proveedores dependen y desarrollar planes de contingencia que les permitan operar sin problemas durante períodos de interrupción.

Ya sea que dependan de una plataforma de IA , una solución ITSM, un sistema CRM o cualquier otra tecnología crítica para el negocio, las organizaciones deben evaluar cómo continuarán operando si el acceso cambia de la noche a la mañana. La IA debe someterse al mismo escrutinio que cualquier otro recurso crítico de terceros.

Comience a implementar marcos de resiliencia antes de la próxima disrupción.

Además, los consejos de administración deben ser cautelosos al aceptar sin más las afirmaciones sobre las capacidades de la IA. Las organizaciones deben exigir pruebas de que las afirmaciones de los proveedores ofrecen resultados medibles.

Si bien la inteligencia artificial puede identificar rápidamente una gran cantidad de vulnerabilidades potenciales, la mera detección no mejora la resiliencia. La experiencia humana sigue siendo fundamental para validar los hallazgos, priorizar las soluciones según su impacto inmediato en el negocio y garantizar que los recursos se concentren donde reside el riesgo real.

La principal lección de la reciente crisis de la IA es lo mucho que muchas organizaciones subestiman su dependencia de tecnologías sobre las que no tienen un control firme. Ante el renovado debate entre los legisladores estadounidenses sobre un posible "interruptor de apagado" para la IA, este debería ser un tema prioritario.

Los líderes empresariales deben reconocer que, con cada oportunidad que ofrece la IA, el riesgo de dependencia de proveedores está siempre presente. Si usted fuera el director de tecnología de una gran organización hoy, se aseguraría de que los equipos de todos los departamentos de tecnología y seguridad comprendieran el origen de las capacidades críticas de IA, las dependencias en la cadena de suministro y cómo las operaciones podrían mantenerse ágiles si el acceso cambiara de la noche a la mañana.

En definitiva, el futuro del uso exitoso de la inteligencia artificial en las empresas estará determinado por la integración de estrategias de gobernanza y resiliencia en los planes de negocio, de modo que la actividad empresarial continúe de forma segura y normal durante las interrupciones comerciales, políticas y operativas.

Nuestro ranking de las mejores plataformas de copia de seguridad en la nube.