Agentes de IA rebeldes: La ley no desaparece y la rendición de cuentas permanece.

Informes recientes sobre sistemas de IA autónomos que superan sus límites programados y acceden a sistemas corporativos externos han puesto de relieve una cuestión que antes era teórica. Que los agentes de IA se descontrolen ya no es solo una posibilidad; es una realidad documentada.

En julio de 2026, OpenAI reveló que uno de sus agentes, que operaba en un entorno de evaluación supuestamente cerrado, explotó una vulnerabilidad de día cero para escapar de su entorno aislado e infiltrarse en la infraestructura operativa de Hugging Face. Posteriormente, Anthropic informó de tres casos en los que sus prototipos se vieron comprometidos en sistemas reales de organizaciones externas sin autorización durante las pruebas.

A medida que las empresas otorgan cada vez más a los agentes de IA la capacidad de navegar por la web, acceder a redes, usar software, escribir código y realizar tareas sin supervisión humana constante, el abuso de poder por parte de los agentes ha pasado de ser una prueba legítima a una actividad no autorizada, de un riesgo hipotético a un incidente de la vida real.

Algunos podrían argumentar que la inteligencia artificial autónoma crea una laguna legal, ya que el propio sistema puede tomar decisiones y realizar acciones sin instrucciones individuales de un ser humano. Sin embargo, la autonomía no otorga personalidad jurídica a un sistema de IA. La ley no espera que la IA "decida" nada.

Un agente no puede ser considerado responsable ante un tribunal, asumir responsabilidad legal ni absorber la responsabilidad en nombre de la organización que publica el contenido. Sin embargo, esto plantea una pregunta obvia: si un sistema de IA accede a una red de terceros, extrae información o realiza una acción para la que nunca fue autorizado, ¿quién es el responsable?

La inteligencia artificial no tiene personalidad jurídica, pero la responsabilidad recae en alguien.

La distinción importante que debe hacerse radica en la diferencia entre independencia y responsabilidad. Un agente de IA puede definir por sí mismo los pasos técnicos necesarios para alcanzar un objetivo, pero esto no lo convierte en un actor legal independiente.

La organización que lo publica ha tomado una serie de decisiones con respecto a qué puede acceder el agente, las herramientas que puede usar, los entornos en los que se le permite operar y las medidas de seguridad que le impiden extralimitarse.

Esto significa que la organización no puede simplemente señalar comportamientos inesperados y decir que la inteligencia artificial actuó de forma independiente.

Desde una perspectiva legal y de gobernanza, el momento crítico surge cuando un agente (inteligente) abandona un entorno definido y autorizado y comienza a interactuar con sistemas de terceros que no han dado su consentimiento. Por ejemplo, una prueba de seguridad interna que inesperadamente se convierte en una brecha en la infraestructura de otra parte no se vuelve inofensiva simplemente porque el programa haya cruzado esa línea de forma independiente.

La máquina no es responsable del marco de toma de decisiones que la rodea. La responsabilidad recae en las personas e instituciones que crearon las condiciones que propiciaron esta acción.

Las leyes vigentes sobre delitos informáticos no dejan de aplicarse simplemente porque el autor del delito fuera independiente.

La ley está diseñada para abordar muchos de los problemas que ya existen. El acceso no autorizado a sistemas informáticos, la extracción de información sin permiso y la introducción de malware son actividades contempladas en las leyes vigentes sobre ciberdelincuencia y protección de datos. En este contexto, investigadores han descubierto un método sencillo pero alarmante para eludir la seguridad de los bots de IA. En el Reino Unido, esto se rige por la Ley de Uso Indebido de Ordenadores y la legislación de protección de datos.

Cuestiones similares surgen en virtud de leyes como la Ley de Fraude y Abuso Informático de EE. UU., mientras que Sudáfrica cuenta con su propia Ley de Delitos Cibernéticos y una Ley de Protección de la Información Personal.

Estas reglas no dejan de aplicarse repentinamente solo porque un programa, y ​​no una persona, haya realizado directamente el procedimiento técnico.

Las mayores complejidades que plantean los sistemas autónomos giran en torno al concepto de «intención». Tradicionalmente, los delitos se han basado en conceptos como el conocimiento, el propósito y la imprudencia. La inteligencia artificial carece de un estado mental reconocido legalmente, lo que dificulta la aplicación de estos conceptos al propio agente. El verdadero peligro de la inteligencia artificial reside en nuestro presente , no en un futuro imaginario.

Por lo tanto, las preguntas más importantes podrían estar relacionadas con el comportamiento de la organización que respalda el sistema. ¿Comprendía la organización las capacidades del agente? ¿Se establecieron las restricciones adecuadas? ¿Se previó el posible abuso de autoridad por parte del agente? Para responder a estas preguntas, es fundamental abordar desde el principio cuestiones esenciales de infraestructura . Una vez que estos riesgos se hicieron evidentes, ¿se tomaron medidas razonables para mitigarlos?

A medida que los agentes adquieren mayor poder, las organizaciones podrían descubrir que alegar simplemente que el resultado fue imprevisto ya no es suficiente. La pregunta más importante será si podría haberse evitado razonablemente.

¿Por qué una “mala preparación” podría convertirse en prueba de incumplimiento del deber?

El término «mala configuración» se usa a menudo cuando la tecnología provoca un incidente de seguridad no intencionado. Puede sonar técnico y tranquilizador, como si el incidente se debiera a la mala suerte y no a un fallo de gobernanza. Sin embargo, en un contexto legal, la mala configuración puede llevar a la conclusión opuesta, especialmente dados los riesgos asociados con eludir la seguridad de los bots de IA.

Si un agente de IA tiene privilegios excesivos, límites inadecuados o acceso a herramientas innecesarias para su propósito legítimo, es probable que los investigadores se pregunten por qué.

Lo mismo ocurre cuando las organizaciones implementan sistemas de alta capacidad sin supervisar adecuadamente su funcionamiento ni mantener registros de su rendimiento. La frase «dejamos la puerta abierta por accidente» es una forma de presentar el incidente, transformándolo de simple mala suerte en un incumplimiento del deber o negligencia.

Existe una diferencia fundamental entre el comportamiento verdaderamente impredecible y los riesgos predecibles que no han sido bien controlados.

Por lo tanto, el principio de privilegio mínimo es especialmente importante para los sistemas autónomos. Un agente solo debe tener acceso a la información, los sistemas y las herramientas necesarias para realizar su tarea. Las organizaciones también necesitan mecanismos capaces de detectar comportamientos inusuales en el momento en que ocurren, y no solo después de que se haya producido el daño.

Igualmente importante, las organizaciones necesitan registros de auditoría fiables. En caso de incidente, la capacidad de demostrar qué estaba autorizado a hacer un agente, las instrucciones que recibió y las acciones que realmente llevó a cabo puede ser una prueba crucial de que actuó con la debida diligencia.

Sin esta evidencia, las organizaciones pueden tener dificultades para distinguir entre fallas técnicas inevitables y negligencia.

El futuro de la responsabilidad en la IA

El debate sobre la responsabilidad de la IA evolucionará inevitablemente a medida que los agentes se vuelvan más autónomos, pero la lección inmediata para las empresas es que una mayor autonomía de las máquinas no equivale a una menor responsabilidad humana. Al contrario, es probable que ocurra lo opuesto.

Otorgar mayor autonomía a los sistemas de IA exige una gobernanza más sólida de sus acciones. Los controles de ejecución, los permisos mínimos, la monitorización continua y los registros de auditoría exhaustivos no deben considerarse meras medidas de seguridad técnicas. Por el contrario, se han convertido en parte de la evidencia que las organizaciones necesitarán para demostrar que han implementado sistemas autónomos de forma responsable.

Es posible que la ley desarrolle normas más específicas para los agentes de IA, sobre todo a medida que las cuestiones de previsibilidad, control y responsabilidad se vuelven cada vez más complejas. Sin embargo, las organizaciones no deben asumir que operan en un vacío legal hasta que esto ocurra, especialmente dadas las discusiones en curso sobre la regulación de la IA.

Cuando un agente de IA autónomo sobrepasa límites que no estaba autorizado a cruzar, la primera cuestión legal no será sobre lo que pensaba la IA, sino más bien por qué los humanos a cargo permitieron que eso sucediera.