La <a href="https://www.aepd.es/prensa-y-comunicacion/blog/primera-notiviacion-brecha-datos-personales-causada-por-ataque-ejecutado-mediante-agente-ia" target="_blank" rel="noopener">Agencia Española de Protección de Datos</a> ha recibido la primera notificación de una brecha de datos personales causada por un ataque ejecutado mediante un agente de inteligencia artificial.
No se trata de un agente desplegado por la empresa que haya actuado de forma incorrecta, sino de un tercero que habría utilizado un agente de IA como herramienta para ejecutar distintas fases de un ciberataque. El caso supone un paso importante: los agentes ya no solo pueden automatizar procesos empresariales, también pueden automatizar partes de un ataque.
La AEPD advierte de que una única notificación no permite hablar todavía de una tendencia. Pero sí confirma algo relevante: los ataques apoyados en IA agéntica han dejado de ser únicamente un escenario teórico.
Qué ocurrió en el ataque
Según la información recibida por la AEPD, el agente comenzó buscando vulnerabilidades en archivos genéricos hasta conseguir realizar correctamente un login en el sistema.
Una vez dentro, continuó buscando de forma autónoma vulnerabilidades en la aplicación. Tras localizar una de ellas, consiguió modificar datos personales y acceder a facturas.
La autonomía cambia el riesgo
Llevamos años utilizando automatización en ciberseguridad, tanto para defender sistemas como para atacarlos. La diferencia con los agentes de IA está en su capacidad para tomar decisiones sobre el siguiente paso en función de lo que encuentran.
Buscar una vulnerabilidad, probar un acceso, analizar la aplicación y continuar explorando ya no tienen por qué ser tareas independientes dirigidas manualmente una a una, un agente puede simplemente encadenarlas y esto reduce el tiempo que necesita un atacante para explorar un sistema y aumenta la presión sobre los mecanismos de detección y respuesta de las empresas.
El problema al final no es que la IA haya creado nuevas vulnerabilidades, sino que puede encontrar y explotar las existentes más rápido y con menos intervención humana.
Qué deberían revisar las empresas
Este caso refuerza la necesidad de revisar cómo se protegen los sistemas frente a ataques capaces de actuar con mayor autonomía y velocidad. La propia AEPD ya había advertido, en sus orientaciones sobre IA agéntica, de la importancia de limitar privilegios, monitorizar de forma continua estos sistemas y disponer de mecanismos de reacción ante incidentes.
La diferencia ahora es que esos riesgos ya no se plantean únicamente desde un punto de vista teórico. La primera brecha notificada muestra que un agente de IA también puede utilizarse como herramienta ofensiva para encadenar distintas fases de un ataque.
Esta evolución ya había sido señalada por el Centro Criptológico Nacional (CCN), que advertía del cambio de paradigma que supone la IA ofensiva para la ciberseguridad. Según el organismo, la IA está aumentando la velocidad, la escala, la precisión y el grado de autonomía de técnicas de ataque que ya existían, reduciendo al mismo tiempo los tiempos de reacción de las organizaciones. Consulta aquí su <a href="https://www.ccn.cni.es/es/actualidad-ccn/1363-el-centro-criptologico-nacional-alerta-del-cambio-de-paradigma-que-supone-la-ia-ofensiva-para-la-ciberseguridad" target="_blank" rel="noopener">Guía de Recomendaciones</a>.
Cómo lo vemos en TYM
Los agentes de IA abren enormes posibilidades para automatizar procesos, conectar sistemas y ejecutar tareas que hasta ahora necesitaban intervención humana constante.
Pero precisamente porque pueden actuar, la arquitectura que los rodea importa tanto como el propio modelo. Identidad, permisos, trazabilidad, monitorización y capacidad de intervención no deberían añadirse después de desplegar un agente, deben formar parte del diseño desde el principio.
Este primer caso comunicado a la AEPD no significa que estemos ante una nueva oleada de ciberataques autónomos, pero demuestra que el escenario ya existe.
La IA agéntica puede trabajar para tu empresa y también puede ser utilizada contra ella. La diferencia estará en lo preparada que esté la arquitectura para ambas cosas.
Si necesitas ayuda o tienes cualquier consulta, <a href="https://www.tym.es/contacto.html" target="_blank" rel="noopener">cuéntanos tu reto</a> y lo abordamos contigo.