Agentes de IA: ¿Por qué la autonomía sin datos fiables sólo genera errores a gran escala?

Agentes de IA: ¿Por qué la autonomía sin datos fiables sólo genera errores a gran escala?
View on original source
Category: SciTech
Share
Archive
Like
Consideremos el siguiente escenario. A las tres de la mañana, agentes de IA identifica una vulnerabilidad crítica en explotación activa, consulta el inventario corporativo, localiza 12,000 activos afectados y comienza automáticamente la remediación. Al amanecer, el equipo descubre dos cosas: el inventario consultado tenía 48 horas de antigüedad y el número real de activos expuestos era de 19,000. Siete mil máquinas siguen vulnerables, y nadie lo sabe porque el informe de automatización indica que el proceso está completo. El agente no cometió ningún error. Ejecutó exactamente lo que se le indicó, con la información que recibió. El problema no estaba en el modelo, sino en los datos. Esta distinción diferenciará a las organizaciones que extraen valor real de la IA de agentes de aquellas que simplemente aceleran sus propios errores. De la IA que recomienda a la IA que ejecuta: La Inteligencia Artificial está entrando en una nueva fase en TI y seguridad. En los últimos años, su función se ha centrado en ayudar a los profesionales a responder preguntas, analizar información, generar informes y sugerir acciones. Ahora estamos presenciando un cambio más profundo: la IA está pasando de ser una herramienta de asesoramiento a una herramienta de ejecución. En lugar de recomendar la actualización de un punto final, un agente aplica el parche. En lugar de alertar sobre una máquina comprometida, la aísla. En lugar de generar un informe sobre una vulnerabilidad, inicia la remediación directamente en la infraestructura. El objetivo principal no es añadir otra herramienta de IA al entorno corporativo, sino cambiar el rol que desempeña la IA dentro de la operación. Para quienes gestionan la infraestructura, esto altera significativamente su rutina diaria. El profesional deja de ejecutar manualmente cada paso de una respuesta y comienza a definir políticas, supervisar agentes, establecer límites y evaluar resultados. De ejecutor a supervisor y estratega. El problema que nadie quiere abordar: la calidad del inventario. Existe una condición fundamental para que los agentes actúen de forma segura: datos fiables. Y es precisamente aquí donde la mayoría de las organizaciones no están preparadas, no por falta de herramientas, sino por un exceso de ellas. El entorno típico de una gran empresa mexicana ha acumulado, a lo largo de una década, una docena de agentes distintos en el mismo punto final, una CMDB alimentada por sincronizaciones periódicas, hojas de cálculo de excepciones y consolas que no se comunican entre sí. Cada una de estas fuentes ofrece una respuesta diferente a la pregunta '¿Cuántos servidores Windows tenemos y qué versión ejecutan?'. Ninguna responde en tiempo real. Mientras tanto, el período de exposición se ha acortado. El Informe de Investigaciones de Violaciones de Datos de Verizon de 2026 señala la explotación de vulnerabilidades como el principal vector inicial de intrusión, presente en el 31% de las violaciones analizadas. Sólo el 26% de las vulnerabilidades del catálogo CISA KEV —aquellas con explotación activa confirmada— se parchearon por completo durante 2025, en comparación con el 38% del año anterior. El tiempo medio para completar el parcheo aumentó de 32 a 43 días. Entre los dispositivos periféricos, el tiempo medio entre la divulgación y la explotación masiva es de cero días. Los números no cuadran. Y no cuadrarán con más esfuerzo humano. Tiempo real no es sinónimo de actualizado ayer. He aquí la distinción más importante y menos discutida en este debate: existe una diferencia sustancial entre los datos recopilados periódicamente y almacenados en un repositorio y los datos consultados sobre el activo en el momento en que se realiza la consulta. El primer enfoque proporciona una instantánea histórica. Responde a la pregunta de «cómo era el entorno en la última recopilación». Es suficiente para informes y análisis de tendencias. Pero es insuficiente para la autonomía, porque un agente que decide basándose en una instantánea de hace 24 horas actúa sobre un entorno que ya ha cambiado. El segundo proporciona el estado actual. Responde a la pregunta de «cómo es el entorno ahora, incluyendo el dispositivo que se encendió hace diez minutos y el que abandonó la VPN hace dos minutos». Prácticamente todos los proveedores afirman hoy tener la capa de datos necesaria para la IA con agentes. Tres preguntas concretas ayudan a diferenciar las afirmaciones: ¿con qué rapidez responde la plataforma a una nueva consulta, no indexada previamente, sobre toda la flota? ¿Responde consultando los activos o una copia? ¿Y puede actuar sobre el resultado de esa consulta, en la misma plataforma, sin exportar la lista a una segunda herramienta? Esta última pregunta es crucial. Cuando la detección reside en una herramienta y la ejecución en otra, el agente hereda la latencia de ambas y la diferencia entre ellas. La visualización y la actuación deben estar en el mismo plano de control, no por elegancia arquitectónica, sino porque es la única manera de saber, en el momento de la acción, exactamente sobre qué se está actuando. La velocidad amplifica tanto el éxito como el fracaso por igual. Un agente que toma decisiones basándose en información obsoleta puede ejecutar una acción incorrecta con una rapidez que ningún operador humano podría igualar. Y puede hacerlo a gran escala. Vale la pena considerar lo que esto significa. Una acción automatizada en una red de 50,000 dispositivos puede propagarse en minutos. Ninguna intervención manual puede seguir este ritmo una vez que el proceso comienza. La pregunta operativa deja de ser '¿cuánto tiempo tardamos en ejecutarla?' y se convierte en '¿cuánto tiempo tardamos en darnos cuenta de que hicimos algo mal y lograr revertirlo?'. Por eso, el alcance de una acción —cuántos activos puede afectar antes de cualquier verificación— debe ser una variable de diseño explícita, no una consecuencia. El despliegue en anillo, los límites porcentuales por ventana, los criterios de interrupción automática y la capacidad de reversión dejan de ser buenas prácticas y se convierten en requisitos previos para la autonomía. Gobernanza: las preguntas que preceden a la autonomía La autonomía debe ir acompañada de límites claros. ¿Qué acciones puede ejecutar un agente por sí solo? ¿Cuáles requieren aprobación? ¿Quién autoriza un cambio importante? ¿Qué operaciones son reversibles? ¿En qué situaciones es obligatorio involucrar a un profesional humano? Una arquitectura madura establece distintos niveles de autorización y riesgo. La aplicación de un parche de bajo impacto puede automatizarse. Aislar un sistema crítico o realizar un cambio que pueda interrumpir una operación comercial puede requerir aprobación humana. El concepto de 'intervención humana' sigue siendo relevante, pero aplicado con mayor criterio. El objetivo no es que los profesionales aprueben manualmente cada acción, ya que esto eliminaría gran parte del beneficio de la automatización. Se trata de determinar en qué situaciones la intervención humana realmente aporta valor. La automatización no sustituye a los equipos. El objetivo no es eliminarlos del proceso, sino ampliar su capacidad de acción: permitir que los profesionales dejen de dedicar tiempo a operaciones repetitivas y concentren más energía en la arquitectura, la estrategia, el análisis de riesgos y las decisiones que realmente requieren la intervención humana. La verdadera transformación de la IA con agentes no reside en crear una herramienta más rápida, sino en construir una infraestructura capaz de responder y actuar de forma fiable. Antes de otorgar autonomía a un agente, conviene responder a cinco preguntas: ¿Cuál es la antigüedad máxima de los datos que respaldan esta decisión? ¿Cómo se determina? ¿A cuántos activos puede afectar esta acción antes de cualquier verificación humana? ¿Es reversible? ¿Cuánto tiempo tardará? ¿Quién autorizó este nivel de autonomía? ¿Se conserva este registro tras una auditoría? Si el agente se equivoca, ¿cuánto tiempo tardará en detectarlo? Si alguna de estas respuestas es «No lo sé», el problema no es la IA, sino la base sobre la que actuará. La IA de agente representa un cambio de rol: la Inteligencia Artificial deja de limitarse a explicar lo que sucede y comienza a participar directamente en la operación. Y cuando la IA empieza a actuar, la confianza deja de ser una característica deseable para convertirse en un requisito operativo. Por Heriberto Cabrera, Vicepresidente Regional de Ingeniería de Soluciones para Latinoamérica en Tanium.

(0)Comments

 

A note on cookies

Newshunt uses essential cookies to keep you signed in and to remember your language and country, so the site works the way you expect. With your permission, we'd also like to use analytics cookies to understand how people use Newshunt and improve it over time.

Accepting only affects analytics. To learn more, view our Privacy Policy or Terms & Conditions.