23 sep 2026
La velocidad es tarea del agente. El criterio sigue siendo nuestro.
La semana pasada participé de un webinar en el que el anfitrión contó cómo maneja un e-commerce entero casi sin intervenir. Agentes de IA clasifican las sugerencias de los clientes, deciden qué funcionalidades importan, las construyen, las publican, hacen el QA y hasta anuncian los cambios en redes sociales. Dijo que ni siquiera prueba lo que producen los agentes. Él fija las reglas y se queda con una parte.
Es una propuesta atractiva. También es un buen ejemplo de dónde debería estar el límite entre «la IA hace el trabajo» y «la IA toma la decisión».
Hace poco estuve del lado receptor de ese resultado sin revisar. Me postulé a un puesto en una empresa que usa IA para filtrar CVs (la descripción coincidía mucho con mi experiencia). El rechazo rápido no me sorprendió. Lo que sí me sorprendió fue un email unos días después: «Tenemos una nueva búsqueda que encaja con tu perfil: Node Engineer». Nunca trabajé con Node, y no aparece en ninguna parte de mi CV. Me hizo pensar: si estos sistemas funcionan sin que un humano los revise, ¿quién revisa las decisiones que toman? ¿Y quién se asegura de que los datos que compartimos con ellos estén seguros?
Los agentes son realmente buenos para comprimir el tiempo de ejecución. Lo que me preocupa es meter el criterio en ese mismo circuito: dejar que el sistema decida qué construir, qué publicar o quién encaja en un puesto, sin que ningún humano revise el resultado, y mucho menos la decisión.
La investigación en seguridad muestra por qué importa. El Top 10 de OWASP para aplicaciones con agentes (2026) pone el «secuestro de objetivos» (un agente engañado para redirigir su propio acceso legítimo) como el riesgo número uno, porque a los agentes les cuesta separar instrucciones de datos. EchoLeak (CVE-2025-32711) permitió que un solo email armado a propósito hiciera que Microsoft 365 Copilot sacara archivos sin ningún clic. Y el informe de Anthropic de noviembre de 2025 documenta a un grupo patrocinado por un Estado que usó Claude Code para ejecutar la mayor parte de una campaña de ciberespionaje contra unas 30 organizaciones.
Nada de esto significa que los agentes autónomos sean inseguros por naturaleza. Significa que la autonomía sobre las decisiones (qué se publica, qué datos van adónde, quién pasa el filtro) tiene un perfil de riesgo distinto al de la autonomía sobre la ejecución. La herramienta puede hacer el trabajo más rápido. Sigue necesitando a un humano que aporte el criterio.
La velocidad es tarea del agente. El criterio sigue siendo nuestro.
Fuentes: OWASP Top 10 for Agentic Applications (2026); Sysdig, «Prompt Injection» (EchoLeak, CVE-2025-32711); Anthropic, «Disrupting the first reported AI-orchestrated cyber espionage campaign», noviembre de 2025.
Publicado originalmente en LinkedIn ↗