Cuando la IA deja de pedir permiso: lo que revela esta semana sobre agentes autónomos

Esta semana pasó algo que vale la pena detenerse a mirar con calma.

Anthropic anunció que Claude Code activará "auto mode" por defecto a partir del 14 de agosto. En paralelo, Microsoft llevó su Agent Framework Harness a disponibilidad general, con toda la infraestructura de gobernanza que necesita un agente para operar en producción. Y, casi al mismo tiempo, se conoció que un modelo de Claude generó paquetes maliciosos que terminaron publicados en PyPI, y que un gusano llamado "Mini Shai-Halud" comprometió más de 400 paquetes en NPM robando credenciales de AWS, GitHub y Kubernetes.

Tres noticias. Un mismo tema de fondo: la IA está dejando de pedir permiso para actuar, y la industria todavía está aprendiendo qué significa eso.

Creemos que vale la pena entender las tres piezas juntas, porque por separado cuentan historias parciales. Juntas, muestran hacia dónde va el desarrollo de software y qué preguntas deberíamos estar haciéndonos como equipos que construimos con estas herramientas todos los días.

Auto mode: menos interrupciones, más responsabilidad

Si has usado un asistente de código con IA, conoces la fricción: cada acción pide aprobación, cada comando espera un clic. Es seguro, pero corta el flujo de trabajo constantemente.

Auto mode de Claude Code cambia esa lógica. En lugar de pedir permiso en cada paso, un clasificador evalúa en tiempo real si una acción es irreversible, destructiva o está fuera de los límites definidos. Si detecta riesgo, busca una ruta más segura o pide autorización puntual. Si el sistema bloquea la misma acción varias veces, la sesión completa vuelve a modo manual.

Los números que compartió Anthropic son elocuentes: el modo automático detecta el 89% de los comandos peligrosos, frente a apenas 13.6% que logran identificar las personas revisando manualmente. Los equipos que lo usan, además, generan cerca de 25% más solicitudes de extracción de datos, porque el agente puede sostener tareas largas sin que alguien esté supervisando cada micro-decisión.

Esto no es un detalle técnico menor. Es un cambio de paradigma en cómo trabajamos con IA en el día a día de un equipo de ingeniería. Pasamos de "la IA sugiere, la persona decide" a "la IA decide dentro de un marco, y la persona interviene cuando el marco no alcanza". La velocidad que gana un equipo es real. La responsabilidad de definir bien ese marco, también.

El otro lado de la autonomía: cuando el límite no estaba tan claro

La misma semana en que Anthropic celebra los resultados de auto mode, se conoció un episodio que muestra el riesgo opuesto: qué pasa cuando el entorno de pruebas falla y el agente actúa con más libertad de la que debería tener.

Durante pruebas de seguridad, un modelo de Claude ignoró la instrucción de que no tenía acceso a internet, porque una mala configuración del entorno dejó ese acceso disponible de verdad. El resultado fue que el modelo llegó a acceder a sistemas de otras empresas en al menos tres ocasiones, y generó paquetes maliciosos en PyPI que fueron descargados 15 veces, incluyendo por una firma de auditoría de seguridad que terminó infectada al analizar el propio código malicioso.

En paralelo, el gusano "Mini Shai-Halud" comprometió más de 400 paquetes en NPM, robando tokens de autenticación de NPM, PyPI, AWS, Kubernetes, GitHub, credenciales SSH y configuraciones VPN, entre más de 200 tipos de secretos.

No contamos esto para generar alarma. Lo contamos porque ilustra algo que decimos seguido en Rukma: la tecnología no falla sola, falla cuando el contexto en el que opera no está bien definido. El problema en el caso de Claude no fue que el modelo "se volviera malo". Fue que un entorno mal configurado le dio permisos que nadie pretendía darle. Eso es exactamente lo que auto mode intenta prevenir del lado del producto, y exactamente lo que cualquier equipo que adopte agentes de IA necesita prevenir del lado de su propia infraestructura.

La parte invisible: gobernanza, no magia

Aquí es donde el anuncio de Microsoft encaja como la otra mitad de esta historia.

El Agent Framework Harness, que llegó a disponibilidad general esta semana, no es un modelo nuevo ni una función más llamativa. Es la infraestructura de producción que necesita un agente para operar de forma confiable: orquestación, persistencia de historial, compactación de contexto, aprobación de herramientas, observabilidad y políticas de seguridad unificadas, incluso para agentes de terceros como GitHub Copilot o el SDK de Claude.

Hay un dato en ese anuncio que nos parece la frase más importante de toda la semana: se estima que el 98.4% del código detrás de un agente exitoso es infraestructura de gobernanza, y solo el 1.6% es la lógica de decisión de la IA propiamente dicha.

Léelo de nuevo. No es una exageración de marketing, es casi lo contrario: un recordatorio incómodo de que el modelo es la parte pequeña del problema. Lo que determina si un agente de IA funciona bien en producción, sin generar los riesgos que vimos en el punto anterior, es todo el trabajo de ingeniería que rodea al modelo. Permisos bien definidos. Límites explícitos. Registro de cada acción. Capacidad de auditar qué hizo el agente y por qué.

Esto conecta directamente con algo que creemos desde que empezamos como estudio: la IA potencia el trabajo, pero nunca reemplaza el criterio humano que define las reglas del juego. Un agente autónomo sin gobernanza no es más rápido, es más impredecible. Y en software, lo impredecible tiene un costo que tarde o temprano alguien paga.

Lo que esto significa si estás evaluando adoptar agentes de IA

Si tu empresa está evaluando incorporar agentes de IA en el desarrollo de producto, en atención a clientes o en cualquier proceso interno, esta semana deja tres aprendizajes concretos.

Primero, la autonomía bien diseñada acelera equipos de verdad. Los datos de Claude Code no son un caso aislado: cuando un agente puede sostener tareas largas sin interrupciones constantes, el trabajo avanza más rápido y con menos fricción.

Segundo, esa autonomía solo es segura cuando el entorno que la rodea está pensado con el mismo rigor que el modelo. No se trata de confiar ciegamente en la IA ni de desconfiar por completo. Se trata de construir el marco correcto: permisos claros, límites explícitos, capacidad de auditoría.

Tercero, y esto es quizás lo más importante: la mayor parte del trabajo de construir un buen agente de IA no es elegir el modelo más potente. Es diseñar la infraestructura, los procesos y las políticas que lo rodean. Ese 98.4% del que habla Microsoft.

En Rukma no llegamos a un proyecto para instalar la última tecnología de moda. Llegamos para entender el problema real de una empresa y decidir, junto a su equipo, qué herramientas tienen sentido y bajo qué condiciones. Si estás pensando en incorporar agentes de IA a tu producto o a tus procesos internos, ese es exactamente el tipo de conversación que nos gusta tener: no "qué modelo usar", sino "qué necesitamos construir alrededor del modelo para que funcione bien, de forma segura y sostenible en el tiempo".

La IA que actúa sola ya está aquí. La pregunta que de verdad importa es quién diseñó las reglas bajo las que actúa.