IA local, riesgo concentrado: lo que la semana nos enseña sobre depender de la tecnología correcta

Esta semana el mundo tech nos dejó dos noticias que, a primera vista, parecen no tener nada que ver entre sí. Por un lado, Meta lanzó un modelo de IA que corre en tu propia computadora, sin depender de un servidor en la nube. Por otro, Moody's advirtió que la banca mundial se está volviendo peligrosamente dependiente de un puñado de proveedores de nube e inteligencia artificial.

Dos historias, un mismo problema de fondo: ¿de quién depende tu negocio para funcionar?

En Rukma creemos que todo parte por entender el problema, no por perseguir la tendencia de turno. Y esta semana el problema que vale la pena entender es precisamente ese: la IA avanza rápido, se vuelve más accesible, más local, más barata de correr. Pero al mismo tiempo, cada vez más empresas construyen su operación sobre infraestructura que no controlan. Vamos por partes.

La IA se muda a tu computadora

Meta presentó Muse Glimmer, un modelo de código abierto de 30 mil millones de parámetros diseñado para correr en GPUs de consumo, sin necesidad de enviar cada consulta a un centro de datos (Tech Startups). El modelo soporta programación, function calling, gestión de agenda, organización de archivos y razonamiento en varios pasos, todo pensado para flujos de trabajo con agentes que operan de forma local.

Esto no es un detalle técnico menor. Durante los últimos años, "usar IA" significó casi siempre lo mismo: mandar información a un proveedor externo, esperar una respuesta, pagar por cada consulta. Un modelo abierto que corre en hardware de consumo cambia esa ecuación. Significa menos latencia, menos costo por uso, y —quizás lo más relevante para muchas empresas— más control sobre dónde vive la información sensible.

Google, por su parte, prepara para el 12 de agosto el lanzamiento del Pixel 11, un evento donde la compañía busca demostrar cómo integra IA generativa y agéntica directamente en el teléfono, apoyándose en su control sobre Android, Gemini y los chips Tensor (Tech Startups). La tendencia es clara: los agentes de IA dejan de vivir exclusivamente en la nube y empiezan a moverse hacia el dispositivo, hacia el edge, hacia donde está el usuario.

Para equipos de producto y negocio, esto abre una pregunta que vale la pena hacerse pronto: ¿qué partes de tu producto realmente necesitan un modelo gigante corriendo en un data center, y cuáles podrían resolverse con algo más ligero, más rápido y más barato, corriendo cerca del usuario? No es una pregunta retórica. Es una decisión de arquitectura que impacta costos, privacidad y experiencia de usuario por años.

El riesgo de poner todos los huevos en la misma nube

Mientras la IA se descentraliza técnicamente, Moody's lanzó una advertencia que va en la dirección contraria: los bancos y otras instituciones financieras están concentrando cada vez más de su operación en un grupo reducido de proveedores de nube e inteligencia artificial, lo que los expone a un riesgo de proveedor —vendor risk— con consecuencias potencialmente graves si alguno de esos servicios falla (Tech Startups).

No es un escenario hipotético. Cuando una institución financiera migra sus procesos críticos a la infraestructura de dos o tres grandes proveedores, una caída de servicio, un cambio de precios o incluso una decisión comercial del proveedor puede afectar directamente su capacidad de operar. Y a diferencia de un problema técnico interno, este tipo de riesgo es mucho más difícil de anticipar y mitigar desde adentro.

Esta tensión —adoptar IA rápido versus adoptarla con criterio— es exactamente el tipo de conversación que creemos que las empresas necesitan tener antes de firmar el próximo contrato con un proveedor de IA. No se trata de evitar la nube ni de desconfiar de los grandes proveedores. Se trata de diseñar arquitecturas con salidas, con alternativas, con un plan B razonable si algo cambia.

A esto se suma otro fenómeno que está tomando fuerza: la resistencia de comunidades enteras a la construcción de nuevos centros de datos en Estados Unidos, donde el permiso social se está convirtiendo en una restricción tan real como la disponibilidad de electricidad o el capital (Tech Startups). La infraestructura que sostiene la IA no es infinita ni está garantizada, y eso también es parte de la ecuación de riesgo.

La inversión en infraestructura no se detiene

Del lado de la oferta, el dinero sigue entrando con fuerza. TSMC reportó un crecimiento de ingresos del 45% interanual en julio, impulsado por el gasto sostenido en infraestructura de IA por parte de las grandes tecnológicas (Tech Startups). Intel, por su parte, anunció una emisión de acciones por 15 mil millones de dólares para financiar gastos de capital en cómputo de IA, empaquetado avanzado y producción externa de obleas (Tech Startups).

Estas cifras confirman algo que ya intuíamos: la carrera de la IA todavía está en su fase de construcción de cimientos. Los chips, los centros de datos, la energía necesaria para entrenar y correr estos modelos siguen siendo el cuello de botella real, más allá de qué tan sofisticado sea el último modelo lanzado. Y ese cuello de botella tiene un efecto en cascada: cuando el costo de la memoria sube por la demanda de los centros de datos, hasta el precio de un dispositivo de consumo termina afectado, como ya empieza a sentir Apple con la presión sobre sus componentes (Tech Startups).

Lo que esto significa si estás construyendo un producto hoy

Si juntamos las tres piezas —modelos que corren localmente, riesgo de depender de pocos proveedores, e infraestructura que sigue siendo escasa y costosa— aparece una idea central: la pregunta ya no es si adoptar IA, sino cómo hacerlo de forma que tu negocio no quede atrapado.

Esto no significa evitar los grandes proveedores de nube o los modelos más potentes del mercado. Significa diseñar con criterio. Preguntarse, antes de integrar cualquier servicio de IA: ¿qué pasa si este proveedor sube sus precios? ¿Qué pasa si cambia sus términos de uso? ¿Qué partes de mi producto podrían correr en infraestructura propia o con un modelo abierto, y cuáles realmente se benefician de la escala de un proveedor externo?

En Rukma acompañamos a empresas justamente en ese tipo de decisiones. No llegamos con la respuesta prearmada de "usa este modelo" o "monta todo en esta nube". Llegamos preguntando cuál es el problema que están tratando de resolver, y desde ahí construimos una arquitectura que tenga sentido para su negocio, su presupuesto y su nivel de riesgo aceptable. A veces la respuesta es un modelo de código abierto corriendo cerca del usuario. Otras veces es un proveedor grande, pero con un diseño que permita migrar si algún día hace falta.

La tecnología es un medio, no un fin. Y las decisiones de infraestructura de IA que se toman hoy van a definir cuánto control tiene tu empresa sobre su propio producto mañana. Si estás evaluando cómo integrar IA en tu producto o negocio —y quieres hacerlo con una arquitectura pensada para el largo plazo, no solo para la demo de mañana— conversemos.