Los LLMs locales cada vez tendrán más importancia
La IA generativa está dejando de depender exclusivamente de gigantescos centros de datos. Google acaba de presentar dos nuevas apps bajo la marca AI Edge que muestran el futuro de la inteligencia artificial funcionando directamente en el dispositivo, sin necesitar una conexión a internet:
- Google AI Edge Gallery
- Google AI Edge Eloquent
Google AI Edge Gallery: un laboratorio para probar la IA local
La nueva app Google AI Edge Gallery, recién lanzada para iPhone tras debutar en Android, funciona como un hub para descargar y ejecutar el modelo open-source Gemma 4 completamente en local.
Aunque los modelos on-device tienen menos parámetros que los de la nube, sus capacidades avanzan rápido. Desde la app, los usuarios pueden:
- Chatear con el modelo como si fuera un asistente.
- Convertir audio a texto.
- Probar funciones en modo “agente” como por ejemplo:
- Encender la linterna
- Programar eventos
- Redactar correos mediante prompts, etc.
Google también apunta a entusiastas y desarrolladores con opciones avanzadas:
- Limitar generación de tokens.
- Alternar procesamiento entre CPU y GPU.
- Activar o desactivar el razonamiento del modelo.
En otras palabras, se trata de un sandbox completo para experimentar con IA local.
AI Edge Eloquent: dictado inteligente y privado
La segunda app, Google AI Edge Eloquent, se centra en un caso práctico diario: convertir voz en texto perfectamente redactado.
El flujo es simple:
- Hablas.
- La app transcribe en tiempo real.
- Elimina muletillas, errores y repeticiones.
- Copia el texto listo al portapapeles.
Entre sus funciones destacan:
- Conversión automática a viñetas o diferentes tonos.
- Estadísticas como palabras por minuto.
- Diccionario personalizado con nombres y jerga.
- Modo 100% offline para máxima privacidad.
Opcionalmente, puede integrarse con Gemini para pulir aún más el texto.
La gran apuesta es la IA en el dispositivo
El lanzamiento, especialmente en iOS, apunta a un cambio estratégico importante. Con futuras versiones de iOS integrando más IA, estas apps funcionan como adelanto de lo que viene.
Usando frameworks como App Intents, una futura Siri podría estar impulsada por modelos de Gemini y controlar el smartphone mediante voz.
El objetivo de mover la IA al “edge” (el dispositivo) es lograr:
- Reducir la carga de los servidores.
- Mejorar la privacidad.
- Aumentar la velocidad y la integración.
Con chips móviles cada vez más potentes, la IA local deja de ser experimental y empieza a perfilarse como el nuevo estándar para atender peticiones sencillas en el dispositivo.