Durante los últimos años, el “Revolución de la IA«ha vivido casi por completo en la nube. Si quería hacer algo serio con un modelo de lenguaje grande (LLM), necesitaba un centro de datos masivo, una suscripción a un tecnología gigante, o una PC de alta gama con un costoso NVIDIA tarjeta gráfica. Sin embargo, un nuevo anuncio podría cambiar radicalmente esa realidad en un aspecto clave. Tether presentó recientemente QVAC Fabric, un proyecto de infraestructura de código abierto diseñado para ejecutar y, lo que es más importante, entrenar modelos de IA en hardware de consumo.
QVAC Fabric: Tether desafía a las grandes tecnologías con entrenamiento de IA en dispositivos para teléfonos inteligentes
GoogleLos modelos Gemini Nano de te permiten ejecutar IA local en tu teléfono. Sin embargo, no puede cambiarlos ni “afinarlos” con sus propios datos mediante capacitación. QVAC Fabric rompe esta barrera y es el primer marco que permite que un teléfono inteligente normal aprenda de sus propios datos. Tenga en cuenta que esto es diferente a recuperar sus datos de los servidores en la nube de una empresa (como el Géminis el chatbot lo hace). Hablamos de formación, una etapa clave durante el desarrollo de las plataformas de IA.
Entrenar un modelo de IA masivo generalmente requiere una cantidad increíble de memoria y potencia de procesamiento. Para evitar estas limitaciones de hardware, el equipo de ingeniería de Tether combinó dos tecnologías inteligentes: BitNet y LoRA.
¿Qué hace posible la magia?
BitNet es una arquitectura especializada de Microsoft que comprime significativamente los datos del modelo, mientras que LoRA (adaptación de bajo rango) reduce la cantidad de parámetros que deben entrenarse hasta en un 99%. Esto se traduce en una reducción en el uso de memoria de hasta un 90% para QVAC Fabric frente a los modelos de precisión total.
Al fusionar ambas tecnologías, Tether ha creado un sistema que puede ajustar un modelo de mil millones de parámetros en un Samsung Galaxy S25 en unos 80 minutos. Para aquellos que usan un iPhone 16, el equipo incluso superó con éxito los límites para ajustar modelos con hasta 13 mil millones de parámetros.
Quizás la parte más importante de este anuncio es su naturaleza “multiplataforma”. Hasta ahora, este tipo de formación avanzada se limitaba principalmente a los sistemas especializados de Nvidia. QVAC Fabric abre la puerta para que AMD, Intel y GPU móviles (como Adreno y Bionic de Apple) se unan a la fiesta por primera vez.
Una victoria en privacidad
El cambio hacia la capacitación “en el dispositivo” también es una gran victoria para la privacidad. Actualmente, si desea que una IA le ayude a resumir sus registros médicos o redactar correos electrónicos según su estilo de escritura, a menudo debe cargar esos datos confidenciales en un servidor corporativo.
Con El nuevo marco de Tetheresos datos nunca tienen que salir de su dispositivo. Puede entrenar la IA en sus documentos personales y archivos privados localmente. Este enfoque «anti-nube» garantiza que su mundo digital siga siendo solo suyo, eliminando la necesidad de claves API o suscripciones mensuales a grandes proveedores de tecnología. El objetivo es garantizar que la IA avanzada no se convierta en una herramienta reservada sólo para aquellos con «cantidades absurdas de recursos», como señala el director ejecutivo de Tether, Paolo Ardoino.
Fuente: Android Headlines