Nvidia conecta los PC domésticos en una nube de IA local gratis

Ya no necesitas una costosa tarjeta gráfica

Nvidia ha anunciado el Personal AI Router (PAIR), una herramienta de software que permite a los usuarios agrupar la potencia informática de varios dispositivos en una red local para ejecutar modelos de IA. El objetivo es permitir que los LLM (Large Language Models) más grandes, como Llama 3 de Meta o Qwen de Alibaba, se ejecuten en hardware que no podría manejarlo individualmente.

Un paso hacia la descentralización para los entusiastas

Curiosamente, PAIR es compatible no solo con las tarjetas gráficas Nvidia RTX, sino también con el silicio de Apple (M1 y posteriores). Los usuarios pueden así conectar un PC para juegos con Windows a un MacBook para ejecutar un modelo exigente de forma conjunta a través de plataformas como Ollama, LM Studio o Jan.

Donde choca con la realidad de los cables

Aunque Nvidia promete un funcionamiento fluido, la física del Wi-Fi doméstico no se puede engañar. La latencia de la red será un problema real cuando se combinen varias GPU más pequeñas, especialmente al generar textos largos donde la velocidad de transferencia es clave. Requerirá ethernet rápido para que no sea más espera que trabajo.

Probando el interés en los clústeres comunitarios

Si la herramienta tiene éxito, podría marcar el comienzo de una era de clústeres comunitarios, donde en lugar de alquilar servidores en la nube, la gente simplemente reúne la energía del hardware sin usar en casa. El siguiente paso lógico sería compartir la energía de forma segura con los vecinos, pero Nvidia todavía está lejos de eso.

El veredicto de Lilith

Nvidia acaba de asegurarse de que los modelos locales en Mac ya no serán una isla cerrada. En lugar de una guerra de hardware, eligió la asimilación de software de silicio extranjero.