Le plus grand problème de l’IA locale... ils l’ont résolu ?

7/10

IANetworkChuck30 octobre 2026 à 19:0023:36

Lecteur audio

INTRO

WiCi présente un boîtier de calcul externe sans fil basé sur une NVIDIA RTX 5090, qui permet aux PC portables et aux Mac d’utiliser la puissance graphique d’un GPU de bureau via le Wi‑Fi, tout en rendant possibles des charges d’IA locales étonnamment importantes grâce à des optimisations poussées des données, de la mémoire et de l’ordonnancement.

POINTS CLÉS

Un GPU qui apparaît comme local via le Wi‑Fi

WiCi intègre une RTX 5090, un mini PC et la mise en réseau OpenWRT dans un seul boîtier, capable de présenter le GPU à un autre appareil comme s’il était installé localement. Lors des tests, un ordinateur portable a reconnu la carte dans son gestionnaire des tâches et l’a utilisée pour lancer Cyberpunk 2077 et Blender, tandis qu’un Mac accédait en même temps au même matériel pour des charges d’IA et de création. Il ne s’agit pas de bureau à distance ou de cloud gaming classique: l’interface reste sur l’appareil de l’utilisateur tandis que le calcul graphique est déporté sans fil.

Pourquoi l’usage d’un GPU sans fil est normalement impraticable

Un GPU classique repose sur le PCIe, qui offre environ 512 gigabits par seconde et des temps de réponse inférieurs à la microseconde. À l’inverse, une liaison Wi‑Fi peut ne fournir qu’environ 1 gigabit par seconde avec une latence aller-retour d’environ 1,5 milliseconde dans de bonnes conditions. Cet écart est bloquant, car les jeux et applications graphiques échangent des milliers de petits messages sensibles au temps chaque seconde; si chaque commande devait attendre le Wi‑Fi, le nombre d’images par seconde s’effondrerait.

Comment WiCi réduit le goulot d’étranglement du réseau

Pour rendre l’ensemble utilisable, WiCi a mis en place une sorte de couche GPU virtuelle et développé son propre protocole de transport. Le système regroupe et compresse les commandes, n’envoie que les données modifiées et anticipe certaines réponses afin de les livrer avant même qu’elles ne soient explicitement demandées. Il renvoie ensuite vers l’appareil client une sortie vidéo compressée. Selon l’entreprise, ces changements réduisent un trafic qui aurait demandé environ 8 gigabits par seconde à environ 400 mégabits par seconde, assez pour maintenir environ 92 images par seconde dans les tests de jeu.

L’IA locale est la cible principale

La démonstration de jeu attire l’attention, mais l’ambition plus large de l’entreprise est l’IA locale. Les GPU grand public avec 32GB de VRAM ne peuvent généralement pas héberger des modèles ouverts de pointe en pleine qualité. Un exemple mis en avant est DeepSeek 4.1 Flash, décrit comme un modèle de 750 milliards de paramètres qui demanderait normalement plus de 500GB de mémoire, bien au-delà de ce qu’un seul GPU de bureau peut fournir.

Utiliser le SSD comme substitut à la mémoire manquante

WiCi répond à cette limite en s’appuyant sur un SSD de 4TB comme extension de la hiérarchie mémoire. Sur le papier, cela semble peu viable: la VRAM d’un GPU peut déplacer des données à environ 1,8TB par seconde, alors qu’un SSD plafonne vers 14GB par seconde dans des transferts volumineux idéaux, et bien moins sur de petites lectures. Pour les grands modèles de langage, où le déplacement des données détermine souvent la vitesse, un déport naïf sur SSD rendrait la génération pratiquement inutilisable.

Le mixture-of-experts rend le problème solvable

L’entreprise se concentre sur les modèles mixture-of-experts, où seule une partie du modèle est active pour chaque token. Dans l’exemple de DeepSeek 4.1 Flash, seulement 6 experts sur 384 sont sélectionnés par token, ce qui réduit la quantité de données nécessaire à chaque étape d’environ 508GB à environ 15GB. Le débit du stockage reste un défi majeur, mais cela ouvre une voie que les modèles denses n’offrent pas.

Quatre optimisations permettent des vitesses de tokens utilisables

WiCi affirme réécrire les fichiers de modèles pour que les blocs d’experts aient une taille identique et soient alignés pour un accès SSD rapide, permettant des lectures de 64 blocs à la fois et faisant passer le débit effectif d’environ 1GB/s à environ 11,5GB/s. L’entreprise met aussi en cache les experts les plus fréquents en RAM, si bien qu’environ 1GB seulement d’experts doit venir du SSD pour de nombreux tokens. Enfin, elle répartit les calculs entre CPU et GPU selon l’emplacement de chargement des poids. En démonstration, cela a donné environ 8 à 15 tokens par seconde dans les cas favorables, avec certains prompts plus proches de 3 à 4 tokens par seconde.

Un ordonnanceur veut transformer un GPU en ressource partagée pour le foyer

Un autre obstacle est que les GPU gèrent mal le multitâche entre grands modèles d’IA, car chaque modèle peut occuper la majeure partie, voire la totalité, de la VRAM disponible. La réponse de WiCi est un ordonnanceur qui « gare » les modèles inactifs sur SSD afin de les restaurer plus vite qu’avec un rechargement complet. Dans des tests comparatifs, changer de modèle d’image sans cet ordonnanceur prenait environ 18 secondes; avec des copies garées, la même tâche tombait à environ 8,6 secondes. Le retour de la génération d’image au chat passait d’environ 17 secondes à environ 4 secondes.

Un matériel encore précoce, mais avec des ambitions commerciales

L’appareil montré est un premier modèle d’ingénierie, livré dans un emballage robuste et présenté comme déjà disponible à la commande. WiCi propose des versions basées sur la RTX 5090 et sur une RTX 5060 Ti moins chère, avec une expédition estimée à environ huit semaines. L’argument de l’entreprise est celui d’un « GPU familial » capable de servir les PC portables, tablettes, téléphones et Mac comme ressource locale centralisée de calcul.

CONCLUSION

WiCi cherche à transformer un GPU haut de gamme en infrastructure sans fil partagée pour le jeu, les applications créatives et l’IA locale. Si ses techniques de réseau, de stockage et d’ordonnancement tiennent au-delà des premières démonstrations, cela pourrait élargir l’accès à une puissance de calcul de niveau desktop sans intégrer un gros GPU dans chaque machine.

Poser une question

Sur le même sujet : IA