« De l'IA en local ? Mais ça existe déjà… » C'est la première réaction de beaucoup en découvrant RTX Spark. Elle est légitime, alors creusons un peu.
Ce qui existe déjà
Les PC récents, les fameux Copilot+ PC, embarquent un NPU : un petit accélérateur dédié à l'IA. Il fait déjà tourner des traitements en local, flou d'arrière-plan en visio, sous-titres en direct, petites tâches assistées, sans solliciter le cloud et en consommant très peu. Mais le NPU a une limite : il est taillé pour des modèles légers. Impossible d'y faire tourner un « gros » modèle de langage, il faut alors passer par le cloud.
Ce que change RTX Spark
Ce n'est pas « l'IA arrive en local », c'est l'IA locale qui change d'échelle. Là où un NPU se compte en dizaines de TOPS, RTX Spark vise le pétaflop, soit de l'ordre de 1 000 TOPS, avec jusqu'à 128 Go de mémoire unifiée. De quoi faire tourner un modèle de 120 milliards de paramètres directement sur la machine. En clair, nous passons d'une IA locale « d'appoint » à une IA locale capable d'absorber des usages qui, jusqu'ici, imposaient le cloud.
Et pour nous ?
Les premières machines sont déjà là : les précommandes sont ouvertes, avec des portables RTX Spark chez Asus (ProArt P14 et P16), Dell, HP et Lenovo attendus dès la mi-octobre, et des mini-PC de bureau annoncés pour novembre. Le DGX Spark, le mini-ordinateur IA dont cette puce dérive, est pour sa part déjà commercialisé. Autant dire que nous avons hâte de les recevoir au TechCenter pour les tester en conditions réelles.
Source : NVIDIA RTX Spark
NVIDIA RTX Spark : la puce qui va faire passer un cap aux PC Windows