Compania NVIDIA va lansa în octombrie primele laptopuri cu tehnologia RTX Spark, destinată să ruleze modele de inteligență artificială direct pe dispozitiv, fără a fi nevoie de conexiune la cloud.
RTX Spark este construit în jurul unui supercip care combină un procesor Grace cu un GPU bazat pe arhitectura Blackwell.
Configurația poate ajunge la 20 de nuclee CPU, 6.
144 de nuclee GPU și până la 128 GB de memorie unificată, oferind o performanță de până la 1 petaflop pentru AI în FP4.
Un avantaj major al acestei tehnologii este memoria unificată, accesibilă atât procesorului, cât și plăcii grafice, ceea ce permite rularea locală a modele lingvistice cu până la 120 de miliarde de parametri și ferestre de context de până la un milion de tokeni în anumite scenarii.
Citește articolul complet pe Lider News
Deschide articolul →