E prima dată când fac chestia asta pe cameră. Am tăiat netul după ce am făcut toate pregătirile, am lăsat doar rețeaua internă și cablul de curent, zero cloud, și am întrebat laptopul cât produc panourile solare în momentul ăla. Mi-a răspuns cu voce, în limba română, cu cifra reală din senzorii clădirii: 4,9 kW. Asistentul se numește Spark, iar tot lanțul rulează pe ASUS ProArt P14 cu NVIDIA RTX Spark, pe arhitectură Blackwell, aici pe birou.
Trebuie să vă zic de la început că exemplarul e de test. ASUS nu a plătit pentru clip și nu a văzut scriptul. Am primit și un ghid oficial pentru cei care fac teste, pe care l-am ignorat, fiindcă testele din el folosesc modele de acum doi ani, gen Mistral sau Llama 3.1. E ca și cum ai testa un Porsche în parcarea de la Lidl. Așa că am pus pe el, împreună cu Claude Code, un asistent vocal care citește o clădire reală și modele open source din 2026, și la final vă spun sincer dacă e un coleg de echipă sau doar o unealtă scumpă.
Ce e înăuntru: 128 GB care par 64
Înăuntru e un RTX Spark, un singur cip în care procesorul și placa video împrumută aceeași memorie. E cumva ceea ce face deja foarte bine Apple cu memoria unificată, doar că acum a ajuns și pe Windows, pe arhitectură ARM. Exemplarul de pe masa mea are 128 GB LPDDR5.
Numai că dacă deschizi Task Manager îți arată că ai doar 64. Prima dată am crezut și eu că lipsește ceva, că mi-am luat țeapă. Nu: driverul păstrează 62 GB pentru placa video, iar când încarci un model, GPU-ul poate folosi aproape 110 GB din memorie. Pe un laptop de gaming, placa video are de obicei 8, 12, poate 16 GB. Aici încap modele de zeci de miliarde de parametri.
Și un detaliu pe care alte teste l-au scăpat: e Windows pe ARM. Nu toate soft-urile AI au versiune pentru el, și o să vedeți mai jos exact ce merge și ce nu.
Patru lucruri, toate local: să audă, să transcrie, să gândească, să vorbească
Asta e toată ecuația. Laptopul trebuie să facă patru chestii pe plan local, fără să iasă în internet. Și nu e o demonstrație cu date inventate, pentru că Spark citește senzorii reali de la noi din Cavaleria Hub, prin Home Assistant, care rulează pe un Zenbook mai vechiuț de pe aceeași masă. Mă întreabă lumea de ce am nevoie de Home Assistant peste KNX: pentru că KNX are și el limitările lui, iar Home Assistant vorbește cu toată casa, inclusiv cu bateriile, fotovoltaicele, stațiile de încărcare și termostatele. Cu ocazia asta am descoperit 75 de senzori și chiar și un circuit care deschide ușa, despre care nu știam că există.
De ce voce și nu încă un dashboard? Fiindcă am făcut deja multe interfețe, unele chiar simpatice, și mi-am dat seama de un lucru: ultima interfață e vocea. Așa că i-am făcut un wake word, adică un programel care ascultă în permanență în fundal cuvintele cheie. Rezultatul, cu cifre reale:
- „Hei, Spark, care e temperatura în casă?” → „Variază între 20,7 grade în bucătărie și 25 în camera tehnică.”
- „Hei, Spark, vezi vreo problemă în casă?” → „Temperatura din camera tehnică e ridicată la 25 de grade, ceea ce e normal pentru echipamentele electrice.” Deci deja face analiză, nu doar citește.
- „Hei, Spark, câți oameni sunt în clădire?” → „Nu am senzor pentru numărul de persoane.” Nu inventează, și asta îmi place cel mai mult: știe ce nu știe.
- „Hei, Spark, tu vezi internetul?” → „Rulez local pe laptop, fără conexiune la internet, așa că nu pot accesa nimic din rețeaua globală.” Aici e cheia, la asta am luptat.
De la terminarea întrebării până la primul cuvânt trec între 0,6 secunde și o secundă și jumătate. Sub o secundă e transcrierea, restul e modelul care începe să răspundă. Nu e Siri, e un pic mai lent decât un om, dar îmi răspunde cu cifrele mele, în română, fără internet.
Soluția n-a fost un model mai mare, a fost o listă mai bună
Prima dată i-am dat lui Spark acces la toată clădirea și l-am întrebat de două ori același lucru. Mi-a răspuns de două ori diferit, fiindcă aduna senzorii aiurea. N-am rezolvat-o punând un model mai deștept din internet. Am făcut doar liste de senzori, fiecare cu o explicație scurtă: de exemplu, „negativ înseamnă că trimitem curent în rețea”. Detalii de prosumator, că eu am două baterii, nu una, și mai vând și energie printr-un virtual power plant, cu cei de la Yellowgrid. De atunci răspunsurile au devenit consecvente.
Deci modelul e doar jumătate din treabă. Cealaltă jumătate e ce îi dai să citească. Știți vorba aia, bullshit in, bullshit out.
Vestea bună e că nu trebuie să fii programator ca să faci chestia asta. Eu nu sunt, dar știu să pun întrebări. Am instalat Claude Code pe mașina asta, i-am dat câteva unelte la început și de atunci doar conversez cu el, exact ca atunci când mi-am pus prima dată un agent AI pe laptop. Mi se pare interesant că folosesc inteligență din internet ca să organizez inteligență locală. Singura bucată care atinge netul în timpul lucrului e Claude Code, în rest totul merge și după ce tai cablul.
Capcana din Creator Hub: 31 de tokeni pe secundă sau 84
Asta am găsit-o din greșeală. Laptopul are patru moduri de funcționare, ascunse în ProArt Creator Hub: Windows, Whisper, Standard și Performance. Whisper, cel silențios, îl limitează la 35 W ca să stai pe baterie. Performance îl duce la 70 W, iar încărcătorul din cutie îi dă 140 W.
Diferența: același model face 31 de tokeni pe secundă în modul eficient și 84 în Performance. Aproape de trei ori mai rapid, dintr-un singur ecran de setări. Dacă nu știi să intri acolo, testezi jumătate de laptop.
Până să pornesc benchmark-urile nici nu am auzit ventilatoarele. În test au sărit de 6.000 de rotații pe minut, cu GPU-ul la 71 de grade și procesorul la 77, și tot se aud mai încet decât coolerele laptopului de gaming al lui Radu. Sistemul are 614 nuclee de GPU și 20 de nuclee de CPU, iar presiunea pe memorie nu a fost niciodată atât de mare cât mă așteptam.
Benchmark propriu: de 10 până la 14 ori mai rapid decât mini-PC-ul
N-am folosit o aplicație standard de benchmark, fiindcă nu vreau să mă las păcălit de bench maxing. M-am uitat direct în datele sistemului. Am pus patru modele să scrie același raport de dimineață și să răspundă la întrebări dintr-un dosar cu incidente reale: un server cu memoria plină, o irigare care poate n-a pornit, o pompă care poate a mers prea mult. Același dosar l-am rulat în paralel pe un mini-PC Minisforum mult mai ieftin, despre care urmează un clip separat.
- Gemma 4: 8 secunde pe ProArt, aproape două minute pe mini-PC.
- Qwen 3.8, varianta de 27 de miliarde de parametri, care a scris cea mai bună analiză: 25 de secunde pe ProArt, 242 pe mini-PC.
- Modelul gândit pentru viteză, cel pe care rulează Spark: 7 secunde și ceva.
- Nemotron Bolt, de la NVIDIA, de două ori mai mare: 32 de secunde.
Deci aceleași modele, aceeași muncă, de 10 până la 14 ori mai repede pe ceva ce îmi iau în rucsac. Vârful de consum nu a trecut niciodată de 60 W, iar placa grafică s-a dus la 74 de grade. Dacă vine mâine apocalipsa, pot să am mare parte din cunoașterea lumii într-un singur calculator. Cred că e o idee interesantă pentru prepperi.
La română, diferențele se aud
Aici se vede cine a fost antrenat cum. Nemotron de la NVIDIA mi-a recomandat la cină „cremă de brân și fișe de pâine”. Deci modelul mai mare nu e automat mai bun, iar pentru română, părerea mea, deocamdată câștigă Qwen. Cel mai bun raport l-a scris tot Qwen 3.8, care a pus irigarea pe primul loc și a observat singur că problemele din casă vin de obicei din niște încălecări din Home Assistant. Caz real.
Problema de fond e că tot ce ați auzit rulează prin engleză și e tradus. Am stat de vorbă cu câțiva dezvoltatori români și i-am încurajat să facă modele native de limba română, pentru că româna cere în jur de 1,5 tokeni pentru fiecare token de input, doar din cauza traducerii. Dacă reușești să vorbești doar în engleză cu agenții tăi, economisești undeva la o treime din tokenii consumați.
Ce nu merge încă
Să nu ne mințim, sunt lucruri care azi nu merg sau nu merg ușor:
- Unelte populare nu au încă versiune pentru Windows pe ARM. Faster Whisper, de exemplu, a trebuit înlocuit cu alternative. Blender randează pe Cycles doar pe procesor.
- Vocile românești locale sunt încă robotice, inclusiv clona vocii mele, pe care am reușit să o fac pe laptop. Cele mai naturale au licență necomercială.
- Bateria: ghidul promite peste 16 ore la redare video, dar într-o oră de lucru cu AI pierzi mai mult de jumătate.
- Stocarea: vine cu 1 TB. Dacă lucrezi serios, te uiți la minimum 2, optim 4. Memoria și stocarea sunt scumpe, și asta e prețul pe care îl plătești.
- Ghidul promite modele de 120 de miliarde de parametri, dar fără nicio cifră. GPT-OSS are 120 de miliarde și e gratuit de descărcat, numai că nu-l folosește nimeni de adevăratelea și ocupă prea mult spațiu. Încă aștept un model care să umple memoria asta și să-mi lase și fereastră de context.
Prețul pornește de la 17.999 de lei pentru varianta de 32 GB. Configurația de 128 costă sensibil mai mult. Deci dacă nu rulezi modele mari, cloud-ul rămâne mult mai ieftin.
Limitarea adevărată nu mai e procesarea, e memoria
Și aici trebuie să v-o zic exact cum este. Îmi doresc enorm ca modelele open source să funcționeze local, și au apărut modele open source foarte competente. Nu suntem încă acolo, dar nu din cauza puterii de calcul. Memoria rapidă ne e luată de sub nas de hyperscaleri, nu avem nici măcar LPDDR6X, iar mai nou aud că NVIDIA oprește inclusiv producția la RTX 5090. Am văzut un filmuleț cu un tip care a început să plângă la nunta lui când soția i-a făcut cadou o placă din asta. Atât de rare au ajuns.
Aș putea pune Mistral 4 pe laptop, doar că mi-ar trebui mult mai multă memorie. Întrebarea reală a deceniului e dacă vom avea RAM de ordinul terabyte-ului care să nu coste cât două mașini noi.
Deci coleg sau unealtă scumpă?
Laptopul ăsta a ascultat, a citit clădirea, mi-a scris rapoarte și a rulat modele de zeci de miliarde de parametri cu un cost per token de aproape zero lei, doar curentul. Ghidul zice „de la unealtă la coleg”. Eu zic că e un coleg bun la reflexe, cu cheile casei, care nu vorbește cu nimeni din afara ei. Pentru proiectele mari însă îi mai trebuie un șef, îi trebuie un om și îi trebuie modele de frontieră.
Pentru că am simulat lucrurile astea de multe ori și de fiecare dată frontiera câștigă. Modelele din cloud răspund în secunde, cu răspunsuri mult mai sofisticate, cu ferestre de până la un milion de tokeni. Pe laptop am însă asistentul, datele private și rapoartele care trebuie să meargă și fără internet. Deci nu e ori-ori, e și-și. Iar AI-ul care contează cel mai mult nu va fi cel mai mare, ci cel care te știe cel mai bine și e deja la tine pe masă. De-aia am adus și un MacBook Pro lângă ASUS, ca să am un termen de comparație onest, nu ca să vă impresionez cu trei laptopuri.
Știu că a fost o ediție mai tehnică. Pentru omul obișnuit poate prea tehnică, pentru omul tehnic poate prea banală. Eu încerc să deschid domeniul ăsta și pentru alți oameni, care nu trebuie să lucreze pe trei laptopuri, dar ar merita să petreacă un pic de timp făcând ce am făcut eu aici: să pună un harness pe sistem și să-l pună la muncă. Nu cred că va fi clipul cu cele mai multe vizualizări, dar e cel la care am muncit cel mai mult săptămâna asta.
Dacă vreți și varianta ieftină, care stă acasă non-stop, urmează un deep dive cu mini-PC-ul, pentru că am descoperit că nu mai suntem limitați doar de plăcile grafice. Și spuneți-mi la comentarii dacă vreți să vă arăt cum am transformat un Nest Hub Max într-o interfață de casă cu touch, lucru care oficial n-ar trebui să fie posibil.