Midbrain: următoarea frontieră nu e un model mai bun, e modelul tău

Publicat pe
George Buhnici în studioul IGDLCC cu Timmy Ghiurău și Carlos Calva, cofondatorii laboratorului Midbrain, într-o discuție despre memoria AI și învățarea continuă
https://www.youtube.com/watch?v=2R_x-BN3atk

Timmy Ghiurău a fost prima dată la masa asta în 2021, ca să-mi explice cum se vede viitorul prin VR. Între timp a plecat de la Volvo, unde a făcut zece ani inovație, și a fondat împreună cu Carlos Calva laboratorul Midbrain. Carlos a pornit de la un studio de jocuri, a ajuns să construiască la AEXA Aerospace unelte de antrenament cu HoloLens pentru astronauții NASA, apoi a lucrat pe conștientizare situațională pentru apărarea americană. S-au cunoscut pe o bancă, la un hackathon MIT. Midbrain e pariul lor că următoarea frontieră în inteligența artificială nu e un model mai bun, ci un model care te cunoaște.

O bancă la MIT, un costum haptic și o cască holografică

Povestea începe în 2019. Timmy era jurat la hackathonul MIT, rupt de jet lag, și adusese primul prototip Varjo. Stătea pe o bancă, mort de oboseală, când lângă el se așază un tip cu o cască interesantă în mână. „Salut, amice, văd că ai o cască interesantă. Eu am un costum haptic. Mă lași să încerc?” Au început acolo o dezbatere despre cum o să arate lumea când ne vom uita prin a douăzecea versiune a ochelarilor ăștia și nu vom mai putea spune care om e real și care e agent.

Au trecut șapte ani și sunt încă prieteni, lucru pe care îl numesc ei înșiși surprinzător. Au vorbit la telefon aproape zilnic, Carlos din Houston, Timmy din Suedia. Carlos venea din neuroștiință, cu o teză despre cum emoțiile ne modelează comportamentele și amintirile. Timmy încerca să facă oamenii virtuali credibili suficient ca să dispară disonanța cognitivă în realitatea mixtă. S-au întâlnit la mijloc.

Plecarea din industria auto are o explicație pe care Timmy o citează de la un prieten de la BMW: automotive-ul e într-o criză a vârstei mijlocii cu tulburare borderline. Suntem sustenabili, suntem o companie de mobilitate, suntem o companie de tehnologie? Zece ani pe inovație, fără salturi mari, și omul s-a întors în lumea startup-urilor.

Tesla care face tumbe și criza de nervi

Înregistram la câteva ore după lansarea Tesla, așa că i-am întrebat direct: e un pas înainte sau e o criză de nervi? Amândoi au răspuns la fel. Criza de nervi. Carlos a adăugat că ar vrea totuși să fie în mașina aia când face o tumbă, iar amândoi au pariat că nu era nimeni înăuntru. Despre propulsoarele cu aer rece, concluzia a fost scurtă: depinde de acumulator și nu pare să plutească prea mult. Am scris separat despre spectacolul Roadster și mașina ieftină care tot lipsește, iar reacția lor se potrivește perfect cu ce vedeam și eu.

Are vreo utilitate o mașină care face kickflip-uri? „Le zici prietenilor: uite la asta. Uitați-vă la mine.” Cam atât. Dar Carlos vine din aerospațial și apără greșelile: nu există nimic în rachetărie care să nu dea greș de câteva sute de ori până să-l faci cum trebuie. Primul HoloLens trimis la Stația Spațială Internațională a fost pe ultima rachetă SpaceX care a explodat, aceeași care ducea satelitul lui Mark Zuckerberg. De aici și regula lui: „Nu ai niciodată destule redundanțe.”

Ce e Midbrain și de ce a început totul în Minecraft

Ca să înțelegi Midbrain, trebuie să pornești de la ce era greu în munca lui Carlos: simularea emergenței. Lumea e emergentă, lucrurile se ciocnesc, iar când încerci să reproduci asta în digital obții o aproximare cu randomizare algoritmică. Problema e că oamenii sunt extrem de buni la identificarea tiparelor. Oricât de greu e un joc, există cineva care știe exact tiparul și îl sparge.

Observația lui a fost că emergența apare din entități auto-divergente care se ciocnesc. Te trezești, te lovești cu degetul de pat, ești prost dispus, ești nesimțit cu cineva și i-ai schimbat divergența. Din ciocnirea asta ies lucruri noi. Noi trei la masă știm mai multă matematică decât Da Vinci sau Galileo, spune el, și asta nu ne face mai deștepți. Doar am fost învățați ce au pus cap la cap trei generații.

Cercetarea a început în Minecraft, cu agenți care comutau între Sistemul 1 și Sistemul 2 ale lui Daniel Kahneman. Sistemul rapid verifică dacă ți-e foame sau dacă e un zombi lângă tine, un model de tip JEV. Sistemul lent ține planurile lungi, personalitatea care te împinge să explorezi peștera sau să fii constructor. Au simulat o mică societate ca să vadă în ce condiții o arhitectură de agent poate executa sarcini de durată și se poate adapta la situații noi. Agenții lor erau always-on, fără cheat-uri, intrau pe Discord, foloseau Google Docs, dădeau stream. Între timp agenții AI au terminat Minecraft, dar întrebările de atunci au rămas valabile.

Creierul consumă cât un bec și aruncă aproape tot

Aici discuția devine foarte concretă. Creierul uman nu are un singur sistem care generează inteligența, are un ansamblu orchestrat: sistem auditiv, cortex vizual, hipocamp pentru formarea amintirilor. Întrebarea e cum sunt orchestrate ca să reacționeze atât de repede, cu un consum de vreo 90 de wați, cât un bec.

Răspunsul lor: creierul e eficient nu pentru că procesează mult, ci pentru că știe ce să arunce ca zgomot. Tu, în studioul tău, nu mai preiei informație din jur. Știi că scaunul face zgomot, știi că e cineva jos. Pentru ei e mediu nou, așa că o ușă trântită îi distrage, pentru că trebuie să facă inferență și să prezică ce ar putea fi.

Am adus în discuție ce am aflat când l-am avut aici pe dr. Dragoș Cîrneci, cu care am căzut de acord că nu există un cortex al memoriei. Memoria nu stă într-un singur loc, e difuză, pentru că îți amintești mereu și ce ai simțit când s-a întâmplat ceva. Era frig, ai atins ceva, te-a înțepat o albină. Iar după ce cerni gigapixeli de realitate, pe cortex rămân câțiva biți pe secundă. Cel mai mare bitrate măsurat de cei de la Neuralink e de vreo 12 până la 14 biți pe secundă.

Aplicat la podcastul ăsta: după un episod întreg, oamenilor o să le rămână câțiva biți. Esența esenței, ca o picătură. Și, dacă avem noroc, pornim niște dendrite noi, niște tipare, nu neapărat informație.

Suntem comportamente condiționate, nu decizii cântărite

Carlos are o observație care taie adânc: „Ne place să credem că fiecare decizie pe care o luăm a fost atent planificată, cântărită, evaluată, când de fapt mare parte din ce faci într-o zi e pur și simplu comportament condiționat.” Sunt rutine suprapuse, cele mai eficiente trasee din creierul tău. De ce bei cafea dimineața, de ce fumezi după ce mănânci. Creierul găsește cea mai ieftină cale spre un ciclu de dopamină sau de oxitocină, iar funcția lui principală rămâne să te țină în viață.

De aici vin și bias-urile. Întreabă pe cineva cum funcționează o mașină și primești de la „accelerezi, frânezi, virezi” până la descrierea unui motor cu ardere internă. Nouăzeci și nouă la sută dintre oameni nu știu ce înseamnă tracțiunea integrală, și e în regulă: patru roți în loc de două e suficient pentru creierul tău, pentru că supraviețuirea ta nu depinde de asta. Dacă ești inginer în echipa de tracțiune integrală, bias-ul tău e mult mai profund, fiindcă acolo supraviețuirea ta chiar depinde de detaliu.

Tot de aici vine și conștientizarea situațională, pe care Carlos a studiat-o pentru Departamentul Apărării. Un operativ care trebuie să decidă dacă apasă pe trăgaci are cam o secundă și jumătate până la două secunde. Un pilot care știe că se prăbușește are două secunde să se catapulteze. De asta pușcașii marini sunt antrenați în condiții nebunești, cu țipete și zgomote puternice: ca să-și antreneze mintea să nu fie atentă la ele și să rămână pe sarcină.

Emoția e semnalul care arde amintirea în creier

Întrebarea „unde ai fost de Revelion?” are răspuns instant. „Și anul dinainte? Și cu trei ani înainte?” Acolo ochii se duc în sus și începi să cauți prin sistemul de memorie. Carlos citează studiul celebru în care oamenii au fost întrebați unde erau pe 11 septembrie, an după an, până când memoria se degradase atât de tare încât spuneau neadevăruri de care erau absolut siguri.

Teza lui: emoția nu e un strat peste date, e cel mai rapid mod de a ajunge la ele. „Gândește-te la emoții ca la un semnal care îți arde amintirea în creier. Cu cât emoția e mai puternică, cu atât amintirea se întipărește mai adânc și cu atât creierul recuperează semnalul mai repede.”

Produsul lansat de Midbrain urmează exact principiul ăsta. În loc de un rezumat brut făcut de un model, păstrează informația cuvânt cu cuvânt, ca memorie episodică, exact cum s-a întâmplat. Apoi consolidează în funcție de un scor de relevanță, de cât de multă emoție are informația. Avantajul față de noi e că un sistem poate reconstrui fiecare detaliu, deci poți să te întorci și să întrebi cum a fost luată o decizie. Răspunsul vine cu urmele: a început cu un e-mail, apoi a fost discuția aia, apoi conversațiile de-a lungul anilor, până a apărut Carlos și erau amândoi în București.

Important nu e doar ce s-a întâmplat, ci de ce. „Vreau ca sistemul meu de inteligență să înțeleagă de ce am luat decizii, nu doar cum le-am executat”, spune Carlos, pentru că intenția e ce se transferă mai departe într-o decizie următoare.

„Scoate liniuțele lungi.” De câte ori ai zis asta?

Partea asta a conversației m-a pus pe gânduri, pentru că e exact ce fac și eu zilnic. „Ți-am zis să nu scrii mailul ăla așa. Ți-am zis să nu scrii codul ăsta în felul ăsta. Scoate liniuțele lungi. Niciodată liniuțe lungi.” De câte ori ai repetat o regulă? Eu am pus-o în CLAUDE.md și am crezut că am rezolvat.

Întrebarea lui Carlos strică liniștea: ce se întâmplă când fișierele tale MD încep să se învechească? Regula cu liniuțele lungi e permanentă. Dar ce faci cu regulile care trebuie să se adapteze? Vine clientul și zice: „Acum vreau liniuțe lungi, dar doar în situațiile astea, pentru că am nevoie de un exemplu că LLM-urile pun liniuțe lungi.” Îți rescrii fișierul de fiecare dată? Și când se schimbă iar?

Am sugerat că descrie un skill. Răspunsul a fost nu, pentru că există deja cercetare care arată că skills nu sunt mereu cele mai eficiente și că pot duce la degradarea contextului, fiind afectate de cum se schimbă harness-ul și modelul în timp.

Iar costul real al întreținerii apare într-o propoziție pe care o voi reține: un prieten foarte bun al lui Timmy, care își face propriul startup, petrece 40 până la 60 de ore pe săptămână ajustându-și propriul harness. „Eu aș vrea să-mi călăresc calul, nu să tot repar hamul de pe cal.” Un cercetător foarte capabil tehnic i-a spus despre Hermes, de la Nous Research: „Nu-l folosesc, nu pentru că n-ar fi bun, nu pentru că nu-mi place. Pur și simplu nu vreau să-l întrețin.”

Experiența care nu se pierde când schimbi modelul

De aici vine ideea de bază. Apare un model de frontieră nou în fiecare săptămână și un harness nou la fel de des, iar informația ta, contextul tău, se împrăștie prin mai multe unelte și mai multe modele. Ce vrei ca utilizator e cel mai bun rezultat pentru sarcină, fără să te întrebi care e modelul săptămânii.

Alternativa de azi e dureroasă: iei un model, îi faci fine-tuning, îți cureți datele, faci pre-training, training, post-training. Și, pentru că tu evoluezi, trebuie să continui s-o faci. Cine ești și cum te porți aici, față de SUA, față de Franța, față de când faci un review tehnic, sunt contexte complet diferite. Niște straturi ale tale care se suprapun.

Ce vând ei e infrastructura care face asta fără procesele tehnice grele: învățare parametrică, adică informația se întoarce în ponderile modelului, fără uitare catastrofală. Practic, în loc să treci la Codex când ai rămas fără credite pe Claude și să o iei de la capăt, spui doar „continuă”, iar memoria injectează contextul potrivit. Timmy a povestit cum, deasupra Groenlandei, fără internet, Instinct i-a generat singur în PDF transcrierile de la întâlnirea cu investitorii, ca să le poată citi în avion. Nici nu l-a întrebat. Pentru el, asta e primul semn de intuiție în software.

Limita actuală a acestor agenți proactivi e că lucrează pe sarcini scurte, comprimă contextul tot timpul, uită catastrofal și nu se concentrează neapărat pe ce e important. Dacă au nimerit o dată bine, insistă săptămâni pe acel lucru. Motivul e simplu: sunt modele supra-generalizate, antrenate pe ce ar putea fi important pentru majoritate, nu pentru tine.

Criptat end-to-end: cum cauți în date pe care nu le poți citi

Fiind companie americană cu laboratorul de cercetare în Europa, au avut de ales cum tratează GDPR-ul: strictul necesar sau până la capăt. Au ales până la capăt, pentru că, spun ei, „suntem în business-ul încrederii” și trebuie să poți da sistemului toate informațiile tale ca să te înțeleagă.

Consolidarea și recuperarea se fac pe date criptate, cu mai multe straturi de chei care se decriptează la momentele în care e nevoie, fără ca ei să vadă vreodată cheile și datele. Când ceri „hai să ne amintim ce s-a întâmplat săptămâna trecută”, interogarea găsește potrivirea pe embedding-uri care sunt și ele criptate, iar embedding-urile se rotesc, ca să nu le spargă cineva prin înțelegerea lor. Singurul moment necriptat e o fereastră de sub 10 milisecunde, la intrare, în care se face scoringul.

Cheia finală stă pe calculatorul tău, cam ca la Signal sau WhatsApp, iar acolo datele devin text lizibil injectat în LLM-ul pe care îl alegi tu. I-am spus sincer: sper că AI-ul care ascultă asta înțelege ce zic, pentru că eu n-am înțeles din prima.

La corporații a prins partea de company brain, cu SharePoint și CRM capturate în siguranță, plus memoria partajată la nivel de organizație. Dacă agentul meu de programare a învățat din greșeală, împarte lecția cu echipa ta de agenți, deci totul devine mai ieftin și mai rapid.

Toți fac târnăcoape și lopeți, dar nimeni nu caută aur

Convingerea lor despre următoarea generație de companii AI nu e despre cine construiește motorul, ci despre cine construiește ce trece prin motor. Contextul tău, cunoașterea ta, know-how-ul. Apple rămâne Apple din cauza etosului și a proprietății intelectuale, nu a componentelor. La fel și tu, ca om: vei produce rezultate mai bune cu aceleași unelte, pe baza a tot ce știi.

Iar blocajul s-a mutat. „Adevăratul blocaj nu mai e GPU-ul Nvidia, e memoria.” Memoria fizică. Peste asta vin blocajele de infrastructură: încearcă azi să cumperi o centrală electrică pentru un data center și intri pe o listă de așteptare de ani. E aceeași tensiune pe care am urmărit-o și eu când am pus banii pe cipuri, energie și cupru.

Despre hype, Timmy e tăios. De fiecare dată când iese un model nou, oamenii fac niște jocuri și zic „uite, acum poate face GTA 17”, arată uimitor, și cam atât. Alexandr Wang a trebuit să explice pe X că Muse Wonder nu a fost prea antrenat pe motoare de jocuri 3D, de aceea lipsesc demonstrațiile spectaculoase. Partea cealaltă a X-ului, oamenii care aplică AI în cercetare, spun altceva: trebuie să stai cu ochii pe sistemele astea. Cercetătorul lor principal repetă exact asta, iar unele modele prea optimizate pentru raționament se chinuie mult la lucruri simple. Vezi des oameni care se întorc la modele optimizate pentru cod, nu la cel mai nou model de frontieră.

Analogia pe care am propus-o, venind din auto, a prins: toată lumea încearcă să construiască un motor mai bun și mai rapid, dar nu înțelegem pentru ce vehicul e potrivită propulsia aia. Nimeni nu are nevoie de modelul Astra tot timpul, dar, fiind masiv subvenționat, pot trage de el pentru orice prostie, pentru că intră în cota săptămânală. Adică folosesc un motor de Ferrari pe o bicicletă. În contextul în care se discută deja dacă bula AI mai rezistă, întrebarea „ce obțin de fapt din asta” nu mai e academică: Meta a arătat cum rulezi Muse pe două Mac Studio, adică bagi vreo 30.000 de dolari ca să rulezi local un model, când prin API iei Qwen 3 Coder și faci ce vrei cu el.

Energia ca monedă și teama că doar elitele ajung la frontieră

I-am pus în ultimele minute să-și lustruiască globurile de cristal. Timmy, care făcea scenarii de prospectivă la Volvo, alege mereu 2040 sau 2050, suficient de aproape și de departe ca să vezi schimbări sistemice, nu doar trenduri.

Temerea lui: „doar elitele vor avea acces la inteligența de frontieră, iar restul vor fi aruncați într-un fel de sistem de credite”. Suntem deja obișnuiți să ne uităm câte credite ne-au mai rămas în fiecare unealtă. Când treci la AI fizic, la roboți în casă, o să poți funcționa doar dacă ești măsurat, pentru că din auto se știe că accidentele dispar doar dacă scoți omul din ecuație, iar asta înseamnă un nivel de control. Utopia din fiecare film a avut mereu un mecanism ciudat de control care să-i țină pe toți în linie. Concluzia lui: energia devine monedă, și vom fi foarte măsurați dacă nu producem destulă ca să fie din belșug.

Carlos merge pe idealism realist și e clar de partea optimistă. Regretă doar că nu a avut tehnologia asta când era copil: în loc să nu doarmă jucând Blizzard, ar fi stat nedormit făcând vibe coding pe fiecare idee stupidă. Îl fascinează creatorii care reușesc să trăiască din asta în câteva luni și puștii de 18 ani care vând companii cu sute de milioane în 18 luni. Adaugă imediat și limita: nu toată lumea are calculator, internet și bani de credite, deci nu e o pastilă magică.

Partea lui înfricoșătoare e amploarea. Raza de acțiune a AI-ului e mai largă decât a multor tehnologii de dinainte, iar impactul fizic e mai mare decât al motorului cu combustie. Unde punem data centerele ca să le ținem reci? În adâncul mării, unde apa e deja caldă? În spațiu, unde trebuie să înmulțești CO2-ul unei rachete cu numărul de zboruri necesare ca să ții pasul cu cererea? Dacă ar alege, ar merge pe spațiu, pentru că în oceane impactul ar fi direct și rapid. Iar nuclearul rămâne o opțiune foarte bună.

Ce rămâne al tău: gustul, intenția și întrebările

Finalul discuției e și partea care mi-a rămas. Carlos spune că tehnologia ni s-a servit până acum ca fast-food: ai McDonald's sau Burger King, Android sau iOS, Windows sau Apple, OpenAI sau Anthropic. Două opțiuni care aproape nu se schimbă. Trecerea de la o categorie psihometrică la una personalizată e, pentru el, viitorul fascinant.

Timmy aduce exemplul lui cu profesorul de chitară, Marius Pop, chitaristul lui Smiley, care i-a arătat transformatele Fourier și cum se formează armonicele la chitară. Atunci creierul lui a legat două domenii și a devenit interesat deopotrivă de matematică și de chitară. Asta vrem de la un companion: să extragă din domenii diferite și să transfere cunoașterea. „Hei, ții minte cum am făcut chestia aia în Minecraft?”

Ce numim vag „gust” e de fapt un mecanism de selecție construit din ani de experiență. Iar aici vine propoziția cu care închid: „Blocajul final o să fie doar întrebările noastre. O să rămânem până la urmă fără întrebări dacă nu ne cultivăm gustul, interesele și intuițiile, pentru că la un moment dat totul o să aibă răspuns.”

Midbrain e disponibil de azi, fără listă de așteptare, iar cel mai rapid mod de a-l încerca e printr-un MCP: dai copy-paste la o comandă în agentul tău, el se uită la toți agenții de pe calculator și îi conectează. Dacă vă interesează și cercetarea, acolo publică studiile și descoperirile.

Dacă ți-a plăcut discuția, ascult-o întreagă pe canal și spune-mi în comentarii dacă ai da unui sistem acces la tot ce scrii, ca să te cunoască mai bine. Eu încă mă gândesc.

Publicat pe

Nu rata nimic pe YouTube!

Dacă deja nu te-ai abonat pe canalul meu de YouTube, o poți face acum pentru a nu rata niciun video nou.

Hai pe EDITORIAL!

Descoperă ce urmează, înțelege mai repede lumea din jur și citește seria EDITORIAL.