Modelele lingvistice mari, cunoscute ca LLM-uri, au devenit una dintre cele mai vizibile forme de tehnologie asociate cu inteligența artificială. Într-un interviu acordat IFLScience, Dr. Alex Hanna, director de cercetare la Distributed AI Research Institute, a descris aceste sisteme ca modele statistice care învață distribuția tokenilor — cuvinte sau fragmente de cuvinte — pentru a prezice ce urmează într-o propoziție.
Ce sunt, de fapt, modelele lingvistice mari
Pe scurt, explicația ei este că LLM-urile nu „gândesc”, ci calculează probabilitatea următorului cuvânt pe baza datelor de antrenare. Această distincție stă la baza criticii sale față de felul în care sunt prezentate public aceste tehnologii.
De ce apare ideea de conștiință
Hanna spune că oamenii tind să atribuie o minte în spatele textului atunci când întâlnesc limbaj coerent, fie el scris, vorbit sau semnat. În opinia ei, această reacție psihologică ajută la alimentarea ideii că un chatbot ar putea avea subiectivitate sau conștiință.
Un alt motiv este limbajul folosit în industria AI. Termeni precum „rețea neuronală” sau comparațiile cu creierul uman pot sugera o apropiere mai mare de biologia reală decât există în fapt. Hanna susține că aceste analogii au fost împinse prea departe și că nu descriu modul în care funcționează neuronii biologici.
Limitele și riscurile LLM-urilor
Potrivit cercetătoarei, una dintre problemele majore este lipsa de transparență a datelor de antrenare. Companii precum OpenAI, Google și Anthropic folosesc volume uriașe de date colectate de pe internet, iar acest lucru face dificilă documentarea exactă a conținutului, a eventualelor prejudecăți și a modului în care acestea influențează rezultatele.
Hanna afirmă că există cercetări care arată bias-uri în răspunsurile modelelor în funcție de categorii sociale precum rasa, genul, clasa sau religia. În plus, aceste sisteme sunt costisitoare din punct de vedere energetic și au alimentat extinderea centrelor de date la scară mare.
O altă limită importantă este că LLM-urile nu oferă garanții de corectitudine. În loc să producă răspunsuri verificate, ele pot genera conținut plauzibil, dar incorect. Hanna evită termenul „halucinație”, preferând să spună că modelele „inventează” sau reproduc fragmente din datele de antrenare într-o formă care pare credibilă.
Unde devine problema mai serioasă
Riscurile cresc atunci când astfel de sisteme sunt folosite în zone în care o eroare poate avea consecințe reale. Hanna menționează servicii sociale, servicii guvernamentale, ocuparea forței de muncă și sănătatea, domenii în care textul generat automat nu poate înlocui în mod sigur discernământul uman.
În aceste contexte, o ieșire greșită nu este doar o problemă tehnică, ci poate afecta decizii despre oameni. De aceea, spune ea, este esențial să fie clar cine răspunde pentru deciziile luate cu ajutorul automatizării.
Conștiință, inteligență și superinteligență: ce respinge Hanna
Întrebată dacă vreun LLM actual este conștient sau ar putea deveni conștient, Hanna răspunde fără echivoc: nu și nu. Ea respinge și ideea că aceste sisteme ar putea fi descrise corect ca inteligente în sensul uman al termenului.
În opinia ei, performanța bună la anumite teste nu dovedește inteligență, ci reflectă modul în care sistemele au fost antrenate și tipurile de sarcini la care se potrivesc. Dacă un model răspunde bine la întrebări factuale, aceasta poate indica potrivirea cu datele de antrenare, nu o formă de înțelegere.
Hanna avertizează și asupra istoriei problematice a cuantificării inteligenței, care poate duce la ierarhii artificiale între oameni și mașini. În acest cadru, comparațiile dintre LLM-uri și oameni riscă să confunde utilitatea statistică cu capacitatea cognitivă reală.
Ce ar trebui să rețină publicul
Mesajul central al cercetătoarei este unul de prudență: nu toate tehnologiile etichetate drept AI sunt la fel, iar termenul este folosit prea larg. În loc să fie tratată ca o entitate aproape umană, tehnologia ar trebui înțeleasă prin ceea ce automatizează și prin cine poartă responsabilitatea atunci când ceva merge prost.
Într-un peisaj în care afirmațiile despre conștiința AI circulă rapid, Hanna recomandă scepticism față de declarațiile spectaculoase. Pe baza explicațiilor sale, LLM-urile rămân sisteme statistice puternice, dar limitate, nu dovezi că mașinile ar fi devenit conștiente.
