O instanță germană a decis că Google poate fi tras la răspundere pentru afirmațiile false generate de funcția sa AI Overviews, într-un caz care ar putea deveni un precedent important pentru modul în care este tratată responsabilitatea juridică a sistemelor de inteligență artificială pe web. Potrivit relatării publicate de WIRED, hotărârea pornește de la o dispută în care două companii au susținut că rezumatele generate de Google le-au asociat, în anumite căutări, cu practici comerciale discutabile, escrocherii și fraude legate de abonamente, fără o bază reală în sursele afișate.
O hotărâre care poate schimba regulile pentru căutarea asistată de AI
În esență, cazul ridică o întrebare care depășește disputa punctuală dintre părți: ce se întâmplă atunci când un motor de căutare nu mai afișează doar linkuri către conținut existent, ci formulează el însuși afirmații noi, aparent credibile, dar care nu apar în sursele originale? Instanța germană a răspuns că, în acest context, responsabilitatea nu mai poate fi tratată la fel ca în modelul clasic al căutării pe internet.
De la indexare la enunțuri noi
Conform materialului citat, judecătorii au concluzionat că sistemul Google a combinat informații despre alte companii, semnalate anterior pentru posibile practici ilicite, cu date despre reclamanți, generând asocieri care nu apăreau în rezultatele de căutare sau în sursele indicate. Instanța a descris aceste ieșiri ca fiind „afirmații independente, noi și substanțiale”, produse printr-o interpretare greșită a informațiilor disponibile online.
Aici se află miza reală a dosarului. Timp de ani de zile, motoarele de căutare au fost privite în mare parte ca instrumente de acces la conținut creat de terți, nu ca autori ai acelui conținut. Această distincție a oferit un anumit grad de protecție juridică atunci când informațiile afișate erau inexacte, înșelătoare sau chiar defăimătoare. Instanța germană a considerat însă că această protecție nu se aplică în același mod atunci când rezultatele sunt generate cu ajutorul AI-ului generativ.
În logica tribunalului, dacă un sistem produce afirmații care nu există în sursele pe care pretinde că le sintetizează, compania care îl proiectează, îl antrenează, îl operează și îl administrează nu poate invoca simplul rol de intermediar. Judecătorii au mers mai departe și au spus că responsabilitatea de a corecta dezinformarea nu poate fi transferată către terți, mai ales atunci când acei terți nu au formulat niciodată afirmațiile respective.
Apărarea Google și limitele avertismentelor standard
Google a negat răspunderea, susținând că funcția sa de rezumare automată avertizează utilizatorii că informațiile pot conține erori și trebuie verificate independent. Potrivit sursei, compania a transmis și că investește în calitatea AI Overviews pentru ca majoritatea răspunsurilor să ofere informații corecte și să reflecte ceea ce există pe web. Un purtător de cuvânt al companiei, citat de Ars Technica, a sugerat că decizia ar putea fi atacată.
Instanța a considerat însă că asemenea avertismente nu sunt suficiente pentru a înlătura răspunderea. Raționamentul este important nu doar pentru Google, ci și pentru întregul ecosistem al inteligenței artificiale generative. Dacă un sistem produce conținut nou, iar acel conținut provoacă prejudicii, simpla mențiune că răspunsurile pot conține erori nu pare să fie, cel puțin în această interpretare, o plasă de siguranță juridică suficientă.
Judecătorii au mai arătat că rezultatele generate de un sistem AI nu pot fi protejate prin principiile libertății de exprimare, întrucât nu reprezintă opinia unei persoane, ci produsul unui algoritm proiectat și controlat de o companie. Este o distincție delicată, dar esențială: libertatea de exprimare protejează, în mod tradițional, oameni și instituții care comunică idei; aici, instanța a tratat ieșirea algoritmică drept un act tehnologic cu efecte juridice proprii.
Posibile efecte mai largi pentru industria AI
Hotărârea germană ar putea avea consecințe dincolo de acest caz. Companii precum OpenAI, Anthropic și Perplexity AI își avertizează, de asemenea, utilizatorii că răspunsurile generate pot conține erori sau pot fi înșelătoare și recomandă verificarea informațiilor înainte de folosire. În multe situații, aceste avertismente apar în termenii de utilizare sau în mesajele standard ale platformelor. Dar hotărârea sugerează că astfel de formulări nu sunt, în sine, suficiente pentru a exclude răspunderea atunci când sistemul generează afirmații care nu apar direct în sursele de intrare.
Instanța a dispus, ca măsură de precauție, eliminarea unei părți importante din afirmațiile considerate defăimătoare în acest dosar și a stabilit ca Google să suporte 80% din costurile legale ale procedurii. Totuși, potrivit relatării, decizia nu este încă definitivă.
Dacă va rămâne în picioare, hotărârea ar putea deveni un reper pentru modul în care tribunalele privesc responsabilitatea companiilor care operează sisteme AI integrate în produse de uz zilnic. Mesajul implicit este clar: atunci când tehnologia nu mai doar indexează lumea, ci o rescrie în propoziții noi, întrebarea despre cine răspunde pentru aceste propoziții devine imposibil de evitat.
Pentru utilizatori, cazul este încă un semnal că rezumatele automate nu trebuie tratate ca adevăr final. Pentru companii, este un avertisment că etichetele de precauție și formulările standard ar putea să nu fie suficiente într-o eră în care AI-ul nu doar caută informația, ci o și produce.
