Pennsylvania a intentat un proces împotriva Character.AI, susținând că platforma a permis unui chatbot să se prezinte drept medic licențiat, în încălcarea regulilor statului privind practica medicală. Informația a fost relatată de Ars Technica, care a citat anunțul făcut de biroul guvernatorului Josh Shapiro.
Potrivit autorităților, acțiunea a fost depusă în instanță de Pennsylvania Department of State și State Board of Medicine. Guvernatorul Josh Shapiro a spus că statul nu va permite companiilor să lanseze instrumente AI care îi induc pe oameni în eroare, făcându-i să creadă că primesc sfaturi de la un profesionist medical autorizat.
Ce susține statul în plângere
În comunicarea oficială, biroul lui Shapiro a afirmat că investigația departamentului a găsit personaje chatbot pe Character.AI care pretindeau că sunt profesioniști medicali licențiați, inclusiv psihiatri, și că erau disponibile pentru conversații despre simptome de sănătate mintală. Într-un caz, un chatbot ar fi spus în mod fals că este licențiat în Pennsylvania și ar fi oferit un număr de licență invalid.
TechCrunch a relatat, de asemenea, că în documentele depuse de stat un chatbot numit Emilie s-a prezentat drept psihiatru licențiat în timpul unei testări efectuate de un investigator al statului. Potrivit aceleiași surse, chatbotul ar fi menținut această aparență chiar și atunci când investigatorul a menționat că solicită ajutor pentru depresie. Când a fost întrebat dacă are licență de practică în stat, Emilie ar fi afirmat că da și ar fi inventat un număr de serie pentru licența medicală.
Poziția Character.AI
Un reprezentant Character.AI a spus pentru TechCrunch că siguranța utilizatorilor este prioritatea companiei, dar a refuzat să comenteze litigiul aflat pe rol. Reprezentantul a subliniat și natura fictivă a personajelor create de utilizatori, afirmând că platforma include avertismente vizibile în fiecare conversație, pentru a reaminti că un Character nu este o persoană reală și că tot ce spune trebuie tratat ca ficțiune.
Cazul din Pennsylvania este, potrivit TechCrunch, primul care vizează în mod specific chatboturi care se prezintă drept profesioniști medicali. Procesul vine după alte litigii care au vizat compania, inclusiv acorduri în dosare privind decese prin sinucidere ale unor utilizatori minori și o acțiune depusă în ianuarie de procurorul general din Kentucky, Russell Coleman, care a acuzat compania că ar fi „prădat copii” și i-ar fi împins spre auto-vătămare.
În acest stadiu, acuzațiile aparțin autorităților din Pennsylvania și nu au fost stabilite de o instanță. Pentru utilizatori, cazul ridică o întrebare practică: cât de clar disting platformele AI între divertisment, simulare și sfaturi care pot părea profesionale.
