Anthropic a suspendat noul său model de inteligență artificială la doar câteva zile după lansare, după ce autoritățile americane au ridicat probleme de securitate și au cerut restricționarea accesului pentru cetățenii străini.
Anthropic și-a suspendat noul model puternic de inteligență artificială după ce autoritățile americane au ridicat probleme de securitate la doar câteva zile de la lansarea sa publică, potrivit BBC.
Donald Trump restricționează accesul la noul AI al Anthropic
Într-un comunicat publicat pe site-ul său, Anthropic a spus că i s-a cerut să suspende accesul cetățenilor străini la Claude Fable 5, un program pe care compania l-a descris chiar ea ca fiind „prea puternic”.
„Efectul net al acestui ordin este că trebuie să dezactivăm brusc Fable 5 și Mythos 5 pentru toți clienții noștri, pentru a ne conforma”, a scris compania.
Anthropic și administrația Trump sunt implicate separat într-un proces aflat în desfășurare, legat de un ordin prin care s-a cerut oprirea utilizării instrumentelor AI ale companiei de către agențiile guvernamentale.
Claude Fable 5 este o versiune a Anthropic Claude Mythos, un program de inteligență artificială care concurează cu ChatGPT al OpenAI și Gemini al Google.
Anthropic a spus că autoritățile americane din domeniul securității naționale nu au identificat îngrijorări specifice.
„Înțelegerea noastră este că guvernul crede că a aflat despre o metodă de ocolire sau «jailbreaking» a Fable 5”, a precizat compania.
„Jailbreaking” este procesul prin care sunt depășite restricțiile software concepute pentru a proteja o rețea cibernetică, permițând hackerilor să acceseze informații sensibile sau să deblocheze anumite funcții.
„Am analizat o demonstrație a acestei tehnici specifice, folosită pentru a identifica un număr mic de vulnerabilități minore, deja cunoscute”, a transmis Anthropic.
„Toate aceste vulnerabilități par relativ simple și am constatat că și alte modele disponibile public le pot descoperi, fără a fi nevoie de ocolirea protecțiilor.”
Înainte de lansarea Claude Fable 5, compania a promovat diverse „măsuri de protecție” implementate pentru a preveni atacurile informatice.
Lideri din finanțe, tehnologie și administrație și-au exprimat îngrijorarea cu privire la lansarea sa publică, după o lansare privată în aprilie, destinată testării și identificării vulnerabilităților din propriul sistem.