Președinta Comisiei Europene, Ursula von der Leyen, fostul secretar de stat american Hillary Clinton și premierul danez Mette Frederiksen se numără printre liderii care vor susține, în această săptămână, o nouă inițiativă dedicată siguranței inteligenței artificiale pentru copii, scrie POLITICO.eu.
Ursula Von der Leyen și Hillary Clinton susțin noua inițiativă pentru siguranța AI pentru copii
Proiectul, numit Youth AI Safety Institute, își propune să funcționeze ca un organism de supraveghere și ca o agenție de evaluare care stabilește standarde pentru produsele AI destinate copiilor și le acordă scoruri în funcție de cât de „prietenoase” sunt pentru minori. Potrivit organizatorilor citați de POLITICO, experții institutului vor testa produse AI pentru a-i ajuta pe părinți și pe decidenți să înțeleagă riscurile potențiale pentru copii.
O lansare la Copenhaga, cu nume grele din politica și tehnologia globală
Institutul urmează să fie prezentat marți, la Copenhaga, iar von der Leyen este programată să țină un discurs. Printre susținători se mai află fosta comisară europeană Margrethe Vestager și cercetătorul Yoshua Bengio, descris de POLITICO drept „godfather” al AI.
Inițiativa este condusă de organizația americană non-profit Common Sense Media, care deja testează filme, seriale, cărți și jocuri pentru a oferi clasificări de vârstă. Bruce Reed, șeful departamentului de AI al organizației și fost consilier al președintelui Joe Biden pe politici de inteligență artificială, a spus că primele standarde și evaluări vor viza cele mai grave riscuri, inclusiv „suicide and self harm, eating disorders, dangerous advice”.
Presiunea publică pentru protecția minorilor online crește în Europa
Lansarea vine pe fondul îngrijorărilor tot mai mari legate de efectele rețelelor sociale și ale altor tehnologii asupra sănătății minorilor. În mai multe țări europene sunt avansate propuneri de restricții, inclusiv interdicții pentru social media, iar un sondaj POLITICO European Pulse publicat luna trecută arăta că trei din patru cetățeni europeni cred că guvernele ar trebui să stabilească vârste minime pentru accesul la rețelele sociale.
Von der Leyen a făcut din siguranța copiilor online o prioritate centrală a celui de-al doilea mandat al său la conducerea executivului european. În paralel, Comisia Europeană analizează ghiduri pentru AI companions în baza Digital Services Act, a declarat oficialul european Martin Harris-Hess la POLITICO’s AI & Tech Week, miercuri.
Finanțare și independență declarată
Lucrările de testare și publicare a evaluărilor vor fi realizate împreună cu laboratorul de cercetare Transluce din San Francisco, organizația non-profit Humane Intelligence și Stanford Brainstorm, laboratorul universității axat pe inovație în sănătate mintală.
O parte din finanțare provine de la filantropi, fonduri speculative și investitori de tip venture capital. Anthropic, Pinterest și fundația OpenAI contribuie, de asemenea, financiar. Întrebat dacă firmele de tehnologie vor avea influență asupra activității institutului, Reed a spus că finanțatorii „nu au niciun cuvânt de spus în testare, scorare sau rezultate” și că institutul va oferi „evaluări dure, oneste” ale riscurilor pe care produsele tehnologice le prezintă pentru tineri.
Inițiativa intră astfel într-o zonă tot mai disputată a politicilor digitale: cum pot fi evaluate și limitate riscurile AI pentru minori fără a bloca accesul copiilor la tehnologie în ansamblu. Pentru moment, obiectivul declarat al institutului este unul practic: standarde, teste și evaluări publice pentru produse AI care ajung la copii.