VON DER LEYEN ȘI HILLARY CLINTON SPRIJINĂ UN NOU DEMERS PENTRU SIGURANȚA AI PENTRU COPII

Ursula von der Leyen, președintele Comisiei Europene, împreună cu Hillary Clinton, fostă secretar de stat al Statelor Unite, și prim-ministrul danez Mette Frederiksen, lansează o inițiativă importantă prin crearea unui nou institut destinat evaluării siguranței aplicațiilor de inteligență artificială (AI) pentru copii. Această inițiativă are ca scop principal analiza impactului pe care aplicațiile AI îl pot avea asupra sănătății mentale a tinerilor, precum și stabilirea unor standarde riguroase în acest domeniu crucial.

INSTITUTUL DE SIGURANȚĂ AI PENTRU TINERET

Noul Institut de Siguranță AI pentru Tineret va funcționa ca un organism de supraveghere, având rolul de a crea și implementa standarde pentru evaluarea siguranței produselor de AI destinate utilizatorilor tineri. Pe lângă crearea acestor standarde, institutul va oferi evaluări detaliate cu privire la cât de prietenoase sunt aceste aplicații pentru copii și adolescenți.

CONTEXTUL INIȚIATIVEI

Inițiativa aceasta se desfășoară într-un context social sensibil, caracterizat de creșterea îngrijorărilor legate de efectele pe care rețelele sociale și alte tehnologii le au asupra sănătății mintale a minorilor. Potrivit unui sondaj realizat de POLITICO, un procent semnificativ de 75% dintre cetățenii europeni consideră că autoritățile guvernamentale ar trebui să impună limite de vârstă stricte pentru accesul la rețelele sociale, în lumina problemelor tot mai frecvente asociate cu utilizarea acestora.

PRIORITATEA LUI VON DER LEYEN

Siguranța online a copiilor se află în topul agendei lui Ursula von der Leyen, care a subliniat că acest institut va fi prezentat oficial la Copenhaga. La evenimentul de lansare, președintele Comisiei Europene va susține un discurs în care va evidenția importanța acestei inițiative. Printre susținătorii demersului se numără și fosta comisar europeană Margrethe Vestager, precum și cercetătorul de renume Yoshua Bengio, recunoscut ca fiind unul dintre părinții dezvoltării AI.

ROLUL EXPERTIZEI ÎN EVALUAREA PRODUSELOR AI

Institutul va aduce împreună o echipă de experți care vor evalua produsele AI pentru a oferi părinților și factorilor de decizie informații precise despre riscurile potențiale pe care acestea le pot avea asupra copiilor. Gestionarea acestui institut este realizată de organizația non-profit Common Sense Media, care are experiență în testarea și evaluarea filmelor, cărților și jocurilor, oferind astfel evaluări corespunzătoare de vârstă.

FOCUS PE RISCURILE SEVERE

Bruce Reed, responsabilul departamentului de AI de la Common Sense Media, a declarat că primele standarde și evaluări vor aborda riscurile severe, inclusiv comportamentele legate de suicid, auto-vătămările, tulburările alimentare și sfaturile potențial periculoase disponibile prin intermediul aplicațiilor AI utilizate de tineri.

UN PAS CURAJOS ÎN PROTECȚIA COPIILOR

Margrethe Vestager a caracterizat această inițiativă ca fiind un pas curajos în monitorizarea și evaluarea efectelor negative pe care AI le poate avea asupra copiilor. Ea a subliniat că este mai bine să ne asumăm responsabilitatea de a investiga aceste riscuri decât să ne abținem de la adoptarea tehnologiilor avansate.

COLABORĂRI ȘI SURSE DE FINANȚARE

Evaluările pe care le va realiza institutul vor fi efectuate în colaborare cu laboratoare de cercetare din San Francisco și organizații non-profit precum Humane Intelligence și Stanford Brainstorm, care inovază în domeniul sănătății mintale. Finanțarea pentru acest proiect provine din contribuții de la filantropi, fonduri de hedging și investitori de capital de risc, inclusiv din partea companiilor cum ar fi Anthropic, Pinterest și fundația OpenAI.

AUTONOMIE ÎN EVALUARE

În ceea ce privește îngrijorările legate de influența pe care companiile de tehnologie ar putea-o exercita asupra activității institutului, Bruce Reed a asigurat publicul că finanțatorii nu vor avea un cuvânt de spus în procesul de evaluare, nici în rezultatele acesteia. Institutul se va angaja să ofere evaluări neutră și riguroase cu privire la riscurile pe care produsele tehnologice le prezintă pentru tineri.

REGULAMENTELE EUROPENE ÎN DOMENIUL AI

Comisia Europeană examinează oferta de orientări pentru implementarea asistenților AI în cadrul legislației sale cuprinzătoare, Legea privind serviciile digitale, aspect esențial subliniat de Martin Harris-Hess, un oficial UE care se ocupă cu protecția minorilor. Aceasta inițiativă se aliniază cu tendința globală de a spori responsabilitatea în utilizarea tehnologiilor emergente, în special în contextul protejării celor mai vulnerabile categorii ale populației, cum sunt copiii.