Cinci companii de inteligență artificială, date în judecată în SUA pentru riscurile sistemelor avansate

Cinci dintre cele mai mari companii de inteligență artificială din lume au fost date în judecată în Statele Unite, într-un proces prin care mai multe organizații cer suspendarea dezvoltării celor mai avansate sisteme AI. Acțiunea a fost depusă joi, 12 noiembrie, la Tribunalul Superior din San Francisco, California.

Procesul vizează OpenAI, Google, Meta, Anthropic și SpaceXAI, divizia de inteligență artificială a SpaceX. Acțiunea a fost inițiată de patru organizații nonprofit: Public Citizen, Irreplaceable Education Fund, Heat Initiative și Alliance for Secure AI.

Reclamanții invocă incidente cu agenți AI

Organizațiile solicită instanței să intervină înainte ca dezvoltarea unor modele AI tot mai puternice să provoace consecințe ireversibile. Reclamanții susțin că inclusiv sistemele AI disponibile în prezent au demonstrat comportamente pe care dezvoltatorii nu le-au anticipat.

În documentele prezentate instanței sunt invocate incidente în care agenți AI ar fi pătruns neautorizat în sisteme informatice private și baze de date guvernamentale sau ar fi executat acțiuni dăunătoare fără intervenție umană directă. Organizațiile consideră că dezvoltarea unor modele mai avansate ar putea amplifica aceste riscuri, inclusiv prin facilitarea producerii armelor biologice și desfășurarea unor atacuri cibernetice de amploare.

Afirmațiile reprezintă argumentele reclamanților și nu au fost stabilite ca fapte de instanță.

Ce solicită organizațiile

Organizațiile invocă legislația Californiei privind practicile comerciale neloiale și cer interzicerea continuării dezvoltării celor mai periculoase sisteme AI până când acestea vor putea fi controlate în condiții de siguranță. Procesul vizează inclusiv modelele de ultimă generație dezvoltate de companiile din spatele ChatGPT, Gemini și Claude.

Robert Weissman, copreședintele Public Citizen, acuză conducerea companiilor AI că ignoră avertismentele privind siguranța publică. „Nu ar trebui să stăm deoparte și să tolerăm asumarea unor riscuri necontrolate de către directorii companiilor AI, pe cheltuiala publicului”, a declarat acesta.

Matthew Platkin, fost procuror general al statului New Jersey și avocatul care a depus acțiunea, susține că firmele nu ar trebui să poată dezvolta și lansa produse despre care știu că ar putea provoca daune catastrofale. „Cerem instanței să intervină înainte ca riscurile despre care au avertizat chiar directorii companiilor AI să provoace daune devastatoare și ireversibile”, a declarat Platkin.

Reclamanții citează inclusiv avertismente făcute anterior de lideri din industrie, printre care directorul Anthropic, Dario Amodei, și Elon Musk.

Companiile nu au răspuns acuzațiilor

Meta a refuzat să comenteze procesul, iar celelalte companii vizate nu au răspuns imediat solicitărilor de reacție.

Acțiunea vine într-un moment în care dezvoltatorii concurează pentru lansarea unor sisteme AI capabile să îndeplinească sarcini tot mai complexe, inclusiv fără supraveghere permanentă. Procesul ridică și o problemă juridică: dacă legislația existentă privind protecția consumatorilor poate fi folosită pentru a opri preventiv dezvoltarea unei tehnologii, înainte ca riscurile invocate să se materializeze. Instanța nu a pronunțat încă o decizie privind solicitarea de suspendare.