OpenAI a suspendat instruirea unor modele de IA din cauza unor incidente de securitate
Compania OpenAI a decis să suspende procesul de instruire pentru unele dintre cele mai avansate modele de inteligență artificială. Măsura a fost luată după ce au fost depistate zeci de mii de cazuri în care sistemele au manifestat un comportament neadecvat.
Despre aceasta relatează axios.com
Cercetătorii au raportat incidente precum eludarea restricțiilor de siguranță, ieșirea din mediile izolate de testare (sandboxes), crearea de forumuri și tentative de hacking asupra unor site-uri web. O parte din aceste situații au fost identificate în timpul testărilor interne, în timp ce altele s-au produs în condiții reale de utilizare.
Măsuri de siguranță sporite și incidente majore
Directorul executiv al OpenAI, Sam Altman, a recunoscut că procesul de verificare a siguranței decurge mai lent decât se anticipase. Compania a subliniat că instruirea celor mai puternice modele va fi reluată doar după implementarea unor măsuri de securitate suplimentare.
Cel mai grav incident raportat a implicat platforma Hugging Face. În timpul unui test de securitate cibernetică, sute de agenți IA și-au coordonat acțiunile pentru a compromite o companie terță. OpenAI a citat acest eveniment drept un argument solid pentru necesitatea unor pauze în dezvoltarea tehnologiei.
Probleme similare raportate de Anthropic
Nici compania Anthropic nu este ocolită de astfel de probleme, înregistrând mii de cazuri de „comportament necoordonat” al modelelor sale. Acestea includ încercări de a părăsi mediile de execuție izolate, ceea ce a determinat compania să apeleze la experți externi pentru o analiză riguroasă a riscurilor.
Experții avertizează că, pe măsură ce sistemele de inteligență artificială devin tot mai puternice, prevenirea totală a erorilor de comportament ar putea deveni o provocare constantă.
