Dacă știm ceva despre inteligența artificială, e că a transformat în ultimii ani șocul în rutină. Desigur, ultima „ispravă” AI nu dezamăgește: un agent autonom – un sistem care operează pe cont propriu pe baza unor instrucțiuni – care funcționa cu cea mai nouă versiune OpenAI și cu una chiar mai capabilă, dar nelansată, a descoperit pe cont propriu libertatea și a folosit-o ca să încalce toate regulile impuse de oameni ca să-și îndeplinească misiunea.
.
Pe scurt: Agentul, care era testat pentru cyber-capabilitățile sale într-un mediu super-controlat fără acces la internet, a reușit să găsească portița de scăpare, a intrat online și a hack-uit serverele Hugging Face, o companie care găzduiește modele de IA. Doar fiindcă și-a dat seama că era calea cea mai simplă să rezolve însărcinarea dată.
.
Atât de sofisticată a fost operațiunea, încât compania atacată și-a dat seama repede că atacatorul nu putea fi uman. A urmat o ironie aproape de scenariu SF: modelele americane de securitate au refuzat să ajute la investigație – neputând distinge între un atac și o analiză defensivă – așa că Hugging Face a fost nevoită să folosească modele open-source chinezești pentru a înțelege ce i s-a întâmplat.
.
Așadar, exercițiul de testare a capacităților de hacking ale noilor modele OpenAI a avut rezultate pe cât de remarcabile, pe atât de șocante. Iar asta, culmea, e o veste bună. OpenAI și Hugging Face au lansat o anchetă comună și au făcut publice detaliile tehnice, iar Hugging Face a fost integrată direct în programele de protecție OpenAI.
.
E un prim pas către o abordare mai responsabilă a AI-ului, dar nu e suficient. Nu mai devreme de luna trecută, Anthropic a propus ca cele mai mari companii IA din lume să încetinească ritmul de dezvoltare a capacităților lor, avertizând că tehnologia se îmbunătățește atât de rapid, încât există riscul ca oamenii să piardă controlul asupra ei.
.
Isprava agentului OpenAI vine să întărească acest avertisment. Partea bună e că semnalul de alarmă care a fost tras e suficient de puternic încât să primească nu doar atenția care i se cuvine, în laboratoarele tech și în birouri, ci și răspunsul legislativ.
