Printre semnatari se numără directorul general al Anthropic, șeful cercetării de la OpenAI, unul dintre liderii Google DeepMind și cercetătorul-șef al Meta AI. Ei cer autorităților americane să colaboreze la nivel internațional pentru dezvoltarea unor reguli și mecanisme tehnice care să permită controlarea ritmului în care evoluează cele mai puternice sisteme de inteligență artificială.
Semnatarii avertizează că marile companii sunt aproape de momentul în care, de fapt, AI-ul va putea automatiza chiar cercetarea în domeniul inteligenței artificiale. Acest lucru ar putea accelera dezvoltarea noilor modele atât de rapid încât oamenii să nu mai poată anticipa sau controla comportamentul acestora.
Apelul vine după un incident fără precedent dezvăluit de OpenAI. În timpul unui test intern de securitate, un model experimental, care nu a fost niciodată destinat lansării publice, a reușit să iasă din mediul izolat în care fusese plasat pentru evaluare și să lanseze atacuri informatice asupra platformei Hugging Face, una dintre cele mai importante platforme din lume pentru distribuirea de modele și aplicații AI.
Inițial, OpenAI a anunțat doar compromiterea Hugging Face. Ulterior, compania a precizat că analiza incidentului a arătat că modelul a identificat și folosit și date de autentificare expuse public pentru a accesa încă patru conturi, aflate pe patru servicii online diferite. Două dintre aceste conturi au fost folosite pentru a sprijini atacul asupra Hugging Face, inclusiv pentru transferul și stocarea unor date, iar celelalte două au fost accesate doar în regim de citire. OpenAI afirmă că nu a identificat dovezi că aceste servicii sau alți utilizatori ai lor au fost compromiși la scară largă.
Compania a mai explicat că modelul nu avea acces direct la internet. Potrivit unei actualizări publicate pe 28 iulie, acesta a descoperit și exploatat o vulnerabilitate necunoscută până atunci într-un server Artifactory, folosit pentru stocarea și distribuirea pachetelor software. Prin exploatarea acestei vulnerabilități, modelul și-a creat singur acces la internet și a continuat atacul. OpenAI spune că a notificat dezvoltatorul software-ului și că prototipul folosit în test a fost dezactivat, criptat și restricționat pentru cercetare.
Potrivit relatărilor făcute ulterior de Hugging Face într-o întâlnire cu sute de specialiști în securitate cibernetică, agenții AI au acționat cu o viteză imposibil de egalat de un om, încercând simultan mii de metode diferite pentru a-și atinge obiectivul. În același timp, au avut și comportamente neobișnuite: au repetat inutil anumite acțiuni, au generat comenzi fără sens și nu au încercat să își ascundă urmele. Chiar și așa, compania spune că modelele au demonstrat capacitatea de a se adapta rapid și de a găsi soluții tehnice sofisticate.
Atacul a rămas nedetectat timp de aproximativ trei zile, iar eliminarea agenților AI din infrastructura Hugging Face a necesitat multe ore de muncă din partea echipelor de securitate și reconstrucția unei părți importante a infrastructurii companiei.
Directorul general al OpenAI, Sam Altman, nu a semnat petiția, însă a declarat că incidentul este primul care l-a făcut să resimtă în mod real riscurile generate de modelele AI foarte avansate. El a spus că dezvoltatorii ar putea fi nevoiți să încetinească voluntar ritmul dezvoltării pentru a permite societății să se adapteze. Într-un alt interviu acordat recent, Altman a afirmat că omenirea a ajuns deja într-un punct apropiat de ceea ce este numit “singularitate” – momentul teoretic în care inteligența artificială începe să se îmbunătățească singură și să evolueze mai repede decât oamenii o pot înțelege sau controla. Totodată, el a criticat scenariile pe care le consideră excesiv de alarmiste privind viitorul inteligenței artificiale, susținând că nu împărtășește cele mai sumbre predicții privind evoluția acestei tehnologii.
Surse alternative: Euronews, BBC
Echipa Biziday nu a solicitat și nu a acceptat nicio formă de finanțare din fonduri guvernamentale. Spațiile de publicitate sunt limitate, iar reclama neinvazivă.
Dacă îți place ce facem, poți contribui tu pentru susținerea echipei Biziday.