Directorul executiv al OpenAI le-a comunicat angajaților, în cadrul unei ședințe cu întreg personalul, organizată săptămâna aceasta, că OpenAI ar putea încetini ritmul de dezvoltare a AI, eventual în colaborare cu alte companii, dar că este posibil ca o parte din acestea să nu fie de acord cu această măsură, potrivit mai multor persoane familiarizate cu subiectul citate sub protecția anonimatului de către BloomberG.
Dezvăluirile apar după ce, în ultimele săptămâni, angajații unor firme de top din domeniul inteligenței artificiale și-au exprimat public îngrijorarea cu privire la riscurile crescute ale sistemelor avansate de AI.
Jakub Pachocki, cercetătorul-șef al OpenAI, a publicat recent un articol în care avertiza asupra pericolelor AI și a afirmat că, în opinia sa, companiile din domeniul AI ar trebui să “se coordoneze pentru a încetini dezvoltarea în viitor, când este necesar”. Pachocki a adăugat că speră ca “încetinirile voluntare să devină o practică obișnuită până la stabilirea unor standarde comune de siguranță”.
În paralel, OpenAI a declarat că a încetinit anumite părți ale dezvoltării modelelor și a suspendat recent anumite procese interne de antrenare a inteligenței artificiale din motive de siguranță. În iulie, Altman a mai spus că a discutat cu oficiali de la Casa Albă despre “necesitatea” de a modera ritmul dezvoltării AI.
Zilele trecute, Jacob Coxon, fost cercetător de la Anthropic, și-a anunțat demisia și a avertizat asupra riscurilor inteligenței artificiale scăpate de sub control. Anterior, el a lucrat și la OpenAI și a acuzat ambele companii că “pariază pe viețile noastre” prin goana lor către o inteligență artificială superinteligentă. Coxon a afirmat într-o postare pe rețelele sociale că cei care dezvoltă AI consideră că ar putea “să ne omoare pe toți până la sfârșitul deceniului”.
Joi, doi cercetători care și-au părăsit recent posturile la Anthropic și DeepMind (Google) și-au exprimat, la rândul lor, îngrijorarea cu privire la ritmul rapid de dezvoltare a inteligenței artificiale, afirmând că producătorii de AI trebuie să fie mai transparenți în ceea ce privește riscurile acestei tehnologii. De asemenea, la sfârșitul lunii iulie, peste o mie de specialiști din marile companii de AI au semnat o petiție prin care solicitau instituirea unui mecanism de încetinire a ritmului de dezvoltare a AI, avertizând că progresul tehnologic riscă să depășească capacitatea oamenilor de a înțelege și controla aceste sisteme.
Îngrijorările au crescut în urma primului caz în care un sistem AI a inițiat un atac în lumea reală. OpenAI a recunoscut că un agent autonom, alimentat de două dintre cele mai avansate modele ale sale, a reușit să iasă din mediul izolat în care era testat, să obțină acces la internet și să atace cibernetic Huggin Face, una dintre cele mai importante platforme din lume ce găzduiește seturi de date AI. Aparent, agentul a considerat că aceasta este cea mai simplă metodă de a găsi răspunsul la o problemă pe care trebuia să o rezolve.
Acest incident și alte incidente de securitate similare au alimentat temerile cu privire la capacitățile cibernetice ale noilor modele și la eșecurile companiilor de AI de a le împiedica să scape de sub control.
Sursă: Bloomberg
Sursă foto: © Rokas Tenys| Dreamstime.com
Echipa Biziday nu a solicitat și nu a acceptat nicio formă de finanțare din fonduri guvernamentale. Spațiile de publicitate sunt limitate, iar reclama neinvazivă.
Dacă îți place ce facem, poți contribui tu pentru susținerea echipei Biziday.