OpenAI ia în considerare încetinirea ritmului de dezvoltare a inteligenței artificiale de ultimă generație, iar directorul executiv al companiei creatoare a ChatGPT, Sam Altman, speră că și alte companii din domeniul IA vor face același lucru, scrie Bloomberg.

În cadrul unei ședințe la nivel de companie desfășurată săptămâna aceasta, Altman le-a spus angajaților că OpenAI ar putea, eventual, să-și tempereze ritmul de dezvoltare a IA — poate în colaborare cu alte câteva laboratoare de IA —, dar că este posibil ca unele dintre acestea să nu fie de acord cu această măsură.

În ultimele săptămâni, angajații unor firme de top din domeniul IA și-au exprimat public îngrijorarea cu privire la riscurile crescute ale sistemelor avansate de IA, alimentând anxietatea în cadrul acestor companii. Atât OpenAI, cât și rivalul său, Anthropic PBC, au depus documente confidențiale pentru a intra pe bursă la începutul acestui an.

Jakub Pachocki, cercetătorul-șef al companiei, a publicat recent un articol în care avertiza asupra pericolelor IA și a afirmat că, în opinia sa, companiile din domeniul IA ar trebui să „se coordoneze pentru a încetini dezvoltarea viitoare, după cum este necesar”. Pachocki a adăugat că speră ca „încetinirile voluntare să devină o practică obișnuită până la stabilirea unor standarde comune de siguranță”.

OpenAI a declarat că a încetinit anumite părți ale dezvoltării modelelor și a suspendat recent anumite procese interne de antrenare a IA din motive de siguranță. În iulie, Altman a mai spus că a discutat cu oficiali de la Casa Albă despre „necesitatea” de a modera ritmul dezvoltării IA.

Marți, Jacob Coxon, un cercetător în domeniul IA, și-a dat demisia și i-a acuzat pe ambii foști angajatori — Anthropic și OpenAI — că „se joacă cu viețile noastre” prin goana lor către o IA superinteligentă. Coxon a afirmat într-o postare pe rețelele sociale că cei care dezvoltă IA cred că aceasta ar putea „să ne omoare pe toți până la sfârșitul deceniului”. Comentariile au devenit virale, atrăgând peste 150 de milioane de vizualizări și atenția unor parlamentari și personalități publice de seamă.

Joi, doi cercetători care și-au părăsit recent posturile la Anthropic și DeepMind (Google) și-au exprimat, la rândul lor, îngrijorarea cu privire la ritmul rapid de dezvoltare a IA, afirmând că producătorii de IA trebuie să fie mai transparenți în ceea ce privește riscurile acestei tehnologii.

La sfârșitul lunii iulie, peste 1.000 de angajați din toate marile companii de IA au semnat o petiție prin care solicitau instituirea unui mecanism de încetinire a ritmului de dezvoltare a IA. În ultimele luni, mai mulți angajați din domeniul IA care se ocupau de siguranță și-au dat demisia din marile laboratoare.

Deși mulți directori și angajați din industria IA au avertizat de mult timp cu privire la riscul existențial al sistemelor de IA, îngrijorările au crescut ca urmare a dezvăluirilor conform cărora agenții IA de la OpenAI au colaborat pentru a încălca măsurile de izolare și a pirata un site web al unei terțe părți. Acest incident și alte incidente de securitate similare au alimentat temerile cu privire la capacitățile cibernetice ale noilor modele și la eșecurile aparente ale companiilor de IA de a le împiedica să acționeze haotic.