Directorul companiei Anthropic, Dario Amodei, a lansat sâmbătă un apel la încetinirea vitezei de dezvoltare a inteligenţei artificiale (AI), invocând necesitatea unui control mai strict al evoluţiilor sale, precum şi incidentul survenit în iulie la OpenAI, informează AFP.

Mesajul publicat sâmbătă pe pagina personală a CEO-ului survine la câteva zile după ce un cercetător din cadrul Anthropic, Jacob Coxon, şi-a anunţat demisia din start-up-ul californian, pe care l-a acuzat de minimizarea riscului existenţial pe care AI-ul îl reprezintă pentru umanitate.

Apelul lui Dario Amodei este similar cu un altul, lansat la începutul lunii iunie de Anthropic, şi care solicita ca marii actori din domeniul AI să aibă posibilitatea de a ”încetini sau suspenda temporar dezvoltarea” acestei tehnologii.

La sfârşitul lunii iulie, Sam Altman, şeful companiei rivale OpenAI, a vorbit, la rândul lui, despre o încetinire ”pentru a oferi suficient timp societăţii să se adapteze acestor noi capacităţi”.

Ulterior, peste o mie de angajaţi ai unor companii din domeniul AI, inclusiv Dario Amodei şi personal de conducere din Open AI, au cerut guvernului american să ajute la ”temporizarea” lansării modelelor celor mai avansate.

Aceste îndemnuri au fost formulate în urma unui incident în care modele OpenAI au ieşit în mod spontan din mediului lor controlat cu prilejul unor teste, conectându-se la internet şi atacând platforma AI Hugging Face.

De atunci, alte evenimente în care sisteme AI ale OpenAI şi Anthropic au ajuns pe internet fără ştirea supraveghetorilor lor au fost raportate de cele două companii.

De fiecare dată a fost vorba despre agenţi AI, programe construite pe un model specific şi dotate cu cunoştinţe şi obiective proprii.

Acţiunile şi metodele acestor agenţi au stârnit cu atât mai multă îngrijorare cu cât au demonstrat o tendinţă de a se coordona, a stabili o ierarhie între eele, a trişa şi a şterge apoi urmele faptelor lor.

Având în vedere actuala viteză de dezvoltare a AI, ”mă tem că în următoarele 6 până la 12 luni un grup de (agenţi) va fi capabil să preia controlul întregului internet”, a avertizat Dario Amodei, iar asta ”ar putea atrage după sine pagube de sute de miliarde de dolari”.