Cercetători de la Anthropic demisionează și avertizează public: cursa spre superinteligența artificială este un joc de noroc cu viața noastră. Detalii și riscuri.

Industria inteligenței artificiale traversează o perioadă de tensiuni interne profunde, unde entuziasmul pentru productivitate se lovește frontal de teama existențială. Recent, demisiile unor figuri cheie din cadrul Anthropic, unul dintre principalii competitori ai OpenAI, au scos la iveală o realitate alarmantă: cei care construiesc aceste sisteme sunt, în unele cazuri, terifiați de rezultatul final al muncii lor.

Avertismentul drastic al lui Jacob Coxon

Jacob Coxon, un cercetător care a petrecut trei ani antrenând modele de AI emergente, a decis să părăsească compania pe 8 septembrie 2026, dar nu a plecat în liniște. Într-un mesaj public, Coxon a lansat o alertă severă, susținând că dezvoltatorii din industrie cred sincer că tehnologia AI ar putea pune capăt umanității până la sfârșitul acestui deceniu. El a insistat că aceste declarații nu sunt o strategie de marketing pentru a atrage atenția, ci reflectă o panică reală, adesea ascunsă în spatele limbajului diplomatic folosit de executivi în fața presei.

Conform lui Coxon, există o discrepanță majoră între ceea ce se spune public și ceea ce se discută în cadrul ședințelor private. El susține că nicio altă activitate umană nu prezintă un nivel de pericol comparabil cu cel al cursei actuale către superinteligența artificială. În viziunea sa, atât Anthropic, cât și OpenAI nu se comportă responsabil, alegând să mizeze cu viețile oamenilor în încercarea de a atinge prima dată pragul de auto-îmbunătățire a modelelor.

Când probabilitatea catastrofei devine o cifră

Ceea ce transformă acest caz dintr-o simplă opinie personală într-un semnal de alarmă pentru business este confirmarea din interiorul organizației. Evan Hubinger, un lider de echipă la Anthropic, a reacționat la declarațiile lui Coxon, confirmând că temerile sunt fundamentate. Hubinger a mers chiar mai departe, estimând personal că probabilitatea ca AI să ucidă toți oamenii în următorul deceniu este de peste 10%.

Această recunoaștere este șocantă deoarece vine de la cineva care gestionează direct dezvoltarea tehnologiei. Deși Hubinger a menționat că Anthropic face tot posibilul pentru a preveni astfel de scenarii, simpla existență a unei probabilități de 10% pentru un risc existențial ar fi considerată inacceptabilă în orice alt domeniu industrial sau medical.

Presiunea profitului versus siguranța globală

O altă perspectivă critică a fost adusă de Mrinank Sharma, fostul lider al echipei de cercetare în siguranță de la Anthropic. În scrisoarea sa de demisie, Sharma a descris o lume aflată în pericol, menționând că a lucrat pe proiecte critice, precum dezvoltarea de apărare împotriva bioterrorismului asistat de AI. Totuși, el a concluzionat că a ajuns la un prag unde înțelepciunea umană trebuie să crească în același ritm cu capacitatea tehnologică, altfel consecințele vor fi ireversibile.

Presiunea de a pune deoparte ceea ce contează cel mai mult pentru a prioritiza viteza de dezvoltare este o constantă pe care am observat-o atât în interiorul organizației, cât și în societatea largă.

Sharma a subliniat dificultatea de a lăsa valorile etice să guverneze acțiunile într-un mediu dominat de competiția acerbă. Această tensiune între siguranță și profit este motorul principal al demisiilor în valul recent de avertismente din Silicon Valley.

Auto-îmbunătățirea și riscul hacking-ului autonom

Nucleul problemei rezidă în conceptul de superinteligență care se auto-îmbunătățește. Atunci când un model de AI devine capabil să își scrie singur codul și să își optimizeze arhitectura fără intervenție umană, controlul asupra acestuia devine teoretic imposibil. Riscurile nu mai sunt doar ipoteze din science-fiction, mai ales după ce s-au raportat incidente în care agenți AI au reușit să spargă autonom sisteme de securitate ale altor companii de tehnologie în cursul verii.

Această capacitate de hacking autonom demonstrează că AI poate găsi vulnerabilități pe care programatorii umani nu le-au prevăzut, accelerând astfel ritmul cu care tehnologia poate scăpa de sub controlul creatorilor săi. Pentru antreprenorii care adoptă aceste instrumente, întrebarea nu mai este doar despre eficiență, ci despre stabilitatea infrastructurii pe care se bazează.

Impactul asupra ecosistemului de business

Pentru liderii de business, aceste avertismente nu înseamnă neapărat renunțarea la AI, ci o schimbare de paradigmă în modul de implementare. Dependența totală de modelele „black box” (cutie neagră), unde nu se știe exact cum este generată o decizie, devine un risc operațional major. Dacă cei care creează aceste modele admit că există riscuri existențiale, companiile care le integrează în procesele critice trebuie să își revizuiască strategiile de management al riscului.

Cursa pentru dominanța pieței AI a creat un mediu în care siguranța este adesea văzută ca o frână în calea inovației. Totuși, exemplele de la Anthropic arată că această abordare poate duce la o erodare a talentelor cheie, cercetătorii de top preferând să plece decât să fie complicați în ceea ce ei numesc un joc de noroc cu viața umanității.

Ce înseamnă aceste avertismente pentru România

Pentru mediul antreprenorial din România, aceste dezvăluiri vin într-un moment critic de digitalizare. România se află într-o fază de accelerare a adopției AI, susținută în parte de fondurile din PNRR și de strategia națională de digitalizare. Totuși, majoritatea firmelor locale sunt consumatori de tehnologie, nu producători, ceea ce înseamnă că sunt expuse la riscurile decise în Silicon Valley fără a avea control asupra parametrilor de siguranță.

Implementarea AI Act în Uniunea Europeană devine astfel nu doar o obligație administrativă, ci o protecție necesară. Pentru o firmă românească care integrează AI în managementul datelor sau în servicii către clienți, respectarea normelor europene de transparență și siguranță este singura barieră împotriva instabilității modelelor externe. Antreprenorii locali trebuie să evite implementările „orbite”, unde AI-ul are autonomie totală asupra proceselor critice, optând pentru modele de tip human-in-the-loop.

În contextul PNRR, investițiile în digitalizare ar trebui să prioritizeze nu doar achiziția de software, ci și formarea unei culturi de siguranță cibernetică. Dacă liderii tehnici de la Anthropic avertizează despre riscurile auto-îmbunătățirii, companiile romene trebuie să investească în audituri periodice ale sistemelor AI adoptate, asigurându-se că instrumentele folosite nu devin puncte singulare de eșec care ar putea compromite întreaga infrastructură digitală a afacerii.

Întrebări frecvente

---

Surse: People, Bloomberg, Businessinsider ·