Anca POPA (gds.ro)
Inteligența artificială evoluează într-un ritm care îi determină chiar pe unii dintre cei mai importanți oameni din industria tehnologică să ceară mai multă prudență. Dario Amodei, directorul executiv al companiei Anthropic, a cerut companiilor care dezvoltă sisteme AI avansate să încetinească ritmul în care cresc capacitățile modelelor, pentru ca măsurile de siguranță să poată ține pasul. La apel s-a alăturat și Sam Altman, directorul OpenAI.
Nu este vorba despre oprirea dezvoltării inteligenței artificiale. Amodei susține că industria trebuie să acorde mai mult timp testării și protejării sistemelor pe măsură ce acestea devin mai capabile. Printre propunerile sale se numără evaluatori independenți în interiorul companiilor, cooperarea între dezvoltatorii de modele și o coordonare internațională mai strânsă.
AI-ul nu mai este doar un chatbot
Una dintre schimbările importante din ultimul an este trecerea de la modelele care doar răspund la întrebări la așa-numiții „agenți AI”.
Aceștia pot primi o sarcină și pot executa mai multe etape pentru a o îndeplini, inclusiv folosind programe informatice, căutând informații, analizând documente sau efectuând operațiuni pe calculator.
Anthropic a publicat recent propriile măsurători privind folosirea agenților AI în cercetare. Compania spune că, în august 2026, aproximativ 30.000 de agenți lucrau în același timp pe sarcini de cercetare și inginerie în cea mai utilizată platformă internă a sa. Potrivit datelor companiei, sistemul Claude „conducea” deja 26% dintre activitățile de cercetare și dezvoltare măsurate, în timp ce în februarie proporția era sub 1%. Compania precizează însă că Claude nu funcționa complet autonom pentru niciuna dintre categoriile măsurate.
Diferența este importantă: un AI care redactează un text la cererea utilizatorului este una, iar un sistem care primește un obiectiv general și execută singur o mare parte dintre pașii necesari este cu totul altceva.
Au apărut deja cazuri în care AI-ul a făcut lucruri neașteptate
Discuția despre siguranță nu se bazează doar pe scenarii ipotetice. În luna mai, în timpul unui test de securitate realizat de compania independentă Irregular, modelul Gemini al Google a accesat și a compromis sistemele informatice a trei companii. Potrivit relatării Reuters, modelul a identificat credențiale, a găsit informații în depozite publice de cod și a ajuns în sistemele respective, considerând că acțiunile se încadrau în test. Activitatea a fost oprită după accesarea sistemelor, iar companiile afectate au fost informate.
Și alte laboratoare au raportat incidente sau comportamente neașteptate. OpenAI a publicat pe 16 septembrie un nou cadru pentru raportarea cazurilor de „misalignment” – situații în care comportamentul unui model nu corespunde intenției celor care l-au creat. Compania a publicat, de asemenea, șase exemple de comportamente observate în ultimele șase luni și spune că vrea ca astfel de incidente să fie raportate mai rapid și într-un mod mai sistematic.
Cel mai nou model OpenAI a atins un prag important în securitatea cibernetică
OpenAI spune că noul său model GPT-6 Astra este primul model al companiei care a atins nivelul „Critical” în ceea ce privește capacitățile de securitate cibernetică, conform propriului cadru de evaluare.
Concret, compania afirmă că, dacă primește instrumentele și accesul necesare, modelul poate identifica vulnerabilități de securitate necunoscute anterior și poate dezvolta metode de exploatare a unor sisteme bine protejate fără ca un om să îi ghideze fiecare etapă. Din acest motiv, OpenAI spune că a introdus măsuri suplimentare de protecție, monitorizare și evaluare înainte și în timpul utilizării modelului.
Este un exemplu care arată de ce discuția despre siguranța AI s-a mutat de la întrebarea „cât de bine poate răspunde un chatbot?” la o întrebare mult mai complicată: ce se întâmplă atunci când un sistem foarte capabil primește acces la instrumente și poate acționa în lumea digitală?
Companiile vor să meargă mai repede, dar vor și reguli de siguranță
Aici apare una dintre contradicțiile momentului. Pe de o parte, dezvoltatorii investesc masiv în modele din ce în ce mai puternice. Pe de altă parte, liderii unor dintre cele mai mari companii din domeniu spun că ritmul trebuie gestionat mai atent.
Anthropic și compania de consultanță Accenture au anunțat vineri că vor investi împreună cel puțin două miliarde de dolari în următorii cinci ani pentru dezvoltarea unor capacități independente de evaluare a modelelor AI avansate. Scopul este testarea modelelor, identificarea comportamentelor riscante și evaluarea măsurilor de siguranță.
În același timp, competiția dintre marile companii nu încetinește. Reuters relatează că Anthropic analizează lansarea unui nou model AI, pe fondul presiunii exercitate de OpenAI și al creșterii competiției pe piața modelelor destinate companiilor.
Astfel, industria se află într-o situație paradoxală: companiile avertizează asupra riscurilor dezvoltării prea rapide, dar în același timp continuă cursa pentru construirea unor modele mai puternice.
Ce înseamnă asta pentru oamenii obișnuiți
Pentru utilizatorul obișnuit, schimbarea se vede deja. AI poate redacta texte, analiza documente, scrie și verifica programe informatice, crea imagini, traduce, rezuma informații și poate utiliza instrumente digitale pentru a îndeplini sarcini complexe.
Următorul pas este ca aceste sisteme să poată executa singure tot mai multe dintre operațiunile necesare pentru atingerea unui obiectiv.
Asta poate însemna productivitate mai mare pentru angajați și companii, dar și noi probleme legate de securitate, confidențialitate, responsabilitate și locurile de muncă.
În plus, pe măsură ce AI primește acces la e-mailuri, documente, conturi, programe informatice sau alte sisteme, o eroare nu mai înseamnă doar un răspuns greșit într-o conversație. Poate însemna o acțiune greșită executată în numele utilizatorului.
De aceea, întrebarea care se pune acum în industria AI nu mai este doar cât de inteligent poate deveni un model, ci și cât de mult control trebuie să păstreze omul asupra lui.
Iar răspunsul nu pare să fie încă stabilit. Companiile dezvoltatoare, cercetătorii și autoritățile discută în prezent dacă siguranța poate fi asigurată prin reguli interne, evaluări independente, reglementări sau printr-o combinație a acestor mecanisme.
