Inteligența Artificială (AI) este dezvoltată din ce în ce mai mult pentru a analiza semnale neuronale, a modela comportamente și a anticipa tipare de luare a deciziilor. Acest lucru marchează o schimbare de paradigmă, de la simpla procesare a datelor la sisteme capabile să interpreteze și să interacționeze cu procesele cognitive umane. Kaspersky a analizat implicațiile evoluției AI asupra confidențialității și autonomiei cognitive.
Deși sistemele actuale de AI nu pot citi direct sau decoda cu precizie gândurile umane, acestea dispun de capacități care pot influența comportamentele și modela deciziile prin intermediul sistemelor de recomandare, personalizării și controlului informațional la scară largă. Din această perspectivă, AI reprezintă un risc real și în creștere atât pentru securitatea cibernetică, cât și pentru dimensiunea socio-tehnică, chiar dacă scenariile mai extreme rămân, deocamdată, speculative.
Kaspersky GReAT estimează că următoarele patru riscuri emergente de securitate vor deveni tot mai pronunțate pe măsură ce sistemele de AI cognitiv evoluează:
#1 Ingineria socială devine mai complexă și mai înșelătoare
Modelele lingvistice de mari dimensiuni (LLM) transformă deja ingineria socială într-o amenințare mult mai sofisticată și mai convingătoare. Atacatorii pot genera acum e-mailuri și pagini de phishing mult mai credibile. Cu ajutorul AI cognitiv, aceștia pot exploata platformele sociale și volume mari de date pentru a crea fraude extrem de bine direcționate, utilizând informații comportamentale și profilare psihologică pentru a crește rata de succes. Tentativele de phishing pot fi generate dinamic, adaptate contextului și formulate pentru a influența emoțional victimele, devenind astfel considerabil mai convingătoare.
Acest fenomen poate afecta atât persoanele fizice, prin furt de date și fraude financiare, cât și organizațiile. Cel mai recent raport global al Kaspersky Security Services arată că phishingul reprezintă aproximativ 15% (unul din șapte) dintre cele mai utilizate tehnici de atac. În acest context, phishingul poate constitui un punct eficient de acces inițial pentru grupările APT și alte forme sofisticate de criminalitate informatică care vizează companii și instituții guvernamentale.
#2 Manipularea cognitivă modelează opinia publică
Dincolo de atacurile individuale, AI permite desfășurarea unor operațiuni de influențare la scară largă, capabile să modeleze opinia publică. Actori precum hacktiviștii sau grupările de tip Advanced Persistent Threat (APT) pot exploata prejudecățile cognitive și factorii emoționali la nivelul unor populații întregi. Platformele de social media demonstrează deja modul în care sistemele algoritmice pot consolida camerele de ecou și amplifica polarizarea, în timp ce campaniile politice și companiile pot utiliza micro-targetarea și tehnicile comportamentale pentru a influența utilizatorii. Pe măsură ce aceste capabilități avansează, diferența dintre anticiparea comportamentului și modelarea activă a acestuia devine din ce în ce mai neclară. Acest lucru generează riscuri sistemice nu doar pentru autonomia individuală, ci și pentru încrederea publică.
#3 Profilarea facilitează abuzurile predictive
Profilarea bazată pe AI devine un instrument puternic pentru abuzuri. Prin agregarea datelor provenite din rețelele sociale, comportamentul digital și alte surse, AI poate construi profiluri psihologice și identitare extrem de detaliate ale indivizilor. Acest lucru amplifică semnificativ fenomenul de doxxing și alte forme de abuz facilitate de tehnologie. Informații care anterior erau fragmentate pot fi acum corelate automat, expunând detalii sensibile, conectând identități și permițând hărțuirea direcționată la scară largă. Atacurile pot fi adaptate vulnerabilităților personale, devenind astfel mai eficiente și mai dificil de contracarat.
În același timp, modelele predictive introduc riscul ca persoanele să fie evaluate sau vizate pe baza unor comportamente presupuse, nu a unor acțiuni reale. Astfel, amenințarea depășește pierderea confidențialității și ajunge la pierderea controlului asupra propriei identități și asupra modului în care aceasta este construită și utilizată împotriva individului.
#4 Interfețele Brain-Computer converg cu Internet of Things (IoT)
Deși se află încă, în mare parte, în fază experimentală, interfețele Brain-Computer (BCI) sunt deja utilizate pentru a facilita comunicarea pacienților prin interpretarea semnalelor neuronale. Cercetările actuale extind aceste capabilități dincolo de simpla interacțiune, incluzând controlul dispozitivelor externe. În acest punct, BCI-urile încep să converge cu Internet of Things (IoT). În termeni practici, semnalele neuronale pot fi folosite pentru a transmite comenzi către sisteme conectate, precum dispozitive inteligente pentru locuințe, tehnologii asistive sau echipamente medicale.
Deși această integrare oferă beneficii importante, în special în domeniul sănătății și accesibilității, ea extinde și riscurile de securitate cibernetică către noi domenii. Sistemele compromise ar putea permite acțiuni neautorizate prin intermediul interfeței neuronale a utilizatorului, inclusiv interceptarea semnalelor, manipularea răspunsurilor dispozitivelor sau exploatarea legăturii dintre intenție și execuție. În consecință, riscurile de securitate depășesc infrastructura digitală și ajung în sfera sistemelor fizice și a capacității umane de acțiune.
„Deși AI-ul cognitiv se află încă într-un stadiu incipient și este departe de adoptarea pe scară largă, acesta evoluează rapid”, afirmă Noushin Shabab, Lead Security Researcher în cadrul Kaspersky Global Research and Analysis Team. „Modelele avansate de interacțiune om-AI sunt așteptate să devină mult mai răspândite în următoarele decenii. Pe măsură ce gradul de adoptare va crește, vor crește și riscurile asociate – iar atunci când acest lucru se va întâmpla, trebuie să fim pregătiți.”
Abordarea acestor provocări necesită o colaborare proactivă între comunitatea de securitate cibernetică, dezvoltatorii de AI, cercetători și factorii de decizie politică. După cum a explicat Teresa Potenza, jurnalistă și specialistă în educație privind utilizarea responsabilă a AI, „adevăratul risc al AI-ului cognitiv este că ne modelează mintea, discret și la scară largă. Am învățat deja că sistemele optimizate exclusiv pentru captarea atenției afectează capacitatea de judecată. De aceea, reglementarea reprezintă astăzi o formă de apărare a autonomiei umane – însă nu va putea ține pasul cu AI-ul cognitiv dacă se limitează la ceea ce aceste sisteme fac în prezent. Avem nevoie de un principiu clar și aplicabil: tehnologia trebuie să fie în slujba oamenilor, nu invers. Autonomia nu este doar o problemă de confidențialitate. Este o problemă care privește însăși democrația.”
