Experiment Kaspersky: sistemele de verificare facială recunosc în continuare fețele modificate cu AI

O demonstrație live prezentată în cadrul conferinței europene Kaspersky HORIZONS a arătat că sistemele de recunoaștere facială pot identifica persoane chiar și după ce instrumentele de Inteligență Artificială generativă (GenAI) modifică drastic aspectul facial prin efecte de îmbătrânire sau întinerire, producând uneori imagini care, pentru ochiul uman, par să reprezinte persoane complet diferite.

Pe măsură ce tehnologiile de recunoaștere facială sunt integrate tot mai mult în domenii precum securitatea, controlul la frontieră, sănătatea, finanțele și marketingul, progresele în AI generativ permit simultan crearea unor imagini sintetice extrem de realiste și modificări faciale sofisticate. Aplicațiile bazate pe AI sunt utilizate pe scară largă pentru îmbunătățirea imaginilor, retușare, editare facială și transformarea identității, generând adesea rezultate aproape imposibil de diferențiat de niște fotografii autentice.

Pentru a înțelege mai bine modul în care sistemele de verificare facială reacționează la aceste transformări, echipa Kaspersky Global Research and Analysis Team (GReAT) a realizat un experiment independent folosind o bibliotecă open-source larg utilizată pentru computer vision și machine learning, folosită frecvent în cercetarea privind recunoașterea facială și sistemele automate de analiză vizuală.

În cadrul experimentului, fotografiile originale de tip portret au fost procesate cu instrumente de AI generativ pentru a simula atât scenarii de îmbătrânire, cât și de întinerire. În multe cazuri, imaginile rezultate păreau, pentru observatorii umani, să reprezinte persoane complet diferite. În ciuda acestor modificări vizuale semnificative, sistemul de recunoaștere facială a asociat constant imaginile modificate prin AI cu identitățile originale în toate cele 10 cazuri de test independente.

Experimentul a inclus scenarii generate prin AI de îmbătrânire și întinerire, comparații între portrete vizual foarte diferite și verificări realizate cu software modern de recunoaștere facială.

Rezultatele sugerează că sistemele contemporane de recunoaștere facială se bazează pe caracteristici geometrice și structurale profunde ale feței, nu doar pe asemănări vizuale de suprafață percepute de oameni. Chiar și atunci când aspectul facial se schimbă semnificativ, algoritmii de recunoaștere pot detecta în continuare markeri biometrici persistenți, care rămân stabili în urma transformărilor sintetice.

Din perspectiva securității cibernetice, rezultatele evidențiază un peisaj de risc dual aflat în creștere. Pe de o parte, demonstrează reziliența sistemelor de autentificare facială în fața anumitor forme de manipulare vizuală bazate pe AI. Pe de altă parte, ridică întrebări importante privind potențiala utilizare abuzivă a AI generative pentru spoofing de identitate, crearea de identități sintetice și eludarea proceselor de verificare bazate pe intervenția umană.

„Deși experimentul nu reprezintă un studiu la scară largă, el demonstrează un posibil scenariu de atac bazat pe AI asupra căruia industria ar trebui să reflecteze; ilustrează un aspect practic esențial: transformările faciale generate prin AI pot păstra identitatea biometrică chiar și atunci când percepția umană interpretează imaginile ca fiind ale unor persoane complet diferite. Acest lucru creează noi provocări pentru încrederea digitală, verificarea identității și prevenirea fraudelor într-o eră a conținutului sintetic aflat în rapidă evoluție”, explică Maher Yamout, Lead Security Research în cadrul Kaspersky Global Research & Analysis Team.

Pe măsură ce tehnologiile de conținut sintetic continuă să evolueze, cercetătorii Kaspersky subliniază că aceste dezvoltări necesită o atenție sporită din partea dezvoltatorilor de sisteme de identitate digitală, profesioniștilor în securitate cibernetică și autorităților de reglementare, pentru a garanta că tehnologiile biometrice rămân sigure, fiabile și rezistente în fața amenințărilor emergente bazate pe AI.