Mai mulți avertizori și foști angajați ai giganților tehnologici TikTok și Meta susțin că platformele ar fi permis apariția mai frecventă a conținutului dăunător în feed-urile utilizatorilor pentru a crește implicarea și a câștiga competiția dintre algoritmi.
Potrivit declarațiilor făcute pentru BBC, peste o duzină de avertizori și persoane din interiorul companiilor au descris decizii interne care ar fi pus în plan secund siguranța utilizatorilor în favoarea creșterii traficului și a veniturilor din publicitate.
Algoritmii care promovează indignarea
Documente interne arată că platformele știau că postările care provoacă furie sau indignare generează mai multă interacțiune.
Algoritmii tind astfel să recomande mai des acest tip de conținut.
Un studiu intern citat de foști angajați arată că sistemele de recomandare:
- amplifică postări controversate sau polarizante
- favorizează teorii ale conspirației și conținutul ofensator
- pot încuraja radicalizarea utilizatorilor
În documente interne, cercetătorii ar fi avertizat că stimulentele financiare create de algoritmi nu sunt aliniate cu bunăstarea utilizatorilor.
Meta, presată să concureze cu TikTok
Foști angajați ai Meta spun că platforma a accelerat dezvoltarea funcției Instagram Reels pentru a rivaliza cu TikTok, chiar dacă sistemele de siguranță nu erau pregătite.
Un cercetător Meta a afirmat că analiza internă a arătat că pe Reels există:
- cu 75% mai mult bullying și hărțuire,
- cu 19% mai mult discurs instigator la ură,
- cu 7% mai mult conținut violent sau incitare.
În același timp, echipele de siguranță ar fi primit mai puține resurse decât echipele de dezvoltare a produsului.
TikTok ar fi prioritizat politicienii
Un avertizor din echipa de siguranță a TikTok a declarat că unele cazuri legate de politicieni erau tratate cu prioritate mai mare decât raportările privind abuzuri asupra minorilor.
Matt Motyl a declarat că Meta a lansat Instagram Reels fără suficiente garanții
Potrivit acestuia, compania încerca să mențină relații bune cu liderii politici pentru a evita reglementări sau interdicții asupra platformei.
Același avertizor a susținut că volumul de cazuri de moderare era atât de mare încât siguranța copiilor devenea dificil de gestionat.
Adolescenți influențați de algoritmi
Mai mulți tineri intervievați au spus că, chiar și după ce au semnalat că nu doresc să vadă anumite postări, algoritmul a continuat să le recomande:
- conținut violent
- mesaje rasiste sau misogine
- idei extremiste
Un adolescent britanic a afirmat că algoritmul l-a „radicalizat” începând de la vârsta de 14 ani, expunându-l constant la conținut extremist.
Companiile resping acuzațiile
Reprezentanții Meta și TikTok resping acuzațiile.
Meta a declarat că nu amplifică în mod deliberat conținut dăunător pentru profit și că a investit masiv în siguranța utilizatorilor.
TikTok a spus că afirmațiile sunt „fabricate” și că platforma are zeci de funcții de protecție pentru conturile adolescenților, inclusiv filtre și controale parentale.
