Algoritmii personalizați vă pot păcăli creierul să dea răspunsuri greșite - dovezi experimentale despre învățare, atenție și bias cognitiv

Studiul publicat în Journal of Experimental Psychology: General a urmărit un aspect fundamental al mediului digital contemporan: felul în care algoritmii de recomandare modelează în mod invizibil cunoașterea. Personalizarea conținutului online, prezentă în servicii precum Google, YouTube sau Facebook, optimizează retenția utilizatorilor și consumul de informație. Totuși, această optimizare poate produce o imagine îngustată asupra lumii. Lucrarea de față analizează experimental modul în care secvențele algoritmice personalizate reduc diversitatea informațională și modifică reprezentările mentale ale utilizatorilor.
Concluzia centrală a studiului: algoritmii care livrează conținut adaptat comportamentului unui individ nu doar selectează informația – ci o modelează. În mod repetat, utilizatorii ajung să exploreze o porțiune tot mai restrânsă a realității, considerând-o completă și fiind adesea excesiv de încrezători în cunoștințele lor formate pe un eșantion limitat.

De mai bine de două decenii, personalizarea feed-urilor de conținut a devenit normă în mediul digital. Platformele învață preferințele utilizatorilor, atașează conținut similar și îl repetă până când profilurile cognitive devin predictibile. În mod ideal, această tehnologie filtrează zgomotul și poate accelera accesul la informații relevante. Dar în paralel, reduce diversitatea cognitivă.

Conceptul de bulă de filtrare s-a impus tocmai din cauza acestui efect: utilizatorii primesc doar informații aliniate intereselor curente, ceea ce întărește părtinirile, afectează reprezentarea lumii reale și limitează învățarea. Studiul urmărește exact această dinamică, izolat de contextul real și măsurat în laborator pe o sarcină neutră cognitiv – fără politică, ideologie sau semnificații preexistente.

Despre studiu

Au fost recrutați online 343 participanți, dintre care 200 au generat date valide pentru analiză. Participanții au învățat să categorizeze entități fictive (extratereștri sintetici) cu șase trăsături vizuale continue. Pentru a simula funcționarea unui algoritm de recomandare, autorii au folosit un model inspirat din sistemul YouTube Covington et al. (2016), capabil să ofere stimuli în funcție de comportamentul explorator anterior.

Experimentul a inclus două faze:

• învățare – participanții descopereau gradual trăsături ale stimulilor prin clicuri secvențiale, modul de apariție fiind controlat diferit în funcție de condiție;
• testare post-învățare – participanții clasificau noi stimuli și își raportau gradul de încredere în răspuns.

Au fost comparate cinci condiții majore:

• Control – expunere egală la toate categoriile.
• PR – personalizare a obiectelor, trăsături în ordine aleatoare.
• PP – personalizare a obiectelor și a ordinii trăsăturilor.
• PA – personalizare a obiectelor, selecția trăsăturilor făcută de participant.
• AL – explorare liberă, fără algoritm.

Personalizarea a fost calibrată prin probabilitatea de explorare predictivă: modelul recomanda doar stimulii cu cel mai mare potențial de consum cognitiv. Prin contrast, condiția AL reprezenta mediul ideal de învățare diversă.

Rezultate

1. Personalizarea reduce diversitatea informațională

În condițiile algoritmice, participanții au întâlnit frecvent doar anumite categorii, iar altele au rămas aproape absente. În condiția liberă AL expunerea a fost uniformă.

• PR/PP/PA au prezentat clustere înguste de informație;
• AL a produs distribuții uniforme, explorare largă și entropie cognitivă crescută.

2. Representarea mentală a categoriilor a devenit distorsionată

Matricea de confuzie post-învățare a arătat deviații mari față de clasificarea ideală în condițiile personalizate. În condițiile PP și PA, erorile au fost sistematice și predictibile, sugerând o reprezentare internă stabilă, dar falsă.

Cu cât un participant explora mai puțin, cu atât construcția internă era mai distorsionată.

3. Supracredință în absența cunoașterii

Un rezultat surprinzător: atunci când întâlneau categorii complet noi, participanții personalizați erau foarte siguri pe răspunsurile greșite. Aceasta indică un mecanism metacognitiv deteriorat – algoritmul nu doar limitează informația, ci întărește o iluzie de acuratețe.

4. Algoritmul modelează atenția, nu doar conținutul

Deși trăsăturile erau accesibile, persoanele expuse algoritmic au explorat tot mai puține dimensiuni vizuale. Filtrarea la nivel înalt (alegerea obiectelor) a produs filtrare emergentă la nivel fin (alegerea trăsăturilor).

Pe scurt: personalizarea induce auto-îngustare cognitivă progresivă.

Concluzii

Lucrarea arată experimental că interacțiunea om–algoritm poate genera bias cognitiv structural, chiar în absența unui conținut emoțional sau ideologic. Personalizarea restrânge explorarea, reduce diversitatea informației, produce cunoaștere parțială percepută ca sigură și face ca utilizatorul să nu realizeze lipsa datelor. Aceste efecte pot extinde filtrul personal nu doar asupra informației media, ci asupra modului de învățare în general.

Implicație majoră: oricine interacționează cu algoritmi poate ajunge să considere un fragment al realității ca întreg. Platformele digitale nu doar afișează informație – ele formează hărțile mentale ale utilizatorilor.