Arme matematice de distrugere. Rețelele sociale, metaforele și amenințarea democrației

în Cărţi / Educație
04
februarie
7'
8

Zilele trecute, am fost suspendat de Facebook pentru 24 de ore, pentru o postare care încalcă ”standardele comunității”. Știam că urmează așa ceva, deși avertizat de suspendările repetate suferite de prieteni, mi-am curățat contul, ștergând singur câteva zeci de postări care cuprindeau cuvinte pe care mașinile Facebook le caută și le sancționează, considerându-le nepotrivite. Așadar, m-am autocenzurat, înainte să mă cenzureze Facebook. Superb, nu? Dresajul perfect.

Spre deosebire de mulți alții, care văd tot felul de conspirații în jurul lor, pe mine mă amuză teribil gândul că am început să ne certăm ca proștii cu niște mașini care pur și simplu nu sunt echipate să ne înțeleagă limbajul altfel decât matematic. E ca și cum mi-aș certa eu aparatul de ras că nu mi-a făcut semn de pe etajeră că trebuie să mă rad înainte să plec de acasă.
Oricât de inteligentă ar fi o mașină de-asta, ea nu poate încă procesa sarcasmul, de pildă. Postarea mea sancționată, de exemplu, conținea un cuvânt pe care eu îmi închipuiam că Jack, câinele meu, mi l-a adresat printre dinți, într-o dimineață geroasă de iarnă, când am plecat la serviciu. Un computer nu are cum să proceseze asta! El vede cuvântul și mă consideră infractor, sancționându-mă ca atare, într-un spațiu pe care a fost pus să-l controleze. Nimic uman în treaba asta. Un bun prieten care de ceva timp antrenează o dihanie de-asta cu inteligență artificială mi-a povestit amuzat că a putut, după ce a alimentat animalul cu zeci de mii de știri fără diacritice, să-l facă să le pună automat, dând foarte puține erori. Prima concluzie ar fi așadar că, da, mașina poate să înțeleagă contextul știrilor și să pună diacritice acolo unde trebuie. E, când i-a fost dată o poezie, monstrul a clacat. Nu a înțeles nimic și a pus diacriticele total aiurea. Pentru că limbajul poetic este cu totul diferit de cel folosit pentru scrierea știrilor. M-am simțit bine când am auzit povestea, având în minte imaginea unul computer explodând în fața unui text de genul:

”Trista substanţă-a cărnii de-ar fi gând
păgubitoarele hotare-aş trece
în ciuda depărtării, aducând
făptura ta ce-n alte zări petrece.”

Și buuum! Da, e reconfortant gândul că Shakespeare e încă o armă eficientă împotriva computerelor care nu doar că ne înlocuiesc pe mulți dintre noi în câmpul muncii, ci sunt folosite de unii dintre noi, care se cred deasupra noastră, pentru a ne controla, pentru a ne face să ne comportăm într-un anumit fel, pentru a ne restrânge libertatea, amenințând astfel serios democrația (asta la nivel global, pentru că strict în cazul României democrația e doar o glumă bună).

Despre asta vorbește Cathy O’Neal, în cartea sa, pe care v-o recomand, Arme matematice de distrugere. E apărută în 2017, la Nemira.
Revenind la Facebook, mi se pare important să știm că această rețea socială, în fapt o afacere, nu are nicio legătură cu corectitudinea. Ceea ce se află în spatele Facebook, la fel ca-n spatele multor site-uri care ne modelează comportamentul, este conceput și comandat pentru a aduce profit, indiferent de abuzurile comise asupra utilizatorilor. Cele mai mari supărări ne sunt provocate de faptul că, plecând de la premise greșite, nu putem ajunge decât la concluzii false. Dacă știm că Facebook nu poate procesa metafore – nu pentru asta a fost făcut -, dacă suntem conștienți că dihania asta nu înțelege concepte, nu pricepe ce înseamnă frumusețe și nici prietenie, atunci e mai puțin probabil să fim dezamăgiți.

E important să nu lăsăm Facebook și alte jucărele de-astea să ne folosească, ci, cunoscând cum funcționează, să încercăm să le controlăm noi pe ele. Desigur, pentru asta trebuie să aflăm una-alta de la oameni mult mai inteligenți decât noi, să mai punem mâna pe-o carte, să mai facem niște cornete, dar dacă vrem să nu fim învinși de noua realitate, dacă vrem să nu fim victime, trebuie să nu mai fim ignoranți, trebuie să admitem că tot ceea ce știam despre lume, mai ales noi, ăștia născuți înainte de epoca internetului, nu mai este valabil.

Apropo de ignoranța noastră, o cercetare efectuată de Universitatea din Illinois arată că mulți oameni cred că giganți precum Facebook și Google sunt un intermediar neutru. 62% dintre cei care au participat la sondaj nu erau conștienți că Facebook se joacă din când în când cu fluxul de știri. Și iată realitatea, povestită de O’Neil:
”În timpul alegerilor din 2010 și 2012, Facebook a făcut experimente pentru a-și perfecționa un instrument pe care l-a numit megafonul alegătorului. Ideea era să-i încurajeze pe oameni să declare că au votat. Părea destul de rezonabil. Plasând în fluxurile de știri ale oamenilor actualizările ”am votat”, Facebook îi încuraja pe americani, peste 61 de milioane, să-și îndeplinească datoria civică și să-și facă auzită vocea. Mai mult, prin articolele publicate despre comportamentul la vot al oamenilor, site-ul crea o presiune a anturajului pentru participarea la vot. Studiile au arătat că satisfacția personală a îndeplinirii unei îndatoriri civice este mai puțin probabil să pună oamenii în mișcare decât posibila judecată a prietenilor și a vecinilor. În același timp, cercetătorii Facebook studiau modul în care diferite tipuri de actualizări influențau comportamentul oamenilor în perioada votului. În câteva ore, Facebook putea recolta informații de la zeci de milioane de oameni sau mai mult, măsurând impactul pe care îl aveau cuvintele și link-urile distribuite asupra fiecăruia dintre ei. (..) Același lucru e valabil și pentru google. Algoritmul de căutare se concentrează pe creșterea veniturilor. Dar rezultatele căutării, dacă google hotărăște altfel, ar putea avea un efect dramatic asupra a ceea ce oamenii află și modului în care votează.
Doi cercetători, Robert Epstein și Ronald Robertson, le-au cerut alegătorilor nehotărâți, atât din Statele Unite, cât și din India, să folosească un motor de căutare pentru a afla mai multe despre viitoarele alegeri. Motoarele pe care le foloseau erau programate să modifice rezultatele căutării, favorizând un partid față de altul. Rezultatele au schimbat preferințele de vot cu 20%.”

Frumos? Mda… Vă dați seama dacă într-o democrație consolidată, cu instituții care funcționează, efectul acestor manipulări este atât de pronunțat, cum stau lucrurile la noi, într-un ținut în care jumătate dintre oameni trăiesc în sărăcie, cu un stat slab și cu un sistem educațional la pământ? Cam cât de expuși sunt la jocurile de tipul ăsta niște oameni duși de nas aproape trei decenii să își dea votul pentru o sticlă de ulei și un pui?

Problema cea mai mare e că suntem influențați fără să avem măcar idee despre ceea ce ni se întâmplă. De-asta, e important cred eu să știm cu ce avem de-a face când deschidem o rețea socială sau un motor de căutare. Pentru că politica e una dintre probleme. E vorba că suntem influențați să cumpărăm, să ne împrumutăm, să luăm decizii greșite, care apoi ne afectează serios viața. Deci, să nu ne simțim bine în bula noastră! Să nu avem certitudini, așa cum au atât de mulți dintre oamenii prezenți pe rețelele sociale.
Și televiziunile de știri profită pe același model de cetățenii captivi, de cei care nu sunt pe internet, 50% din populație în țara noastră, dar ăsta e deja alt subiect, despre care voi scrie cu altă ocazie.
Ne vedem de luni până joi, de la 22,30, la Starea nației. Pe TVR 1.

DistribuieShare on FacebookShare on Google+Tweet about this on TwitterShare on WhatsappEmail this to someone

ți-a plăcut acest articol ?

Citește și

”Nu suntem săraci pentru că suntem leneși. Suntem leneși pentru că suntem săraci!”