iLearn.rs Blog

Facebook zamka

Facebook ima jasnu misiju: povežite sve na svetu. Jasnoća je dobra, ali u slučaju Fejsbuka, takođe je dovela kompaniju u problem jer je misija - i vizija kompanije za stvaranje vrednosti putem mrežnih efekata - takođe postala izvor njenih najvećih problema. Kako je kompanija prešla sa povezivanja postojećih prijatelja na mreži na stvaranje novih globalnih veza (oba primera direktnih mrežnih efekata) i sada na povezivanje korisnika sa profesionalnim kreatorima (indirektni mrežni efekti), našla se na udaru kritika za sve, od narušavanja privatnosti pojedinca do maltretiranja kompanije kao monopol na radikalizaciju svojih korisnika. Sada se bori da pronađe rešenja koja ne umanjuju njenu misiju. Autor ovo naziva „Fejsbuk zamkom“. Rešavanje problema koje stvara platforma – i druge društvene mreže takođe – pomaže da se jasno utvrdi gde kompanija treba da bude odgovorna. Iako je razumno insistirati na promeni načina na koji Facebook-ove preporuke funkcionišu, teže je odlučiti kako bi platforma trebalo da se bavi organskim vezama, što bi verovatno podrazumevalo cenzuru korisnika i blokiranje njihovog uspostavljanja veza koje žele da uspostave. Facebook nije jedina kompanija koja se suočava sa zagonetkom potrebe da podriva sopstvenu misiju kako bi minimizirala štetu, a kompanije i vlade će morati da razviju strategije za rešavanje ovog problema.

Osnovan 2004. godine, misija Fejsbuka je da ljudima pruži moć da izgrade zajednicu i zbliže svet. Ljudi koriste Facebook da ostanu povezani sa prijateljima i porodicom, da otkriju šta se dešava u svetu i da dele i izraze ono što im je važno.

— Izjava o misiji Fejsbuka
Naša misija je da povežemo svaku osobu na svetu. — Mark Zakerberg, izvršni direktor i suosnivač Fejsbuka

U zavisnosti od toga koga pitate, najveći problem Facebook-a može biti gotovo bilo šta. Kritičari su tvrdili da narušava privatnost pojedinca ili maltretira male kompanije, šteti mentalnom zdravlju tinejdžera ili podstiče nasilne pobune - lista mogućnosti se nastavlja (i dalje). Ali koliko god ovi problemi izgledali različiti, oni su zapravo svi aspekti jednog velikog, fundamentalnog problema koji svima nama – kreatorima politike, opštoj javnosti i zaposlenima na Fejsbuku – gleda pravo u oči.

Facebook postoji da bi „povezao svaku osobu na svetu“, kako to jasno i često izgovarati sam izvršni direktor Mark Zakerberg. Po nominalnoj vrednosti, nema ništa loše u tom cilju. U stvari, to je upravo ona vrsta strateške jasnoće koju bi profesori strategije želeli da vide od više kompanija. Kao vodeća vizija vođstva Fejsbuka, ovaj aspirativni ideal je duboko ukorenjen u kulturu kompanije Facebook. Važno je da je povezivanje ljudi osnova na kojoj je Facebook bio tako uspešan u poslednjih 15 godina.

Na mom kursu o tehnološkoj strategiji, učimo studente da su najvažniji pokretač stvaranja vrednosti danas mrežni efekti: moja sopstvena vrednost od korišćenja Facebook-a — i Instagrama, Messenger-a i WhatsApp-a — raste kako drugi korisnici usvajaju i koriste Facebook. Prateći svoju misiju povezivanja ljudi, Facebook omogućava ogromnu količinu mrežnih efekata koji su pokrenuli njegov organski rast i jačaju njegovu dominantnu poziciju u društvenim mrežama.

Ali kao što svi danas doživljavamo, ta osnovna svrha dovodi do bezbrojnih negativnih uticaja na sve delove našeg društva. Ta misija povezivanja ljudi takođe uništava živote ljudi i ugrožava naše uspostavljene institucije. Facebook se suočava sa ogromnim izazovom, jer rešavanje ovih problema nije tako jednostavno kao dodavanje više moderatora koji će paziti na govor mržnje ili menjanje vesti – to će zahtevati fundamentalnu promenu u osnovnom strateškom cilju kompanije. U tom smislu, Facebook je u zamci: mrežni efekti su učinili kompaniju uspešnom i sada prete da će je uništiti, ali kompanija ne može samo da isključi motor koji je tera da radi. Dakle, šta to može učiniti?

Neizbežna evolucija Fejsbuka

Praćenje svoje osnovne svrhe znači da Facebook mora nastaviti da povezuje ljude i da ih povezuje na intenzivnije načine. Može povećati korisničku bazu i povezati više ljudi koji inače ne bi bili povezani, a može navesti postojeću korisničku bazu da se intenzivnije povezuje tako što će više koristiti Facebook, odnosno povećati angažman. Obe ove stvari direktno utiču na prihod od oglašavanja, preovlađujući način na koji Facebook beleži vrednost, tj. unovčava korisničku bazu koja inače besplatno koristi Facebook, o čemu sam pisao sa koautorom.

Problem je u tome da čak i kada bi Facebook bio motivisan samo da stvara vrednost za korisnike – kroz povezivanje ljudi – bez ikakvog podsticaja da se vrednost ostvari kroz oglašavanje, i dalje bi bio na putu katastrofe. Teškoće sa kojima se suočava su fundamentalna posledica povezivanja ljudi.

Da bismo razumeli zašto, hajde da razmotrimo kako se Facebook promenio od svojih idiličnih ranih dana.

Stari prijatelji

U početku, Facebook je povezivao korisnike sa njihovim proširenim društvenim krugom u stvarnom životu - njihovim lokalnim vezama. Kao milenijalac, pridružio sam se Fejsbuku u srednjoj školi kao produžetak prijateljstava koja sam već imao. U ovom svetu, Facebook je omogućio direktne mrežne efekte, ili recipročno generisanje sadržaja između korisnika: ja kreiram sadržaj za svoje prijatelje, a moji prijatelji kreiraju sadržaj za mene. Postavio bih neke fotografije sa mature, moji prijatelji bi postavili malo drugačije fotografije sa mature i svi bismo komentarisali kako svi izgledaju sjajno. Čak i da je neko loše izgledao na fotografiji, niko to nikada ne bi napisao: Morali smo da se vidimo u stvarnom životu.

Ova verzija Facebooka imala je neka velika ograničenja. Prvo, nije mi zaista dalo pristup ničemu što već nisam imao u životu. Kada sam se zainteresovao za di-džej - nišno interesovanje - nisam mogao da se povežem sa drugim DJ-evima na Facebooku, jer nisam imao nijednog u svojoj neposrednoj mreži prijatelja iz stvarnog života. Drugo, bilo je ograničena količina sadržaja — ima samo toliko fotografija sa mature. Treće, redovni korisnici nemaju resurse za generisanje „visokokvalitetnog“ sadržaja — niko nije profesionalno crtao sve ove maturske fotografije. U ovom svetu, veze su bile relativno slabe, u smislu da se ne optimizuju za intenzivan i stalni angažman koji bi me držao da koristim Facebook.

Novi prijatelji

Facebook je rešio ovaj problem tako što je doveo milione - i na kraju milijarde - korisnika, a zatim omogućio globalne veze. Odjednom, preko jačih mrežnih efekata veće baze korisnika, korisnici sa nišnim interesima mogli bi da se povežu i dostignu kritičnu masu. Postoji mnogo drugih DJ-eva na Fejsbuku i Instagramu sa kojima mogu da se povežem.

Međutim, ove globalne veze nisu uvek dobre. Korisnici sa opasnim interesima — za sebe i druge — mogu lako da se povežu jedni sa drugima i pojačaju ta interesovanja. Korisnik sa samoubilačkim mislima sada može tražiti savet od drugih sa istim mislima. Korisnik sa rasističkim stavovima može izabrati da bude okružen drugim rasistima. A kada se jednom povežu, ovi korisnici se okupljaju u kritičnoj masi i mogu koordinirati aktivnosti. Ovo može da varira od relativno benignih, ali i dalje štetnih, kao što su marketinške šeme na više nivoa, do koordinacije događaja kao što je napad 6. januara 2021. na američki Capitol, koji je organizovan na mnogim društvenim mrežama, ali je bio podstaknut od strane internet zajednice korisnika privučene teorijama zavere o izbornoj prevari.

Bez prijatelja

Postoji još jedna važna promena koja se takođe dogodila. Kako je Facebook evoluirao, počeo je da se u velikoj meri oslanja na indirektne mrežne efekte. Umesto da vršnjaci recipročno stvaraju sadržaj jedni za druge, velika korisnička baza potrošača sadržaja podstiče „profesionalne“ proizvođače sadržaja da nastave da ističu sadržaj, a profesionalni sadržaj drži veliku bazu korisnika na Facebooku angažovanom.

Oslanjanje na profesionalne proizvođače sadržaja da pokreću indirektne mrežne efekte ima niz štetnih posledica. Prvo, ohrabruje elitne pojedince - poznate ličnosti ili kvaziprofesionalne “influensere” - da prikažu nedostižnu sliku o telu i životni stil kao inače normalne, što Facebookovo istraživanje nalazi da može da pogorša depresiju, anksioznost i samoubilačke misli kod mladih ljudi. Drugo, profesionalizuje generaciju „clickbait“. I tradicionalni mediji i potpuno loši akteri imaju mogućnost da postave sadržaj i naslove koji iskorištavaju radoznalost i emocionalnu reakciju korisnika. Treće, ovlašćuje profesionalne ekstremiste da šire eksplicitno opasne poruke u velikom obimu. ISIS je efikasno koristio Facebook za svoje napore regrutovanja tako što je delio video snimke grotesknog nasilja koji odjekuju kod nezadovoljne omladine.

Izazov za Facebook, i za nas kao društvo, jeste da sve što Facebook može da uradi da reši svoj „problem“ deluje direktno protiv načina na koji stvara vrednost i njegovu osnovnu misiju. U suštini, kritičari Facebooka traže od njega da povezuje manje ljudi i da ih povezuje manje intenzivno. Ali to krši osnovni etos onoga što je Facebook oduvek nameravao da uradi. Ovo je Facebook zamka.

Izazov odgovornosti

Dakle, šta Facebook treba da uradi u vezi sa ovim problemom? I za koji deo ovog problema mi kao društvo zapravo možemo da smatramo Facebook odgovornim, kroz pritisak javnosti, regulatornu politiku ili na druge načine? Da bismo odgovorili na ova pitanja, hajde da razmotrimo ulogu Facebook-a u omogućavanju veza koje potiču od korisnika u odnosu na algoritamske veze.

Korisničke veze su direktne interakcije između strana koje je platforma omogućila na početku. Kada je Facebook počeo kao registar studenata na Harvardu, korisnik je mogao da skroluje kroz sve ostale studente i da izabere da se poveže sa nekolicinom od kojih korisnik želi da vidi sadržaj. Facebook sa samo korisničkim vezama bio bi ograničen na prilično lokalne veze i više direktnih mrežnih efekata.

Međutim, kako se platforma povećava, korisniku postaje sve teže da pronađe veze koje su mu vredne. Da bi Facebook mogao da nastavi da efikasno povezuje ljude, primenio je algoritamske veze. Ovaj mehanizam za preporuke koristi podatke koje korisnici daju platformi da predlaže nove prijatelje i grupe i popunjava vesti i rezultate pretrage. Ova teška ruka je neophodna da bi se omogućilo formiranje globalnih veza i indirektni mrežni efekti, i da bi se korisnicima donele veze koje žele i sa kojima bi se najintenzivnije angažovali.

Zašto je razlika važna

Razdvajanje problema koji su rezultat organskih korisničkih veza u odnosu na veze vođene algoritmom na Facebooku daje nam osećaj za šta se Facebook može razumno smatrati odgovornim. Nažalost, ne predstavlja laka rešenja.

Scenariji u kojima Facebook koristi tešku ruku da bi olakšao veze u kojima s pravom možemo tražiti određenu odgovornost - čak i ako to radi protiv misije Facebooka. Na primer, samo zato što podaci govore da drugi zaista vole da budu povezani sa zabavnim sadržajem ne znači da Facebook mora da mi skrene pažnju na taj sadržaj. Izbor da se korisnici ne izlažu novom sadržaju koji ne bi tražili je relativno jednostavan.

Pitanje odgovornosti postaje manje jasno kada razmotrimo da li algoritam treba da preporuči veze koje određeni korisnik zaista želi, što otkrivaju podaci o sopstvenoj aktivnosti korisnika. Misija Facebooka podrazumeva da namerno treba da olakša ove veze, ali ove veze mogu da intenziviraju ponašanje i pogled na svet korisnika. Ako korisnik sa blagim političkim sklonostima pokaže interesovanje za čitanje o nacionalnoj politici, koliko političkog sadržaja Facebook može da preporuči pre nego što postane ekstreman ili čak opasan? Da, Facebook može ograničiti način na koji daje ove preporuke – makar samo zato što pojedinačni korisnici ne mogu sebe smatrati odgovornim – ali ne postoji očigledna linija koju bi Facebook mogao da povuče.

Ali jasna odgovornost potpuno nestaje kada korisnici sami uspostavljaju veze. Da bi se suočio sa problematičnim vezama koje su proizveli korisnici, Facebook bi na kraju morao da cenzuriše sadržaj i zabrani korisnike koji kreiraju sadržaj koji smatramo problematičnim. Postoje neke svetle tačke — naravno, eksplicitno planiranje nasilnih aktivnosti treba da bude zabranjeno — ali najveći deo potencijalno štetnog sadržaja spada u ogromnu sivu zonu. Uzmite u obzir tamno sivu oblast sadržaja protiv vakcine:

Ako, recimo, želimo da Facebook cenzuriše eksplicitne dezinformacije, šta treba učiniti sa nijansiranim sadržajem zasnovanim na dokazima koji opisuje neželjene efekte vakcine? Facebook može prilagoditi svoj algoritam da potisne preporuke ovog sadržaja, ali ako se korisnici trude da ga pronađu, može li ili treba li da ga Facebook cenzuriše? Da li to želimo?

To je oblast sa kojom se Facebook najviše bori. Kompanija je više puta bila nedosledna i netransparentna o tome kako cenzuriše sadržaj. Zakerberg je pokušao da odgovornost prepusti kvazi-nezavisnom nadzornom panelu, ali kritičari optužuju Facebook da namerno nije dao odboru resurse ili kontrolu da sveobuhvatno i efikasno obavlja svoj posao. Ovo izbegavanje proizilazi iz izazova odgovornosti koji je svojstven društvenom umrežavanju. Da, možemo smatrati Facebook odgovornim za ono sa čime se Facebook trudi da nas poveže. Ali možemo li smatrati Facebook odgovornim za ono sa čime se trudimo da se povežemo? I kao kompanija posvećena povezivanju ljudi kao svojoj misiji, Facebook očigledno ne želi da bude odgovoran za veze koje korisnici istinski žele, nezavisno od toga da li ih Facebook daje korisnicima ili ih korisnici sami pronađu.

Šta Facebook može?

Kao profesor strategije, verovatno sam više empatičan prema Facebooku od većine. Facebook ima strategiju povezivanja ljudi koja je stvorila ogromnu količinu vrednosti, ali ta ista strategija danas dovodi Facebook u velike probleme. Postoje teški kompromisi sa svih strana. Moje mišljenje je da ne postoji jasno rešenje, ali postoje tri široka pravca koje Facebook može slediti.

Saopštiti kompromise, transparentno.

U prethodnim naporima da projektuje odgovornost, Facebook je implicirao da ima rešenja za probleme koje stvara, a koja trenutno izgleda da nema. Kao jedan od načina, Facebook može biti transparentniji u vezi sa osnovnim kompromisima koji dolaze sa društvenim mrežama objavljivanjem istraživanja koja dokumentuju specifične probleme, kao što su slika tela i Instagram, zajedno sa svojim stalnim zalaganjem za vrednost koja dolaze sa povezivanjem ljudi. Ovi uvidi mogu da usmere regulatore i dovedu Facebook u dobru poziciju da odvede regulativu u povoljnom smeru za industriju, a propisi koji nameću skupe zahteve za usklađenost mogu biti prepreka ulasku koja štiti postojeće kompanije kao što je Facebook, na primer, GDPR u Evropi.

Pojačati umerenost, masovno.

Da bi sveobuhvatno moderirao sav svoj sadržaj, Facebook bi morao da nastavi da napreduje na granici algoritamskog otkrivanja nepoželjnog sadržaja i da poveća broj ljudskih moderatora. Od 2020. godine, Facebook zapošljava 15.000 ljudskih moderatora od kojih svaki dnevno pregleda stotine stavki sadržaja, a biće mu potrebno mnogo više. Ovaj napor će koštati milijarde dolara, a možda i bolnije za Facebook, primoraće ga da odluči koji sadržaj da ograniči: moderacija za jednu osobu je cenzura druge. Međutim, nikakvi napori u vezi sa moderacijom ne mogu učiniti mnogo u vezi sa sadržajem koji prolazi kroz šifrovane komunikacije WhatsApp-a ili Messenger-a.

Biti odgovoran, na odgovarajući način.

Facebooku su potrebne jasne granice za koje aspekte svoje platforme želi – i može biti – odgovoran, i jasno delegirati odgovornost vladama, nezavisnim agencijama i korisnicima tamo gde to ne čini. Na vezama koje potiču iz algoritma, biće nepraktično delegirati odgovornost za ono što je često proces crne kutije — a ova tehnologija je ključni deo intelektualne svojine za Facebook — tako da Facebook mora biti spreman da preuzme odgovornost za veze koje taj algoritam promoviše .

Ali u vezi sa korisničkim vezama sa nepoželjnim sadržajem, Facebook je bio nejasan o tome ko je ovde odgovoran. Kvazi-nezavisni nadzorni odbor pomera Facebook ka ovom pravcu delegiranja odgovornosti, ali je i dalje izbegavan i nepotpun: odbor samo razmatra odluke o sadržaju na Fejsbuku nakon žalbenog postupka, a odbor je i dalje finansijski zavisan od Facebooka i premali da bi mogao da radi u potrebnoj razmeri.

Dalje, Facebook može sam preuzeti stvarnu odgovornost tako što će masovno pojačati sopstvene napore u moderiranju; javno i verodostojno dati tu odgovornost spoljnom organu; ili ostavite tu odgovornost u rukama pojedinačnih korisnika tako što će zauzeti stav i boriti se za svoju prvobitnu misiju da slobodno povezuje ljude kako god oni žele. Trenutno, Facebook dvosmisleno radi sva tri, ne ostavljajući nikome odgovornost.

Više od Facebooka

Facebook služi kao zgodan gromobran za gnev, ali Facebook bi sutra mogao nestati sa lica Zemlje, a mi ćemo se i dalje suočavati sa ovim problemima iznova i iznova. Facebook zamka je svojstvena društvenom umrežavanju u celini i odražava posledice digitalne tehnologije koja omogućava povezaniji svet.

Twitter je evoluirao na istom putu kao i Facebook ka korišćenju algoritama za globalno povezivanje ljudi, donoseći mnoge od istih štetnih posledica kao i Facebook. Snapchat, prvobitno oslanjajući se na povezivanje prijatelja, drastično je redizajnirao svoju platformu kako bi pokrenuo indirektne mrežne efekte koji povećavaju količinu vremena koje korisnici provode gledajući profesionalni sadržaj. TikTok je brzo postao moćna kompanija koristeći svoje najbolje algoritme u klasi za povezivanje korisnika sa najzanimljivijim sadržajem na globalnom nivou bez potrebe da se gradi iz mreže prijatelja iz stvarnog života.

Svi moramo da računamo sa posledicama toga šta znači intenzivnije povezati više ljudi. Da bi to uradili i krenuli u ovu zamku u kojoj se nalazimo, Facebooku i svim platformama društvenih mreža danas (i koje tek dolaze) treba jasan osećaj za šta će biti odgovorni. Vreme je da se ove kompanije - zajedno sa vladama i korisnicima - uhvate u koštac sa Facebook zamkom.