Jeste li znali da Facebook ima nadzor nad korisnicima tako što pomoću alata prepoznaje moguća samoubojstva? Alati su nastali 2009. godine kad su pomoću Facebook Livea 14-godišnja djevojka i 33-godišnji čovjek emitirali uživo svoje samoubojstvo. Zuckerberg je tada posebnoj ekipi dao zadatak da napravi nešto kako bi se samoubojstva spriječila.
Rezultat je bio algoritam koji prepoznaje suicidalne objave ili emitiranja. Od 2017. godine otkad je alat u službi Facebook je, prema izvješću kompanije, detektirao 3 500 slučajeva. Ono na što je potrebno reagirati alat prepoznaje po ključnim riječima i izrazima, kao što su komentari ispod objave: Jesi li dobro? Kad alat prepozna moguće samoubojstvo, upućuje signal ekipi koja kontaktira službenike koji reagiraju na hitne slučajeve.
Međutim psiholozi ne podržavaju Facebookov izum jer bi algoritam mogao alarmirati i u slučajevima u kojima nije potrebno, kao na primjer u raspravama o mentalnom zdravlju na društvenoj mreži. Moglo bi se dogoditi upravo suprotno, tvrde. Umjesto da spriječi suicid, kod ljudi će stvoriti mentalnu krizu.
No stručnjak za pomoć kod suicidalnih ljudi, koji je i surađivao s Facebookom u kreiranju alata, Daniel Reidenberg, podržava kompanijinu metodu prevencije. No još nije do kraja razrađen alat jer Facebook ne dobiva povratnu informaciju od službenika koji su reagirali. Stoga se ne zna točno je li upozorenje bilo korisno ili se radilo o nesporazumu.
