Наскоро публикуваният манифест на основателя на Facebook Марк Зукърбърг, очевидно написан в отговор на обвиненията, отправени към социалната мрежа във връзка с президентските избори в САЩ, е плашещ, дистопичен документ. Той показва, че Facebook, който по думите на самия Зукърбърг има за цел да “разшири капацитета на хората да изграждат и поддържат отношения” – се превръща в нещо като извънтериториална държава, ръководена от малко, неизбрано правителство, което все повече разчита на непублични алгоритми за социално инженерство.
През 2012 г. Зукърбърг се обърна към бъдещите акционери на Facebook с писмо, съпътстващо документите за първичното публично предлагане на компанията. Ето как тогава бе описана целта на социалната мрежа:
“Когато хората споделят повече – дори и само със своите близки приятели и роднини – това създава по-отворена култура и води до по-добро разбиране за живота и перспективите на другите. Ние вярваме, че това създава повече и по-силни връзки между хората, че им помага да се запознаят с повече гледни точки. Като помагаме на хората да формират тези връзки, се надяваме да пренастроим начина, по който хората разпространяват и консумират информация. Ние смятаме, че информационната структура на света би трябвало да наподобява обществената пирамида – мрежа, изградена отдолу нагоре и от преки връзки между потребителите, а не да бъде тази монолитна, изградена отгоре надолу структура, която съществува днес. Ние също така вярваме, че фундаментален принцип в това пренастройване е да дадем контрол на хората върху това какво споделят.”
На каквото и да са се основавали тези вярвания, те до голяма степен не издържаха проверката на времето. Вместо да създава по-силни взаимоотношения, Facebook генерира тревога и пристрастяване, които вече са обект на научни изследвания от Португалия до Австралия. Някои от проучванията са установили, че използването на Facebook намалява удовлетвореността от живота на потребителите.
Датски експеримент от 2015 г., включващ хора, спиращи да използват Facebook за седмица и контролна група, която продължава да влиза в социалната мрежа, показва, че при вторите има 55% по-голяма вероятност да са стресирани. Един от източниците на този стрес е завистта за излъскания начин на живот, представян от другите. Благосъстоянието на потребителите се подобрява само в случаите, когато са имали смислени контакти – като например дълги чатове с хора, с които вече са близки.
В най-новия си манифест, Зукърбърг посочва родителските групи като нещо, което компанията му прави по правилен начин. Някои скорошни проучвания обаче показват, че някои млади майки използват Facebook, за да търсят потвърждение на своята убеденост, че са добри родители. Ако не получат подобна валидация, това причинява симптоми на депресия.
А колкото до “пренастроената” информационна инфраструктура, то тя помогна хората да бъдат вкарани в идеологизирани улеи, където получават само информация, потвърждаваща съществуващите им пристрастия. Facebook участва активно във формирането на тези улеи като настройва алгоритмите, които определят какво се появява в потока със съобщения на отделните потребители. Алгоритмите приоритизират какво се показва на потребителя, като използват като основен измерител колко често той си е взаимодействал с публикуващият информацията и колко коментара и “харесвания” е генерирал конкретния пост. С други думи, алгоритмите слагат ударение върху най-емоционално ангажираните публикации от хора, към които по принцип си привлечен. По време на изборна кампания, това е рецепта за създаване на филтрирани информационнни балони, както и за усилване на емоционалните, а не на рационалните аргументи.
“В скорошните изборни кампании по цял свят – от Индия и Индонезия до цяла Европа и САЩ, виждаме как кандидатът с най-много ангажирани последователи във Facebook обикновено печели”, хвали се Зукърбърг в новия си манифест. В момента в Холандия Facebook страницата на либералния премиер Марк Рюте има около 17 500 харесвания, а тази на националиста Герт Вилдерс – над 174 хил. Във Франция центристкият кандидат Емануел Макрон има 165 хил. последователи в социалната мрежа, а крайно-дясната Марин Льо Пен – 1.2 млн. Да помага на тях едва ли е нещо, с което либералът Зукърбърг може да се гордее. Но благодарение на намесата на създаваните от компанията му алгоритми, той е създал мощен инструмент за популисти.
Зукърбърг не иска да поправи грешката си и да спре да се бърка в това какво хората виждат в социалната мрежа. Вместо това, в новия манифест се говори за Facebook все едно е страна или наднационален блок, а не просто технология, позволяваща комуникация. Зукърбърг описва как Facebook сортира групите като “смислени”, и предполага се, безсмислени. Вместо да улеснява комуникацията между хора, които вече са част от някакви социални групи и офлайн, той иска да даде изражение на отношенията във Facebook и в реалния живот. Явно това е по-ефективен начин да остава напред от конкурентите.
Ръководителят на социалната мрежа заявява, че неговият екип работи върху изкуствен интелект, който ще е способен да разпознава съобщения, съдържащи обидна информация – голота, насилие или реч на омразата – и да ги предава за окончателна оценка на хора. Ако опитът от миналото е показателен, то може да се очаква пренатоварените човешки служители само да потвърждават повечето решения, направени от технологията, за която Зукърбърг признава, че все още е далеч от съвършенството.
Зукърбърг също така подсказва, че ще има възможност всеки потребител да прилага филтрите, предоставени от тази технология:
“Каква е вашата граница по отношение на голотата? На насилието? На ругатните? Вашето решение ще е отразено в персоналните ви настройки. Ние периодично ще ви питаме тези въпроси, за да увеличим участието и да не трябва сами да ровите и да търсите настройките. За тези, които не отговорят на въпросите, ще се прилагат тези филтри, избрани от мнозинството хора в същия регион – като референдум. Разбира се ще си свободен да промениш персоналните си настройки по всяко време.”
Ефектът в реалният живот вероятно ще е такъв, че повечето потребители, твърде мързеливи, за да се мъчат с настройки, ще приемат стандарта на “мнозинството”, което ще направи още по-малко вероятно да видят нещо, което може да ги извади от личната им зона на комфорт. Тези, които активно използват филтрите няма да са много по-добре – те няма да имат представа какво точно се филтрира, защото алгоритмите на Facebook са черна кутия.
Зукърбърг описва Facebook като глобална общност, която има нужда от по-добро опазване на реда, по-добро управление и придвижване към по-добри социални практики. Той е готов да позволи някаква демокрация и “референдуми”, но компанията ще взема крайните решения какво съдържание ще виждат потребителите на база на тяхното поведение в социалната мрежа. В края на краищата, този тип социално инженерство се отразява на настроенията и поведението на хората. Това може да има положителен ефект за търговията или да накара хората да се присъединяват към добри каузи, но също така може да се отрази доста по-притеснително върху реалния живот.
Абсурдно е да се очаква смирение от героите на Силиконовата долина. Но Зукърбърг трябва да осъзнае, че като се опитва да оформи начина, по който хората използват Facebook, може би създава чудовище. Другите услуги на компанията му – Messenger и WhatsApp, просто позволяват на потребителите да комуникират без никаква намеса. Тази проста функция служи за един от малкото непротиворечиви примери в манифеста на Зукърбърг: “В Кения цели села са част от общи WhatsApp групи, включително представителите им във властта”, изтъква той. Това е чудесно. Хората са благодарни за инструменти, които им позволяват да работят, учат и правят неща заедно – но те реагират на стремежа за покровителстване по непредсказуеми начини. “Самоубийство на виртуалната идентичност” е един от тях. Тази тенденция още не се показва в отчетите на Facebook, но това може да се дължи на това, че много от “активните потребители” на социалната мрежа са ботове. Когато напишеш “как да напусна/изтрия” в търсачката на Google, едно от първите предложени допълнения, които изскача е “Facebook”.
