Мисленето за Facebook и за това, какво да правим с него, изисква да съчетаем два противоречиви набора от факти. Единият е, че Facebook е изключително полезна платформа за комуникация, публикуване на новини, икономическа и друга дейност, на която разчитат милиарди хора по света. Другият е, че Facebook е силно пристрастяващ, търсещ печалба субект, който експлоатира и манипулира човешката психология, за да печели пари, което води до тежки последици за останалата част от обществото.
Компанията отново зае централно място в медиите благодарение на взривоопасни разкрития от разочарована бивша служителка, която публикува множество вътрешни документи на компанията. Поредица от статии на Wall Street Journal, базирана на изтеклата информация информация, интервютата пред медиите и освидетелстването пред Конгреса на служителката Франсис Хауген разкриха същността на проблема: Facebook е напълно наясно с различните вреди и опасности, свързани с неговите платформи, но не ги отстранява, защото това би било в противоречие с непрекъснатия растеж и печалби на компанията.
В една от публикациите се разкрива, че изследователите на компанията сами са установили, че Instagram, който е собственост на Facebook, има психологически вреден ефект върху тийнейджърките, макар компанията публично да отрича това и продължава да разработва версия на Instagram за деца под тринадесет години. Друг анализ е установил, че извършената през 2018 г. промяна на алгоритъма на компанията с цел насърчаване на „смислени социални взаимодействия“ (или MSI) вместо това е стимулирала публикации и съдържание, основани на възмущение, социално разделение, насилие и откровени глупости. Други публикации показват, че Facebook умишлено се е насочвала към деца и е търсила начини да ги привлича към продукта си отрано, както и че се е бавила с премахването на публикации, за които е знаела, че са направени от наркокартели и трафиканти на хора.
Представяни са много решения за справяне с проблема на Facebook, като например използване на антитръстови закони за разбиването му, промяна на законодателството в САЩ, за да се позволи на технологичните компании да бъдат съдени за неща, публикувани на техните платформи, или, както Хауген предложи на Конгреса, изискване на повече прозрачност от компанията и създаване на регулаторен надзорен съвет. Но голяма част от разкритото в тези документи увеличава тежестта на аргументите, че компанията, както и други подобни фактически монополи, трябва да бъдат третирани като комунална услуга или дори да преминат в публична собственост.
Това, което става ясно от документите е, че, както каза Хоугън пред Конгреса, когато Facebook се сблъсква с конфликт между печалбите си и безопасността на хората, тя „последователно решава тези конфликти в полза на собствените си печалби“. Facebook знае, че платформите му са вредни за децата, но за да продължи да се разраства, трябва да привлече тези деца, така че те да станат част от потребителската му база като възрастни, и тези деца да привлекат родителите си. „Те са ценна, но неизползвана аудитория“, се казва в един вътрешен документ от 2020 г. за тийнейджърите, като компанията проучва претийнейджърите, планира нови продукти, за да ги привлече, и обсъжда идеята за „срещите за игра като лост за растеж“.
Facebook разбира, че насърчаването на „смислени социални взаимодействия“ може да подхрани разделението, стъкмистиката и всякакви нездравословни поведения сред потребителите, но ако не го направи, това означава по-малко ангажираност и потенциално по-малко печалба. Когато един служител е предложил да се справи с дезинформацията и яростта в социалната платформа, като премахне приоритета, който алгоритъмът дава на съдържанието, споделяно многократно от големи потребителски вериги, Марк Зукърбърг е отказал да го направи, „ако има съществен компромис с въздействието на MSI“. Когато изследователите са предложили на компанията да коригира алгоритъма си, така че да не изпраща потребителите в по-дълбоки, по-екстремни заешки дупки, като например интереса към здравословни рецепти, които бързо водят до съдържание за анорексия, висшите ръководители са пренебрегнали предложението от страх да не намалят ангажираността на потребителите.
„Голяма част от промените, за които говоря, няма да направят Facebook нерентабилна компания“, заяви Хоугън пред Конгреса. „Тя просто няма да бъде абсурдно печеливша компания, каквато е днес.“
Подобно на компаниите, които стимулират продажбите си, като произвеждат устройства, предназначени да се развалят и да спрат да работят след няколко години, жаждата на Facebook за растеж и по-големи печалби е причината за нежеланието да се действа отговорно. Изглежда безсмислено тези стимули да бъдат извадени от уравнението, особено след като тези платформи придобиват статута на „естествени монополи“ като железниците и телекомуникациите.
Ако фирмата е публична собственост или просто строго регулирана комунална услуга, тя не трябва да работи по капиталистическата логика на растеж и прекомерно търсене на печалба, която подхранва тези проблеми, нито пък трябва да оцелява, ако нейната потребителска база вече не се нуждае от нея или не се интересува от нея. Фактът, че компанията излиза от мода сред младежите и се използва предимно от хора над тридесет години, може да е проблем за Марк Зукърбърг, частния собственик на Facebook, но не би било голям проблем за една комунална услуга, която едно правителство неохотно национализира заради това колко много потребителите ѝ са започнали да зависят от нея. Всъщност това звучи като готово решение за платформа, за която повечето от нас са съгласни, че в най-добрия случай е пристрастяваща и нездравословна.
Ако на по-младите поколения им е все едно дали Facebook ще оцелее, защо трябва да ги караме да мислят по друг начин? Ако хората са по-щастливи, щом спрат да следват всичко в социалната мрежа и изпразнят новинарските си потоци, защо трябва да противодействаме на това, както Facebook наскоро постъпи по отношения създателя на приложение, което позволява това да се направи с един клик?
Разбира се, има много практически въпроси, които ще трябва да бъдат решени. От една страна, Facebook може да е американска компания, но нейните услуги, подобни на комуналните, се предоставят на цялото земно кълбо, така че съществуват реални въпроси за това как всъщност би изглеждал един публично притежаван или регулиран Facebook – въпроси като „Чия публична собственост?“ или „Регулиран от кого?“
Също така, всяка подобна схема ще трябва да бъде подложена на строг надзор и демократичен контрол, за да не може експлоатацията и манипулацията, извършвани от платформата, просто да се прехвърлят от частния сектор към правителството. (Все пак имайте предвид, че чрез програмите си за наблюдение и кибероперациите Вашингтон и други правителства вече използват платформи като Facebook, за да събират и съхраняват данни за потребителите по света и да манипулират информацията за тях.) Може би в крайна сметка правилният път напред ще бъде някаква комбинация от всички тези решения, включваща както разбиване на тези монополи, така и преминаване на части от тях в публична собственост.
Но макар точното решение все още да не е ясно, ясно е друго – че сегашното състояние на нещата е нетърпимо. Отвъд проблемите, подчертани от свидетелствата от Хауген, отдавна знаем, че платформите за социални медии и други технологични иновации са психически нездравословни за нас, тъй като са умишлено създадени, за да предизвикват пристрастяване до такава степен, че самите софтуерни инженери и технологични магнати, отговорни за тях, да избягват да използват собствените си творения. Може би има начин да запазим социалните медии и най-полезните им функции в живота си, като същевременно се отървем от най-злокачествените им характеристики. А може би всичко това ще се окаже грешка, фундаментално несъвместима с начина, по който работи човешкият мозък. Но за да разберем това, трябва поне да опитаме нещо различно.
За съжаление това не е решението, което поредицата статии на Wall Street Journal по-голямата част от Конгреса и други медии посочват в отговор на това изтичане на информация. Предсказуемо, тази новина предизвика призиви за по-засилено „модериране на съдържанието“, тоест цензура, от страна на тези технологични компании, като начин да се предотврати разпространението на всякакъв вид дезинформация или да се спрат платформите от „стимулиране на опасни социални движения„.
По ирония на съдбата това се случва въпреки факта, че самите документи показват глупостта на цензурата като решение на тези проблеми. Първият материал от поредицата на WSJ разказва за това как Facebook е създал „бял списък“ с десетки хиляди профили, които са имунизирани срещу цензура за публикуване на неща, които биха довели до цензуриране, отстраняване или постоянно забраняване на други потребители. През цялото време цензорите на компанията преследват потребители от по-ниско ниво, като свалят напълно безобидни публикации или такива, чието послание тълкува погрешно, включително арабскоезични новинарски издания и активисти по време на репресиите на Израел срещу палестинците по-рано тази година. Тези платформи неведнъж са показвали, че не може да им се има доверие за точно и отговорно модериране на съдържанието, както бе документирано съвсем наскоро в доклад на Human Rights Watch за потискането на палестинското съдържание.
Тази реакция е част от дългогодишната тенденция, която Оливие Ютел нарича технологичен редукционизъм: убеждението, че технологичните компании и техните продукти не само са вредни и нездравословни за нас, но и са отговорни за всяко лошо нещо, за което се сетите, че се е случило през последните няколко години. Когато решаваме как да се справим с този проблем (и избираме цензурата като начин за действие), има опасност да пропуснем по-широките политически, икономически и социални фактори, които са причина за вълненията в настоящия свят, и вместо това да ги припишем на почти мистичната сила на социалните медии. Наистина ли Фейсбук беше единственият отговорен за бунта в Капитолия на 6 януари? Или това беше само един от редица полезни инструменти, които позволиха на участниците да се организират за събитието – участници, които бяха движени от комбинация от икономическо безсилие и до голяма степен от лъжи за изборите, разпространявани от елита и водещи медии?
Хауген заяви пред WSJ, че мотивът ѝ да се разкрие е, че е наблюдавала как неин либерален приятел е завладян от зловещи заблуди, описани като „смесица от окултизъм и бял национализъм“, след като е прекарвал „все повече време в четене на онлайн форуми“ (не във Facebook, странно), което е довело до края на приятелството. И все пак хората редовно се сблъскват с пропаганда или я консумират, или просто използват социалните медии и интернет, без да тръгнат по подобен път. За съжаление така и не научаваме какви са били основните фактори, които са накарали приятеля на Хауген да бъде въвлечен в този миазъм от лъжи, нито пък какво го е накарало по-късно да се откаже от тези убеждения. Дезинформацията винаги е била широко разпространена в света; намирането на отговорите на тези въпроси ще ни помогне да разберем защо тя изглежда особено силна в тази епоха.
Избягването на натиска за масова цензура не означава, че сме безсилни да направим каквото и да било. Има ясни промени, които могат да бъдат направени в алгоритмите, дизайна, централната мисия и ресурсите на Facebook, които биха го доближили до истинската обществена услуга, за която претендира, че е, вместо този нихилистичен, гонещ печалба мастодонт, като какъвто функционира. И никоя от тези промени не би застрашила правото ни да говорим свободно или да наруши способността ни да поддържаме връзка с близките си, да организираме събития или други полезни функции на подобни платформи. Кой знае – може дори да ни се прииска да се разлогнем от време на време.