Преди повече от 10 години се присъединих към Facebook и се гордеех с успехите на компанията… до последните няколко месеца. Аз съм смутен и се срамувам. Със своите 1,7 милиарда потребители Facebook е една от най-влиятелните компании в света. Дали ни харесва или не, Facebook е високотехнологична медийна компания, която има огромно влияние върху хората, политиката и социалното благополучие. Всяко решение, взето от ръководството, може да окаже голямо влияние върху живота на реалните хора. Ръководството на компанията трябва да отговаря за всяко свое действие и както получава възнаграждения за постигнати успехи, така и трябва да отговаря за провалите. Неотдавна Facebook извърши някои наистина ужасни неща и аз вече не мога да оправдая това поведение.
Девет дни преди началото на изборите през месец ноември 2016 година изпратих мейл до основателя на Facebook Марк Зукърбърг и главния оперативен директор на компанията Шерил Сандбърг. Там описах забелязаните от мен проблеми във Facebook и възнамерявах да публикувам този материал в медиите. Няколко месеца преди това забелязах вълна от споделяния, които идваха от Facebook групи, които на пръв поглед изглеждаха свързани с кампанията на Бърни Сандърс, но никой не можеше да си представи, че са дошли от неговия екип. Исках да споделя със Сандбърг и Зукърбърг страха си, че някакви хора използват архитектурата и бизнес модела на Facebook, за да нанесат вреда на нищо неподозиращите хора.
Аз съм дългогодишен инвеститор и евангелист. Технологиите са моята страст и моята кариера. Бях ранен съветник на Зукърбърг – Зук, наричан от много колеги и приятели, както и ранен инвеститор във Facebook. Наистина вярвах в компанията. Ранните ми срещи със Зук почти винаги бяха в кабинета му и нямах цялостна представа за него, но той винаги бе откровен с мен. Зук ми хареса. Хареса ми и неговият екип. Бях истински фен на Facebook. Бях един от хората, на които Зук можеше да се обади, когато се изправи пред нови предизвикателства. Менторството ми е приятно и забавно, а Зук не би могъл да бъде по-добър ученик. Говорехме за неща, които са важни за Зук, в области, в които аз имах повече опит и той често следваше моите съвети.
Когато изпратих този мейл на Зук и Шерил, мислех че Facebook е жертва на някакво недоразумение. Но това, което научих през следващите месеци – изборите през 2016 година, разпространяването на информация за Brexit, за продажбата на потребителските данни – всичко това ме шокира и разочарова. Отне ми много време, за да разбера и приема, че успехът е заслепил Зук и Шерил. Никога не съм имал причини да се изправям срещу Facebook и дори все още притежавам акции на компанията. Критиката ми към Facebook е въпрос на принцип и притежаването на акции е добър начин да се следват принципите. Аз първи инвестирах във Facebook и отново съм първият, който видя задаващата се катастрофа.
Това е историята за властта, привилегиите, за доверието и злоупотребата с него.
Огромният успех на Facebook в крайна сметка доведе до катастрофа. Бизнес моделът на компанията се базира на рекламата, успехът на която от своя страна зависи от манипулиране вниманието на потребителите по такъв начин, че да виждат колкото се може повече реклами. Един от най-добрите начини за манипулиране на вниманието е да се предизвика възмущение и страх – емоции, които ангажират вниманието. И колкото по-емоционален е даден пост, толкова по-добре се вижда в лентата. Facebook шпионира потребителите и събира данни отвсякъде, откъдето може, а използваните алгоритми дават на потребителите точно това, което те искат. В крайна сметка всеки се оказва в своето информационно балонче и вярва, че другите потребители мислят като него. Но редица проучвания доказаха, че показването само на мненията, с които даден потребител е съгласен, повишават поляризацията и както се оказа, вредят на демокрацията.
За да захрани своите алгоритми с елементи на изкуствен интелект, Facebook започна да събира данни дори и от хората, които не използват тази социална мрежа. За съжаление, Facebook не можа да защити и съхрани тези данни. Компанията започна да ги продава и да търгува с тях, само за да сключи по-печеливши сделки. По този начин броят на потребителите се увеличи, но бе въведена още една иновация, която допринесе за още по-големия успех на рекламния бизнес на Facebook.
От края на 2012 до 2017 година включително, Facebook постепенно усъвършенства една нова идея. Компанията експериментира с нов тип алгоритми, нови типове данни, с малки промени в дизайна, чрез които определяха и научаваха всичко. Постепенно потребителите станаха показатели, а не хора. Facebook толкова ефективно монетизира своите океани от данни, че всички други съображения бяха забравени. Всяко действие, извършено от потребителя, даде възможност на Facebook по-добре да разбере този потребител и приятелите на този потребител. Алгоритмите дадоха възможност на компанията всеки ден да прави малки „подобрения“ в работа на потребителите, което всъщност означава, че всеки рекламодател може да закупи достъпа до вниманието на всеки потребител. Руснаците много добре се възползваха от това.
Хората на Facebook живеят в нещо като собствен балон. Зук винаги е вярвал, че свързването на всички хора на планетата е толкова важна мисия, че оправдава всяко действие, необходимо за нейното постигане. Убедени в благородството на мисията си, Зук и неговите служители слушат критиките, но не ги чуват и не променят поведението си. Те решават почти всеки проблем с един и същ подход: повече изкуствен интелект, повече код, по-бързи подобрения. Те не правят това, защото са лоши хора. Те правят това, защото успехът е изкривил тяхното възприемане на реалността. Те не могат да си представят, че възникналите проблеми биха могли по някакъв начин да са свързани с техните проекти или бизнес решения. Никога нямаше да им хрумне да слушат критиците. И когато се сблъскаха с доказателствата, че фалшивите новини и дезинформацията се разпространяват именно чрез Facebook и са повлияли на британския референдум, както и на изборите в САЩ, те започнаха да се преструват и отричат. А след това бе приложен и план Б: извинения и обещания, че всичко ще бъде оправено.
Благодарение на изключителния успех на Facebook, в света на технологиите Зук е нещо като рок звезда и култов лидер. Той е дълбоко ангажиран от алгоритмите и продуктите, а останалата част от бизнеса оставя на Сандбърг. Във Facebook, Зук е безспорният шеф. Неговите подчинени внимателно го изучават и са разработили специални техники, за да му въздействат. Шерил Сандбърг е блестяща, амбициозна и изключително организирана. Като се има предвид статута на Зук като основател, екипът на Facebook почти никога не го предизвиква да се движи напред и не го предупреждава за настъпването на лоши времена. (Служител на Facebook споделя, че „Хората никога не са съгласни с Марк“).
Може би ще си помислите, че потребителите на Facebook ще бъдат възмутени от начина, по който платформата е била използвана за подкопаване на демокрацията, правата на човека и неприкосновеността на личния живот? Някои наистина са възмутени, но около 1,5 милиарда души го използват, за да общуват с роднини зад граница, далечни приятели и близки. Хората обичат да споделят своите снимки, мисли и емоции. Те не могат и не искат да повярват, че тази платформа може да е отговорна за толкова големи вреди и злини. Facebook използва нашето доверие към семейството и приятелите, за да изгради един от най-големите бизнеси в света. Но едновременно с това е съвсем небрежен с потребителските данни и засилва недостатъците на изградената демокрация, като същевременно кара хората все по-малко да обръщат внимание и да мислят за себе си, и вече да не знаят на кого да се доверят. Facebook използва доверието на хората, за да разпространява дезинформация, да оказва влияние на гласоподавателите и да поляризира вижданията на гората в редица държави. Тази компания ще продължи да прави това, докато ние, като граждани, не възвърнем правото си на самоопределяне.
Трябва да започнем да реформираме Facebook и другите големи интернет компании в следните области:
ДемокрациятаДемокрацията директно зависи от споделените факти и ценности. Тя зависи от върховенството на закона. Тя зависи и от наличието на свободна преса и други опозиционни сили, които държат властта отговорна за действията си. Facebook подкопава свободната преса от две страни: социалната мрежа ерозира журналистиката и я затрупва с дезинформация. Във Facebook информацията и дезинформацията са еднакви. Единствената разлика при дезинформацията е, дезинформацията генерира повече доходи. За Facebook фактите не са абсолютни – изборът е оставен в ръцете на потребителите и техните приятели, непрекъснато подпомагани от ИИ алгоритмите, с цел да се увеличи ангажираността. На този фон алгоритмите на Facebook насърчават екстремните послания в сравнение с неутралните. По този начин се повишава нивото на дезинформацията, потребителите се концентрират върху различни конспиративни теории, а на фактите не се обръща особено внимание.
В мащабите на Facebook и дори донякъде на Google, няма как да се избегне влиянието върху живота на потребителите и оттук, бъдещето на нациите. Най-новата история показва, че заплахата за демокрацията е реална. Сегашните усилия на Facebook, Google и Twitter за защита на бъдещите избори изглеждат искрени, но няма причина да не мислим, че те не ще засипят с удари всеки, който реши да се намеси. Единствено генералните промени в техните бизнес модели могат да намалят риска за демокрацията. Facebook си остава заплаха за слабите по света. Услугата Free Basic предостави достъп до социалната мрежа на бедните хора от около 60 държави, но с цената на огромни социални трусове. Към днешен ден Facebook е сляп за начините, по които платформата може да използвана, за да навреди на беззащитните малцинства. Всъщност това вече се случи – нека да си припомним смъртните случаи в Шри Ланка и Мианмар.
Неприкосновеността на личния животFacebook е голяма заплаха за личния живот. Начинът по който социалната мрежа наблюдава хората би накарал една разузнавателна агенция да се гордее. Но не и обработката на данните. Би трябвало да има Facebook News Feed, в който резултатите от търсенето на са манипулирани. Потребителите трябва да имат контрол върху своите данни и абсолютен контрол върху начина, по който се използват. Потребителите имат право да знаят името на всяко организация или физическо лице, които имат достъп и използват техните лични данни. Друг важен момент е потребителите да имат правото да изтеглят всичките си данни и да ги прехвърлят в друга социална мрежа или в друг подобен ресурс. И още, платформите трябва да са прозрачни както за потребителите, така и за рекламодателите и регулаторните органи.
Контролът на личните данниПотребителите трябва винаги да разполагат с всички свои данни и метаданни. И ако някой ги използва, съответният потребител трябва да бъде много добре компенсиран. Никой не трябва да има възможност да използва данните на потребителя без неговото ясно дадено предварително съгласие. Трябва да се въведат ограничения за това, кои точно данни могат да се събират, а потребителите да могат по всяко време да ограничат събирането дори и на тези данни. И това трябва да се направи незабавно, преди продукти като Alexa и Google Home да станат масови. И накрая, не бих искал да се въвеждат изкуствен интелект и модерни роботи, без доказателство, че те служат на хората, а не ги използват.
Контрол и регулацияАко приемем, че Google, Amazon и Facebook са чисто инвестиционни компании, няма как да не се възхитим на брилянтния начин, по който са осъществили бизнес плановете си. Проблемът е, че се появяват непредвидени последствия, които са по-многобройни и по-тежки, отколкото можем да си позволим. Но всъщност Google и Facebook са изкуствено печеливши, понеже по никакъв начин не плашат за причинените от тях щети.
Икономиката на САЩ исторически зависи от стартиращите компании, особено в областта на технологиите. Ако моята хипотеза е вярна, страната започна твърде рискован експеримент с въвеждането на монопол при иновациите, в икономическия растеж и в създаването на нови работни места.
Google, Amazon и Facebook станаха монополисти и са изградили защитни стени около основните си дейности. Техният успех твърде много вдигна летвата за стартиращите компании, ограничавайки техният потенциален успех. IT гигантите непрекъснато закупуват стартъпите, които биха могли да бъдат някаква конкурентна заплаха. Тези технологични колоси задушават стартиращите фирми, а това е типичният подход на монополистите.
От гледна точка на икономическата политика, трябва да се поставят граници на гигантите от монополен клас като Facebook, Google и Amazon. Икономиката ще извлече голяма полза от разбиването на техния монопол. Първата стъпка е да се предотврати събирането на потребителки данни и споделянето на тези данни между различните платформи. Лично аз намирам контрола и регулацията за най-ефективния начин за намаляване на вредното поведение.
ПристрастяванетоТези технологии имат силата да убеждават, а финансовите средства на рекламодателите гарантират, че убеждаването винаги ще бъде основната цел на платформите. Всеки пиксел на екрана и всяко уеб приложение влияят върху поведението на потребителите. Не всеки потребител може да бъде повлиян по всяко време, но почти всички потребители мога да бъдат повлияни от време на време. Редица хора развиват поведенчески пристрастявания, които влошават качеството на техния живот и на техните семейства, на техните колеги и близки. Милиони хора проверяват телефона си още като се събудят. Може да звучи като виц, но за повечето от тях е проблем дали да го погледнат преди или след като отидат в тоалетната. Така се формира зависимост. Прекалено много хора съобщават за затруднения в съня, понеже не могат да спрат да използват своя таблет или телефон. Да напомним, че и един наркоман много добре разбира, че си вреди, но не може да спре. Промяната ще изисква нещо повече от регулация. Ще са необходими инвестиции в научни изследвания и в обществени здравни услуги, за да се противодейства на пристрастяването към Facebook и дори към интернет.
Да защитим децатаВсе повече деца предпочитат виртуалния пред реалния свят. Редица медицински изследвания посочват, че по този начин се осъществяват безконтролни психологически експерименти върху милиони хора, като най-засегнати са децата. Медицината подкрепя въвеждането на регулация в Глобалната мрежа.
Щетите за общественото здраве, демокрацията, неприкосновеността на личния живот и конкуренцията, причинени от Facebook и другите големи платформи са резултат от техните бизнес модели, които трябва да бъдат променени. Като потребители, ние имаме много повече власт да налагаме промени, отколкото осъзнаваме. Можем, например да променим поведението си. Можем да създадем политическо движение. Можем да настояваме за намеса на правителството. В същото време именно правителството трябва да предприеме първите стъпки за отстраняване на щетите, нанесени от интернет платформите. Политическата и социалната сила на Facebook и другите големи интернет платформи е нездравословна и неподходяща за демокрацията. Трябва да ги задължим да вземат реални решения, а не само да пишат нов сорс код за още по-интелигентни алгоритми.
Roger McNamee: I Mentored Mark Zuckerberg. I Loved Facebook. But I Can’t Stay Silent About What’s Happening.
