В категории:Общество

Трябва ли да се страхуваме от господството на роботите

Текущите технологии са доста умни, но само по отношение на конкретни задачи, а изкуственият интелект не може да се мери с човешката злоба и алчност. Доказва го начинът, по който са проектирани социалните мрежи

Фей Флам, Bloomberg

Широката публика постъпва умно като не се напряга прекалено, когато знаменитости като покойния Стивън Хокинг или Илон Мъск предвещават как  роботите, надарени с изкуствен интелект, ще избият или покорят своите човешки създатели. Мъск използва особено цветисти сравнения в свое интервю от миналата есен, в което прогнозира, че Изкуственият интелект ще ни вкара в резервати или зоологически клетки, както ние сме направили с другите примати.

Не че тези притеснения са напълно неоправдани. Различни академици приемат това съвсем сериозно като техните опасения бяха подсилени след публикуването на книгата “Суперинтелект” на философа Ник Бостром през 2014 г. Има дори група, съфинансирана от Масачузетският технологичен институт – “Институт за бъдещето на живота”, която е посветена основно на тези теми.

Проблемът е, че е трудно човек да се разтревожи за потенциалните злодеяния на изкуствения интелект, когато хората сами си създават толкова проблеми – не само с войни и надпревара в ядреното въоръжаване, но с масови заблуди, пропаганда и измами, които са толкова ефективни, че някои хора започват да се питат дали самата истина вече не е отживелица. Може пък Изкуственият интелект да ръководи нещата по-добре, отколкото ние.

Сценарият на Мъск, напомнящ на “Планетата на маймуните”, с изключение че всички примати, а не само човеците, ще свършат в клетки, не би могъл да се осъществи преди изкуственият интелект да е станал доста по-умен, и да постигне това, което експертите наричат „общ изкуствен интелект”. Текущите технологии са доста умни, но само по отношение на конкретни задачи.

В същото интервю обаче Мъск спомена и един път на унищожение, който е напълно възможен с днешните технологии – “невероятно ефективната пропаганда”, влияеща върху обществото и изборите.

Този проблем вече е идентифициран от учените. Изследване на компютърния специалист Филипо Менцер от университета в Индиана установява, че автоматизираните акаунти в социалните мрежи, или “ботовете”, саботират дневния ред на обществото като усилват послания от “неправдоподобни източници”. Тези ботове не са особено умни, но успяват често да заблудят голям брой хора.

През 2017 г. Менцер създава система за разграничаване на ботовете от реалните профили. През миналата година той и колегите му анализират 14 милиона туита, за да оценят какво влияние имат автоматизираните акаунти. Резултатите са публикувани в Nature Communications.

Той заявява, че благодарение на ботовете конкретно съдържание може да изглежда като споделено от хиляди хора, а хората имат тенденция да споделят каквото смятат, че другите споделят. “Реални хора ретуитват ботове поне толкова често, колкото споделят постове на други хора”, заявява специалистът. По неговите думи в социалните мрежи се създават в пъти повече ботове, отколкото профили на реални хора.

Съдържанието, подсилвано от ботовете, бива подхващано и от алгоритмите на  Facebook и Twitter, така че достига до още повече хора. Докато редакторите във вестници се предполага да оценяват историите според важността им, то алгоритмите са настроени да привличат потребителите като усилват каквото е най-популярно. Човешката преценка относно новините невинаги е била безгрешна, но при нея поне има някакво усилие. Алгоритмите в социалните мрежи изобщо не са проектирани с цел да информират публиката.

Потърсих мнението и на пионера в областта на виртуалната реалност Ярон Лание, автор на “Десет причини незабавно да изтриете профила си в социалните мрежи”. В нея той аргументира добре тезата, че социалните мрежи са настроени да манипулират поведението ни в услуга на хората, които печелят от това.

Лание вярва, че хората, използващи социални мрежи, губят своята автономност точно както, ако се включват в някакъв масов култ. “Култовете са измами, при които хората биват подмамвани да се подчинят на нечии чужди цели. И точно както членовете на секти, пристрастените към социалните мрежи настояват, че са напълно свободни”, казва той.

Лание казва, че прогнозите на Илон Мъск за възхода на роботите са израз на нещо като религия на Силициевата долина, в която някакъв велик компютър ще израсне до статут на висше същество и ще се превърне в Бог. Отговорите на Мъск в интервюто наистина приличат на религиозна алегория: когато хомо сапиенс е станал много по-умен от приматите “е набутал всички останали в тесни местообитания”.

Другите примати със сигурност са застрашени от нашия възход. Но дали това наистина се случва винаги когато един вид стане по-умен от друг? Точно както се предполага, че сме по умни от шимпанзетата, ние сме и доста по-умни от плъховете или гълъбите. Тези животни обаче процъфтяват. Когато предците на морските бозайници са навлезли в океаните, те са били по-умни от рибите, но не са ги избутали в някой тесен ъгъл. Някои от видовете китове със сигурност е по-умен от другите китове, но не ги е подчинил.

Вероятно проблемът не е в превъзхождащия интелект, а в комбинацията между интелигентност, агресия и психология на тълпата. В бъдеще хората, може би, ще имат право да обвиняват машините за щетите, които нанасят. Но засега би било по-разумно фокусираме вниманието си върху другите хора.

Оставете коментар