През 1965 г. математикът Ирвинг Джон Гууд, един от колегите на Алън Тюринг, които разкодират германската „Енигма“ по време на Втората световна война, започва да мисли върху възможните последиците от създаването на „свръх интелигентна“ машина – „машина, която може да надмине интелектуалните способности на всеки един човек, колкото и умен да е той“.
Ако бихме могли да създадем подобна машина – теоретизира математикът – то това би било „последното изобретение, което бихме имали нужда да правим, стига машината да е достатъчно послушна, за да ни каже как да я държим под контрол“.
Обърнете внимание на условието. Теориите на Гууд са се закотвили в колективното ни съзнание, отприщвайки от време на време вълни от добре подправени спекулации. Обикновено са фокусирани върху няколко въпроса. Колко време ще ни отнеме, докато създадем подобна свръхинтелигентна машина? Ще могат ли хората да живеят заедно с подобни машини или дори да са им подчинени? Дали те няма да заключат, че човечеството само хаби пространството? Представлява ли интелигентната машина риск за хората?
Отговорът на първия въпрос може да бъде обобщен на кратко – „по-дълго, отколкото си мислите“. Що се отнася до останалите въпроси – никой не знае. Как бихме могли да разберем? Сигурно ще трябва първо да създадем машината и едва тогава да разберем отговора? Всъщност, не е съвсем така. Историята ни е дала няколко много добри подсказки за това как бихме се чувствали в съжителство или под управлението на свръхинтелигентните машини.
Те се наричат корпорации и са тук от доста дълго време – всъщност от около 1600-та година. Въпреки че са ръководени от хора, в действителност те са нечовешки субекти, на които нашата правна система предоставя статут на юридическо лице. Следователно можем да ги разглеждаме като изкуствен свръхинтелект, защото притежават внушителни способности за рационално поведение, възприятие, разсъждение и действие. Те имат свободна воля и са твърдо устремени към целите, които сами са си поставили.
Те притежават и разполагат с огромни ресурси от финансов капитал и човешки опит. И по принцип са безсмъртни – продължителността им на живот значително надвишава тази на хората, а някои са способни да оцелеят от катастрофи, които убиват милиони човешки същества. Замислете се колко много от големите германски корпорации от 30-те години на миналия век – компании като Thyssen, BASF, Mercedes, Siemens, Bosch, Volkswagen – все още са тук и процъфтяват.
И какво могат да ни кажат свръхинтелигентните корпорации за свръхинтелигентния изкуствен интелект?
От положителна гледна точка такива субекти са способни да постигат удивителни неща – от изграждането на нова градска, пътна или железопътна мрежа, до свързването на 2,24 милиарда души с интернет, сканиране на всички световни книги, изстрелване на тежки ракети в космоса и безаварийното им връщане, както и много други неща.
Но тези суперинтелегентни обекти имат и други характеристики. Най-тревожната от тях е, че природата им е социопатична – те са изкуствен интелект, който се разграничава от останалата част от обществото. Организъм, съществуващ за себе си и само за себе си, без да зачита нормите и правилата в обществото – спазвайки единствено буквата на закона, но без да отчита неговия дух.
Това не означава, че корпорациите редовно не прокламират своята „корпоративна социална отговорност“, етични стандарти, екологично съзнание или „ценности“, които са в основите на техния бранд. Те го правят. В общия случай обаче целта на това занятие е просто да подобри публичния образ на корпорацията.
Интересното за технологичните компании е, че доскоро не забелязвахме, че те са просто поредните корпорации. В началото бяхме очаровани от младите им основатели и отворените им „мисии“. Те „не искаха да вършат злини“, а да свържат милиони хора по света, позволявайки им да бъдат себе си. Изграждаха глобална общност и организираха цялата налична информация по света.
Бяхме съблазнени от техните цветни работни места, безплатна гурме храна, масажи на работното място и хипстърско поведение, оставайки слепи за факта, че под тази маска се крият безмилостни капиталистически машини, целящи събирането на толкова много данни за ежедневното ни съществуване, колкото би могло да е възможно.
За щастие, след две години на скандали, маските започнаха да падат, а очите ни започнаха да виждат много по-ясно образа на технологичните компании, такива каквито наистина са – чисти корпорации.
Всеки, който ставал жертва на гнева им – както „Гардиън“, когато разкри историята на Cambridge Analytica, трудно би могъл да каже каква е разликата между Facebook и, да речем, една тютюнева компания с развалено прикритие.
Ето защо неотдавнашните разкрития на „Ню Йорк Таймс“, че Facebook е наел „хлъзгава“ PR компания, за да дискредитира критиците си, като ги свърже с любимия на конспираторите Джордж Сорос, вече не звучи шокиращо.
Когато сте социопатична корпорация, целите винаги оправдават средствата. Така че предизвикателството, пред което един ден ще се изправим, е можем ли да проектираме свръхинтелигентни машини, които да се държат по-добре.
