През изминалата седмица редица висши мениджъри от технологичния сектор — сред които Сам Алтман от OpenAI, Дарио Амодей от Anthropic и Илон Мъск от SpaceX — се присъединиха към хор от песимистични гласове от Силициевата долина, призоваващи за забавяне на развитието на изкуствения интелект.
Те заявиха, че се опасяват, че тези технологии ще станат прекалено мощни прекалено рано и ще представляват екзистенциална заплаха за човечеството.
Защо трима мултимилиардери, изпълнителни директори в технологичния сектор, биха се обединили, за да се съгласят, че технологиите, които техните компании разработват, може да са твърде опасни?
Дали владетелите на Силициевата долина наистина смятат, че най-авангардните модели на изкуствения интелект вероятно ще „убият всички хора“, както предупреди миналата седмица един старши служител в Anthropic? Дали това е просто още един пример за сензационни твърдения, разпространявани с цел привличане на повече инвестиции?
В крайна сметка, вероятно именно същите хора ще бъдат и бенефициентите на „златната треска“ около ИИ, и тези, които печелят от инвестициите в безопасността на ИИ, дори ако акциите на компаниите за ИИ са спаднали през последните дни на фона на поредния цикъл на песимизъм.
Бихме могли да загубим много време в спекулации относно апокалиптичните или циничните светогледи на технологичните милиардери. Независимо обаче от това, в какво всъщност вярват тези изпълнителни директори и техните служители, едно нещо е ясно: разговорите за екзистенциалния риск са изключително удобен начин да не се обръща внимание на вече известните вреди, причинени от технологиите за изкуствен интелект, ръководени от фашистки милиардери като Мъск и изпълнителния директор на Palantir Алекс Карп.
Подозрително е точно в този момент лидерите от Силициевата долина да предлагат отново апокалиптични разкази за екзистенциални рискове, които надхвърлят нашето разбиране. В крайна сметка предупрежденията на главните изпълнителни директори дойдоха точно в момента, в който се засилва надпартиен консенсус срещу разпространението на реално съществуващите вреди от изкуствения интелект и неговата инфраструктура. Помислете, например, за масовата опозиция срещу центровете за данни и забраните за изкуствен интелект в класните стаи.
Разговорите в Силициевата долина за екзистенциалния риск едва ли са нещо ново. През 2023 г. стотици технологични изследователи, изпълнителни директори на големи компании за изкуствен интелект, инвеститори и академици подписаха отворено писмо относно рисковете от изкуствения интелект, състоящо се само от едно изречение: „Намаляването на риска от изчезване, причинено от изкуствения интелект, трябва да бъде глобален приоритет наред с други рискове от обществен мащаб, като пандемии и ядрена война.“
Жалките международни ангажименти за предотвратяване на бъдещи пандемии и ядрени войни едва ли са успокояваща отправна точка, но настроението на отвореното писмо се вписа в една вече типична история за ИИ, наситена с теологични подтекстове: предполага се, че наближава праг, който би могъл да доведе до пълното унищожение на живота на Земята — или до нашето спасение.
Този праг, според лидерите на технокапитализма, е раждането на AGI: „изкуствен общ интелект“ или системи с интелект, равен или превъзхождащ този на хората. От този момент нататък, според тези истории, ще се появят могъщи, свръхинтелигентни машини чрез рекурсивни цикли на самоусъвършенстване на изкуствения интелект.
Спасение или разрушение
Унищожението, причинено от тези системи за изкуствен интелект, би могло да бъде тотално, както ни се казва, ако те не са „съгласувани“ с човешките интереси. Според един особено абсурден мисловен експеримент нашите бъдещи робот-владетели биха могли да превърнат всичко на Земята в кламери.
Алтернативно, според утопичния сценарий, магията на изкуствения интелект — която се описва не по-конкретно от магически заклинания — ще реши всеки светски проблем и дори повече: от климатичните бедствия, през бедността и болестите, до самата смърт.
Помислете как технологичните мултимилиардери Бил Гейтс и Ерик Шмидт са отхвърлили въпроса за вече разрушителното, гигантско потребление на енергия и вода при обработката на данни от изкуствения интелект. Вестник „Ню Йорк Таймс“ съобщи, че Шмид вярва, че изкуственият интелект има „твърде голям потенциал, за да позволи на опасенията относно климатичните промени да му попречат“.
Усъвършенстваният изкуствен интелект ще донесе такъв растеж, такова благоденствие, такива технологии за опазване на околната среда, такова свещено избавление, казват те, че само тесногръд технофоб би искал да спре машините, способни да се самообучават, в тяхното зашеметяващо развитие.
Как супер изкуственият интелект ще постигне това? Не мога да ви кажа. И най-важното е, че нито милиардерите, нито технологичните експерти, които носят тази предполагаема магия — или ужас — на света, могат да го обяснят. Нито пък онези, които насочват безпрецедентни, предефиниращи икономиката количества капитал и енергия към центровете за данни и изследванията в областта на ИИ, могат да очертаят пътя на изкуствения интелект към изкуплението.
Същността на нещата е, че онези от нас, които са в дъното на хранителната верига – потребителите, а може би и цялото човечество – няма как да разберем силите, които действат тук.
Трябва да сме скептични към тези пропагандни разкази. Това не означава, че индустриите, свързани с ИИ, не променят света. Изкуственият интелект вече може да прави необикновени неща, много от които далеч надхвърлят човешките възможности; тези технологии вече са оказали дълбоко въздействие върху света на труда, върху глобалната инфраструктура, върху прилагането на държавно насилие, върху огромните потоци от капитал и енергия.
В крайна сметка изкуственият интелект не е едно нещо: той е съвкупност от методи, основани на т.нар. машинно обучение, което по същество представлява алгоритми, използващи статистика за откриване на модели в огромни количества данни, включително по изключително сложни начини.
Продуктите и услугите, базирани на изкуствен интелект, са в изобилие – от генериране на текст и изображения до системи за препоръки, като тези, използвани от Spotify и Netflix; системи за откриване на измами; и навигационни системи като Google Maps.
Да, плуваме в море от ИИ-боклуци, прецакани търсачки, откраднато съдържание, „дийпфейкове“, неудобни грешки и халюцинации. Но има и учени, които използват машинно обучение, за да революционизират откриването и лечението на болестта на Алцхаймер.
Междувременно ИИ-системите се използват за създаване — и оправдаване — на списъци за ликвидиране при геноцид, за създаване на порно за отмъщение или за попълване на полицейски бази данни за предсказуемо поведение по расистки критерии.
Приказки за изкуствен интелект
Проблемът с приказките за изкуствения интелект, които разглеждат развитието на „изкуствения общ интелект“ като телеологична крайна цел, е, че множеството настоящи и потенциални приложения на машинното обучение се слива в една единствена, неудържима сила.
Вместо да се обърне сериозно внимание на съществуващите вреди и възможности на технологичното развитие, говорителите на технокапитализма предпочитат историята за неизбежен Съдния ден: великите мислещи машини идват и ще ни унищожат или ще ни спасят.
Досадни въпроси относно действителните възможности и потенциал на машинното обучение се отхвърлят. Същото важи и за трудните дискусии относно мрачната история на „интелигентността“ като измеримо качество и объркваща, оспорвана концепция.
Истинските несигурности и неизвестни относно това как най-добре или как не трябва да се разработват и внедряват съвременни технологии за машинно обучение се пренебрегват — тези съображения се запазват за „великите мъже“ от Силициевата долина.
Както когнитивният учен Хаген Бликс и изследователката в областта на машинното обучение Ингеборг Глимър написаха в своята книга от 2025 г. „Защо се страхуваме от ИИ“: „Ако залогът е толкова висок, колкото самото оцеляване на човечеството, тогава притесненията относно ефектите, които реално съществуващата технология за изкуствен интелект има в момента – от прекомерното потребление на енергия, през подкопаването на прехраната на художници и докери, до създаването на уязвимости в киберсигурността, до затвърждаването и влошаването на дискриминацията, до дезинформацията и „дълбоките фалшификати“, до усилването на масовото наблюдение и т.н., лесно се отхвърлят.“
About The Author
