Интелектът, създаден от човека, се развива със смайващи темпове, управлява процеси и намира приложения в почти всички сфери на ежедневието. Ползите са очевидни, но има и редица опасности за човешките права и свободи.
Това беше фокусът на лекцията на Петър Витанов, евродепутат от Групата на социалистите и демократите в Института по философия и социология на БАН. В дискусията участваха директорът на Института проф. дфн Веселин Петров и Сара Чандлър, старши съветник ЕDRI, мрежа от неправителствени организации.
Витанов беше докладчик по темата за изкуствения интелект в наказателното право и използването му от полицията и съдебните органи по наказателноправни въпроси в Европейския парламент. Сега работата му продължава по проекта на регламент, който следва да регулира прилагането на изкуствения интелект в ЕС.
„Масовото наблюдение с помощта на биометрични данни и предсказването на престъпления вече се случват в редица държави. В Китай отидоха още по-далеч и въведоха т.нар. social scoring – рейтингова система, която наблюдава и изследва поведението на хората и ги оценява също като хотелите и ресторантите. Интелектът, създаден от човека, се развива със смайващи темпове, управлява процеси и намира приложения в почти всички сфери на ежедневието. Ползите са очевидни, но не бива да забравяме и рисковете“, каза Витанов.
Употребата на ИИ във все повече сфери на обществения и личния живот повдига редица етични, морални, но и правни въпроси. В доклада си пред БАН Витанов разгледа въпросите, свързани с използването на технологии като лицево разпознаване, алгоритми за предсказване на престъпления и др. в наказателното право и използването им от полицейските и съдебните органи по наказателноправни въпроси.
„Данните позволяват да се категоризират лица по дадени характеристики, да се предвиждат поведения, да се изчисляват възможни рискове. Редица компании вече използват изкуственият интелект, за да прегледат и отсеят стотиците CV-та на потенциални служители, банките преценяват дали да ви отпуснат кредит и с помощта на бази данни и алгоритми.Преценката на изкуственият интелект обаче невинаги е точна и обективна, системите отчитат грешки, а тези грешки от своя страна могат да превърнат хората в невинни жертви, да ги лишат от права и възможности, които им се полагат по презумпция“, каза още Витанов.
Проучвания на различни организации дават редица примери как изкуственият интелект не просто не винаги е обективен, а понякога допълнително изкривява резултатите, което носи негативни ефекти и води до допълнително маргинализиране на расовите малцинства.Според Петър Витанов компаниите, които разработват и съставят ИИ имат сериозен икономически интерес от пускането на тези инструменти на пазара. Ето защо е необходимо да има повече задължения за потребителите. Сряд тях за колективното обезщетение, подобно на друго законодателство на ЕС, като GDPR.
„Използването на лицево разпознаване на обществени места може да попречи на принципа за свободата на мнението и изразяването поради факта, че такова нещо като защита на „груповата анонимност“ вече не съществува, ако всеки в групата може потенциално да бъде разпознат. Това може да доведе до ситуация хората да се страхуват да участват“, даде пример за една от опасностите Витанов.
„Като цяло приветствам позицията на Европейската комисията, че определен тип използване на изкуствения интелект е неприемлив и трябва да бъде забранен, както и че трябва да има строги условия и разпоредби за използването на приложения, които предполагат висок риск за основните права на хората, но има и още тревожни моменти“, каза пред учените Витанов.
Сара Чандлър, старши съветник в ЕDRI, каза от своя страна, че най-важната задача пред неправителствения сектор е да определи границите, така че да не се спира развитието, но да не се правят компромиси с човешките права.
„Задачата на философията не е да дава препоръки за по-нататъшното развитие на която и да е научна дисциплина въз основа на настоящото състояние на нейното положение; задачата на философията е да очертае хоризонти за развитие въз основа на анализ на някои общи закономерности и изводи за някои периоди от развитие на човешките епохи и човешката цивилизация“, каза проф. Веселин Петров.
За контакт с Групата на Прогресивния алианс на социалистите и демократите в ЕП: https://www.socialistsanddemocrats.eu/
About The Author
