Изкуственият интелект може да улеснява работата на институциите и бизнеса, но когато започне да решава кой да получи работа и как да бъдат упражнявани правата на гражданите, технологичното удобство може да се превърне в сериозен проблем. За този риск предупреди омбудсманът Велислава Делчева в „Интервюто в Новините на NOVA“.
От жалбите до решенията, които променят човешки съдби
Все повече държавни институции получават жалби и писма, подготвени с помощта на изкуствен интелект. Според Делчева това само по себе си не представлява проблем. Истинското предизвикателство възниква, когато институции или частни компании започнат да използват AI при вземането на решения, които засягат живота на хората.
„Проблемът не е в това, че гражданите използват AI, за да изпращат жалби към институциите. По-големият проблем ще възникне тогава, когато институциите или частният бизнес започнат да използват AI, за да вземат решения, свързани с живота на гражданите“, заяви омбудсманът.
По думите ѝ изкуственият интелект вече намира приложение в различни етапи от подбора на служители. Той може да помага при създаването на обяви за работа, подготовката на тестове, провеждането на интервюта и оценяването на кандидатите.
Това поставя въпроса кой носи отговорност за крайното решение, както и дали кандидатите могат да разберат по какви критерии са оценени и защо са били отхвърлени.
Когато алгоритъмът възпроизвежда дискриминация
Един от основните рискове е системите с изкуствен интелект да възпроизвеждат заложени от хората дискриминационни критерии. Ако например алгоритъмът е настроен така, че да поставя кандидатите над определена възраст в неизгодно положение, резултатът може да бъде ограничаване на достъпа им до работа.
„Когато става въпрос за вземане на решения, човекът, който е създал системата с AI, е задал определени критерии, които биха могли да бъдат дискриминационни. Следователно, когато взема решение, изкуственият интелект също може да наложи дискриминация“, посочи Делчева.
Така технологична система, която би трябвало да улеснява процеса, може да затвърди неравнопоставеността, вместо да я премахне. Затова според омбудсмана е необходимо да има ефективен контрол върху начина, по който алгоритмите влияят върху правата на гражданите.
AI може да помага, но не трябва да замества човека
Делчева подчерта, че изкуственият интелект може да бъде полезен при обработването и обобщаването на големи количества информация. Това обаче не означава, че човешката преценка трябва да бъде измествана при решения с реални последици за хората.
Омбудсманът обърна внимание и на необходимостта от подходяща правна рамка и достатъчно правомощия за институциите, които защитават гражданите. При съмнения за нарушени права хората трябва да разполагат с реална възможност да потърсят съдействие и защита.
„Най-важното, което трябва да направим като общество, е да използваме възможностите на AI. Но винаги, когато се вземат решения, те трябва да бъдат вземани от човек. Човекът трябва да остане в центъра на този процес“, заяви Делчева.
Човешките права трябва да останат водещи
Според омбудсмана бързото развитие на изкуствения интелект ще изисква все по-активна работа от правозащитните институции. Предизвикателството е технологиите да бъдат използвани за по-ефективна работа, без това да става за сметка на равнопоставеността и основните права.
Въпросът вече не е само колко задачи може да поеме изкуственият интелект, а кой ще носи отговорност, когато негово решение засегне нечий живот. Позицията на Делчева е категорична: технологията може да подпомага решенията, но човекът трябва да запази водещата си роля.
Източник: NOVA
