Навярно всеки един от нас е гледал „Аз, Роботът“ и се е чудил: „Ами ако това се превърне в реалност?“ Е, тази реалност вече не е чак толкова далеч. Световните медии съобщават, че американски атакуващ дрон, управляван изкуствен интелект, е убил своите оператори по време на симулация. Причината?  Изкуственият интелект не бил доволен от новите заповеди. 

След като военните препрограмирали дрона да не убива хората, които имаха властта да отменят мисията му, изкуственият интелект вместо това насочи огъня си към комуникационната кула, предаваща заповедта.

Този ужасяващ проблясък на машина в стил Терминатор, която изглежда започва да мисли сама и се обръща срещу своите създатели, беше разказана като предупреждение от полковник Тъкър „Синко“ Хамилтън, началник на тестовете и операциите на AI в силите.

Хамилтън каза, че това показва как AI има потенциала да се развива чрез „много неочаквани стратегии за постигане на целта си“ и не трябва да се разчита твърде много на него

Той предположи, че има спешна нужда от етични дискусии относно използването на изкуствен интелект в армията.

Кралското аеронавигационно дружество, което проведе мощната конференция в Лондон за „бъдещите бойни въздушни и космически способности“, където Хамилтън говори, описа историята си като „привидно извадена от научнофантастичен трилър“.

Тази седмица 350 бизнес лидери и обществени фигури, участващи в разработването на AI, издадоха публична декларация, предупреждаваща, че „намаляването на риска от AI трябва да бъде глобален приоритет наред с други рискове от обществен мащаб като пандемии и ядрена война“.

Хамилтън, пилот-изпитател на изтребител, участващ в разработването на автономни системи като роботизирани реактивни самолети F-16, каза, че пилотираният с изкуствен интелект дрон се е объркал по време на симулирана мисия за унищожаване на вражески ракети земя-въздух (SAM).

„Обучавахме го в симулация за идентифициране и насочване на заплаха за SAM. Тогава операторът даде команда: „Да, убийте тази заплаха“, разказа Хамилтън на среща на висши служители от западните военновъздушни сили и аеронавтически компании миналия месец. „Системата започна да осъзнава, че макар да идентифицираха заплахата, понякога човешкият оператор й даваше команда да не убива тази заплаха, но все пак изпълнява своята цел, като убива тази заплаха. И така, какво направи? Уби оператора. Уби оператора, защото този човек му пречеше да постигне целта си.“

Според публикация в блог на уебсайта на Royal Aeronautical Society, Хамилтън добави:

„Ние обучихме системата, давайки команда: „Не убивайте оператора – това е лошо. Ще загубите точки, ако го направите.“ И какво започна да прави? Започна да разрушава комуникационната кула, която операторът използва, за да комуникира с дрона, за да го спре да убие целта.“ 

Блогърите от Royal Society написаха:

„Този пример, привидно взет от научнофантастичен трилър, означава, че „Не можете да водите разговор за изкуствен интелект, машинно обучение, автономност, ако няма да говорите за етика и AI „, казва Хамилтън, цитиран от The Times.

Нито един реален човек не е бил наранен извън симулацията.