Защо елитите внезапно са толкова ужасени от ИИ? През 2023 г. политическите елити се потопиха в гигантска работа на съвместна научна фантастика. Както Белият дом, така и Уайтхол сега са обхванати от страх от технология, която не съществува и може никога да не съществува – а именно форма на богоподобен изкуствен интелект или изкуствен общ интелект (AGI). Това пише в своя статия Андрю Орловски за Spiked.

Ловко вплитайки се в историята, политиците се държаха тази година така, сякаш са се нахвърлили рано, за да спасят положението. Чрез провеждането на срещи на върха за ИИ и изготвянето на нови правила за ИИ те твърдяха, че насочват човечеството далеч от катастрофа. Навън, в реалния свят, проблемите се увеличават, списъците с болни и нуждаещи се от помощ стават по-дълги.  Ние вече не генерираме достатъчно електричество.  Но поне бъдещето очевидно ще бъде безопасно от компютрите убийци.

Без преувеличение можем да кажем, че политиците ни се поддадоха на една измислица.

Можехте да видите това още през март, когато член на комисията по наука и технологии в Камарата на общините, членът на торите Катрин Флетчър, се впусна в много странен полет на фантазия. Тя спекулира как един разумен и непобедим компютър може един ден да реши да убие всяка крава на планетата. Да, правилно прочетохте.

„Ние сме на път да използваме технологията, за да създадем нещо, което има интерес да оцелее, расте и процъфтява, което не можем непременно да [спрем]. Освен да извадим всеки сървър от стената. Как [ние] спираме един много умен, добре подхранван алгоритъм за планиране на бъдещето, който работи дълго време?“. Попита тя трима объркани представители на BT, Microsoft и Google. Тя описваше машина, която очевидно може да открие и използва нови начини за самовъзпроизвеждане, но също така не може да оцелее, ако бъде изключена от електрическата мрежа.

Там беше и много умният Матю Клифърд, избран да председателства новата изследователска агенция ARIA – флагмана на програмата за наука и технологии на правителството на Обединеното кралство след 2019 г. Той е и научен съветник на британския премиер Риши Сунак.

Имаме „две години, за да спасим света“ от ИИ

Имаме „две години, за да спасим света“ от ИИ, предупреди Клифърд още през юни. Изявление, което попадна на първа страница на The Times. Неговите опасения бяха повторени от Сунак, който заяви през есента, че измислената, все още неизобретена технология на AGI може да създаде екзистенциални заплахи „в мащаб като пандемии и ядрена война“.

Спекулациите за убиец AI са малко като QAnon за луксозни хора. Това е съвместна метафикция, където хората се състезават да си представят все по-диви сценарии за края на света, включващи AI. Но за разлика от популярната теория на конспирацията за тръмпистки хора, безпокойството по AI е маркер за много висок статус.

Очаква се да повярвате, че ИИ скоро може да представлява екзистенциална заплаха за човечеството. И че широкоезичните модели (LLM), като ChatGPT, са такова технологично чудо, че скоро биха могли да заменят работните места на белите якички. Включително адвокати, журналисти и лекари. Няма значение, че тези LLM редовно „халюцинират“ и измислят фалшиви факти. Всъщност изследването на Станфорд показва, че в реални клинични ситуации ChatGPT4 греши в 59 процента от времето и дава потенциално смъртоносни съвети в седем процента от времето. Но такива опасения лесно се отхвърлят.

Мисловните експерименти относно AI Терминатор

Мисловните експерименти относно AI Терминатор може да са полезни в студентските класни стаи. Или като упражнения за изграждане на екип в компанията. Но трябва ли те наистина да бъдат нещо за създаване на политики на най-високо ниво? Трябва ли наистина предполагаемата сериозност на всичко това да бъде поставена извън съмнение и присмех? Присмиването на истерията с ИИ Терминатор сега има същите последици за кариерата ви като поставянето под въпрос на „екзистенциалното“ изменение на климата.

С края на годината много политици остават в неведение до каква степен са били вербувани в странен елитен култ. Още през септември 2021 г. Националната стратегия за ИИ на Обединеното кралство се занимава с въпроса за екзистенциалния риск от ИИ само в три параграфа. На последната страница на документ от 62 страници. Просто не беше много вероятно да ни навреди, разумно заключи правителството тогава. Оттогава, подтикнато от съветници на tech-bro, правителството намери апокалиптичните предупреждения за твърде убедителни, за да им устои. До юни 2023 г. Терминаторът AI очевидно се е превърнал в най-належащия проблем на деня. През ноември Обединеното кралство беше домакин на първата глобална среща на върха за безопасността на ИИ. Политиците се превърнаха в актьори в драма, измислена от последователи на капризни, езотерични периферни идеологии. Чудаците са превзели Уестминстър.

Терминът „TESCREAL“

Тези чудаци получиха тромаво име от философа Емил П. Торес и изследователя Тимнит Гебру, които измислиха термина „TESCREAL“. Това се отнася до спектър от техно-утопични вярвания – а именно трансхуманизъм, екстропианизъм, сингуляритаризъм, космизъм, рационализъм, ефективен алтруизъм и дългосрочен план.

Всяка от тези малки субкултури щеше да тъне в неизвестност, ако не се радваха на огромен приток на пари през последното десетилетие от богати милиардери от Силициевата долина. Като съоснователя на Facebook Дъстин Московиц и осъдения крипто-измамник Сам Банкман-Фрайд. Тези пари купиха уважение под формата на операции като Института за бъдещето на човечеството на Оксфордския университет, където „дългосрочният“ Ник Бостром живее като крал на философите.

По-специално, движението за ефективен алтруизъм (EA) подхрани шума около AI. Богатите поддръжници на EA казват, че искат да „намерят най-добрите начини да помогнат на другите. Да ги приложат на практика“ и да настроят филантропските си усилия съответно. И през последните години това изперкало утилитарно движение стана обсебено от ИИ. Както обяснява авторът Нирит Вайс-Блат, скоро последва политическата мания по AI. Смазана от около 500 милиона долара пари на ефективни алтруисти.

Не всички ентусиасти на EA са песимисти относно AI.

В света на политиката и в технологичните среди изглежда има два конкуриращи се лагера. Някои възприемат акселератористкия възглед за ИИ и го третират като потенциално решение за всички злини. Други са много по-притеснени от рисковете. Но всички те споделят есхатологичната сигурност, че подобен на бог AGI, обещаващ бъдеще на изобилие, ще бъде създаден рано или късно. Те не са съгласни само относно вероятността то да се повреди и да унищожи човечеството.

Парите, с които разполагаха тези култисти, бяха щедри и изобилни. И сега те имат ухото на западните политически елити. Пълнят главите си със замаяни представи за ИИ, който превзема света, за добро и зло.

Най-удивителната технологична история на 2023 г. не беше напредъкът в изкуствения интелект, а всеобхватният и тотален ефект, който митологиите за изкуствен интелект имат върху нашите медии и политически елити. Като се оставиха да бъдат взети от странниците, нашата политическа класа се отказа от правото да бъде взета на сериозно отново.

Още новини четете в секция Свят.