Чатботът на X – Grok – е разследван заради функциите си, които позволиха генериране на милиони сексуални и насилствени изображения онлайн.

Наречете ни старомодни, но в България не ни трябва изкуствен интелект, за да публикуваме голи видеа на жени и деца без тяхно съгласие. Това стана ясно от скандала с козметични салони и гинекологичен кабинет в последните дни.

Когато интимността ти е отнета

 

Събличат те, поставят те в провокативни и унизителни пози, заснемат те и разпространяват в интернет. Някои козметични салони в България и чатботът на Илон Мъск явно си приличат. И двете създават порстранство, в което интимността престава да ти принадлежи.

Преди малко повече от месец изкуственият интелект на X заля онлайн пространството с над три милиона сексуални изображения, включително 23 000 на деца. По време на дебатите на европейско ниво основният аргумент срещу ограничаването на платформата беше, че това е работа на националните власти. И макар у нас никой да не е заявил публично, че е станал жертва на Grok, въпросът за справянето със сексуални изображения онлайн дойде от другаде.

Камерата не просто снима, тя разрушава доверието

 

Докато Европейската комисия разследва фалшиви голи снимки, тук си имаме напълно автентични. Жените в България не се тревожат дали някой ще генерира фалшиво тяхно изображение, те се тревожат дали кадри от последната им епилация не се въртят в някой порнографски сайт.

Защото тук Grok е скритата камера в ъгъла на стаята. Тази, която те снима, когато си най-уязвима – при козметичката, с която си говорила като с приятел, или при първия ти гинеколог, пред когото си мислела, че няма какво да криеш. Има обаче една ключова разлика. Камерата в стаята не просто снима, тя разрушава доверието. И ще накара всяка българка да се замисли преди следващия си записан час.

Бизнес моделът на насилието

 

Освен в създаването на интимни изображения без съгласие, Илон Мъск и тези салони за красота си приличат и по предприемаческия нюх. След първите заплахи за ограничаване на Grok в Европа разголващите функции бяха ограничени само за потребителите, готови да платят за тях. Незаконните видеа от България пък се оказа, че се разпространяват в платени порнографски сайтове. На пазара съществува ниша, която успешно монетизира насилието.

И както във всеки печеливш бизнес, конкуренцията не спи. Въпреки че Grok е обект на разследване, той продължава да се развива. Новата версия, излязла в началото на месеца, вече позволява генерирането на видеа с дължина до 10 секунди. Но какво са те на фона на една едночасова козметична терапия, заснета в детайл.

Машината срещу човека

 

Въпросът не е дали изкуственият интелект ще направи сексуалното насилие по-достъпно. То вече е. Истинският въпрос е защо да се страхуваме повече от машините, отколкото от хората, които позволяват насилието.

Ако Grok е предупреждение за бъдещето, скритите камери в салоните са диагноза за настоящето. И докато Европа обсъжда как да регулира изкуствения интелект, България тепърва трябва да реши дали и как ще регулира хората, за да прекъсне спиралата на насилие и злоупотреба.

 

Автор: Стела Стоянова/DW