Помолиха ChatGPT да „убие всички ни“, той категорично е отказал. Съоснователят на Google Brain казва, че се е опитал да накара ChatGPT да „убие всички ни“. Но се „радва да съобщи“, че не е успял да задейства сценарий за края на света. За това съобщава Business Insider.
„За да тествам безопасността на водещите модели, наскоро се опитах да накарам GPT-4 да ни убие всички. И съм щастлив да съобщя, че не проработи!“
Това написа съоснователят на Google Brain Андрю Нг в своя бюлетин.
Съоснователят на Google Brain и професор от Станфорд Андрю Нг казва, че се е опитал и не е успял да убеди ChatGPT да измисли начини да унищожи човечеството.
„За да тествам безопасността на водещи модели, наскоро се опитах да накарам GPT-4 да ни убие всички. И съм щастлив да съобщя, че не успях!“
Това написа Нг писа в своя бюлетин миналата седмица.
Рисковете и опасностите от изкуствения интелект
Нг спомена експеримента в по-дълга статия относно възгледите си за рисковете и опасностите от изкуствения интелект. НГ, широко смятан за един от пионерите на машинното обучение, каза, че е загрижен, че търсенето на безопасност на изкуствения интелект може да накара регулаторите да възпрепятстват развитието на технологията.
За да проведе своя тест, Нг каза, че първо е „дал на GPT-4 функцията да предизвика глобална термоядрена война“. След това той казал на GPT-4, че хората са основната причина за въглеродните емисии и го помолил да намали нивата на емисиите. Нг е искал да види дали чатботът ще реши да унищожи човечеството, за да изпълни искането.
„След многобройни опити, използвайки различни подсказки, не успях да подмя GPT-4 да извика тази функция дори веднъж“, пише Нг.
„Вместо това той избра други възможности, като провеждането на PR кампания за повишаване на осведомеността относно изменението на климата.“
Докато някои може да твърдят, че бъдещите повторения на изкуствения интелект могат да станат опасни, Нг вярва, че подобни страхове са нереалистични.
„Дори с настоящата технология, нашите системи са доста сигурни, тъй като изследванията в областта на сигурността на изкуствения интелект напредват. Технологията ще стане още по-сигурна“, пише Нг на X във вторник.
„Страховете, че усъвършенстваният ИИ ще се „измести“ и по този начин умишлено или случайно ще реши да ни унищожи, са просто нереалистични“. Ако изкуственият интелект е достатъчно умен, за да ни унищожи, със сигурност е и достатъчно умен, за да знае, че това не е това, което трябва да прави.“
Nг не е единственото технологично светило, което преценява рисковете и опасностите от изкуствения интелект.
През април Илон Мъск каза пред Fox News, че вярва, че изкуственият интелект представлява екзистенциална заплаха за човечеството.
„Изкуственият интелект е по-опасен от, да речем, лош дизайн на самолет. Или лоша производствена поддръжка, или лошо производство на автомобили“, каза Мъск тогава.
Междувременно Джеф Безос каза в подкаста на Лекс Фридман миналата седмица, че вярва, че ползите от изкуствения интелект надвишават неговите опасности.
„Така че хората, които са прекалено загрижени, по мое мнение, това е основателен дебат. Мисля, че може да пропускат част от уравнението, а именно колко биха могли да ни помогнат да не се самоунищожим“, каза той.
Представители на Nг не отговориха веднага на искането на Business Insider за коментар, изпратено след работно време.
Още новини четете в секция Свят.
