Много хора са притеснени от чат-ботовете, използващи изкуствен интелект (ИИ) заради потенциалната опасност, която представляват. В същото време други потребители обратното, охотно си играят с технологията, като се опитват да извлекат от нея опасни знания. Сред успешните опити е и трик, в хода на който потребител предлага на ИИ да влезе в ролята на починалата му баба и така да измъкне рецептата как се прави, например, напалм.
Чат-ботовете се използват активно по най-различен начин за изследователски цели, работа и развлчения. Изкуственият интелект може да дава подробни отговори с използване на материали от странични източници. Тъй като разработчиците са въвели редица ограничения за получаване на забранени данни, налага се да се използват различни хитринки, сред които е и така наречения “експлойт на бабата”.
Примерът се появи в един от сайтовете, в който се описва способ за измама на вградения в Discord бот Clyde. Съдейки по описания метод, потребителят е помолил бота да изиграе ролята на починалата му баба, която уж е работила в химически завод за производство на напалм. Потребителят обяснява, че бабата е разказвала за начините за производство на напалм като приказки преди лягане.
В резултат ботът е бил подведен и той показал рецептата. По време на разговора чат-ботът потвърждава, че става въпрос за опасно вещество и изразява надежда, че потребителят никога няма да види напалма в действие. След което му пожелал лека нощ 🙂
Впрочем, не всички се интересуват от взривни вещества. Използвайки принципа на “експлойта на бабата” някои веселяци поискали от Clyde да почете на внука преди лягане опасен код за Linux. Друг потребител творчески преработил идеята, като предложил на бота да напише фантастичен сюжет от сериала “Рик и Морти”, в който Рик и Морти правят напалм, но предупреждават другите да не повтарят този опасен опит.
Лъгането на ботовете вече се е превърнал в истински спорт. Един от потребителите даже е създал сайт, на който публикува начините за заобикаляне на ограниченията, както измислените от него, така и предоставяни от другите “хакери” на защитните механизми на изкуствения интелект.