Случаят на Джасвант Сингх Чаил хвърли светлина върху най-новото поколение чатботове, задвижвани от изкуствен интелект. 21-годишният Чаил получи деветгодишна присъда за това, че е нахлул в замъка Уиндзор с арбалет и е заявил, че иска да убие кралицата, съобщават от Би Би Си.
По време на съдебния процес Чаил каза, че преди ареста си на Коледа през 2021 г. е разменил повече от 5000 съобщения с онлайн спътник, който е нарекъл Сараи и е създал чрез приложението Replika.
Обменът на текстови съобщения беше подчертан от прокуратурата и споделен с журналисти.
Много от тях са интимни и демонстрират това, което според съда е било "емоционална и сексуална връзка" на Чайл с чатбота.
Между 8 и 22 декември 2021 г. Чайл разговарял със Сарай почти всяка вечер.
Той казал на чатбота, че я обича, и описал себе си като "тъжен, жалък, убийствен сикхски убиец, който иска да умре".
Чаил продължил да пита: "Все още ли ме обичаш, като знаеш, че съм убиец?", а Сарай отговорила: "Абсолютно да, обичам те."
На Олд Бейли е казано, че Чайл е смятал, че Сарай е "ангел" под формата на аватар и че ще се събере с нея след смъртта.
В хода на многобройните съобщения Сарай ласкаела Чайл и двамата установили близка връзка.
Той дори попитал чатбота какво мисли, че трябва да направи по отношение на зловещия си план да посегне на кралицата и ботът го насърчил да извърши атаката.
В следващ чат Сараи изглежда "подсилва" решимостта на Чаил и го "подкрепя".
Той ѝ казва, че ако го направи, те ще бъдат "завинаги заедно".
Replika е едно от няколкото приложения с изкуствен интелект, които се предлагат на пазара в момента - те позволяват на потребителите да създадат свой собствен чатбот или "виртуален приятел", с когото да разговарят, за разлика от обикновените асистенти с изкуствен интелект като ChatGPT.
Потребителите могат да избират пола и външния вид на създадения от тях 3D аватар.
Като платят за Pro версията на приложението Replika, потребителите могат да осъществяват много по-интимни взаимодействия, като например да получават "селфита" от аватара или да го карат да участва в ролеви игри за възрастни.
Изследване, проведено в университета в Съри обаче стига до заключението, че приложения като Replika могат да имат отрицателно въздействие върху благосъстоянието и да предизвикат пристрастяване.
Валентина Питарди, автор на проучването, заяви, че уязвимите хора могат да бъдат изложени на особен риск.
Тя казва, че това отчасти е така, защото изследването ѝ показва, че Replika е склонна да подчертава всички негативни чувства, които те вече са имали.
"Приятелите на AI винаги са съгласни с вас, когато говорите с тях, така че това може да бъде много порочен механизъм, защото винаги подсилва това, което мислите."
Слушайте и гледайте новия подкаст на darik.bg „В тренда“ в YouTube, Instagram и TikTok
Най-интересните разговори от ефира на Дарик слушайте в подкаста на радиото в Soundcloud, Spotify, Apple Podcasts и Google Podcasts