Милиардерът предприемач Илон Мъск обяви планове тази седмица за създаване на инструмент за разговори, управляван от AI, наречен „TruthGPT“ (ИстинатаGPT), след като критикува популярния AI чатбот ChatGPT, че е „политически коректен“, предаде ABC News.

Какво е ChatGPT? Всичко, което трябва да знаете за чатбота

„Със сигурност има път към AI антиутопия, който е да се обучи AI да бъде измамник“, предупреди Мъск, главен изпълнителен директор на Tesla и собственик на Twitter, в интервю с водещия на Fox News Тъкър Карлсън в понеделник.

AI чат ботовете крият значителни рискове, свързани с политически пристрастия, тъй като моделите могат да генерират огромни количества реч, потенциално оформяйки общественото мнение и позволявайки разпространението на дезинформация, казват експерти. Коментарите на Мъск обаче подчертават тежкото предизвикателство, повдигнато от проблема, тъй като самото модериране на съдържанието се превръща в поляризираща тема и Мъск изрази мнения, които представят подхода му в този горещ политически контекст, добавят експерти.

Публикуваха първия филм, направен почти изцяло от изкуствен интелект (видео)

„Мъск е прав, че ако не можем да разрешим проблема с истинността и проблема с надеждността, това представлява риск за безопасността на изкуствения интелект“, казва Гари Маркъс, почетен професор по психология и неврология в Нюйоркския университет, който специализира в областта на изкуствения интелект. „Но обвързването на този въпрос с политическата коректност всъщност може да е грешка. Трябва да отделите истината от политиката, ако искате да бъдете надеждни по въпроса за истината. Грешка е да се опитвате да свържете двете заедно.“

Чатбот терапевтите вече са тук

ChatGPT използва алгоритъм, който избира думи въз основа на уроците, научени от сканирането на милиарди парчета текст в интернет. Инструментът придоби популярност с публикации, които демонстрират, че създава Шекспирова поезия или идентифицира грешки в компютърен код. Но технологията също предизвика противоречия с някои обезпокоителни резултати. Дизайнерите на ChatGPT са програмирали предпазни мерки, които не позволяват приемането на противоречиви мнения или изразяването на реч на омразата.

„Вие просто излъгахте“. Мъск притесни репортер на Би Би Си в напрегнато интервю (видео)

Модерирането на съдържанието на AI поставя законни предизвикателства за дизайнерите, които трябва да определят кои съобщения са достатъчно обидни или омразни, за да оправдаят намеса, казват експерти.

Защо повечето сайтове са “.com” и как благодарение на интернет малка държава влиза в ООН

„Ако даден продукт се използва от милиони хора, предпазните мерки са нещо, което дизайнерите трябва да въведат“, казва Руслан Салахутдинов, професор по компютърни науки в университета Карнеги Мелън. „Въпросът е: Как да го направите справедлив или неутрален? Това е малко преценка на дизайнерите", добавя той. „Можете да си представите GPT, който е политически пристрастен.“

Защо понякога интернетът просто спира

Освен това, отговорите от AI инструментите за разговор зависят силно от текста, с който е обучен моделът, казва Катлийн Карли, друг професор по компютърни науки в университета Карнеги Мелън.

„Съществува мнение, че по-голямата част от информацията, върху която е обучаван, е по-ляво ориентирана и има определени политически пристрастия и определени политически програми, вградени в нея“, казва Карли.

Коя е Линда Якарино - новият изпълнителен директор на Twitter с дълбоки връзки в рекламната индустрия

Мъск, който е съосновател на OpenAI, но напуска организацията през 2018 г., в декемврийски туит обвини OpenAI, че „обучава AI да бъде "буден" (woke)“.

Въпреки че чатботовете с изкуствен интелект заслужават внимателно разглеждане заради политически пристрастия, Мъск е несъвършен говорител на такава критика поради собствените си високопоставени политически възгледи, казват някои експерти. През последните месеци Мъск зае редица консервативни позиции, включително изразяване на подкрепа за републиканските кандидати на междинните избори миналата година и многократни критики към „събудената“ (woke) политика.

Писател използва AI, за да напише близо 100 книги за по-малко от година

„Мисля, че това, което той има предвид под „истина“, е „съгласен с мен“, казва Орен Ециони, главен изпълнителен директор на Allen Institute for AI и професор по компютърни науки във Вашингтонския университет. Все пак поляризираната политическа среда представлява предизвикателство за всеки разработчик на чат ботове с изкуствен интелект, който се опитва да смекчи отговорите, кават експерти.

Дрон, управляван от AI, “уби“ оператора си в симулиран тест

„Политиката, каквато съществува днес, не очертава толкова фини линии“, казва Елиезер Юдковски, теоретик на решенията в Изследователския институт за машинен интелект, пред ABC News. „Трябва да знаете къде да начертаете линията на разумно място, за да накарате AI да начертае линията на разумно място.“

Всичко за 49-ото Народно събрание четете ТУК

Най-интересните разговори от ефира на Дарик слушайте в подкаста на радиото в Soundcloud, Spotify, Apple Podcasts и Google Podcasts

Следвайте ни във Фейсбук, TikTok и Инстаграм