Правителствата по света бързат да възприемат алгоритмите, които вдъхнаха някакво подобие на интелигентност в приложения, като ChatGPT, очевидно запленени от огромната икономическа печалба, очаквана от технологията, пише Darik Buisness Review.
Два нови доклада, публикувани тази седмица, показват, че много държави бързат да адаптират същата технология и в оръжия за дезинформация, а това може да се превърне в тревожна надпревара за въоръжаването с AI между великите сили, пише електронното издание Wired.
Изследователи от американския мозъчен тръст RAND посочват доказателства, че китайски военен изследовател, който има опит с информационни кампании, публично е обсъждал как генеративният AI може да помогне за подобни задачи.
Една изследователска статия от януари 2023 г. предлага използването на големи езикови модели, като усъвършенстваната версия на алгоритъма BERT на Google - предшественик на по-мощните модели, които захранват ChatGPT и други чатботове.
"Няма доказателства, че подобно нещо вече се случва. По-скоро имаме индикации, че някои хора и организации предлагат начини и механизми, по които то може да се случи“, коментира пред изданието експертът по изкуствен интелект на RAND Уилям Марселино.
Той и други негови колеги са разтревожени от перспективата кампаниите за политическо влияние да придобият нов мащаб и сила благодарение на генеративния AI.
"Измислянето на система за създаване на милиони фалшиви акаунти, които се представят за тайвански, американски или германски и прокарват политически наратив, ще бъде много различно и в качествено, и в количествено отношение", казва Марселино.
Информационните онлайн кампании, като тази, която руската агенция за интернет изследвания проведе, за да осъществи намеса в изборите в САЩ през 2016 г., съществуват от години.
До момента те зависеха най-вече от ръчен труд - хора, които подават определено съдържание и са известни в онлайн средите като "тролове".
Но AI алгоритмите, разработени през последните години, биха могли потенциално да произвеждат масово текст, изображения и видео, предназначени да измамят или да убеждават хора в социалните платформи.
А изчисленията показват, че стартирането на такава кампания може да струва само неколкостотин долара.
Марселино и неговите съавтори отбелязват, че много страни, включително САЩ, почти сигурно проучват използването на генеративен AI за собствените си информационни кампании.
А широката достъпност на генериращите инструменти, включително множеството езикови модели с отворен код, които всеки може да получи и модифицира, сваля летвата за желаещите да стартират собствени информационни кампании.
"Най-различни участници биха могли да използват генеративен AI за манипулиране на социалните мрежи, включително играчи извън държавния апарат“, се посочва в изследването.
Учените предупреждават, че генеративният изкуствен интелект може скоро да се превърне в начин държавите да се противопоставят една на друга.
Някои от тях настояват правителството на САЩ да инвестира сериозно в генеративен AI, тъй като технологията обещава да даде тласък на много различни индустрии и да осигури „нови военни способности, икономически просперитет и културно влияние“ за държавите, които успеят да овладеят първи тази технологии.
Подобно на доклада на RAND, анализ на друг мозъчен тръст - Проектът за специални конкурентни изследвания (SCSP), също прави някои мрачни заключения.
Той предупреждава, че потенциалът на генеративния AI вероятно ще предизвика надпревара във въоръжаването за адаптиране на технологията и за използването ѝ от армията или при кибератаки.
Ако предположенията на изследователите са верни, светът може би се насочва към информационно-космическа надпревара във въоръжаването, която може да се окаже особено трудна за овладяване.
Можем ли да избегнем кошмарния сценарий, при който интернет ще бъде затрупан от AI ботове, програмирани за информационна война?
Отговорът на този въпрос изисква от хората да говорят помежду си. Докладът на SCSP препоръчва САЩ да поемат "глобален ангажимент за насърчаване на прозрачността, доверието и сътрудничеството“.
Изследователите от RAND препоръчват американските и китайските дипломати да обсъдят заедно генеративния AI и рисковете около технологията.
"В интерес на всички е да нямаме интернет, който е напълно замърсен и манипулативен. Мисля, че това е нещо, с което всички можем да се съгласим", казва Уилям Марселино.
Слушайте и гледайте новия подкаст на darik.bg „В тренда“ в YouTube, Instagram и TikTok
Най-интересните разговори от ефира на Дарик слушайте в подкаста на радиото в Soundcloud, Spotify, Apple Podcasts и Google Podcasts
