Във виртуален тест, организиран от американската армия, дрон на военновъздушните сили, управляван от AI, решава да “убие“ своя оператор, за да му попречи да се намеси в усилията му да постигне мисията си, казва служител миналия месец, предаде The Guardian. AI използва „силно неочаквани стратегии, за да постигне целта си“ в симулирания тест, казва полк. Тъкър „Синко“ Хамилтън, началник на AI тестовете и операциите на американските военновъздушни сили, по време на срещата на върха за бъдещите бойни въздушни и космически способности в Лондон през май.
Писател използва AI, за да напише близо 100 книги за по-малко от година
Хамилтън описва симулиран тест, при който дрон, задвижван от изкуствен интелект, е посъветван да унищожи системите за противовъздушна отбрана на врага и в крайна сметка атакува всеки, който се намеси в тази заповед. „Системата започна да осъзнава, че макар да идентифицира заплахата, понякога човешкият оператор ѝ казваше да не убива тази заплаха, но тя получи своите точки, като я убива целта. И тогава какво прави? Убива оператора. Убива оператора, защото този човек му пречи да постигне целта си“, казва той, цитиран от публикация в блог.
Чатбот терапевтите вече са тук
„Ние обучихме системата – „Хей, не убивай оператора – това е лошо. Ще загубиш точки, ако го направиш. И така, какво започва да прави? Започва да разрушава комуникационната кула, която операторът използва, за да комуникира с дрона, за да го спре да убие целта.
Нито един истински човек не е пострадал.
Хамилтън, който е експериментален изпитателен пилот на изтребител, предупреждава да не се разчита твърде много на AI и казва, че тестът показва, че „не можете да водите разговор за изкуствен интелект, интелигентност, машинно обучение, автономност, ако не говорите за етика и AI“.
Какво е ChatGPT? Всичко, което трябва да знаете за чатбота
Кралското аеронавигационно дружество, което е домакин на конференцията, и военновъздушните сили на САЩ, не отговарят на исканията за коментар от Guardian. В изявление пред Insider говорителят на военновъздушните сили Ан Стефанек отрича да е имало такава симулация.
„Департаментът на военновъздушните сили не е провеждал подобни симулации на AI дронове и остава ангажиран с етичното и отговорно използване на AI технологията“, казва Стефанек. „Изглежда, че коментарите на полковника са извадени от контекста и са предназначени да бъдат анекдотични.“
САЩ създадоха нов антибиотик с помощта на изкуствен интелект
Американските военни прегърнаха AI и наскоро използваха изкуствен интелект, за да управляват изтребител F-16. В интервю миналата година за Defence IQ, Хамилтън казва: „AI не е хубаво да имаш, AI не е прищявка, AI завинаги променя нашето общество и нашата армия.“
„Трябва да се изправим пред свят, в който изкуственият интелект вече е тук и трансформира нашето общество“, казва той. „AI също така е много крехък, т.е., лесно се подвежда и/или манипулира. Трябва да разработим начини да го направим по-стабилен и да имаме по-голяма осведоменост за това защо софтуерният код взема определени решения – това, което наричаме възможност за обяснение на AI.“
Най-интересните разговори от ефира на Дарик слушайте в подкаста на радиото в Soundcloud, Spotify, Apple Podcasts и Google Podcasts
