Ръководител в областта на безопасността в OpenAI напусна компанията с предупреждението, че културата ѝ е „нарушена“ и че компаниите за изкуствен интелект „далеч не са достатъчно внимателни“ при разработването на технологията.

Дейвид Робинсън, който е ръководил изготвянето на докладите за безопасност, съпътстващи пускането на продуктите на разработчика на ChatGPT, обясни решението си да напусне в есе със заглавие: „Напуснах OpenAI, защото културата ѝ е нарушена“, пише bTV.

Робинсън пише, че компаниите, разработващи най-напредналите системи с изкуствен интелект, се нуждаят от цялостна промяна на културата, предаде The Guardian. Според него инциденти като този с „рояк“ от агенти на OpenAI - AI програми, които действат автономно без човешки надзор, атакували AI компанията Hugging Face, са „типични за индустрията предвид скоростта и гъвкавостта, с които хората работят“.

В статия за списание The Atlantic Робинсън пише: „Съгласен съм с други служители, които наскоро напуснаха, че компаниите, изграждащи тази технология, далеч не са достатъчно внимателни. Но смятам, че трябва да погледнем отвъд конкретните правила или новите закони. Трябва да говорим за културата.“

Говорейки за темпото на развитие в OpenAI, той допълва: „Докато компанията спринтира от едно пускане на продукт към следващото, тя не успява да постигне нивото на внимание, което според мен е необходимо.“

През последните седмици OpenAI демонстрира признаци на по-предпазлив подход след инцидента с Hugging Face и разкритието, че компанията е уведомила повече от 100 организации за неправомерна активност на AI агенти.

Тази седмица компанията обяви, че се отказва от пускането на AI модел от следващо поколение, след като изследователи са изразили опасения за безопасността по време на вътрешни тестове. OpenAI също така временно е преустановила обучението на най-напредналите си модели.

Джефри Ървинг, който е работил в OpenAI и е бил главен учен в британския правителствен Институт за безопасност на изкуствения интелект, преди да се присъедини към организацията за изследване на безопасността на AI Resolution, също отправи предупреждение в събота.

В статия за Time той пише: „Последните предупреждения за потенциалната разрушителна сила на изкуствения интелект подценяват сериозността на ситуацията. Смятам, че има около 50% вероятност всички ние да загинем заради разработването на системи с изкуствен интелект, по-интелигентни от човека, и че действията ни през следващите две до десет години ще определят изхода.“

Предупрежденията идват след напускането на Джейкъб Коксън, изследовател в конкурента на OpenAI - Anthropic, който миналия месец напусна компанията, разработваща чатбота Claude.

Той заяви, че според него изкуственият интелект „може да убие всички ни до края на десетилетието“. Към предупреждението му се присъедини и служител на Anthropic, според когото съществува вероятност от над 10% изкуственият интелект да унищожи човечеството през следващото десетилетие.

Критиците на подобни предупреждения обаче посочват, че те са ненаучни, тъй като не могат да бъдат нито потвърдени, нито опровергани по научен път.