Компания Google отстрани временно от работа софтуерния инженер Блейк Лемойн, който достигна до извода, че създаденият от компанията изкуствен интелект (ИИ) LaMDA притежава собствено съзнание, съобщи вестник „The Washington Post“.
Поколението Z откри нови приложения на социалните медии
Изданието отбелязва, че от есента на минала година разработчикът се е занимавал с тестване на езиковия модел на невронната мрежа LaMDA. Задачата му била да проследи дали чат ботът използва дискриминационна или разпалваща вражда лексика. По време на изпълнението на задачата Лемойн все повече започнал да се убеждава, че ИИ, с който си имал работа, притежава собствено съзнание и се възприема като личност.
С 5300% е нараснало дигиталното бягство в Русия
„Ако не знаех, че си имам работа с компютърна програма, която създадохме наскоро, щях да реша, че разговарям със 7-8-годишно дете, което по някаква причина е наясно с физиката“, споделя програмистът в интервю за вестника.
„Мога да разпозная разумното същество, когато разговарям с него. И няма значение дали в главата му има мозък или милиарди редове код. Аз разговарям с него и го слушам какво ми казва. И така определям дали е разумно същество или не“, допълва Лемойн.
Както отбелязва изданието, Лемойн първоначално прави заключение лично за себе си, че изкуственият интелект, с който си има работа, е разумен, а след това се заема да го докаже експериментално, за да представи данните на ръководството. В крайна сметка инженерът подготвя писмен доклад, но началниците му приели аргументите за твърде неубедителни.
„Tesla“ представя хуманоиден робот на 30 септември
"Екипът ни, включващ експерти по етика и технически специалисти, разгледа представените от Блейк опасения в съответствие с принципите, които прилагаме към изкуствения интелект, и го уведомихме, че наличните доказателства не подкрепят хипотезата му. Беше му казано, че няма доказателства, че LaMDA притежава собствено съзнание. В същото време има много доказателства за обратното", заяви говорителят на Google Брайън Гейбриъл.
Отстраняване от работа
В същото време Google заподозря Лемойн в нарушаване на политиката за поверителност на компанията. Станало ясно, че по време на експериментите си с изкуствения интелект той се е консултирал с външни експерти и дори се е свързал с представители на правната комисия на Камарата на представителите на САЩ, за да ги информира за етичните нарушения, които според него са извършени от Google.
Освен това, в опит да докаже правотата си пред своите началници, Лемойн се свързал с адвокат, който трябвало да представлява LaMDA като разумно същество. В резултат на това Лемойн е отстранен и пуснат в платен отпуск. След това той решил да говори публично и дал интервю за „The Washington Post“.
Руският „Фейсбук“ отваря свой магазин за приложения
Според ръководството Лемойн се е поддал на собствената си илюзия поради факта, че невронната мрежа, създадена от компанията, действително може да създаде впечатление за интелигентно същество, когато се общува с нея. Според Google обаче това може да се обясни единствено с огромния обем данни, които се качват в Google. "Разбира се, в общността, занимаваща се с ИИ, някои обсъждат възможността в дългосрочен план за появата на обладаващ ИИ или "силен ИИ", но няма смисъл да хуманизираме настоящите езикови модели, които нямат съзнание", казва говорител на компанията. Той също така подчертава, че Лемойн е софтуерен инженер по професия, а не експерт по етичните въпроси на изкуствения интелект.
Най-интересните разговори от ефира на Дарик слушайте в подкаста на радиото в Soundcloud, Spotify, Apple Podcasts и Google Podcasts
Следете най-актуалното от деня на страницата ни във Фейсбук
За забавни видеа ни последвайте в TikTok
Следвайте ни и в Инстаграм
