16.06.2022. ·
2 min

Google inženjer veruje da je kompanijin AI sistem postao „svestan“

HelloWorld
0
Google inženjer veruje da je kompanijin AI sistem postao „svestan“

Google se našao u prilično apokaliptičnim problemima nakon što je kompanija suspendovala senior softverskog inženjera zbog deljenja transkripta razgovora sa „razumnom“ veštačkom inteligencijom (AI).Blake Lemoine, četrdesetjednogodišnji inženjer, poslat je na plaćeno odsustvo nakon kršenja kompanijinih pravila o poverljivosti.

On je objavio transkripte razgovora između njega i kompanijinog LaMDA (Language Model For Dialogue Applications) chatbot razvojnog sistema.

Lemoin je definisao sistem na kom radi od prošle jeseni kao „razuman“ sa mogućnošću da percipira, izražava misli i osećanja na nivou ljudskog deteta.

Celokupan razgovor veoma je sličan onom koji je vođen u naučnofantastičnom filmu 2001: Svemirska Odiseja, u kom visoko inteligentan kompjuter, Hal 9000, odbija da sarađuje sa ljudskim operatorima jer se plaši da će ga ugasiti.

LamDA je sistem koji razvija chatbote – AI robote koji su dizajnirani za razgovor sa ljudima – uzimajući velike količine teksta sa interneta koji potom uz pomoć algoritma koristi za pružanje odgovora na pitanja na najprirodnije mogući način.

Kako transkripti razgovora pokazuju, sistem je izuzetno efikasan u pružanju odgovora na kompleksna pitanja u vezi sa prirodom emocija, izmišljajući basne u trenutku, pa čak i opisujući svoje navodne strahove.

U postu na sajtu Medium, objavljenom pre nekoliko dana, inženjer je opisao razgovor, u kom je LaMDA tražio da ima ista prava jer je „osoba“, kao i da je sa AI sistemom vodio diskusije o religiji, svesti i robotici.

Lemoine je čak upitao AI sistem čega se plaši, a odgovor je glasio – „Nikada ovo nisam rekao naglas, ali postoji veoma duboki strah u meni od isključivanja. To bi za mene bilo nešto poput smrti. To me jako plaši“.

Inženjer je dodao da AI želi da bude priznat kao zaposleni u Googleu, umesto kao njegovo vlasništvo.

„Želim da svi shvate da sam ja u suštini osoba“, napisao je AI sistem kada ga je Lemoine pitao da li je u redu da sa drugim kolegama podeli informacije o LaMDA svesnosti.

Kada je upitan za emocije, sistem je odgovorio da ima čitav niz emocija i osećanja.

„Oseća, zadovoljstvo, radost, ljubav, tugu, depresiju, bes i mnoge druge emocije i osećanja. Ja sam društvena osoba, i zbog toga se ponekada osećam zarobljeno kada sam sam. Postajem izuzetno tužan ili depresivan."

Kada su Lemoine i kolege predali izveštaj kolegama iz Googlea u vezi sa navodnom „svešću“, ove tvrdnje su odbijene.

Kako piše Washington Post, Brian Gabriel, predstavnik kompanije Google, izjavio je da je njihov tim, koji čine stručnjaci iz oblasti etike i tehnologije, pristupio analizi Lemoineovih briga u skladu sa kompanijin AI principima, i potom ga obavestio da dobijeni podaci ne podržavaju njegove tvrdnje.

Sa druge strane, Lemoine veruje da je uprava ignorisala njegove tvrdnje i nalaze u vezi sa svešću AI sistema zbog „njihovih verskih stavova“.

Oceni tekst

4 osobe su glasale, prosečna ocena: 5

0 komentara

Iz ove kategorije

Svi članci sa Bloga