Ponedjeljak, 11. studenoga 2024.

Znanstvenici upozoravaju da bi umjetna inteligencija mogla izmaći kontroli

Ne ćemo moći predvidjeti na koji način će se umjetna inteligencija (AI) razvijati niti je u potpunosti kontrolirati, rekli su znanstvenici s Instituta Max Planck.

Kreatori rješenja vezanih uz umjetnu inteligenciju predvidjeli su potrebu korištenja „algoritama zadržavanja“ ili pravila koja bi omogućila ljudima da inhibiraju odluke koje donosi umjetna inteligencija. Međutim, to možda ne će biti dovoljno.

Do sada se vizija superinteligentnih strojeva koji preuzimaju svijet pojavljivala uglavnom u filmovima znanstvene fantastike – naglasio je Manuel Cebrian, jedan od znanstvenika koji su pripremili izvješće. „Međutim, neki roboti koji djeluju na temelju umjetne inteligencije već obavljaju aktivnosti kojima su ovladali na način nepoznat njihovim kreatorima“, dodao je.

AI tehnologija koristi se u sve više novih područja života. Hoće li se jednog dana razviti na takav način da čovjek prestane imati kontrolu nad njim?

Autori izvješća raspravljali su i o načinima kontrole umjetne inteligencije. Jedan od njih je ograničavanje strojevima da imaju pristup internetu. Međutim, znanstvenici su također zaključili da je nemoguće razviti učinkovit „algoritam za zaustavljanje“ strojeva da ne nanose štetu ljudima.

„Proučavanje ponašanja računala temeljeno na umjetnoj inteligenciji stvara nove izazove za ljude koji se bave etičkim pitanjima u robotici“, ocijenili su djelatnici Instituta.

Iyad Rahwan s Instituta Max Planck naglasio je da tehnologija strojnog učenja primijenjena na računala čini njihovo ponašanje nepredvidljivim, stoga AI treba razvijati samo do određene točke. No, čovjek može previdjeti granicu koju ne bi smio prijeći da se strojevi ne oslobode režima koji je za nas siguran. Riječ je o nadmašivanju ljudske inteligencije ovom umjetnom.

Izvor

Sviđa ti se ovaj članak? Podijeli ga.

Moglo bi te zanimati...