O ideji da umjetna inteligencija (AI) svrgne čovječanstvo priča se desetljećima, a 2021. znanstvenici su donijeli svoju presudu hoćemo li moći kontrolirati računalnu super-inteligenciju visoke razine.
Odgovor? Gotovo sigurno ne
Kvaka je u tome što bi kontroliranje super-inteligencije daleko izvan ljudskog poimanja zahtijevalo simulaciju te super-inteligencije koju možemo analizirati (i kontrolirati). Ali ako to nismo u stanju shvatiti, nemoguće je stvoriti takvu simulaciju.
Pravila kao što je 'ne nanosi štetu ljudima' ne mogu se postaviti ako ne razumijemo vrstu scenarija koje će AI osmisliti, sugeriraju autori novog rada. Jednom kada računalni sustav radi na razini iznad opsega naših programera, više ne možemo postavljati ograničenja.
"Superinteligencija predstavlja bitno drugačiji problem od onih koji se obično proučavaju pod zastavom 'etike robota'", napisali su istraživači. "To je zato što je superinteligencija višestruka i stoga potencijalno sposobna mobilizirati različite resurse kako bi se postigli ciljevi koji su ljudima potencijalno neshvatljivi, a kamoli kontrolirani."
Problem zaustavljanja - Alan Turing
Dio obrazloženja tima proizašao je iz problema zaustavljanja koji je iznio Alan Turing 1936. godine. Problem je usredotočen na saznanje hoće li računalni program doći do zaključka i odgovora (pa se zaustavlja) ili će se jednostavno vrtjeti u petlji pokušavajući ga pronaći.
Kao što je Turing dokazao, iako to možemo znati za neke specifične programe, logično je nemoguće pronaći način koji će nam omogućiti da to znamo za svaki potencijalni program koji bi ikada mogao biti napisan. To nas vraća na umjetnu inteligenciju, koja bi u super-inteligentnom stanju izvedivo mogla držati svaki mogući računalni program u svojoj memoriji odjednom.
Svaki program napisan kako bi spriječio umjetnu inteligenciju da naudi ljudima i uništi svijet, na primjer, može doći do zaključka (i zaustaviti se) ili ne – matematički je nemoguće da budemo apsolutno sigurni u oba slučaja.
"Zapravo, ovo čini algoritam zadržavanja neupotrebljivim", rekao je računalni znanstvenik Iyad Rahwan s Instituta Max-Planck za ljudski razvoj u Njemačkoj 2021. godine.
Rješenje - ograničiti sposobnosti superinteligencije?
Alternativa poučavanju umjetne inteligencije etici i govorenju joj da ne uništava svijet – nešto u što niti jedan algoritam ne može biti apsolutno siguran, kažu istraživači – jest ograničiti sposobnosti superinteligencije. Mogla bi biti odsječena od dijelova interneta ili od određenih mreža, na primjer.
Studija je odbacila i ovu ideju, sugerirajući da bi to ograničilo doseg umjetne inteligencije; argument ide da ako ga nećemo koristiti za rješavanje problema izvan dosega ljudi, zašto ga onda uopće stvarati?
Ako ćemo gurati naprijed s umjetnom inteligencijom, možda nećemo ni znati kada će superinteligencija doći do stanja izvan naše kontrole, takva je njena neshvatljivost. To znači da moramo početi postavljati ozbiljna pitanja o smjerovima u kojima idemo.
"Superinteligentni stroj koji kontrolira svijet zvuči kao znanstvena fantastika", rekao je računalni znanstvenik Manuel Cebrian s Instituta Max-Planck za ljudski razvoj, također 2021. "Ali već postoje strojevi koji obavljaju određene važne zadatke neovisno bez programera u potpunosti razumijevajući kako su to naučili."
"Postavlja se stoga pitanje može li to u jednom trenutku postati nekontrolirano i opasno za čovječanstvo."
Izvor: Science Alert
L.B.
