Bernie Sanders želi zabraniti umjetnu superinteligenciju. Ovo je njegov plan

Prijedlog, nazvan Ban Artificial Superintelligence Act, predviđa i osnivanje posebnog američkog Ministarstva umjetne inteligencije, koje bi nadziralo razvoj najmoćnijih AI sustava i određivalo sigurnosna pravila prije nego što se oni smiju koristiti. Prijedlog je prvo dobio Associated Press.

Što bi bilo zabranjeno?

Umjetna superinteligencija u prijedlogu je definirana kao sustav koji nadmašuje ljudske kognitivne sposobnosti ili ima dovoljno razvijene sposobnosti da planira i provede uništenje ili gubitak ljudske kontrole.

Takvi sustavi bili bi trajno zabranjeni. Razvoj drugih najnaprednijih AI sustava bio bi privremeno zaustavljen dok novo savezno tijelo ne donese sigurnosna pravila i postupak njihova odobravanja.

Nakon toga bi za puštanje takvih sustava u uporabu bilo potrebno savezno odobrenje. Za određena kršenja zabrane prijedlog predviđa kazne koje bi u nekim slučajevima mogle dosegnuti 20 godina zatvora.

Sanders: Treba usporiti

„Ne treba biti genij da bi se reklo: usporite“, rekao je Sanders za AP.

„Želimo li stvarno razviti superinteligenciju koja bi, kada postane pametnija od ljudi, mogla djelovati neovisno o ljudskoj kontroli? Mislim da ne želimo“, dodao je.

Prijedlog podržava i dio zaposlenika velikih AI kompanija. Među njima su istraživač OpenAI-ja Juan Felipe Cerón Uribe i softverski inženjer Google DeepMinda Swante Scholz, koji je naglasio da govori u svoje, a ne u ime kompanije.

Prijedlog ima težak put kroz Kongres

Sanders i Casar još su početkom rujna najavili da će predložiti ovakav zakon. Tada su naveli da žele i da SAD pokrene međunarodne pregovore kako bi se razvoj umjetne superinteligencije ograničio i izvan američkih granica.

AP navodi da prijedlog ima male izglede za prolazak u Kongresu koji kontroliraju republikanci. Američki Kongres dosad nije uspio postići širi dogovor ni o znatno blažim pravilima za regulaciju umjetne inteligencije.

Rasprava o regulaciji AI-ja posljednjih je mjeseci ponovno pojačana nakon upozorenja dijela vodećih ljudi tehnološke industrije o mogućim rizicima sve sposobnijih sustava. Istodobno se vodi i rasprava o tome bi li snažno usporavanje razvoja AI-ja u SAD-u dalo prednost Kini u globalnom tehnološkom natjecanju.

Sanders smatra da se taj problem ne može riješiti samo američkim propisima te zagovara dogovor Washingtona i Pekinga, uspoređujući ga sa sporazumima o kontroli nuklearnog naoružanja tijekom Hladnog rata.