Kako Bi Izbjeglo Smrt, čovječanstvo Mora Zaključati Umjetnu Inteligenciju

Sadržaj:

Video: Kako Bi Izbjeglo Smrt, čovječanstvo Mora Zaključati Umjetnu Inteligenciju

Video: Kako Bi Izbjeglo Smrt, čovječanstvo Mora Zaključati Umjetnu Inteligenciju
Video: 4 ways to build a human company in the age of machines | Tim Leberecht 2024, Ožujak
Kako Bi Izbjeglo Smrt, čovječanstvo Mora Zaključati Umjetnu Inteligenciju
Kako Bi Izbjeglo Smrt, čovječanstvo Mora Zaključati Umjetnu Inteligenciju
Anonim

Superinteligentna računala ili roboti koji prijete postojanju ljudske rase omiljena su radnja znanstvene fantastike. U stvarnosti, prema znanstvenicima, takav scenarij sudnjeg dana može se spriječiti samo stvaranjem virtualnog "zatvora" za sadržavanje umjetne inteligencije (AI). A to mora biti učinjeno prije nego što nauči biti svjestan i poboljšati se..

Slika
Slika

Pustite li ovog duha iz boce, onda se iz proročišta koje rješava naše probleme može pretvoriti u apokaliptičnu prijetnju, kaže Roman Yampolsky, znanstvenik sa Sveučilišta Louisville u Kentuckyju, koji radi na području računalnih znanosti. Uvjeti u kojima će se AI sadržavati moraju se pažljivo isplanirati kako se ne bi mogli osloboditi prijetnjama, podmićivanjem, iskušenjem ili hakiranjem računala.

"On može izmisliti mnogo načina utjecaja, pokretanja složene društveno-inženjerske kombinacije i korištenja postojećih hardverskih komponenti u svrhe koje ne možemo niti zamisliti", smatra Yampolsky. - Takav softver ima neograničene mogućnosti zaraze računala i mreža. Vještačka inteligencija može pronaći načine da utječe na ljudsku psihu, podmićuje ili ucjenjuje ljude koji su u kontaktu s njom."

Pojava novog područja znanstvenog istraživanja koje se bavi problemom stvaranja "zatvora" za umjetnu inteligenciju ima dodatne prednosti. Ove su studije vrlo korisne za poboljšanje računalne sigurnosti i kriptografije, siguran je Yampolsky. Njegovi prijedlozi detaljno su opisani u ožujskom broju akademskog časopisa Consciousness Studies.

Kako postaviti zamku za Skynet

Za početak, možete umetnuti inteligenciju unutar "virtualnog stroja". Neka radi unutar normalnog operacijskog sustava - ograničavanje pristupa AI softveru i hardveru glavnog računala učinit će ga mnogo bezopasnijim. U svakom slučaju, pametna umjetna inteligencija neće moći slati tajne poruke svojim pristašama, pobjeđujući Morseovu azbuku ventilatorima za hlađenje.

Stavljanje umjetne inteligencije u računalo bez pristupa internetu dobar je način da se osujete podmukli planovi AI -e da zaštiti Zemlju od vas i mene. U slučaju bilo kakvog drugog kvara, istraživači uvijek mogu usporiti misaoni proces umjetne inteligencije usporavanjem brzine obrade računala, redovitim pritiskom na gumb za poništavanje ili isključivanjem AI iz napajanja.

Ove sigurnosne mjere osmišljene su kako bi se nosile s visoko inteligentnim i opasnim računalnim virusima, no koliko se zapravo pokazale učinkovitima, može se pretpostaviti.

Catch-22 (roman američkog književnika J. Hellera; pribl. Mixednews) je da ne možemo provesti opsežno testiranje svojih ideja dok se razvoj AI ne dovrši. No kako bi umjetna inteligencija bila sigurna, potrebno je razviti niz odgovarajućih mjera, kaže Yampolsky. "Najbolja opcija je nametnuti ograničenja na uporabu AI sustava, a zatim, prema potrebi, promijeniti ta ograničenja u skladu sa sve većim mogućnostima AI".

Nikada ne stavljajte ljudskog zaštitara na vozilo

Tijekom naizgled nevinog razgovora sa zaštitarom, ništa neće spriječiti AI da koristi psihološke tehnike poput prijateljstva ili ucjene. Osoba se može podmititi obećanjem savršenog zdravlja, besmrtnosti ili čak obećanjem da će se rodbina i prijatelji vratiti s drugog svijeta. Ili postići bilo što prijetnjama.

Najsigurniji način komunikacije s umjetnom inteligencijom jest učiniti je da pri rješavanju određenog znanstvenog ili tehničkog problema odabere odgovor iz mnogih dostupnih opcija, objašnjava Yampolsky. To će pomoći da superpametna proročica ostane na kratkoj uzici.

Mnogi istraživači vjeruju da, unatoč svim mjerama opreza, držanje pametne umjetne inteligencije pod ključem nikada neće biti uspješno. Najnoviji eksperiment Eliezera Yudkowskog, istraživača na Institutu za singularnost o stvaranju umjetne inteligencije, pokazao je da čak i inteligencija na ljudskoj razini može prevariti osobu i "pobjeći" iz zatvora.

Ipak, Yampolsky inzistira na tome da AI ostane u strogoj izolaciji - to je ipak bolje nego odustati i dati mu potpunu slobodu. No, ako razvoj umjetne inteligencije dosegne točku u kojoj može manipulirati osobom koristeći podsvijest (predviđanje budućnosti), telepatiju ili telekinezu, posljedice će biti nepredvidive.

"Ako će se takva umjetna inteligencija sama poboljšati i doseći razinu koja znatno premašuje mogućnosti ljudske inteligencije, posljedice se ne mogu ni zamisliti", upozorava Yampolsky.

Preporučeni: