2024 Autor: Adelina Croftoon | [email protected]. Zadnja promjena: 2023-12-17 02:11
Superinteligentna računala ili roboti koji prijete postojanju ljudske rase omiljena su radnja znanstvene fantastike. U stvarnosti, prema znanstvenicima, takav scenarij sudnjeg dana može se spriječiti samo stvaranjem virtualnog "zatvora" za sadržavanje umjetne inteligencije (AI). A to mora biti učinjeno prije nego što nauči biti svjestan i poboljšati se..
Pustite li ovog duha iz boce, onda se iz proročišta koje rješava naše probleme može pretvoriti u apokaliptičnu prijetnju, kaže Roman Yampolsky, znanstvenik sa Sveučilišta Louisville u Kentuckyju, koji radi na području računalnih znanosti. Uvjeti u kojima će se AI sadržavati moraju se pažljivo isplanirati kako se ne bi mogli osloboditi prijetnjama, podmićivanjem, iskušenjem ili hakiranjem računala.
"On može izmisliti mnogo načina utjecaja, pokretanja složene društveno-inženjerske kombinacije i korištenja postojećih hardverskih komponenti u svrhe koje ne možemo niti zamisliti", smatra Yampolsky. - Takav softver ima neograničene mogućnosti zaraze računala i mreža. Vještačka inteligencija može pronaći načine da utječe na ljudsku psihu, podmićuje ili ucjenjuje ljude koji su u kontaktu s njom."
Pojava novog područja znanstvenog istraživanja koje se bavi problemom stvaranja "zatvora" za umjetnu inteligenciju ima dodatne prednosti. Ove su studije vrlo korisne za poboljšanje računalne sigurnosti i kriptografije, siguran je Yampolsky. Njegovi prijedlozi detaljno su opisani u ožujskom broju akademskog časopisa Consciousness Studies.
Kako postaviti zamku za Skynet
Za početak, možete umetnuti inteligenciju unutar "virtualnog stroja". Neka radi unutar normalnog operacijskog sustava - ograničavanje pristupa AI softveru i hardveru glavnog računala učinit će ga mnogo bezopasnijim. U svakom slučaju, pametna umjetna inteligencija neće moći slati tajne poruke svojim pristašama, pobjeđujući Morseovu azbuku ventilatorima za hlađenje.
Stavljanje umjetne inteligencije u računalo bez pristupa internetu dobar je način da se osujete podmukli planovi AI -e da zaštiti Zemlju od vas i mene. U slučaju bilo kakvog drugog kvara, istraživači uvijek mogu usporiti misaoni proces umjetne inteligencije usporavanjem brzine obrade računala, redovitim pritiskom na gumb za poništavanje ili isključivanjem AI iz napajanja.
Ove sigurnosne mjere osmišljene su kako bi se nosile s visoko inteligentnim i opasnim računalnim virusima, no koliko se zapravo pokazale učinkovitima, može se pretpostaviti.
Catch-22 (roman američkog književnika J. Hellera; pribl. Mixednews) je da ne možemo provesti opsežno testiranje svojih ideja dok se razvoj AI ne dovrši. No kako bi umjetna inteligencija bila sigurna, potrebno je razviti niz odgovarajućih mjera, kaže Yampolsky. "Najbolja opcija je nametnuti ograničenja na uporabu AI sustava, a zatim, prema potrebi, promijeniti ta ograničenja u skladu sa sve većim mogućnostima AI".
Nikada ne stavljajte ljudskog zaštitara na vozilo
Tijekom naizgled nevinog razgovora sa zaštitarom, ništa neće spriječiti AI da koristi psihološke tehnike poput prijateljstva ili ucjene. Osoba se može podmititi obećanjem savršenog zdravlja, besmrtnosti ili čak obećanjem da će se rodbina i prijatelji vratiti s drugog svijeta. Ili postići bilo što prijetnjama.
Najsigurniji način komunikacije s umjetnom inteligencijom jest učiniti je da pri rješavanju određenog znanstvenog ili tehničkog problema odabere odgovor iz mnogih dostupnih opcija, objašnjava Yampolsky. To će pomoći da superpametna proročica ostane na kratkoj uzici.
Mnogi istraživači vjeruju da, unatoč svim mjerama opreza, držanje pametne umjetne inteligencije pod ključem nikada neće biti uspješno. Najnoviji eksperiment Eliezera Yudkowskog, istraživača na Institutu za singularnost o stvaranju umjetne inteligencije, pokazao je da čak i inteligencija na ljudskoj razini može prevariti osobu i "pobjeći" iz zatvora.
Ipak, Yampolsky inzistira na tome da AI ostane u strogoj izolaciji - to je ipak bolje nego odustati i dati mu potpunu slobodu. No, ako razvoj umjetne inteligencije dosegne točku u kojoj može manipulirati osobom koristeći podsvijest (predviđanje budućnosti), telepatiju ili telekinezu, posljedice će biti nepredvidive.
"Ako će se takva umjetna inteligencija sama poboljšati i doseći razinu koja znatno premašuje mogućnosti ljudske inteligencije, posljedice se ne mogu ni zamisliti", upozorava Yampolsky.
Preporučeni:
Profesor S Oxforda Kaže Da Vanzemaljci Stvaraju Hibride Kako Bi Spasili čovječanstvo
Vanzemaljci otimaju ljude kako bi stvorili hibridna stvorenja od vlastitog i ljudskog genetskog materijala. To je izjavio dr. Jung Hai Chi, koji predaje korejski na Sveučilištu u Oxfordu. Prema Chi, globalne klimatske promjene na našem planetu štetne su za čovječanstvo i vanzemaljce, stvarajući hibride, pomažu ljudima u rješavanju ovog problema (paranormal-news.ru). Dr. Jung Hai Chi Dr. Chi vjeruje da između nas već hoda mnogo ljudi koji su zapravo hibridi ljudi
Exodus: Čovječanstvo Mora Istražiti Mars Da Bi Preživjelo
Elon Musk tvrdi: ako je čovječanstvo zainteresirano za njegov opstanak, onda mora poslati milijun zemljana na Mars. „Hajde, ova Zemlja! - Elon Musk mi je iznenada uputio osmijeh. "Koga briga za nju?" Sjeli smo u njegov mali ured, u kut prostranog ureda koji se nalazi u sjedištu SpaceX -a u Los Angelesu. Bio je to sunčan dan, četvrtak, jedan od onih dana kada se Musk može pronaći u SpaceX -u. Ali Elon je bio lukav, ironičan - na kraju krajeva, on je bio više od svega
Moramo Sada Razmišljati Kako Osigurati Umjetnu Inteligenciju
Stephen Hawking nastavlja "križarski rat" protiv umjetne inteligencije (AI). Tijekom dugo očekivane kampanje Ask Me Everything na Redditu napisao je da bi se rad na razvoju sigurnosnog protokola umjetne inteligencije trebao obaviti sada, a ne u dalekoj budućnosti. "Naš cilj ne bi trebao biti stvaranje apstraktne umjetne inteligencije, već stvaranje korisne inteligencije", napisao je poznati fizičar, "trebat će desetljeća da shvatimo kako to učiniti, pa da
Stephen Hawking Umjetnu Inteligenciju Naziva Najvećom Greškom U Povijesti
Slavni britanski fizičar Stephen Hawking u članku inspiriranom znanstvenofantastičnim filmom Transcendence u kojem glumi Johnny Depp rekao je kako bi podcjenjivanje prijetnje od umjetne inteligencije mogla biti najveća pogreška u povijesti čovječanstva. U članku u koautorstvu s profesorom informatike Stuartom Russellom sa Kalifornijskog sveučilišta u Berkeleyu i profesorima fizike Maxom Tegmarkom i Frankom Wilczekom iz Massachusettsa
Rusi Pobjeđuju Na Natjecanju Za Umjetnu Inteligenciju
Ruski stručnjaci prvi su u svijetu došli do stvaranja računalnog programa koji je prava umjetna inteligencija. Program koji su razvili, nazvan "Eugene", pobijedio je na međunarodnom znanstvenom natjecanju kibernetske inteligencije održanom u Engleskoj, ne dobivši samo 0,8% kako bi položio poznati Turingov test, prenosi ITAR-TASS. Poznati engleski matematičar Alan Turing, koji je postavio temelje suvremene računalne tehnologije