umetna inteligenca
Četrtek, 12. 10. 2017, 4.05
2 tedna, 6 dni
Samo igra ali napoved konca sveta?
Termometer prikazuje, kako vroč je članek.
Termometer prikaže, kako vroč je članek.
3,03
1
V zadnjih dneh je na spletu veliko pozornosti deležna preprosta igra Paperclips, v kateri je cilj narediti tovarno, ki bo čim bolj učinkovito proizvajala sponke za papir. Ob tem, da zna uporabnika hitro zasvojiti, ima igra Paperclips tudi globlji pomen, saj temelji na znani teoriji o morebitnem iztrebljenju človeštva, na katero že nekaj časa opozarja nekaj največjih svetovnih znanstvenikov.
Igra Paperclip na prvi pogled ni videti ravno globoka, a naj vas videz ne zavede. Gre za eno od tistih iger, ob katerih se vprašamo: "Kam so šle zadnje štiri ure?"
Igra Paperclips, kar v prevodu pomeni sponka za papir, spada v zvrst tako imenovanih "clickerjev". Gre za spletne igre, v katerih sprva klikamo na gumb za proizvajanje določene dobrine. S tem pridobimo sredstva, ki jih lahko nato vložimo v čedalje naprednejše tehnologije za avtomatizacijo in izboljšano učinkovitost proizvodnje. Glavni cilj je čim večja številka proizvedene dobrine. Številka je sicer sama sebi namen, saj se takšne igre nikoli zares ne končajo, temveč je njihovo poslanstvo predvsem kratkočasenje uporabnika.
Tudi igro Paperclips kot predstavnico zvrsti clickerjev najprej začnemo s klikanjem na gumb za proizvodnjo sponk (en klik, ena sponka), ročno moramo kupovati celo žico, iz katere so narejene.
A ker se sponke sproti prodajajo samodejno, prejemamo prihodke, ki jih lahko vložimo v oglaševanje, nadgradnje tovarne in vrednostne papirje ter tako izboljšamo učinkovitost proizvodnje sponk.
V našem primeru je bila tovarna sponk po približno dveh urah in pol tako napredna, da je dosegla popolno avtonomnost. Ker ji je zmanjkalo materiala za proizvodnjo žice, je vanj pretvorila kar ves planet Zemlja. Minila je še ena ura in potreba po surovinah za nove sponke je bila tolikšna, da se je tovarna začela širiti po vesolju.
Takole je tovarna sponk, ki zdaj obsega ves planet, videti po nekaj več kot triurnem igranju Paperclips. Proizvodnja sponk na sekundo znaša 8,68 septilijona oziroma 868 in še 41 ničel.
Paperclips je ustvaril ameriški programer in razvijalec računalniških iger Frank Lantz. Ideja zanjo se mu ni porodila kar tako, temveč se je oprl na delo švedskega znanstvenika in filozofa Nicka Bostroma, enega od vodilnih svetovnih strokovnjakov na področju raziskovanja potencialnih dejavnikov, ki bi lahko ogrozili obstoj človeštva.
44-letni Bostrom že dolgo opozarja predvsem na morebitno uresničitev scenarija, po katerem bi človek razvil superpametno umetno inteligenco, ki bi svojega stvaritelja na koncu pogubila, pa četudi proti njemu ne bi bila sovražno nastrojena.
Človek bi postal kolateralna škoda cilja, ki ga je umetni inteligenci zadal sam
Leta 2003 je Bostrom svoje razmišljanje ponazoril z v znanstveni stroki zelo znanim miselnim eksperimentom (vir). Predpostavil je, da je človek razvil umetno inteligenco, ki je imela samo en cilj - učinkovito proizvodnjo sponk za papir.
"Umetna inteligenca bo hitro spoznala, da lahko naredi več sponk za papir, če ljudi ne bo več, saj bi se lahko odločili, da jo ugasnejo. Če bi se to zgodilo, bi se proizvodnja sponk za papir ustavila. Človeška telesa obenem vsebujejo tudi veliko atomov, ki jih je mogoče preurediti tako, da postanejo sponke za papir," je pojasnil Bostrom.
Ko bi umetni inteligenci zmanjkalo surovin za proizvodnjo sponk, bi vanje postopoma pretvorila ves planet Zemlja in se pozneje razširila tudi v vesolje, še predpostavlja Bostrom. Tako kot v igri Paperclips, torej.
Bostrom je sicer večkrat poudaril, da ne verjame, da se bo takšen scenarij res uresničil. Njegova teorija je namenjena opozarjanju na nevarnosti superinteligence, ki ji človek ne bi vprogramiral nekaterih vrednot, zaradi katerih mu nikoli ne bi mogla škodovati.
Elon Musk je sponke v svoji teoriji zamenjal z e-pošto
Nick Bostrom ni edini, ki je človeštvo posvaril, da bi lahko postalo kolateralna škoda preveč prizadevne umetne inteligence. Podobne scenarije so že opisali oziroma nanje opozorili tudi Elon Musk, ustanovitelj podjetij Tesla in SpaceX, Bill Gates, ustanovitelj podjetja Microsoft, in britanski astrofizik Stephen Hawking.
1