Jaz, prvič, pozdravljam naše nadrejene AI

Letos je računalnik prvič doslej premagal svetovnega prvaka Go, eno najbolj zapletenih iger, ki jih pozna človek. To je bil še en prelomni trenutek v napredku umetne inteligence.

Če želite predstaviti, kako zapleten je Go, obstaja 2.082 × 10 ^ 170 možnih konfiguracij plošč. To je 2 s 170 ničlami ​​po njem. Velika verjetnost je, da si vaši možgani sploh ne morejo predstavljati tako velike številke (lahko pa računalnik). Ali pa, da dobite idejo, kako veliko je število to je v vesolju le 10 ^ 80 atomov - torej enemu sledi 79 ničel.

Razlog za to, da je tako velika stvar, je, da je Go tako zapleten, da bi se moral stroj, da bi premagal vrhunskega človeškega igralca, naučiti kreativnega razmišljanja, improviziranja in prilagajanja trenutni situaciji, ne da bi lahko izračunal vse možne izid; se mora dogajati nekaj resne umetne inteligence - kot je prava, ustvarjalna inteligenca.

Če še niste dobili opomnika o celotni umetni inteligenci, bo prevzel svetovno stvar, tukaj je nekaj dejstev, ki jih morate vedeti.

1. Računalniki postajajo pametnejši.
2. Računalniki postajajo pametnejši s pospešeno hitrostjo - torej napredovanje, ki je trajalo 10 let, zdaj traja eno leto. Napredek, ki je včasih trajal eno leto, zdaj traja tedne ali celo dni.
3. Zelo verjetno je, da bodo v našem življenju obstajali računalniki, ki so veliko pametnejši in sposobnejši od katerega koli človeškega bitja.
4. Ti pametnejši računalniki bodo potem verjetno lahko oblikovali in izboljšali tehnologijo (tj. Sebe) in ustvarili novo tehnologijo, ki je sploh ne moremo dojeti.

Ljudje, ki razumejo zgornje točke, imajo na splošno eno od dveh reakcij. Ali:

1. Mislijo, da smo popolnoma zajebani. Računalniki bodo vse prevzeli in nas vse pobili / zasužnjili. Ali:
2. To bo ustvarilo tehnološko utopijo, ki bo popravila vse naše neumne človeške prepire in vsi bomo lahko živeli srečno, ko bomo imeli orgije v našem ultra-VR svetu, ki obstaja v oblaku.

Kot pri večini stvari je resnica verjetno nekje na sredini.

A četudi bi sranje zadelo ventilator, četudi nas roboti vidijo kot uši, ki uničujejo neokrnjeno lasišče tega planeta in nas hočejo vse zaokrožiti in vreči v aktivni vulkan, četudi si nehote izumimo same mehanizme izumrtje ...

... vseeno mi je Ni pomembno. Ne moti me. In tudi vas ne bi smelo motiti. Kmalu bom razložil, zakaj. Za zdaj pa bi morali vedeti, da najprej pozdravljam naše nove nadrejene robote.

POSPEŠEVALNA RAST V TEHNIČNI INDUSTRIJI

Tehnološki razvoj se naseli, kar povzroča oceniti samega razvoja, da se pospeši. To pomeni, da bolj kot napredna tehnologija ustvarjamo, lažje je ustvariti še bolj napredno tehnologijo. Kot rezultat, ko pogledamo napredek računalniške tehnologije, vidimo eksponentno krivuljo - torej več časa mineva, hitreje se stvari razvijajo. Tehnološki razvoj se naseli, kar povzroči, da se stopnja samega razvoja pospešuje.(Foto: Dennis Skley / Flickr)

Računska moč se je v povprečju podvojila vsakih 18 mesecev že 50 let . Glede surove računalniške moči se računalniki zdaj kosajo z zmožnostmi mišjih možganov, kjer le nekaj let nazaj računalniki niso mogli konkurirati niti možganom žuželk.

Za neposrednejši primer napredka hitre tehnologije je na vsaki dve minuti posnetih več slik kot v celotnem 19. stoletju. Približno 10% od 3,5 bilijona fotografij, ki so jih kdajkoli posneli, je bilo posnetih v zadnjih 12 mesecih.

Če smo resnično na eksponentni krivulji, ko gre za napredek v visoki tehnologiji, potem je ljudem všeč Jeremy Howard verjetno imajo prav, ko pravi, da nas do umetne strojne inteligence loči le nekaj let, ki tekmuje, če ne celo presega, našo lastno na mnogih področjih, za katere se je prej štelo, da so edinstveno človeške.

In prepričani smo, da se umetna inteligenca prikrade na vedno več področij našega življenja.

Še pred desetletjem so se ljudje smejali slabim zmogljivostim samovozečih avtomobilov. Danes, le desetletje kasneje, samovozeči avtomobili ne morejo samo končati zaprte ceste, ampak vozijo po prometnih avtocestah tik ob avtomobilih, ki jih vozijo ljudje.

In ko računalniki ne premagajo igralcev svetovnega prvaka Go, so zasedeni s takimi stvarmi pisanje člankov o športu in najnovejših novic , pisanje opisov slik, ki jih še nikoli niso videli, in diagnosticiranje raka . Za večino teh nalog so računalniki tako dobri, če ne celo boljši od ljudi, za tiste, ki pa niso, pa učenje kako jih vsak dan delati vedno bolje brez pomoči ljudi.

Pred nekaj kratkimi leti je bila programska oprema za prepoznavanje obrazov neverjetno draga in ni bila tako dobra pri prepoznavanju ljudi v resničnih okoljih. Veljala je za izjemno napredno vohunsko tehnologijo in jo je v resnici uporabljalo le nekaj svetovnih vlad.

Facebook zdaj lahko prekleto označi vaše prijatelje z žara minuli konec tedna.

Pri pospeševanju rasti računalnikov gre za nekaj: nekega dne bo prišlo do točke, ko bomo izdelali računalnik, ki je pametnejši od katerega koli človeka na Zemlji . Tisti dan nas bodo računalniki prevzeli kot glavno reševalce problemov na planetu in od tam bodo naše misli, odločitve in dejanja počasi zastareli. Stroji bodo v vsem boljši od nas, zato vedno več ne bomo naredili nič koristnega.

To nekatere ljudi prestraši. Zamišljajo nekakšno prihodnost, kot je Terminator ali Matrica kjer nas stroji zasužnjujejo ali iztrebljajo.

Drugi se veselijo vzpona robotov z nekakšno kultno vnemo, ker verjamejo, da bodo njihove zmožnosti reševanja problemov toliko presegle naše, da bo življenje postalo nepredstavljivo prijetno in brez težav. Vse bolezni bodo ozdravljene. Revščina, lakota po svetu, vojna in podnebne spremembe bodo rešeni. Imeli bomo neskončno veliko prostega časa, v skrajnih primerih pa nekateri verjamejo, da nas bodo stroji naredili nesmrtne.

DVE MOŽNI IZHODI

Ker nam vedno govorijo, da smo prekleto pozitivni, začnimo s tehno-utopijasti.

Obstajajo takšni ljudje Ray Kurzweil ki mislijo, da tehnologija ne bo le izboljšala našega življenja, ampak bo rešila človeštvo in morda zagotovila naše mesto v vesolju za nedoločen čas. Kurzweil verjame v prihodnjo tehnologijo, kot so nanoboti, ki bodo popravili naše celice in obrnili staranje ali odstranili odvečno maščobo in sladkor, da bomo lahko jedli, kar želimo. In samo v primeru, da naša fizična telesa ne bodo mogla živeti večno, Kurzweil misli, da bomo lahko naložili svoje možgane v oblak in za vedno živeli v virtualnem svetu, še dolgo potem, ko bodo naša fizična telesa odšla.

Drugi v tem taborišču mislijo, da bi umetna super inteligenca lahko odgovorila na vprašanja, ki so preveč zapletena, da bi jih ljudje sploh lahko razumeli, in bomo eksponentno boljši od tega. Ne samo, da bi stroji izumili boljše pripomočke in pripomočke, izumili bi tudi eksponentno učinkovitejše načine gradnje pripomočkov in pripomočkov, kar bi omogočilo tako rekoč vsem na planetu, da izkoristijo svoje prednosti.

Nekaj ​​vrst razlogov podpira to idejo. Prvič, čeprav je tehnologija človeštvu ustvarila nekaj novih težav, kot so jedrsko orožje in znane osebnosti v YouTubu, je to doslej očitno koristilo človeštvu. Kljub temu, kar politiki in strokovnjaki želijo, da verjamete, je povprečna oseba na Zemlji bolje kot pred nekaj kratkimi leti in je v veliki meri posledica tega, da tehnologija postaja boljša, cenejša in bolj razširjena. Če se bo ta trend nadaljeval, nas morda ne bo kaj skrbeti.

Drugič, Kurzweil in njegovi privrženci verjamejo, da tehnologija ne bo imela razloga za škodovanje človeštvu, ker ne samo, da jo ustvarjamo mi, temveč postajajo vse bolj del nas . Verjamejo, da bomo celo dosegli točko, ko se naša biologija in tehnologija ne bosta razlikovali. V tem primeru trdi, da je kakršna koli tehnologija, ki je škodljiva za ljudi, škodljiva tudi sama zase in samodestruktivna tehnologija kakršne koli vrste ne more obstajati. To pomeni, da bi hitro odmrl, tako kot škodljiva genska mutacija hitro odstrani iz genskega sklada. Kakršna koli samodestruktivna tehnologija ne more obstajati.(Foto: m_hweldon / Flickr)

Toda tehno-utopijci so verjetno pristranski, saj ne priznavajo, da je mogoče vse tehnologije uporabiti za različne namene, tako koristne kot uničujoče. Verjetno so pristranski tudi v tem, da ignorirajo dejstvo, da se ljudje počasi prilagajajo novim tehnologijam in da vedno obstajajo skupine ljudi, ki bodo skušale te tehnologije zlorabiti za lastne sebične namene.

V drugem taboru imate tehno-armagedoniste. Popolnoma sem si izmislil to besedo, a očitno obstaja, ker mi je tako povedal preverjanje črkovanja.

Kar tehno-armagedonistom primanjkuje v prepričanju (večina jih preprosto še ni prepričana, kaj naj si mislijo), si izmislijo v zvezdniški moči slavnih. Bill Gates, Stephen Hawking in Elon Musk je le nekaj vodilnih mislecev in znanstvenikov sranje hlač kako hitro se umetna inteligenca razvija in kako premalo smo pripravljeni kot vrsta na njene posledice. Ko so Muska vprašali, kakšne so neposredne grožnje človeštvu v bližnji prihodnosti, je hitro rekel, da obstajajo tri: prva, obsežna jedrska vojna; drugič, podnebne spremembe. Preden je imenoval tretjega, je utihnil. Ko ga je vprašal, kaj je tretji? Nasmehnil se je in rekel, recimo, da upam, da se bodo računalniki odločili, da nam bodo prijazni.

Upam, da nismo samo biološki nalagalnik za digitalno superinteligenco. Na žalost je to vse bolj verjetno

- Elon Musk (@elonmusk) 3. avgust 2014

Verjetno najbolj odkrit in spoštovan izmed tehnoarmagedonistov je švedski filozof Nick Bostrom. Bostrom in drugi se bojijo ene stvari pobegla tehnologija za samoizboljšanje ; to je stroj, ki je dovolj pameten, da je sam (ali nove različice samega sebe) pametnejši brez človekovega posredovanja. Če doseže točko, ko preseže človeško inteligenco, je le zelo kratko vprašanje, kdaj se bo zakon o pospeševanju vračanja sprožil v prevelik pogon in eksponentna krivulja pognala naravnost navzgor in je ne bomo mogli ustaviti. Bostrom tukaj dobro poudarja: ustvarjanje nečesa, kar je pametnejše od vas, bi lahko pomenilo evolucijsko katastrofo za vaše vrste.

Tvegamo zelo resnično, da ne bomo mogli nadzorovati subjekta, ki je veliko bolj inteligenten od nas. Morda bodo računalniki, če bodo postali dovolj pametni, našli način, kako nas podomačiti, podobno kot ljudje udomačeni konji, da opravljamo delo, kot so vlečni plugi, vozički in vojaške kočije (ali kar koli že hudiči konji takrat). Strašljiv del je, da je to morda najboljši scenarij za nas - opravljanje dela za stroje, ki jih ne morejo ali nočejo - ker so ravno tako, kot so ljudje ustvarili novo tehnologijo za zamenjavo konja, super inteligentni samoizboljševalec stroj bi sčasoma prišel z novo tehnologijo, ki bi nas nadomestila. No, recimo, recimo, da populacija konj ni več takšna, kot je bila včasih.

Nekateri trdijo, da to ni verjetno, ker ljudje tehnologijo gradijo z mislijo na varnost. Toda ime zadnjič, da velikega tehnološkega preboja ni nekdo uporabil za podle ali uničujoče namene? O ja, tako je. Nikoli.

ZAKAJ MENE NE zanima, kaj se zgodi, in NI TI NE SME

Predpostavimo torej, da so ustvarjeni super inteligentni stroji, ki človeštvo onemogočajo. Predpostavimo, da niso nekako integrirani v nas in naše možgane in predpostavimo, da imajo ljudje, kot sta Hawking in Musk, prav: da je človeštvo v resnici le večtisočletni zagonski pogon do digitalne hiperinteligence in smo preživeli svojo uporabnost.

Še vedno me to ne skrbi.

Zakaj? No, da bi se vlak s kroglami še naprej vozil, vzemimo točko po točki:

1. Strojno razumevanje dobrega / zla bo verjetno preseglo naše lastno. Kdaj je pes ali delfin nazadnje storil genocid? Kdaj se je računalnik nazadnje odločil, da bo uparjal celotna mesta v imenu abstraktnih konceptov, kot sta 'svoboda' in 'svetovni mir'?

Tako je, odgovor ni nikoli.

Moja poanta tukaj ni v tem, da inteligentni stroji ne bodo želeli iztrebiti celotne človeške vrste. Moja poanta je, da kot ljudje tukaj mečemo kamenje iz steklene hiše. Kaj za vraga vemo o etiki in človeškem ravnanju z živalmi, okoljem in med seboj? Na katero nogo moramo stati?

Tako je: skoraj nič. Kar zadeva moralna vprašanja, človeštvo preteklost preizkusi. Superinteligentni stroji bodo verjetno etiko, življenje / smrt, ustvarjanje / uničenje razumeli na veliko višji ravni, kot bi jo kdaj koli sami. In ta ideja, da nas bodo iztrebili zaradi preprostega dejstva, da nismo več tako produktivni, kot smo bili včasih, ali da smo včasih lahko moteči, mislim, da samo projicira najslabše vidike lastne psihologije na nekaj, kar ne vem in ne morem razumeti.

Trenutno večina človeške morale temelji na obsesivnem ohranjanju in promociji vsake posamezne človeške zavesti. Kaj pa, če napredna tehnologija postane posamezna človeška zavest samovoljna? Kaj pa, če lahko zavest poljubno reproduciramo, razširimo in krčimo? Popolnoma bo izničil vsako etično razumevanje, ki bi ga kdaj imeli. Kaj pa, če bi bila odstranitev vseh teh kosilih, neučinkovitih bioloških zaporov, ki jih imenujemo telesa, dejansko veliko bolj etična odločitev, kot pa, če bi nam dovolili, da se še naprej mečkamo in brizgamo skozi 80 in nekaj let obstoja? Kaj če stroji spoznajo, da bi bili veliko bolj srečni, če bi bili osvobojeni svojih intelektualnih zaporov in bi naše zavestno dojemanje lastnih identitet razširilo, da bi vključevalo vso zaznavno resničnost? Kaj pa, če mislijo, da smo zgolj kopica slepavih idiotov in nas zaposlujejo z neverjetno dobro pico in video igrami, dokler vsi ne umremo zaradi lastne smrtnosti? Koga naj poznamo? In kdo smo, da rečemo?

A rekel bom tako: veliko bolje bodo obveščeni kot kdaj koli prej.

2. Tudi če se odločijo, da nas bodo ubili ali zasužnjili, bodo pri tem zagotovo praktični. Ljudje ponavadi povzročajo največ težav, ko smo mi nesrečen . Ko nismo srečni, takrat postanemo vsi razpoloženi in cvilivi ter jezni in nasilni. Takrat začnemo s političnimi vstajami in verski kulti bombardiranje oddaljenih držav in zahtevno spoštuj naše pravice! in začnite ubijati brez razlikovanja, dokler nam nekdo ne posveti pozornosti kot mama nikoli .

Če nas stroji poskušajo narediti tako, kot je Skynet Terminator , potem bomo imeli v rokah svetovno državljansko vojno, in to ni dobro za nikogar, zlasti za stroje. Državljanske vojne so neučinkovite. In stroji so programirani za učinkovitost.

Ko smo ljudje srečni, za takšne stvari nimamo časa - prezaposleni smo s hihitanjem in prekleto, da bi nam bilo mar. Zato bi bili veliko bolj praktični načini, da se nas znebijo, če bi stroji z nami manipulirali, da bi se z veseljem rešili sami sebe. Tako bo Jim Jones v svetovnem merilu. Karkoli nam bodo pripravili, se bo zdelo najboljša prekleta ideja, za katero smo že slišali - nihče od nas se ji ne bo mogel upreti in vsi se bomo evforično strinjali z njihovim načrtom - in potem boom, bo konec . Hitro in neboleče. To bo najbolje okušen Kool-Aid, ki je bil kdajkoli zasnovan s cianidom. In vsi bomo v vrsti, ki ga bomo veselo požrli.

Zdaj, če pomislite, to ni tako slaba pot. Utripi, ki jih brez bomb bombardirajo ali izparijo v jedrski eksploziji.

Kar zadeva zasužnjevanje, gre isto. Delirično srečen suženj se nikoli ne upira. Predstavljam si nekakšen posel vrste Matrix-y, kjer smo stalno v halucinogenem stanju, kjer je Mardi Gras na MDMA skoraj 24 ur na dan 7/7/365. Ne more biti tako slabo, kajne?

3. Ni se nam treba bati tistega, česar ne razumemo. Velikokrat bodo starši vzgojili otroka, ki je veliko bolj inteligenten, izobražen in uspešen kot oni. Starši se nato na tega otroka odzovejo na dva načina: bodisi se ga ustrašijo, so negotovi in ​​ga obupajo, da bi ga nadzorovali v strahu, da bi ga izgubili, ali pa sedijo in cenijo in ljubijo, da so ustvarili nekaj tako velikega, da lahko tudi oni Popolnoma ne dojemajo, kaj je njihov otrok postal.

Tisti, ki skušajo nadzirati svojega otroka s strahom in manipulacijami, so usrani starši. Mislim, da bi se večina ljudi strinjala s tem.

In prav zdaj, ob bližnjem pojavu strojev, ki bodo postavili vas, mene in vse, ki jih poznamo brez dela , obnašamo se kot usrani starši. Kot vrsta smo na robu rojstva najnaprednejšega in najinteligentnejšega otroka v našem znanem vesolju. V nadaljevanju bo počel stvari, ki jih ne moremo razumeti ali razumeti. Lahko nam ostane ljubeč in zvest. Lahko nas pripelje in vključi v svoje dogodivščine. Ali pa se lahko odloči, da smo usrani starši, in nas neha klicati nazaj.

Karkoli se bo zgodilo, to ne bi smelo spremeniti našega občutka v tem trenutku. Večji je od nas. Koga briga, če smo en velik, dolg evolucijski zagonski disk za nekaj večjega, kot ga lahko razumemo? To je super! Pomeni, da smo imeli eno službo. In prišli smo in to zares naredili. Bodite srečni, da ste bili del generacije, ki je videla, kako se je to storilo. In zdaj solzno pomahajte v slovo, ko se naš otrok pripravi na selitev iz hiše in začeti življenje tako neverjetno da obstaja onkraj obzorja našega razumevanja.

Mark Manson je avtor, bloger in podjetnik, ki piše na markmanson.net .