Zde je druhá část článku ze série „Počkejte, jak to všechno může být skutečné, proč se o tom stále nemluví na každém rohu.“ V předchozí sérii vešlo ve známost, že na obyvatele planety Země se postupně vkrádá exploze inteligence, snaží se vyvinout z úzce zaměřené na univerzální lidskou inteligenci a nakonec i na umělou superinteligenci.
"Možná máme před sebou extrémně obtížný problém a není známo, kolik času je na jeho řešení vyhrazeno, ale na jeho řešení může záviset budoucnost lidstva." — Nick Bostrom.
První část článku začala docela nevinně. Diskutovali jsme o úzce zaměřené umělé inteligenci (AI, která se specializuje na řešení jednoho konkrétního úkolu jako je určování cest nebo hraní šachů), v našem světě je jich hodně. Poté jsme analyzovali, proč je tak obtížné vypěstovat z AII univerzální umělou inteligenci (GAI, neboli AI, která se z hlediska intelektuálních schopností dá srovnat s člověkem při řešení jakéhokoli problému). Došli jsme k závěru, že exponenciální tempo technologického pokroku naznačuje, že AGI může brzy přijít. Nakonec jsme se rozhodli, že jakmile stroje dosáhnou lidské úrovně inteligence, může se okamžitě stát následující:
Jako obvykle se díváme na obrazovku, nevěříc, že umělá superinteligence (AI, která je mnohem chytřejší než kterýkoli člověk) se může objevit již za našeho života, a vybíráme si emoce, které by nejlépe odrážely náš názor na tuto problematiku.
Než se ponoříme do specifik ASI, připomeňme si, co pro stroj znamená být superinteligentní.
Hlavní rozdíl spočívá mezi rychlou superinteligencí a kvalitativní superinteligencí. Často první věc, která vás napadne, když přemýšlíte o superinteligentním počítači, je, že dokáže myslet mnohem rychleji než člověk - milionkrát rychleji a za pět minut pochopit, co by člověku trvalo deset let. ("Znám kung-fu!")
Zní to působivě a ASI by skutečně mělo myslet rychleji než kdokoli jiný – ale hlavním oddělujícím rysem bude kvalita jeho inteligence, která je úplně jiná. Lidé jsou mnohem chytřejší než opice, ne proto, že by mysleli rychleji, ale protože lidský mozek obsahuje řadu důmyslných kognitivních modulů, které provádějí složité jazykové reprezentace, dlouhodobé plánování, abstraktní myšlení, čehož opice nejsou schopny. Když tisíckrát přetaktujete mozek opice, nebude chytřejší než my - ani za deset let nebude umět sestavit konstruktéra podle návodu, což by člověku zabralo maximálně pár hodin. Jsou věci, které se opice nikdy nenaučí, bez ohledu na to, kolik hodin tomu věnuje nebo jak rychle pracuje její mozek.
Navíc opice neví, jak být člověkem, protože její mozek si prostě není schopen uvědomit existenci jiných světů – opice možná ví, co je člověk a co je mrakodrap, ale nikdy nepochopí, že mrakodrap byl postavené lidmi. V jejím světě vše patří přírodě a makak nejenže neumí postavit mrakodrap, ale ani pochopí, že ho může postavit vůbec někdo. A to je výsledek malého rozdílu v kvalitě inteligence.
V obecném schématu inteligence, o kterém mluvíme, nebo jednoduše podle měřítek biologických bytostí, je rozdíl v kvalitě lidské a opičí inteligence nepatrný. V předchozím článku jsme umístili biologické poznání na žebříčku:
Abyste pochopili, jak vážný by byl superinteligentní stroj, umístěte jej na tomto žebříčku o dvě příčky výše než člověk. Tento stroj může být trochu superinteligentní, ale jeho převaha nad našimi kognitivními schopnostmi bude stejná jako ta naše nad opicemi. A stejně jako šimpanz nemůže nikdy pochopit, že lze postavit mrakodrap, my možná nikdy nepochopíme, co pochopí stroj o pár kroků výš, i když se nám to stroj snaží vysvětlit. A je to jen pár kroků. Chytřejší stroj nás bude vidět jako mravence – roky nás bude ze své pozice učit ty nejjednodušší věci a tyto pokusy budou zcela beznadějné.
Typ superinteligence, o kterém budeme dnes mluvit, leží daleko za tímto žebříčkem. Toto je exploze inteligence – čím chytřejší se stroj stane, tím rychleji může zvýšit svou vlastní inteligenci a postupně zvyšovat hybnost. Může to trvat roky, než takový stroj předčí šimpanze v inteligenci, ale možná pár hodin, než nás předčí o pár stupňů. Od této chvíle může auto každou sekundu přeskočit čtyři kroky. To je důvod, proč bychom to měli pochopit velmi brzy po prvním zprávy že stroj dosáhl úrovně lidské inteligence, můžeme čelit realitě koexistence na Zemi s něčím, co bude na tomto žebříčku mnohem vyšší než my (možná milionkrát výše):
A protože jsme zjistili, že je zcela zbytečné pokoušet se pochopit sílu stroje, který je jen dva zářezy nad námi, pojďme jednou provždy určit, že neexistuje způsob, jak pochopit, co ASI udělá a jaké důsledky to bude pro nás. Kdo tvrdí opak, prostě nechápe, co znamená superinteligence.
Evoluce pomalu a postupně vyvíjela biologický mozek během stovek milionů let, a pokud lidé vytvoří superinteligentní stroj, v některých ohledech evoluci překonáme. Nebo to bude součástí evoluce – evoluce možná funguje tak, že se inteligence vyvíjí postupně, dokud nedosáhne bodu zlomu, který všem živým bytostem předznamenává novou budoucnost:
Z důvodů, které probereme později, se velká část vědecké komunity domnívá, že otázkou není, zda se k tomuto bodu zlomu dostaneme, ale kdy.
Kde budeme po tomhle?
Nemyslím si, že nikdo na tomto světě, já nebo vy, budeme schopni říct, co se stane, až dosáhneme bodu zvratu. Oxfordský filozof a přední teoretik umělé inteligence Nick Bostrom věří, že všechny možné výsledky můžeme rozdělit do dvou širokých kategorií.
Nejprve pohled historie, víme o životě toto: druhy se objevují, existují po určitou dobu a pak nevyhnutelně vypadnou z logu životní rovnováhy a vymřou.
"Všechny druhy zemřou" bylo v historii stejně spolehlivé pravidlo jako "všichni lidé někdy zemřou." 99,9 % druhů odpadlo z klády života a je zcela zřejmé, že pokud druh zůstane na této kládě příliš dlouho, poryv přirozeného větru nebo náhlý asteroid tuto kládu převrátí. Bostrom nazývá vyhynutí atraktorovým stavem, místem, kde všechny druhy balancují, aby nespadly na místo, odkud se ještě žádný druh nevrátil.
A zatímco většina vědců uznává, že ASI bude mít schopnost odsoudit lidi k zániku, mnozí také věří, že využití síly ASI umožní jednotlivcům (a druhu jako celku) dosáhnout druhého stavu atraktoru, nesmrtelnosti druhu. . Bostrom věří, že nesmrtelnost druhu je stejně tak atraktorem jako vyhynutí druhů, to znamená, že pokud se do tohoto bodu dostaneme, budeme odsouzeni k věčné existenci. I kdyby tedy všechny druhy až do dneška spadly z tohoto klacku do bazénu vyhynutí, Bostrom věří, že poleno má dvě strany a na Zemi prostě nebyla taková inteligence, která by pochopila, jak padnout na druhou stranu.
Pokud mají Bostrom a další pravdu a ze všech informací, které máme k dispozici, mohou velmi dobře mít, musíme přijmout dvě velmi šokující skutečnosti:
Objevení se ASI poprvé v historii otevře možnost pro druh dosáhnout nesmrtelnosti a vypadnout z fatálního cyklu vyhynutí.
Nástup ASI bude mít tak nepředstavitelně obrovský dopad, že s největší pravděpodobností vytlačí lidstvo z tohoto polena tím či oním směrem.
Je docela možné, že když evoluce dosáhne takového bodu zvratu, vždy to ukončí vztah lidí k proudu života a vytvoří nový svět, s lidmi nebo bez nich.
To vede k jedné zajímavé otázce, kterou by si nepoložil jen lenoch: kdy se dostaneme do tohoto bodu zvratu a kam nás zařadí? Nikdo na světě nezná odpověď na tuto dvojí otázku, ale mnoho chytrých lidí se na ni snaží přijít desítky let. Ve zbytku článku se dozvíme, k čemu přišli.
* * *
Začněme první částí této otázky: kdy bychom měli dosáhnout bodu zlomu? Jinými slovy: kolik času zbývá, než první stroj dosáhne superinteligence?
Názory se liší případ od případu. Mnozí, včetně profesora Vernora Vingea, vědce Bena Goertzela, spoluzakladatele Sun Microsystems Billa Joye a futurologa Raye Kurzweila, souhlasili s odborníkem na strojové učení Jeremym Howardem, když na TED Talk představil následující graf:
Tito lidé sdílejí názor, že ASI brzy přijde – tento exponenciální růst, který se nám dnes zdá pomalý, v příštích několika desetiletích doslova exploduje.
Jiní, jako spoluzakladatel Microsoftu Paul Allen, výzkumný psycholog Gary Marcus, počítačový expert Ernest Davis a technologický podnikatel Mitch Kapor, si myslí, že myslitelé jako Kurzweil vážně podceňují závažnost problému a myslí si, že nejsme tak blízko ke spropitnému. směřovat.
Kurzweilův tábor oponuje, že jediným podceňováním, ke kterému dochází, je ignorování exponenciálního růstu, a pochybovače lze přirovnat k těm, kteří se dívali na pomalu rostoucí internet v roce 1985 a tvrdili, že to nebude mít v blízké budoucnosti žádný dopad na svět. .
„Pochybovači“ by mohli namítnout, že pro pokrok je těžší udělat každý krok, pokud jde o exponenciální inteligenci, která ruší typickou exponenciální povahu technologického pokroku. A tak dále.
Třetí tábor, který zahrnuje Nicka Bostroma, nesouhlasí s prvním a druhým a tvrdí, že a) to vše se může absolutně stát v blízké budoucnosti; a b) neexistuje žádná záruka, že k tomu vůbec dojde nebo že to bude trvat déle.
Jiní, jako filozof Hubert Dreyfus, se domnívají, že všechny tyto tři skupiny naivně věří, že k nějakému bodu zvratu vůbec dojde a že se k ASI s největší pravděpodobností nikdy nedostaneme.
Co se stane, když všechny tyto názory sečteme?
V roce 2013 provedl Bostrom průzkum, ve kterém během série konferencí vyzpovídal stovky odborníků na umělou inteligenci na následující téma: "Jaká bude vaše předpověď pro dosažení AGI na lidské úrovni?" a požádal o optimistický rok (ve kterém budeme mít AGI s 10% šancí), realistický odhad (rok, ve kterém budeme mít 50% šanci, že budeme mít AGI) a silný odhad (nejranější rok, ve kterém AGI se objeví s 90 - procentní pravděpodobností). Zde jsou výsledky:
* Průměrný optimistický rok (10 %): 2022
* Průměrný realistický rok (50 %): 2040
* Průměrný pesimistický rok (90 %): 2075
Průměrní respondenti se domnívají, že za 25 let budeme mít AII spíše než ne. 90procentní šance, že budete mít AIS do roku 2075, znamená, že pokud jste stále ještě docela mladí, pravděpodobně se to stane během vašeho života.
Samostatná studie, kterou nedávno provedl James Barratt (autor uznávané a velmi dobré knihy Náš nejnovější vynález, výňatek z Předložil jsem do povědomí čtenářů Hi-News.ru) a Ben Herzel na výroční konferenci AGI, konferenci AGI, právě ukázali názory lidí na rok, ve kterém se dostaneme k AGI: do roku 2030, 2050, 2100, později nebo nikdy. Zde jsou výsledky:
* 2030: 42 % respondentů
* 2050: 25%
* 2100: 20%
Po roce 2100: 10 %
Nikdy: 2 %
Podobné jako Bostromovy výsledky. V Barrattově průzkumu více než dvě třetiny dotázaných věří, že AGI zde bude do roku 2050, a méně než polovina věří, že AGI zde bude v příštích 15 letech. Je také zarážející, že pouze 2 % dotázaných nevidí AGI v naší budoucnosti vůbec.
Ale AGI není herní měnič jako ASI. Kdy se podle odborníků dočkáme ASI?
Bostrom se zeptal odborníků, kdy dosáhneme ASI: a) dva roky po dosažení AIS (tj. téměř okamžitě kvůli explozi inteligence); b) po 30 letech. Výsledek?
Průměrný názor byl, že k rychlému přechodu z AGI na ASI dojde s 10procentní šancí, ale za 30 let nebo méně by k němu došlo se 75procentní pravděpodobností.
Z těchto údajů nevíme, jaké datum by respondenti dali jako 50procentní šanci ASI, ale na základě dvou výše uvedených odpovědí předpokládejme, že je to 20 let. To znamená, že přední světoví odborníci v oblasti AI věří, že zlom přijde v roce 2060 (AII se objeví v roce 2040 + přechod z AGI na ASI bude trvat 20 let).
Všechny výše uvedené statistiky jsou samozřejmě spekulativní a jednoduše představují názory odborníků na AI, ale také naznačují, že většina dotčených lidí souhlasí s tím, že ASI pravděpodobně dorazí do roku 2060. Jen o 45 let později.
Přejděme k druhé otázce. Když dosáhneme bodu zvratu, na které straně osudové volby budeme rozhodnuti?
Superinteligence bude mít nejmocnější moc a kritická otázka pro nás bude následující:
Kdo nebo co bude tuto moc ovládat a jaká bude jejich motivace?
Odpověď na tuto otázku bude záviset na tom, zda ASI získá neuvěřitelně silný vývoj, nezměrně děsivý vývoj nebo něco mezi tím.
I na tyto otázky se samozřejmě odborná veřejnost snaží odpovědět. Průzkum společnosti Bostrom analyzoval pravděpodobnost možných důsledků dopadu AGI na lidstvo a zjistil, že s 52procentní šancí vše půjde velmi dobře a s 31procentní pravděpodobností půjde všechno buď špatně, nebo extrémně špatně. Anketa připojená na konci předchozí části tohoto tématu, která proběhla mezi vámi, váženými čtenáři Hi-News, přinesla zhruba stejné výsledky. Pro relativně neutrální výsledek byla pravděpodobnost pouze 17 %. Jinými slovy, všichni si myslíme, že příchod AGI bude velký problém. Za zmínku také stojí, že tento průzkum je o vzniku AGI – v případě ASI bude procento neutrality nižší.
Než se ještě hlouběji ponoříme do dobrých a špatných stránek otázky, spojme obě části otázky - "kdy se to stane?" a "je to dobré nebo špatné?" do tabulky, která pokrývá názory většiny odborníků.
Za chvíli si povíme o hlavním táboře, ale nejprve se rozhodněte o své pozici. S největší pravděpodobností jste na stejném místě jako já, než jsem se tímto tématem začal zabývat. Existuje několik důvodů, proč lidé o tomto tématu vůbec nepřemýšlejí:
* Jak bylo zmíněno v prvním díle, filmy vážně mátly lidi a fakta tím, že předkládaly nerealistické scénáře s umělou inteligencí, což vedlo k tomu, že bychom AI neměli brát vůbec vážně. James Barrat přirovnal tuto situaci ke skutečnosti, že Centers for Disease Control vydalo vážné varování před upíry v naší budoucnosti.
* Kvůli takzvaným kognitivním předsudkům je pro nás velmi obtížné uvěřit v realitu něčeho, dokud nemáme důkazy. Lze si s jistotou představit, že informatici z roku 1988 pravidelně diskutují o dalekosáhlých důsledcích nástupu internetu a o tom, co by se z něj mohlo stát, ale lidé sotva věřili, že to změní jejich životy, dokud se to skutečně nestalo. Jen to počítače v roce 1988 neuměly a lidé se jen dívali do svých počítačů a říkali si: „Vážně? Je tohle to, co změní svět?" Jejich představivost byla omezena tím, co se naučili z vlastní zkušenosti, věděli, co je to počítač, a bylo těžké si představit, čeho bude počítač v budoucnu schopen. Totéž se nyní děje s AI. Slyšeli jsme, že se z toho stane vážná věc, ale protože jsme se s tím ještě nesetkali tváří v tvář a obecně vidíme spíše slabé projevy AI v našem moderním světě, je pro nás dost těžké uvěřit, že dojde k drastickému změnit naše životy. Právě těmto předsudkům se staví řada odborníků ze všech táborů i zainteresovaných lidí: snaží se získat naši pozornost hlukem každodenního kolektivního egocentrismu.
* I kdybychom tomu všemu věřili, kolikrát jste dnes přemýšleli o tom, že strávíte zbytek věčnosti v nicotě? Trochu, souhlas. I když je tato skutečnost mnohem důležitější než cokoli, co děláte každý den. Je to proto, že náš mozek má tendenci se soustředit na malé, každodenní věci, bez ohledu na to, jak šílená je dlouhodobá situace, ve které se nacházíme. Jsme prostě takoví, jací jsme.
Jedním z účelů tohoto článku je vzít vás z tábora „Rád přemýšlím o jiných věcech“ a zařadit vás do tábora expertů, i když právě stojíte na křižovatce mezi dvěma tečkovanými čarami na náměstí výše, zcela nerozhodný.
V průběhu výzkumu se ukazuje, že názory většiny lidí se rychle přesouvají k „hlavnímu táboru“ a tři čtvrtiny odborníků spadají do dvou dílčích táborů v hlavním táboře.
Oba tyto tábory navštívíme v plném rozsahu. Začněme zábavou.
Proč může být budoucnost naším největším snem?
Když prozkoumáváme svět AI, nacházíme překvapivé množství lidí v jejich komfortní zóně. Lidé na pravém horním náměstí bzučí vzrušením. Věří, že padneme na dobrou stranu paprsku, a také věří, že k tomu nevyhnutelně dojdeme. Budoucnost je pro ně jen to nejlepší, o čem člověk může snít.
Bod, který tyto lidi odlišuje od ostatních myslitelů, není to, že chtějí být na šťastné straně, ale že si jsou jisti, že na to čekáme.
Tato důvěra vychází z kontroverze. Kritici věří, že pochází z oslepujícího vzrušení, které zastiňuje potenciální negativa. Ale zastánci tvrdí, že chmurné předpovědi jsou vždy naivní; technologie pokračuje a vždy nám pomůže více než uškodí.
Můžete si svobodně vybrat kterýkoli z těchto názorů, ale odložte svou skepsi a podívejte se pořádně na šťastnou stránku kladiny a snažte se přijmout fakt, že vše, o čem čtete, se již mohlo stát. Kdybyste měli lovcům-sběračům ukázat náš svět pohodlí, technologií a nekonečné hojnosti, připadalo by jim to jako kouzelná fantazie – a my se chováme dost skromně, neschopni si připustit, že v budoucnu nás čeká stejná nepochopitelná proměna.
Nick Bostrom popisuje tři cesty, kterými se může superinteligentní systém umělé inteligence vydat:
* Orákulum, které dokáže odpovědět na jakoukoli dobře položenou otázku, včetně obtížných otázek, na které lidé nedokážou odpovědět, jako například „jak lze zefektivnit motor auta?“. Google je primitivní typ „věštce“.
* Džin, který provede jakýkoli příkaz na vysoké úrovni – používá molekulární assembler k vytvoření nové, efektivnější verze automobilového motoru – a čeká na další příkaz.
* Suverén, který bude mít široký přístup a možnost svobodně fungovat ve světě, dělat svá vlastní rozhodnutí a zlepšovat proces. Vymyslí levnější, rychlejší a bezpečnější způsob soukromé dopravy, než je auto.
Tyto otázky a úkoly, které se nám zdají těžké, budou superinteligentnímu systému připadat, jako by někdo požádal o zlepšení situace „spadla mi tužka ze stolu“, ve které byste ji jednoduše zvedli a vrátili zpět.
Eliezer Yudkowsky, americký specialista na umělou inteligenci, dobře poznamenal:
„Neexistují žádné těžké problémy, pouze problémy, které jsou obtížné pro určitou úroveň inteligence. Posuňte se o stupínek výše (z hlediska inteligence) a některé problémy se rázem dostanou z kategorie „nemožné“ do tábora „samozřejmých“. Jeden krok nahoru a všechny budou zřejmé."
Existuje mnoho netrpělivých vědců, vynálezců a podnikatelů, kteří si na našem stole vybrali zónu sebevědomého pohodlí, ale pro procházku k tomu nejlepšímu v tomto nejlepším ze všech možných světů potřebujeme pouze jednoho průvodce.
Ray Kurzweil je ambivalentní. Někteří jeho myšlenky zbožňují, jiní pohrdají. Někteří zůstávají uprostřed – Douglas Hofstadter, diskutující o myšlenkách Kurzweilových knih, výmluvně poznamenal, že „je to tak, že si vezmete hodně dobrého jídla a nějaké psí hovínka a pak to všechno smícháte tak, že nemůžete říct, co je dobré a co je špatné."
Ať se vám jeho nápady líbí nebo ne, nelze je obejít bez stínu zájmu. Začal vymýšlet věci jako teenager a v pozdějších letech vynalezl několik důležitých věcí, včetně prvního plochého skeneru, prvního skeneru pro převod textu na řeč, známého hudebního syntezátoru Kurzweil (první skutečné elektrické piano) a prvního komerčně úspěšný rozpoznávač řeči. Je také autorem pěti uznávaných knih. Kurzweil je ceněn pro své odvážné předpovědi a jeho dosavadní výsledky jsou docela dobré – koncem 80. let, kdy byl internet ještě v plenkách, naznačil, že do roku 2000 se web stane globálním fenoménem. Wall Street Journal označil Kurzweila za „neklidného génia“, Forbes za „globálně myslící stroj“, Inc. Časopis – „právoplatný dědic Edisona“, Bill Gates – „nejlepší z těch, kteří předpovídají budoucnost umělé inteligence“. V roce 2012 najal spoluzakladatel Google Larry Page Kurzweila jako CTO. V roce 2011 spoluzaložil Singularity University, pořádanou NASA a částečně sponzorovanou Googlem.
Jeho životopis je důležitý. Když Kurzweil mluví o své vizi budoucnosti, zní to jako blázen, ale opravdu šílené na tom je, že k šílenství má daleko – je to neuvěřitelně chytrý, vzdělaný a příčetný člověk. Možná si myslíte, že se ve svých předpovědích mýlí, ale není hlupák. Kurzweilovy předpovědi sdílí mnoho odborníků na „komfortní zóny“, Peter Diamandis a Ben Herzel. Zde je to, co se podle jeho názoru stane.
Časová osa
Kurzweil věří, že do roku 2029 dosáhnou počítače úrovně umělé obecné inteligence (AGI) a do roku 2045 nás čeká nejen umělá superinteligence, ale také zcela nový svět – doba tzv. singularity. Jeho časová osa umělé inteligence je stále považována za nehorázně přehnanou, ale za posledních 15 let rychlý vývoj systémů úzké umělé inteligence (AI) způsobil, že mnoho odborníků přešlo ke Kurzweilovi. Jeho předpovědi jsou stále ambicióznější než průzkum společnosti Bostrom (ARI do roku 2040, ASI do roku 2060), ale ne o mnoho.
Podle Kurzweila tři souběžné revoluce v biotechnologii, nanotechnologii a, což je důležitější, AI vedou k singularitě roku 2045. Ale než budeme pokračovat – a nanotechnologie neodmyslitelně následuje umělou inteligenci – věnme chvíli nanotechnologii.
Pár slov o nanotechnologiích
Nanotechnologie je to, co obvykle označujeme jako technologie, které se zabývají manipulací s hmotou v rozsahu 1-100 nanometrů. Nanometr je jedna miliardtina metru nebo miliontina milimetru; do 1-100 nanometrů můžete umístit viry (průměr 100 nm), DNA (šířka 10 nm), molekuly hemoglobinu (5 nm), glukózu (1 nm) a další. Pokud se někdy nanotechnologie stane naší, dalším krokem bude manipulace s jednotlivými atomy, které jsou jen o jeden řád menší (~,1 nm).
Abychom pochopili, kde lidé narážejí na problémy, když se snaží manipulovat hmotou v takovém měřítku, pojďme rychle vpřed k většímu měřítku. Mezinárodní vesmírná stanice se nachází 481 kilometrů nad Zemí. Pokud by lidé byli obři a zasáhli ISS hlavou, byli by 250 000krát větší, než jsou nyní. Pokud zvětšíte něco od 1 do 100 nanometrů faktorem 250 000, dostanete 2,5 centimetru. Nanotechnologie je ekvivalentem člověka vysokého jako ISS, který se snaží ovládat věci velikosti zrnka písku nebo oční bulvy. Aby se obr dostal na další úroveň – ovládání jednotlivých atomů – bude muset pečlivě umístit předměty o průměru 1/40 milimetru. Obyčejní lidé by potřebovali mikroskop, aby je viděli.
Richard Feynman poprvé hovořil o nanotechnologii v roce 1959. Potom řekl: „Fyzikální principy, pokud mohu říci, nemluví proti možnosti ovládat věci atom po atomu. V zásadě by fyzik mohl syntetizovat jakoukoli chemickou látku zapsanou chemikem. Jak? Umístěním atomů tam, kde chemik říká, aby se vytvořila látka." To vše je jednoduchost. Pokud víte, jak pohybovat jednotlivými molekulami nebo atomy, můžete dělat téměř cokoliv.
Nanotechnologie se stala vážným vědeckým oborem v roce 1986, kdy inženýr Eric Drexler představil její základy ve své zásadní knize Machines of Creation, nicméně Drexler sám věří, že ti, kdo se chtějí dozvědět více o současných myšlenkách v nanotechnologii, by si měli přečíst jeho knihu z roku 2013 „Full Abundance“ (Radical Hojnost).
Pár slov o "šedém slizu"
Ponoříme se do nanotechnologií. Zejména téma „grey goo“ je jedním z nejnepříjemnějších témat v oblasti nanotechnologií, které nelze ignorovat. Ve starších verzích teorie nanotechnologií byla navržena metoda nanoassemblace, zahrnující vytvoření bilionů drobných nanorobotů, kteří by společně něco vytvořili. Jedním ze způsobů, jak vytvořit biliony nanorobotů, je vytvořit jednoho, který se dokáže reprodukovat, tedy z jednoho - dvou, ze dvou - čtyř a tak dále. Za den se objeví několik bilionů nanorobotů. Taková je síla exponenciálního růstu. Je to legrační, že?
Je to vtipné, ale přesně tak dlouho, dokud to nevede k apokalypse. Problém je v tom, že díky síle exponenciálního růstu, díky které je docela pohodlné rychle vytvořit bilion nanobotů, je z dlouhodobého hlediska sebereplikace děsivá. Co když se systém zhroutí a místo zastavení replikace na několika bilionech se nanoboti budou dál množit? Co když celý tento proces závisí na uhlíku? Biomasa Země obsahuje 10^45 atomů uhlíku. Nanobot by musel mít řádově 10^6 atomů uhlíku, takže 10^39 nanobotů by pohltilo veškerý život na Zemi během pouhých 130 replikací. Oceán nanobotů („šedý sliz“) zaplaví planetu. Vědci se domnívají, že nanoboti se mohou replikovat za 100 sekund, což znamená, že jednoduchá chyba by mohla zabít veškerý život na Zemi za pouhé 3,5 hodiny.
Ještě horší to může být, pokud ruce teroristů a nepříznivých specialistů dosáhnou nanotechnologií. Dokázali vytvořit několik bilionů nanobotů a naprogramovat je tak, aby se během několika týdnů tiše rozšířili po celém světě. Pak stisknutím tlačítka, za pouhých 90 minut, sežerou všechno bez šance.
Přestože se o tomto hororovém příběhu léta hojně diskutuje, dobrou zprávou je, že jde pouze o hororový příběh. Eric Drexler, který vymyslel termín „grey goo“, nedávno řekl: „Lidé milují hororové příběhy a tento patří do kategorie hororových příběhů o zombie. Tato myšlenka už sama o sobě požírá mozky.
Jakmile se dostaneme na dno nanotechnologie, můžeme z ní vytvářet technická zařízení, oblečení, potraviny, bioprodukty – krvinky, bojovníci s viry a rakovinou, svalová tkáň atd. – cokoliv. A ve světě, který využívá nanotechnologii, cena materiálu již nebude vázána na jeho nedostatek nebo složitost jeho výrobního procesu, ale spíše na složitost jeho atomové struktury. Ve světě nanotechnologií by mohl být diamant levnější než guma.
Ještě nejsme ani blízko. A není zcela jasné, zda složitost této cesty podceňujeme nebo přeceňujeme. Vše však směřuje k tomu, že nanotechnologie není daleko. Kurzweil naznačuje, že do roku 2020 je budeme mít. Světové vlády vědí, že nanotechnologie mohou slibovat velkou budoucnost, a proto do nich investují mnoho miliard.
Jen si představte, jaké schopnosti by získal superinteligentní počítač, kdyby se dostal ke spolehlivému assembleru v nanoměřítku. Ale nanotechnologie je náš nápad a snažíme se na něm jezdit, je to pro nás těžké. Co když pro systém ASI budou pouhou srandou a samotné ASI přijde s technologiemi, které budou mnohonásobně výkonnější než cokoli, co si v principu vůbec dokážeme představit? Shodli jsme se: nikdo nemůže odhadnout, čeho bude umělá superinteligence schopna? Existuje názor, že náš mozek není schopen předpovědět ani minimum toho, co se stane.
Co by pro nás umělá inteligence mohla udělat?
Vyzbrojeni superinteligencí a všemi technologiemi, které by superinteligence mohla vytvořit, bude ASI pravděpodobně schopna vyřešit všechny problémy lidstva. Globální oteplování? CSI nejprve zastaví emise oxidu uhličitého tím, že přijde s řadou účinných způsobů výroby energie, které nezahrnují fosilní paliva. Poté přijde s účinným inovativním způsobem odstranění přebytečného CO2 z atmosféry. Rakovina a další nemoci? Není problém – zdravotnictví a medicína se změní nepředstavitelným způsobem. Světový hlad? ISI použije nanotechnologii k vytvoření masa identického s přírodním, od základu, skutečným masem.
Nanotechnologie dokážou proměnit hromadu odpadků v káď s čerstvým masem nebo jinými potravinami (ne nutně ani v obvyklé podobě – představte si obří kostku jablka) a všechny tyto potraviny distribuovat po celém světě pomocí pokročilých dopravních systémů. Samozřejmě to bude skvělé pro zvířata, která už nebudou muset umírat kvůli jídlu. ASI může také dělat mnoho dalších věcí, jako je záchrana ohrožených druhů nebo dokonce návrat těch, které již vyhynuly ze zachované DNA. ASI může vyřešit naše nejobtížnější makroekonomické problémy – naše nejobtížnější ekonomické debaty, otázky etiky a filozofie, světový obchod – to vše bude pro ASI bolestně zřejmé.
Ale je tu něco speciálního, co by pro nás ISI mohla udělat. Lákavé a škádlivé, které by vše změnily: ASI nám může pomoci vypořádat se s úmrtností. Postupným pochopením možností AI je možné, že přehodnotíte všechny své představy o smrti.
Nebyl žádný důvod, aby evoluce prodlužovala náš život nad rámec toho, co je nyní. Pokud žijeme dostatečně dlouho na to, abychom děti nosili a vychovávali do té míry, že se o sebe dokážou postarat samy, evoluce postačí. Z evolučního hlediska stačí na vývoj 30+ let a není důvod pro mutace prodlužující život a snižující hodnotu přírodního výběru. William Butler Yeats nazval náš druh „duší připoutanou k umírajícímu zvířeti“. Nic moc zábavného.
A protože všichni někdy zemřeme, žijeme s myšlenkou, že smrt je nevyhnutelná. Přemýšlíme o stárnutí v průběhu času – neustále se posouvat vpřed a nejsme schopni tento proces zastavit. Ale myšlenka na smrt je zrádná: chyceni jí, zapomínáme žít. Richard Feynman napsal:
„V biologii je úžasná věc: v této vědě není nic, co by mluvilo o nutnosti smrti. Pokud chceme vytvořit perpetum mobile, uvědomíme si, že jsme ve fyzice objevili dostatek zákonů, které buď naznačují, že to není možné, nebo že zákony jsou špatné. V biologii ale není nic, co by naznačovalo nevyhnutelnost smrti. To mě vede k přesvědčení, že to není tak nevyhnutelné a je jen otázkou času, kdy biologové odhalí příčinu tohoto problému, tuto hroznou univerzální nemoc, bude vyléčena.
Faktem je, že stárnutí nemá nic společného s časem. Stárnutí je opotřebení fyzických materiálů těla. Autodíly také degradují - ale je toto stárnutí nevyhnutelné? Pokud své auto opravíte, když se díly opotřebují, vydrží navždy. Lidské tělo se neliší, jen je složitější.
Kurzweil hovoří o inteligentních nanobotech připojených k Wi-Fi v krevním řečišti, kteří by mohli vykonávat nespočet úkolů pro lidské zdraví, včetně pravidelné opravy nebo výměny opotřebovaných buněk v jakékoli části těla. Pokud se tento proces zlepší (nebo alternativa navržená chytřejšími ASI), nejenže udrží tělo zdravé, ale může zvrátit stárnutí. Rozdíl mezi tělem 60letého a 30letého člověka spočívá v několika fyzických problémech, které by mohly být napraveny správnou technologií. ASI dokázalo postavit stroj, do kterého by člověk vstoupil v 60 letech a vystoupil ve 30 letech.
I zdegenerovaný mozek by se dal obnovit. ASI by jistě věděl, jak to udělat, aniž by to ovlivnilo mozková data (osobnost, vzpomínky atd.). Devadesátiletý muž trpící úplnou degradací mozku by se mohl přeškolit, povýšit a vrátit se na začátek své životní kariéry. Může se to zdát absurdní, ale tělo je hrstka atomů a ASI by s nimi jistě mohla snadno manipulovat, jakékoli atomové struktury. Není to všechno tak absurdní.
Kurzweil také věří, že umělé materiály budou postupem času stále více integrovány do těla. Pro začátek by mohly být orgány nahrazeny ultra pokročilými verzemi strojů, které by vydržely věčně a nikdy neselhaly. Pak bychom mohli provést kompletní přepracování těla, nahradit červené krvinky dokonalými nanoboty, které se pohybují samy, a zcela eliminovat potřebu srdce. Mohli bychom také zlepšit své kognitivní schopnosti, začít rychleji myslet v miliardách a přistupovat ke všem informacím dostupným lidstvu prostřednictvím cloudu.
Možnosti, jak dosáhnout nových obzorů, by byly skutečně neomezené. Lidem se podařilo dát sexu nový účel, dělají to pro radost, a ne jen pro reprodukci. Kurzweil si myslí, že totéž můžeme udělat s jídlem. Nanoboti by mohli doručit ideální výživu přímo do buněk těla a umožnit tak nezdravým látkám procházet tělem skrz naskrz. Teoretik nanotechnologií Robert Freitas již vyvinul náhradu za krvinky, která mu po implementaci do lidského těla umožní 15 minut nedýchat – a to vynalezl muž. Představte si, že ISI získá moc.
Kurzweil nakonec věří, že lidé dosáhnou bodu, kdy se stanou zcela umělými; doba, kdy se budeme dívat na biologické materiály a přemýšlet o tom, jak primitivní jsme byli; čas, kdy budeme číst o raných fázích lidských dějin, žasnout nad tím, jak mohly bacily, nehody, nemoci nebo jen stáří zabít člověka proti jeho vůli. Lidé nakonec překonají svou vlastní biologii a stanou se věčnými – taková je cesta na šťastné straně logu rovnováhy, o které mluvíme od samého začátku. A lidé, kteří tomu věří, jsou si také jisti, že nás taková budoucnost čeká velmi, velmi brzy.
Určitě vás nepřekvapí, že Kurzweilovy myšlenky vyvolaly silnou kritiku. Jeho singularita v roce 2045 a následný věčný život pro lidi byl nazván „vznešení nerdů“ nebo „inteligentní stvoření lidí s IQ 140“. Jiní zpochybňovali optimistický časový rámec, chápání lidského těla a mozku a připomínali Moorův zákon, který dosud nezmizel. Na každého odborníka, který věří Kurzweilovým myšlenkám, připadají tři, kteří si myslí, že se mýlí.
Nejzajímavější na tom je ale to, že většina odborníků, kteří s ním nesouhlasí, obecně netvrdí, že je to nemožné. Místo toho, aby řekli „nesmysl, tohle se nikdy nestane“, říkají něco jako „tohle všechno se stane, pokud se dostaneme do ASI, ale v tom je ten háček“. Bostrom, jeden z uznávaných odborníků na AI varující před nebezpečím AI, také připouští:
„Stěží bude nějaký problém, který by superinteligence nebyla schopna vyřešit nebo nám dokonce pomoci vyřešit. Nemoci, chudoba, ničení životního prostředí, utrpení všeho druhu – to vše dokáže superinteligence s pomocí nanotechnologie vyřešit během okamžiku. Superinteligence nám také může poskytnout neomezenou životnost zastavením a zvrácením procesu stárnutí pomocí nanomedicíny nebo možnosti nahrát nás do cloudu. Superinteligence může také vytvářet příležitosti pro nekonečné zvýšení intelektuální a emocionální kapacity; může nám pomoci při vytváření světa, ve kterém budeme žít v radosti a porozumění, přibližovat se svým ideálům a pravidelně uskutečňovat své sny.
Toto je citát jednoho z kritiků Kurzweila, který však uznává, že toto vše je možné, pokud se nám podaří vytvořit bezpečné ASI. Kurzweil jednoduše definoval, co by umělá superinteligence měla být, pokud by byla vůbec možná. A jestli je dobrý bůh.
Nejviditelnější kritikou zastánců komfortních zón je, že se mohou zatraceně mýlit o budoucnosti ASI. Kurzweil ve své knize The Singularity věnoval 20 stran ze 700 potenciálním hrozbám ASI. Otázkou není, kdy se dostaneme k ASI, otázkou je, jaká bude jeho motivace. Kurzweil na tuto otázku odpovídá opatrně: „ASI vzejde z mnoha nesourodých snah a bude hluboce integrována do infrastruktury naší civilizace. Ve skutečnosti bude pevně zabudován do našeho těla a mozku. Bude odrážet naše hodnoty, protože bude jedno s námi.“
Ale pokud je odpověď tato, proč se tolik chytrých lidí v tomto světě obává o budoucnost umělé inteligence? Proč Stephen Hawking říká, že vývoj ASI „může znamenat konec lidské rasy“? Bill Gates říká, že „nerozumí lidem, kteří se o to nezajímají“. Elon Musk se obává, že „vyvoláváme démona“. Proč mnoho odborníků považuje ASI za největší hrozbu pro lidstvo?
O tom si povíme příště.
Převzato z waitbutwhy.com, kompilace Tima Urbana. Článek využívá materiály z děl Nicka Bostroma, Jamese Barratta, Ray Kurzweil, Jay Niels-Nielsson, Steven Pinker, Vernor Vinge, Moshe Vardy, Russ Roberts, Stuart Armstrog a Kai Sotal, Susan Schneider, Stuart Russell a Peter Norvig, Theodore Modis, Gary Marcus, Karl Schulman, John Searle, Jaron Lanier, Bill Joy, Kevin Kelly, Paul Allen, Stephen Hawking, Kurt Andersen, Mitch Kapor, Ben Goertzel, Arthur C. Clarke, Hubert Dreyfus, Ted Greenwald, Jeremy Howard.