|
Výše uvedené příklady ilustrují výzkum, který může probíhat v rámci
současných kateder výpočetní techniky (informatiky). Jsou i jiná paradigmata.
Například mnohým pracím spojeným s umělou inteligencí a neuronovými sítěmi by
prospělo těsnější sepětí s biologickým životem. Místo pokusů prostě modelovat
biologický život na počítačích a pochopit ho by výzkum mohl být zaměřen na
vytvoření složitých systémů spoléhajících na biologický život jako vodítko
nebo pro využití vlastností, které dosud neznáme dostatečně na to, abychom je
implementovali v hardwaru. Dlouhotrvajícím snem science fiction je přímé napojení
mozku na počítač [2] [29]. Skutečně existují konkrétní práce, které je možno v
tého oblasti provádět (a které se již provádějí):
- Protézy končetin jsou oblastí s přímou komerční použitelností. Transducery
nerv-křemík jsou vyrobitelné [14]. Jde o vzrušující nepříliš vzdálený krok k
přímé komunikaci.
- Přímé propojení do mozku vypadá dosažitelně, pokud bude nízká přenosová
rychlost. Při lidské flexibilitě procesu učení by nemuselo být nutné vybrat
přesný cíl. I rychlost 1000 bit/s by bylo velkou pomocí pro oběti mozkové mrtvice,
které by jinak byly odkázány na interfejs založený na menu.
- Připojení na zrakový nerv by umožnilo dosáhnout přenosové rychlosti kolem 1
Mbit/s. K tomu bychom však potřebovali znát detailně, jak funguje zpracování
zrakových vjemů a museli bychom umístit obrovskou síť elektrod s mimořádnou
přesností. Pokud by naše rychlé připojení mělo fungovat navíc k drahám,
které už v mozku jsou, problém se stává mnohem nezvládnutelnější. Prosté
zasunutí sítě propojovacích prvků do mozku by určitě nefungovalo. Předpokládejme
však, že by taková síť s rychlým přenosem byla v mozku přítomna už v době, kdy
se struktura mozku utváří během vývoje embrya. Z toho vyplývají:
- Pokusy na zvířecích embryích. V prvních letech takového výzkumu bych nečekal
žádné úspěchy na poli IA, ale poskytnout vyvíjejícím se mozkům přístup ke
komplexně simulovaným neuronovým strukturám by mohlo být velmi zajímavé pro lidi,
kteří studují, jak se vyvíjí mozek embrya. V dlouhodobém výhledu by takové
experimenty mohly vést k vytvoření živočichů s přidanými senzorickými drahami a
zajímavými intelektuálními schopnostmi.
Původně jsem doufal, že tato diskuse o IA vyústí v nějaký zřetelně
bezpečnější přístup k Singularitě. (Konec konců IA připouští, abychom se
podíleli na jakési transcendentnosti.) Bohužel, podívám-li se zpět na zmíněné
návrhy pro IA, skoro vše, čím jsem si jist, je to, že by se měly vzít v úvahu, že
by nám mohly poskytnout další možnosti. Pokud se však týká bezpečnosti - některé
z těchto návrhů jsou poněkud děsivé. Jeden z mých neformálních recenzentů
poukázal na to, že IA pro jednotlivé lidi vytváří dost zlověstnou elitu. My lidé
jsme zatíženi miliony let evoluce, díky níž se díváme na soupeření druhů v
mrtvolném osvětlení. Mnohé takové obavy nejsou nutné v dnešním světě, kde ten,
kdo prohrává, přebírá finty vítěze a je kooptován do vítězné firmy. Bytost
stvořená de novo by mohla být mnohem dobrotivější než ta, v jejíchž
kořenech byly tesáky a drápy. A i na rovnostářskou vizi Internetu, který se probudí
spolu s celým lidstvem, se lze dívat jako na noční můru [26].
Problém není prostě v tom, že Singularita představuje ústup lidstva ze středu
scény, ale v tom, že protiřečí našim hluboce zakořeněným představám o
existenci. Myslím, že bližší pohled na pojem silné nadlidskosti může vysvětlit,
proč tomu tak je.
Silná nadlidskost a to nejlepší, co můžeme chtít
Předpokládejme, že můžeme Singularitu přizpůsobit. Předpokládejme, že
můžeme dosáhnout splnění našich nejpřemrštěnějších nadějí. Co si potom
můžeme přát - aby se našimi nástupci stali zase lidé, aby se každá nespravedlnost
zmírnila naší znalostí vlastních kořenů. Pro ty, kdo zůstanou nezměněni, by
cílem bylo vlídné zacházení (možná i s tím, že zaostalí obyčejní lidé budou
mít dojem, že jsou pány božských otroků). Mohl by to být zlatý věk, v němž
by existoval pokrok (přeskočení Stentovy bariéry). Bylo by možno dosáhnout
nesmrtelnosti (nebo aspoň délky života limitované existencí vesmíru [10] [4]).
V tomto nejradostnějším a nejlaskavějším světě by nastaly hrozivé problémy
filozofického rázu. Mysl, jejíž kapacita zůstává stálá, nemůže žít věčně;
po několika tisících let by se podobala více smyčce magnetofonové pásky než
osobnosti. (Z toho, co jsem na toto téma četl, mi nejvíce běhal mráz po zádech v
[18].) Aby se dalo žít neomezeně dlouho, musí se samotná mysl rozvíjet ... a když
se stane dostatečně velkou ... jaký pocit sounáležitosti bude mít s duší, kterou
původně bývala? Nová bytost by samozřejmě byla vším, čím byl originál, ale
současně něčím tolik větším. A tak i pro individuum musí stále platit
Cairnsova-Smithova nebo Margulisova představa nového života inkrementálně
vyrůstajícího ze starého.
Tento "problém" s nesmrtelností se vynořuje mnoha dalšími
bezprostředními způsoby. Pojem ega a sebeuvědomění byl základem střízlivého
racionalismu posledních několika století. Ještě dnes na pojem vědomí útočí
pracovníci z oblasti umělé inteligence ("sebeuvědomění a jiné bludy").
Posilování inteligence podkopává naše pojetí ega z jiné strany. Postsingulární
svět by vyžadoval sítě s extrémně velkou rychlostí (šířkou pásma). Ústředním
rysem silně nadlidských bytostí by pravděpodobně byla jejich schopnost komunikace s
proměnnou šířkou pásma zahrnující i rychlosti podstatně větší než u řeči
nebo psaného slova. Co se stane, když kousky ega bude možno zkopírovat a propojit a
úroveň sebeuvědomění se bude moci rozšiřovat nebo zužovat podle odpovídajících
problémů? To jsou základní rysy silné nadlidskosti a Singularity. Přemýšlíme-li o
nich, začneme vyciťovat, jak zásadně divná a odlišná bude posthumánní éra - byť
by byla vytvořena sebechytřeji a sebeneškodněji.
Na jedné straně předložená vize splňuje mnoho našich nejšťastnějších snů:
nekonečný čas, kde se můžeme navzájem opravdu poznat a pochopit nejhlubší
tajemství. Na straně druhé se to hodně podobá scénáři nejhoršího případu,
který jsem předestřel v dřívější části tohoto článku.
Jaké hledisko platí? Ve skutečnosti si myslím, že nová éra je prostě příliš
odlišná, než aby se mohla zařadit do klasického schématu dobra a zla. Tyto pojmy
předpokládají izolované neměnné mysli komunikující navzájem málo a pomalu.
Postsingulární svět však zapadá do širší tradice změn a spolupráce,
která začala před dávnou dobou (možná dokonce před vznikem biologického života).
Myslím, že existují etické pojmy, které by se v takové éře daly
aplikovat. Výzkum v oblasti IA a rychlých komunikací by měl toto porozumění
zlepšit. Záblesky vidím už dnes [32]. Je to Goodovo meta-zlaté pravidlo; možná
existují pravidla, která odliší "sebe" od "druhých" na základě
rychlosti spojení. A zatímco myšlení a "vlastní já" budou mnohem
vágnější pojmy, mnohé z toho, čeho si ceníme (vědomosti, paměť, myšlenky), se
nemusí nikdy vytratit. Myslím že Freeman Dyson to vystihl, když říká [9]:
"Bůh je to, čím se stane mysl, až se vymkne možnostem našeho chápání."
Chtěl bych poděkovat Johnu Carrollovi ze San Diego State University a Howardu
Davidsonovi ze Sun Microsystems za to, že se mnou prodiskutovali předběžný text
tohoto článku.
| 
