Pokud Singularitě nemůžeme zabránit ani ji spoutat, jak zlá by mohla být
posthumánní éra? No ... hodně zlá. Jednou z možností je vyhynutí lidské rasy.
(Vezmeme-li v úvahu, co všechno taková technika může dokázat, vlády by mohly
přijít k závěru, že občany už nepotřebují!) Přesto by fyzické vyhubení
nemuselo být tou nejděsivější možností. Použijme opět analogii: Pomysleme na
naše chování ke zvířatům. Některé způsoby krutého fyzického týrání jsou
nepřijatelné, ale ... V posthumánním světě by stále byla spousta míst, kde je
žádoucí automatizace vyžadující schopnosti ekvivalentní lidským: systémy
začleněné do autonomních zařízení, vědomím vybavené kontrolní subsystémy pro
výkon nižších činností ve větších cítících organizmech.) Některé z těchto
lidských ekvivalentů by mohly být využívány pro pouhé digitální zpracování
signálů. Byly by podobnější velrybám než lidem. Jiné by mohly vypadat velice
lidsky, ale byly by jednostranné - natolik, že dnes by je to přivedlo na psychiatrickou
kliniku. Třebaže žádní z těchto tvorů by nemuseli být lidmi z masa a kostí, mohli
by v novém prostředí být čímsi, co je nejbližší k tomu, co dnes nazýváme lidmi.
(I. J. Good k tomu měl co říci, ačkoli dnes už je jeho rada diskutabilní. Good [12]
navrhl "meta-zlaté pravidlo", které lze parafrázovat slovy: "Chovej se k
nižším tvorům tak, jak bys chtěl, aby se vyšší tvorové chovali k tobě." Je
to skvělá, byť paradoxní idea - a většina mých přátel v ni nevěří - protože
očekávaná výhra ve smyslu teorie her se obtížně vyjadřuje. Kdybychom to však
dokázali, mohla by nám v jistém smyslu říci něco o pravděpodobnosti takové
dobrosrdečnosti v tomto vesmíru.)
V předchozím jsem argumentoval, že Singularitě nemůžeme zabránit, že se
blíží jako nevyhnutelný důsledek lidské přirozené soutěživosti a možností
technice vlastní. A přesto - my jsme to uvedli do pohybu. I ta největší lavina se
spouští maličkostmi. Máme svobodu v tom, jaké počáteční podmínky zavedeme, aby
se věci udály co nejméně nepřátelsky. Samozřejmě (jako při spouštění laviny)
nemusí být jasné, kterým směrem máme věci "pošťouchnout".
Další cesty k singularitě: posilování inteligence
Mluví-li lidé o vytvoření nadlidsky inteligentních bytostí, představují si
obvykle projekty umělé inteligence (AI). Jak jsem však poznamenal na začátku této
stati, k nadlidskosti vedou i jiné cesty. Počítačové sítě a interfejs
člověk-počítač vypadají pozemštěji než AI, a přesto mohou vést k Singularitě.
Toto odlišné pojetí budu označovat jako posilování inteligence (intelligence
amplification - IA). IA je něco, co postupuje velmi přirozeně, většinou ti, kdo
ho vyvíjejí, ani nepostřehnou, co se děje. Avšak pokaždé, kdy se zlepší naše
schopnost přístupu k informacím a předáme ji ostatním, udělali jsme v jistém
smyslu krůček nad přirozenou inteligenci. Už dnes tým složený z lidí s vědeckým
titulem a s dobrou pracovní stanicí (i když nebude zapojena do sítě!) by asi mohl
dosáhnout špičkových výsledků ve kterémkoli psaném testu inteligence.
A je velmi pravděpodobné, že IA je mnohem snazší cesta k dosažení nadlidskosti
než čistá AI. V lidských bytostech byly největší vývojové problémy už asi
vyřešeny. Stavět na tom, co je v nás, by mělo být snazší než nejprve zjistit, co
jsme zač, a potom konstruovat stroje na stejném principu. A je zde aspoň hypotetický
precedens. Cairns-Smith [6] spekuloval, že biologický život možná začal jako
přídavek k ještě primitivnějšímu životu založenému na růstu krystalů. Lynn
Margulis (v [15] i jinde) předložil pádné argumenty ve prospěch názoru, že
vzájemný vztah je v evoluci silným hybným činitelem.
Poznamenávám, že nenavrhuji, abychom ignorovali výzkum AI nebo na něj věnovali
méně prostředků. To, co se povede v AI bude asi použitelné i v IA a naopak. Navrhuji
pouze uvědomit si, že ve výzkumu sítí a interfejsů je něco stejně závažného (a
potenciálně nebezpečného) jako v AI. S tímto pochopením před sebou můžeme vidět
projekty, které nejsou jen přímo aplikovatelné jako konvenční interfejsy a návrh
sítí, ale které nás posunou blíže k Singularitě po cestě IA.
Zde jsou některé možné projekty, které mají z hlediska IA zvláštní význam:
- Automatizace týmu člověk-počítač: Vezměme si problémy, které se normálně
považují za vhodné pro čistě strojové řešení (jako je problém maximalizace
funkcí) a navrhněme programy a interfejs, které využijí lidskou intuici a
počítačový hardware. Vezmeme-li v úvahu všechnu bizarnost vícerozměrných
problémů tohoto typu (a elegantní algoritmy, které byly pro jejich řešení
vymyšleny), bylo by možno navrhnout velmi zajímavé zobrazovací a ovládací prvky pro
použití lidským členem týmu.
- Vývoj symbiózy člověk-počítač v umění: Zkombinujme grafické zobrazovací
možnosti moderních počítačů a estetické cítění člověka. Samozřejmě již bylo
věnováno ohromné úsilí návrhu počítačových nástrojů pro umělce zaměřené na
usnadnění jejich práce. Navrhuji, abychom se výslovně zaměřili na větší
splynutí úloh člověka a počítače, abychom explicitně posílili kooperatovní
přístup. Obdivuhodnou práci v tomto směru udělal Karl Sims [23].
- Dovolit na šachových turnajích kombinované týmy člověk-počítač. Už máme
programy, které dokáží hrát lépe než většina lidí. [Pozn. překl.: Od roku 1997
můžeme vynechávat slovo "většina" - program Deep Blue běžící na
počítači doplněném speciálním šachovým hardwarem porazil v zápase na 6 partií
úřadujícího mistra světa. Brzy poté byl počítač ve zmíněné speciální
úpravě likvidován.] Kolik úsilí však bylo věnováno tomu, jak by jejich sílu mohl
využít člověk, abychom získali něco ještě lepšího. Kdyby účast takových
týmů byla připuštěna alespoň na některých turnajích, mohlo by to na výzkum IA
mít pozitivní efekt, stejně jako připuštění účasti samotných počítačů mělo
v oblasti AI.
- Vyvinout interfejs, který by umožňoval přístup k počítači a k síti, aniž by
člověk byl uvázán na jediné místo vsedě před počítačem. (Tento aspekt IA
představuje tak velké ekonomické výhody, že je mu už věnováno mnoho úsilí.)
- Vytvořit symetričtější systémy pro podporu rozhodování. Výzkum a tvorba
rozhodovacích systémů je v posledních letech populární oblastí. Je to forma IA, ale
možná je příliš soustředěna na systémy "věštecké". Stejně
důležité jako to, aby systém dával uživateli informace, musí být i otázka, jak
má uživatel dávat systému vodítka.
- Využívat lokální sítě tak, aby lidské týmy skutečně pracovaly (tj. aby byly
efektivnější než jejich samostatní členové). Obecně to spadá do oblasti
"groupware", což už je velmi populární komerční činnost. Přístup k ní
by se však měl zaměřit na to, aby činnost skupiny byla chápána jako sladěný
organismus. V jednom smyslu lze tento návrh brát s cílem vytvořit "pravidla
uspořádání" takových sladěných organismů. Například hlavní zaměření
může být udržováno snáze než pomocí klasických pracovních porad. Kvalifikace
jednotlivých členů týmu může být oddělena od osobních záležitostí, aby se
přínos jednotlivých členů soustředil na týmový projekt. A samozřejmě sdílené
databáze se využívají mnohem lépe než výsledky činnosti komise. (Poznamenávám,
že tento návrh je zaměřen na týmovou práci a ne na politické schůze. V politice by
výše popsaná automatizace pouze zvýšila moc těch, kdo určují pravidla!)
- Využívat celosvětově rozšířený Internet jako nástroj pro souhru člověka a
stroje. Ze všech bodů tohoto seznamu rozvoj tohoto bodu postupuje nejrychleji a může
nás dovést k Singularitě dříve než cokoli jiného. Síla a vliv i dnešního
Internetu [tj. Internetu z r. 1993 - pozn. překl.] se výrazně podceňuje. Například
si myslím, že naše současné počítačové systémy by se zhroutily pod tíhou
vlastní složitosti nebýt výhody, kterou správcům systému a lidem z technické
podpory dává "skupinové vědomí" Usenetu! Sama anarchie panující v
celosvětovém vývoji sítí je důkazem jejího potenciálu. Jak se rozšiřuje
konektivita, přenosová rychlost, rozsah archivů a rychlost počítačů, vidíme něco
jako Margulisovu [15] vizi biosféry jakožto vyššího stupně datového
procesoru, milionkrát rychlejšího a složeného z milionů lidských inteligentních
komponent (nás).
|