Umělá inteligence: Příslib technologické revoluce

AI a příslib technologické revoluce – OBSAH

1. Žijeme v sci-fi budoucnosti?
2. Propojujeme mozky
3. Polarizace
4. Emergentní jevy
5. A není to nebezpečné?

Žijeme ve sci-fi budoucnosti?

Žijeme ve sci-fi budoucnosti 90. let? Mnohé z technologií, o kterých psali spisovatelé science fiction na konci minulého tisíciletí, jsou již zde. William Gibson ve své knize Neuromancer psal o „matrixu“ (předchůdci internetu) a umělé inteligenci. Neal Stephenson i William Gibson popisovali metaverze, kde roboti čistí ulice od spamu a kde se můžete nakazit (jazykovým) virem. Téměř ve všech sci-fi se objevují nějaké elektronické peníze („kredity“), které jsou více či méně sledovatelné a dohledatelné. 

Skutečnost je však zajímavější než sci-fi knihy, zejména pokud o ní nečtete v učebnicích dějepisu nebo se o ní neučíte v hodinách dějepisu, ale zažijete ji na vlastní kůži. V této sérii článků se budeme zabývat umělou inteligencí, ale pro začátek ji zasadíme do širšího kontextu, protože se pohybuje v poměrně zajímavém prostředí, které rozšiřuje její možnosti.

Koncem 90. let jsme se začali propojovat. Poštovní konference, e- maily, IRC. To byly první sociální sítě, které se později sdružily kolem svobodných a otevřených projektů (Free and Open Source). Postupně se otevíral nejen software, ale i obsah a „přístup“ ke komunikaci. Najednou jste mohli napsat e-mail prakticky komukoli na světě.

Toto spojení urychlilo fenomén globalizace a umožnilo nám interaktivně komunikovat s větším počtem lidí. Chatová komunikace v kanálech byla dostatečně interaktivní (na rozdíl od e-mailu), ale zároveň umožňovala asynchronní interakci (na rozdíl od telefonních a konferenčních hovorů, které byly stále příliš drahé).

Propojujeme mozky

Vytvořili jsme také paralelní – někdy šifrované a někdy anonymizované – komunikační sítě, které nazývám šifrovací sféra. Používali jsme šifrovaný chat (SILC, IRC-SSL), šifrování e- mailů PGP, mixmaster a anonymní remailery. To vše vytvářelo formu organických mastermind skupin, lidé si vyměňovali názory, nápady a výsledky své práce. Peter Russell to popisuje ve svém videu Global Brain z roku 1983. Stali jsme se vzájemně propojenými.

Na tomto „propojení“ je dobré si uvědomit vznik větších celků. Molekuly díky emergentním jevům vytvořily buňky. Miliardy buněk vytvořily mnohobuněčné organismy, které se chovají jako jeden celek, přestože žádná jednotlivá buňka není nijak zásadně „inteligentní“. Miliardy až biliony neuronů vytvořily složité nervové systémy.

Tato agregace probíhá i na úrovni internetu – počítače propojené prostřednictvím internetu vytvořily web a později sociální sítě, jejichž prostřednictvím probíhají emergentní jevy i na úrovni lidstva.

Při zpětném pohledu na tento vývoj bychom mohli nabýt mylné představy, že všechny tyto vývojové etapy byly výsledkem nějakého projektu nebo „programu“, podle kterého lidé postupovali na vyšší úroveň organizace. Samozřejmě, že mnoho myslitelů (filozofů, spisovatelů science fiction aj.) mělo pro lidstvo různé představy či vývojové programy. Mnozí se však vydali zcela jiným směrem. Luddité ničili stroje, cenzoři pálili knihy. Komunikace, propojení a spolupráce není něco, co by oslovilo každého. A i mnohým z těch, kterým se to líbí, se více líbí představa, že by tento pokrok vynalezli nebo řídili. Adam Ferguson (skotský filozof a přítel Adama Smithe) ještě před Hayekem řekl, že společenské struktury všeho druhu jsou „výsledkem lidské činnosti, ale ne realizací lidského záměru“ („the result of human action, but not the execution of any human design“).

Stejně jako mravenci v kolonii spolupracují při vytváření struktury na vyšší úrovni (mraveniště, mraveniště), je to výsledek decentralizovaných jednoduchých rozhodnutí, aniž by někdo předem vytvářel „celkový obraz“.

To je dobře vidět na vývoji open-source umělé inteligence. Vývoj je rychlý a není něčím, co by zvládl každý (byť výjimečný) jedinec sám. Je to kombinace chytrých lidí a kapitálu, kde kryptoměny budou hrát velmi důležitou koordinační funkci. Někdo model natrénuje, někdo vymyslí, jak ho lépe vyladit, někdo ho přenese na jiný GPU, vytvoří pro něj API nebo nad ním postaví aplikaci. Tento vývoj závisí nejen na chytrých jednotlivcích, ale i na jejich spolupráci – přestože nepracují ve stejné firmě, neznají se a ve většině případů ani nevědí, že spolu pracují.

Polarizace

Píšu zde o propojení, ale mnozí z vás pravděpodobně poukážou na to, že jsme extrémně polarizovaní. Vzájemné propojení však není o tom, že jsme všichni stejní, ale o tom, že se vzájemně ovlivňujeme a pozorujeme emergentní jevy ve výsledném celku.

Prostřednictvím polarizace vidíme, že na sebe vzájemně působíme, ale tribalizace nás rozděluje – to v širším systému lidských interakcí vytváří paralelní zkoumání a testování myšlenek.

Možná jste slyšeli údaj, že „využíváme pouze 10 % kapacity našeho mozku“, což je zavádějící. Proč?

Nepotřebujeme všechny naše kapacity. Specializace a „soustředění“ různých částí našeho mozku jsou superruce. Mimochodem přesně tato myšlenka stojí za tím, proč současná umělá inteligence funguje – přinesla specializaci v podobě pozornosti, článek „Attention is all you need“ představil architekturu transformátoru, která umožnila AI vzkvétat. Pokud zadáte vstup ChatGPT nebo jakémukoli jinému jazykovému modelu, neuronová síť nevěnuje každé části vstupu stejnou pozornost.

Proč využívat celou kapacitu mozku, když můžeme používat jen ty části, které potřebujeme? Stejně jako biologický mozek šetří umělá neuronová síť výpočetní kapacitu a energii.

Skupina vývojářů bitcoinu se zaměřuje na vývoj bitcoinu, jiná skupina permakulturních nadšenců se zaměřuje na pěstování skvělých potravin. Kmeny a polarizace nám umožňují zaměřit naši pozornost a „globální mozek“ tak funguje lépe. Vznikají tak komparativní výhody a specializace.

Internet vytvořil spojení mezi lidskými mozky. Bitcoin nám umožňuje tuto energii směrovat. Umožnil vznik „šifrovací sféry“ – paralelní informační a komunikační sítě, která umožňuje spravovat vzácné zdroje bez správce.

Emergentní jevy

A to je to, co mají umělá inteligence, internet, Bitcoin, ale také například mnohobuněčné organismy nebo ekosystémy společné – pomocí dostatečně volných, ale zároveň ne chaotických interakcí vzniká na vyšší úrovni složitost, která je více než součet jejích částí. Existuje 21 milionů bitcoinů, ale existuje nekonečně mnoho vzájemně výhodných (tj. hodnotu vytvářejících) interakcí. Pomocí konečného počtu Bitcoinů nemůžeme vytvořit hodnotu o velikosti tržní kapitalizace Bitcoinu, ale prakticky neomezenou hodnotu shora. Hejno ptáků vykazuje chování, které je složitější než chování, jehož je schopen kterýkoli jednotlivec. Kolonie mravenců je „inteligentnější“ než kterýkoli inteligentní člen kolonie. Ale „ kolonie“ lidí – lidská společnost – je inteligentnější než jakákoli kolonie mravenců.

Záleží na inteligenci a schopnostech jednotlivců. Záleží na schopnosti komunikovat. Delfíni jsou poměrně inteligentní, ale mají méně synapsí (spojení mezi neurony). To je také důvod, proč delfíní společnost nevytvořila vyspělou civilizaci, jakou známe u lidí.

To však znamená, že pokud člověka posuneme na další úroveň, například přidáním nových neuronů – „AI“ – kůry, můžeme očekávat velký pokrok na společenské úrovni. V ideálním případě, pokud se spolu se zlepšováním schopností jednotlivců zlepší i naše společnost komunikace (internet) a ekonomické interakce (bitcoin).

Díky technologiím před nástupem AI jsme mohli výrazně rozšířit své možnosti. Technologie rozšiřují možnosti našich těl. Nahý člověk vysazený v neznámém prostředí by možná časem dokázal pochopit roční období a najít potravu, ale pokud mu poskytneme nějaké technologie (například základní nástroje) a spolupráci, jeho schopnosti se dramaticky zvýší.

Nyní máme možnost komunikovat se správnou skupinou lidí, obchod nám umožňuje směrovat energii a technologie nám umožňuje rozšířit možnosti našeho těla a mysli.

Traktor nebo zemědělský stroj nám může pomoci vypěstovat více potravin, než kdybychom použili holé ruce. Dobrý počítač připojený k internetu s vyhledávačem a wikipedií může rozšířit možnosti naší mysli.

Pokud se podíváme na lidské jedince, zjistíme, že náš mozek příliš nevyrostl (je omezen velikostí porodních cest našich matek). Rostou však schopnosti našeho vědomí.

Kolik „bodů IQ“ (i když je to velmi problematické měřítko, zatím se ho budu držet) získáme jen tím, že máme telefon s přístupem ke Googlu, Wikipedii, kalkulačce, že jsme ve správné skupině Signal – nebo jen takovou hloupost, jako je virtuální pravítko? A co třeba aplikace na tvorbu map? Člověk s takovou technologií v ruce je řádově jiný než pračlověk, i když má stejně velký mozek.

Nyní k tomu přidejme všechny dostupné typy umělé inteligence. A nemluvím jen o velkých jazykových modelech, jako je GPT-4 (nebo LLaMA, Bloom, StableLM, FLAN, Bert aj.). Mluvím o překladu (DeepL), generování obrazu (Stable Diffusion, Midjourney), rozpoznávání řeči (Whisper), vylepšování zvuku (auphonic) nebo simulaci fyzikálních jevů (siml.ai).

To vše rozšiřuje možnosti naší mysli. Jako by nám narostl větší mozek. Výrazně to rozšiřuje naše vědomí. Nejsme nazí lidé, osamocení v divočině, jsme moderní lidé s chytrými telefony v kapsách, napojení na internet a úžasné nástroje.

A není to nebezpečné?

Jak uvedl Paul Rosenberg ve svém bulletinu Free Man's Perspective, model pravidel a vládců se zkouší už po staletí. Zlepšování společnosti přidáváním nových pravidel prostě nefunguje. Žijeme v kosmickém věku s technologiemi vládnutí z doby bronzové.

Lidé nejsou stroje, jsme složité bytosti, a protože naše interakce vytvářejí sociální složitost, měli bychom se řídit něčím jiným než souborem příkazů a pravidel. Interakce by se měly řídit pravidly, ale jak jsem říkal výše – složitost na vyšší úrovni má dvě podmínky – nesmí být zcela chaotická, ale zároveň musí být dostatečně svobodná. Rozšiřování pravidel vede k osekávání možností, kreativní destrukci a centralizaci. Tento přístup zabíjí komplexitu a my jako společnost degenerujeme.

Co tedy funguje? Naštěstí všechny tyto tři technologie výrazně rozšiřují naše možnosti. Dobrých lidí je řádově více než těch skutečně špatných. Existuje několik zmatených lidí, velmi málo psychopatů, ale většina lidí je dobrých – i když vás nenávidí, nezabijí vás, a dokonce ani nezbijí.

To znamená, že pokud tyto technologie rozšíří naše vědomí (a schopnosti našeho těla obecně) ve velké míře a zároveň budou dobří lidé kreativnější a produktivnější ve velké míře (jednoduše proto, že se soustředí na produktivní věci), bude ta dobrá část růst více a rychleji.

Je to proto, že všechny tři aspekty – internet, bitcoin a umělá inteligence – mají pozitivní zpětnou vazbu. Zlí lidé mohou páchat zlo efektivněji, ale prostě zde není tolik síťových efektů a akcelerace individuálních schopností. Pokud někdo není produktivní, dělat 2x tolik mu reálně nepomůže.

Ani ne stokrát. Malé číslo krát 100 je stále malé číslo. Pokud je někdo produktivní a kreativní, každá z těchto technologií nyní vnáší do jeho produktivity pozitivní zpětnou vazbu.

Upozorňuji, že nemluvím o budoucnosti, to se děje již nyní.

Státy (síla ničící hodnoty) v podstatě vysávají bohatství ze společnosti, ale vzhledem k tomu, jak rychle rosteme, jsou stále příliš pomalé.

Šifra (internet i bitcoin) nám dokonce umožňuje oddělit kreativitu od dohledu států a uniknout této destrukci hodnot v mnoha oblastech. Není to dokonalé, ale děje se to.

Nevím, co se stane s budoucností. Možná nás umělá inteligence všechny zabije. Ale tohle se děje právě teď – rosteme jako jednotlivci, komunikujeme jako organická společenství, spoluvytváříme. A energie proudí – mezi jednotlivci, mezi skupinami. Pozornost se soustřeďuje ve skupinách a vytváří multiplikační efekty.

Attention is all you need.

Juraj Bednár

Jsem cypherpunker, mám rád svobodu, soukromí, peer to peer technologie a terminálová okna. Zkoumám chaotický svět, volatilitu a nejistotu, bojuji proti entropii - zakládám firmy a neziskové projekty, dělám kurzy a píšu knihy. Jsem spoluzakladatel Paralelní Polis, hackerspace Progressbar a bug bounty platformy Hacktrophy. Vystudoval jsem obor umělá inteligence a ta se vrátila tak, jako bych o ni nikdy ani neslyšel. O všech těchto zkušenostech píšu blog.