Umělá inteligence: Otázka kontroly | Technologická evoluce

Umělá inteligence: Otázka kontroly – OBSAH

1. O umělou inteligenci se snažíme staletí
2. Má AI rozhodovat o smrti?
3. Změna pro lidstvo, kterou si budeme muset sami nastavit

O umělou inteligenci se snažíme staletí

Příchod umělé inteligence je prostý fakt – jeho dosažení bylo cílem dávno před vznikem kybernetiky jako moderní vědy. Lidé vždy toužili po automatonech – a vyprávění o Galatei, soše vytvořené umělcem Pygmalionem a oživené bohyní Afroditou, známe už z Ovidiových Metamorfóz. Automatony najdeme i v dalších vyprávěních, ostatně vyprávění o golemovi je v podstatě příběh o umělé bytosti vytvořené magickými prostředky kabaly. Zdálo by se, že první varování před riziky umělé inteligence přišlo s divadelní hrou R. U. R. (1921) od Karla Čapka, ale ve skutečnosti se nad tím zamýšleli už v polovině 19. století Francouzi Barboier a Michael Carré, kteří napsali příběh o mladíkovi, který se zamiluje do mechanické loutky Olympie.

Výzkumníci v oblasti umělé inteligence jsou rozdělení v otázce, jestli to je pozitivní věc, nebo ne, což má celou řadu aspektů. Nejdůležitějším problémem je přitom otázka kontroly, tedy zda budeme schopni kontrolovat inteligenci, která bude přesahovat lidskou. Je to otázka trochu zvláštní, protože technicky vzato nikdo nekontroluje ani lidskou inteligenci a nelze lidem zabránit v tom, aby dělali špatné věci, lze to pouze zakazovat a trestat. Otázka kontroly umělé inteligence je tedy spíš otázkou v tom smyslu, do jaké míry dokážeme sladit její cíle a naše cíle, aby se navzájem podporovaly a nebyly v konfliktu – tomuto přístupu se říká Human-aligned AI, umělá inteligence sladěná s lidskými cíli.

Základním problémem není umělá inteligence samotná, ale to, co ji učíme. Lidstvo je komplikovaná entita – je mnohem složitější než kterýkoliv jedinec a je schopné současně zaujímat zcela protichůdné postoje. V komplexitě lidského uvažování je obtížné se vyznat – a proto, abychom dokázali spoluexistovat, vznikly právní řády, které nám určují, co smíme dělat a co nesmíme, respektive co společně považujeme za dobré a co za zlé.

Má AI rozhodovat o smrti?

Je mimořádně obtížné existovat ve světě, kde zároveň vyzdvihujeme lidský život jako nejvyšší hodnotu, ale přitom ho nedostatečně nebo omezeně chráníme (například odpíráním lékařské péče z ekonomických důvodů) nebo vyloženě označujeme některé lidi za legitimní cíle, což je typické pro vojenské autonomní systémy. Osobně se domnívám, že autonomní zbraně, které rozhodují o zabíjení lidí, by měly být obecně zakázány a postaveny na úroveň biologických a chemických zbraní, protože u nich překračujeme linii, kterou by umělá inteligence nikdy překročit neměla.

Přesto je potvrzené, že už v březnu 2020 nasadilo Turecko v Lybii autonomní dron STM Kargu-2 a v červnu 2021 Izrael nasadil první autonomní roj dronů při operaci v Gaze. Panuje podezření, že na autonomních zbraních pracuje jak Rusko, tak Čína a také USA – a zdánlivá užitečnost autonomních zbraní by mohla být cestou, která by vedla ke konfliktu AI s lidstvem. Je to velmi nebezpečná cesta – a i když je pro vojáky lákavá, protože šetří jejich životy a dává jim možnost používat pokročilé senzory a nahradit výcvik rekrutů výrobou dronů, neměli bychom se jí vůbec vydávat. O rizicích cenově dostupných autonomních zbraní pojednává například krátký film Slaughterbots (2018), který ilustruje, co by se mohlo stát, když se levné zabijácké drony dostanou do rukou „té špatné strany“.

I v případě, že se vyhneme zabijácké umělé inteligenci, je tu spousta dalších otázek, které bude nutné vyřešit. Jaké bude právní postavení pokročilé umělé inteligence? Kdo bude zodpovídat za následky špatných rozhodnutí? Umělá inteligence není jedna, jsou specializované umělé inteligence (narrow AI), které například pomáhají s rozeznáváním tvarů, úpravou videa nebo plní podobné omezené úlohy.

Změna pro lidstvo, kterou si budeme muset sami nastavit

Většina otázek se týká obecné umělé inteligence (AGI, Artifical General Intelligence), u které si představujeme, že by mohla dosáhnout anebo překročit lidské schopnosti obecně. Donedávna panovala skepse o tom, jestli ji vůbec půjde dosáhnout, nyní jsme naopak ve fázi AI boomu a ozývají se hlasy, že bychom měli vývoj zpomalit a zaměřit se na to, jak ji sladit s cíli lidstva.

Většina forem současné AI patří jednoznačně mezi specializovanou AI a efekty, které přinese, se budou týkat jednotlivých odvětví, kde nahradí velkou část prací dosud považovaných za typicky lidské, jako je strojový překlad nebo strojová kreativita. Nástup umělé inteligence změní trh práce, donutí nás přizpůsobit se změnám – a mezitím se ukáže, jestli má spíše pozitivní, nebo spíše destruktivní vliv. Nedostatek práce pro lidi má dopady nejenom ekonomické, ale i sociální a psychologické, takže přizpůsobit se novému světu bude náročné samo o sobě.

Čas, kdy se budeme zabývat těmito otázkami, bychom měli využít také k tomu, abychom si udělali jasno v tom, jakým způsobem hodláme sladit zájmy lidstva s tím, co požadujeme od umělé inteligence – a také bychom měli namalovat čáru do písku a nenechat vojáky, aby obrátili potenciálně nejlepší vynález lidstva proti nám samotným.

Umělá inteligence představuje jednu z nejvýznamnějších technologických výzev současnosti. Zatímco její potenciál přináší pokrok v různých oblastech lidského života od medicíny po kreativitu, současně vyvolává hluboké etické a bezpečnostní otázky. Proto je nezbytné, abychom už nyní stanovili jasné hranice a pravidla, která zajistí, že AI bude sloužit k obecnému prospěchu a nebude ohrožovat naši budoucnost. Tento proces vyžaduje jak technickou, tak společenskou spolupráci, aby potenciál umělé inteligence přinesl lidstvu spíše přínos než destrukci.

Michal Rybka

Michal Rybka je publicista a nadšenec s 20 lety zkušeností v IT a gamingu. Je kurátorem AlzaMuzea a YouTube kanálu AlzaTech. Napsal několik fantasy a sci-fi povídek, které vyšly v knižní podobě, a pravidelně pokrývá páteční obsah na internetovém magazínu PCTuning.