3497299
přečtené 2512
Ztráta ctnosti: k morální krizi současnosti
2004,
Alasdair MacIntyre
Pro mě osobně v tuhle chvíli formativní práce. Z velkého množství komentářů a poznámek, která by se ke knize daly napsat, se omezím jen na jeden srovnávací postřeh: Přijde mi pozoruhodné, že MacIntyre dochází k podobnému závěru jako Nick Bostrom. Bostrom ve své klíčové knize Superinteligence velmi zevrubně argumentuje, že jakýkoli apriorní soubor etických pravidel a zákonů je vysoce rizikový, pokud bychom jej měli použít pro omezení silné, univerzální AI. Zdaleka nestačí pouze Asimovovy zákony robotiky, neboť potenciální riziko je dvojí: 1. Soubor pravidel nemusí být úplný, protože je nemožné dopředu počítat se všemi situacemi, které mohou nastat. 2. I kdyby byl soubor úplný, lze pravidla dezinterpretovat, vyložit je subverzivně a splnit úkol způsobem, který rozhodně nebude žádoucí (ve smyslu např. požadavku "zařídit, aby byl každý člověk šťastný" a řešení: odpojit všechny lidi smyslově od vnějšího světa a napojit jejich mozek na stimulační okruh slasti). Bostrom z tohoto důvodu nepovažuje za šťastné stanovit pro AI apriorní pravidla ani obecně či konkrétně stanovené utilitaristické cíle. Coby relativně méně rizikový přístup, jak dosáhnout bezpečné univerzální silné AI, vidí ve formulaci podmiňujících etických maxim na způsob: "Chovej se vždy v souladu s tím, jak rozumíš tomu, že lidé jako celek chápou svůj vlastní smysl a cíl(e)." Výhoda takové maximy je ta, že aproximativní výpočet řešení nevede ke skrytým, subverzivním splněním zadaných úkolů, ale naopak taková jednoduchá řešení neustále zpochybňuje skrze hlubší poznání smyslu a cílů, které právě nikdo nedokáže jasně formulovat. Čili Bostrom vlastně požaduje, aby "superinteligence" vnímala společnost jako systém narativů s otevřenou interpretací, a vlastní činnost pak chápala jako další narativ, který by měl být s oním systémem v maximálním souladu. MacIntyre se pak ve své práci z roku 1981 analogicky vymezuje jak vůči deontologické etice (systém apriorních pravidel), tak vůči utilitaristické/konsekvencialistické etice (zvolené cíle s tím, že jejich naplnění je věcí pragmatické volby) - také v jeho velmi zevrubné argumentaci jsou oba tyto aktuálně přijímané, protichůdné etické systémy nekonzistentní a v mnoha ohledech problematické. Navrhuje pak vlastní pojetí etiky ctností, které vychází z Aristotelské teleologické etiky, přičemž u MacIntyra je podstatné právě vnímání morálky a ctností v rámci subjektivního životního narativu, který je součástí širšího společenského narativního rámce (tradice, kultura, historie). Přičemž na tomto základě je třeba souladně hledat "dobro" a vlastní cíle těchto narativů. Zásadní rozdíl je ten, že MacIntyre nepředpokládá, že "špatně zvolená" etika může mít okamžité fatální následky tak, jako si to myslí Bostrom (respektive fatální možná ano, ale v pozvolnějším působení), protože lidé nejsou AI.... celý text