Boj etiky s pokrokem je téměř vždy marný, ukazuje výstava AI & předchůdci

Každá z kvarteta osobností představených výstavou AI & předchůdci – Fritz Haber, Robert Oppenheimer, Thomas J. Watson a Joseph Weizenbaum – se v určitém okamžiku dostala do bodu, kdy jimi vyvinuté technologie začaly mít nenávratné důsledky pro lidstvo.

Odpověď se nedozvíme

Expozice v NTK začíná příběhem německého chemika Fritze Habera (1868–1934). Za svůj život zvládl získat Nobelovu cenu, zarytě pracovat za ideály ve jménu německého nacionalismu, být průkopníkem ve výzkumu užití jedů a chemikálií ve válce, čím se nepřímo stal „otcem chemické války“. Nakonec jako Žid utekl po nástupu Hitlera z Německa a následně zemřel ve švýcarské Basileji. Málokdy najdeme natolik hodnotově a ideologicky rozpolcenou osobu. Může se proto zdát zvláštním „startovním bodem“ výstavy, která nás má dovést až k umělé inteligenci. Kurátor, konceptuální umělec a historik umění Jaroslav Anděl (* 1949) však návaznost napříč výstavou zvládá udržet – především pomocí doprovodných textů a dokumentárních fotografií, které doplňuje svými vlastními uměleckými vstupy.

Fritze Habera kurátor nejprve představí jako vynálezce Haber-Boschova procesu, za nějž obdržel Nobela. Postupně Anděl odkryje i jeho pozdější vynálezy včetně Cyklonu B, nechvalně proslulého plynu, který nacisté používali v plynových komorách koncentračních táborů. Příběh tohoto vědce autor reflektuje sérií dvaatřiceti téměř identických obrazů znázorňujících plechovky granulovaného Cyklonu B. Volbu výtvarné techniky – akrylové malby a digitální tisk – vnímám jako adekvátní prostředek znázornění masové produkce. Série působí značně „warholovsky“ (zřejmě to i byl Andělův záměr) – Campbellovy polévky zde nahradily plechovky s jedem.

Pohled do výstavy AI & předchůdci v Galerii Národní technické knihovny v pražských Dejvicích, foto: Štěpán Mikulenka

Další osobností je americký fyzik Robert J. Oppenheimer (1904–1967), „otec atomové bomby“. Mocně jej do povědomí vrátil snímek Christophera Nolana Oppenheimer (2023), který se opíral o knihu Oppenheimer: Americký Prométheus (2005, česky 2023). Připodobnění životního osudu tohoto vědce k osudu Prométheově najdeme i v NTK, ostatně všichni čtyři protagonisté se nacházeli v jakési prométheovské roli. Každý z nich se pokusil přinést lidstvu „oheň“ a také se jim to do určité míry podařilo, avšak následný trest nepostihl pouze je samotné, nýbrž celé lidstvo a nepřišel ze strany bohů, nýbrž od nás samotných.

Navzdory tomu, že expozici v NTK prostupuje varovný podtón a snaha ukázat, kam až lidská honba za pokrokem může zajít, právě u Oppenheimera se čitelné rozdělení dobra a zla vytrácí. Výstava připomíná, že fyzik se sám v sobě musel s vynálezem atomové bomby vypořádat, svíraly jej výčitky svědomí, avšak když na jeho situaci hledíme zpětně, stále lze najít jakési etické ospravedlnění. Po konci druhé světové – nebýt atomové bomby – by na sebe další globální konflikt možná nenechal dlouho čekat. Vynález a použití atomové bomby pravděpodobně zachránily více životů, než sebraly. Šlo tedy o volbu menšího zla, přestože tato volba stála zhruba čtvrt milionu lidských životů jen během prvních čtyřiadvaceti hodin? Na tuhle otázku odpověď už nikdy nedostaneme. Jaroslav Anděl se o ni také nesnaží, jen předkládá fakta, i po umělecké stránce. Tento úsek výstavy je opět především provázen dokumentárními černobílými fotografiemi a doplňují je speciální snímky prvních milisekund atomového výbuchu.

Zisk je zisk

Americký podnikatel a počítačový vědec Thomas J. Watson (1874–1956) je považován za jednoho z nejschopnějších obchodníků historie. Společnost IBM, jíž byl výkonným ředitelem, transformoval v globálního giganta prostřednictvím revolučních přístupů k firemní kultuře a marketingu. Například zavedl systém štědrých prodejních provizí a benefitů pro zaměstnance v době, kdy byla taková péče o pracovníky neobvyklá, čímž budoval jejich loajalitu a motivaci. Kladl důraz na profesionální vzhled prodejců (tmavé obleky, bílé košile), což vytvářelo image spolehlivosti a prestižnosti. Byl mezi prvními, kdo pochopil, že prodej technologií není pouze o produktu samotném, ale rovněž o vytváření důvěry, vztahů se zákazníky a o budování silné značky založené na vynikajícím zákaznickém servisu.

Ukázka vězeňské karty používané nacisty v koncentračních táborech – vzniklé za pomoci děrnoštítkových strojů firmy IBM. Z výstavy AI & předchůdci v Galerii Národní technické knihovny v pražských Dejvicích, foto: Štěpán Mikulenka

Stěžejním produktem firmy byly děrnoštítkové stroje, jedny z prvních počítačů. Umožňovaly efektivně zpracovávat na svou dobu obrovské množství dat, využívány byly třeba v účetnictví či při sčítání lidu. Zákazníky IBM ovšem bylo i nacistické Německo a děrnoštítkové stroje napomohly při uskutečňování holocaustu. Kola kapitalismu se vesele točila, IBM vydělávalo na obou stranách konfliktu a o spolupráci s nacisty se taktně mlčelo. Příběh tohoto protagonisty Anděl opět reflektuje sérií obrazů, na nichž jsou zobrazeny budovy v koncentračních táborech, které doplňuje i ukázkami vězeňských karet internovaných.

Vítězství soudnosti nad úspěchem

Zatímco příběhy tří právě přiblížených protagonistů byly spjaty s temnými událostmi historie, příběh závěrečný přináší záblesk naděje a je také nejtěsněji propojen s titulní tématikou umělé inteligence. Řeč je o německo-americkém profesorovi informatiky Josephu Weizenbaumovi (1923–2008) který v roce 1966 publikoval počítačový program ELIZA, jenž může být považován za předchůdce současných AI chatbotů. Byl totiž schopen komunikovat na základě psaného textu.

Oceňuji, že program ELIZA si v rámci expozice v NTK můžete vyzkoušet na počítači, jenž je součástí instalace. V porovnání se současnými chatboty jsou jeho odpovědi až úsměvné. Avšak vezmeme-li v potaz dobový kontext šedesátých let, je pochopitelné, že Weizenbaumův program získal až nekritický ohlas. Právě tato reakce tvůrce znepokojila a stal se jedním z největších kritiků nejen svého vlastního vynálezu, ale i umělé inteligence jako takové. Kritizoval mimo jiné to, co je nyní navýsost aktuální: přikládání lidských vlastností a zkušeností počítačovému programu. Mnoho prvních uživatelů ELIZY totiž bylo přesvědčeno, že se vyznačuje inteligencí a porozuměním, a to navzdory tomu, jak omezeně program funguje. Weizenbaum to trefně shrnul: „Neměl jsem představu… že velmi krátké působení relativně jednoduchého počítačového programu může vyvolat u zcela normálních lidí bludy. Tento poznatek mě přiměl, abych si uvědomil důležitost otázky vztahu mezi člověkem a počítačem.“

S Josephem Weizenbaumem se završuje ta část výstavy, která vypráví o konkrétních osobnostech. Avšak poměrně značný úsek instalace se ještě věnuje odkazům z dějin, literatury i historie umění, jež se váží k tématu umělé inteligence a jejich předchůdcům.

Náhled do pasáže výstavy pojednávající o vývoji atomové bomby. Z výstavy AI & předchůdci v Galerii Národní technické knihovny v pražských Dejvicích, foto: Štěpán Mikulenka

Apel

Výstava tedy nese název AI a její předchůdci. Nepřijde mi úplně správný. Chápu spojitost příběhů a informací se současným boomem AI, avšak instalace v NTK stojí spíše na dualitě toho, zda technologické vynálezy jsou vždy pokrokem. Poselstvím expozice je naléhavý apel na vědce a společnost, aby se etické otázky braly v potaz před užitím nových technologií v praxi.

Co se týče umělé inteligence, výstava počítá s návštěvníkovým základním povědomím o AI s tím, že na ně zvládne navázat informacemi ve výstavních prostorách. Podrobnějšího vysvětlení toho, co se nyní považuje za AI, se návštěvník nedočká. Výtvarné uchopení mi vzhledem k hutnosti informací přijde adekvátní: „výtvarno“ zde totiž nehraje hlavní roli, jde především o výstavu informativní, uměleckými díly doplněnou tak, aby ta příliš neodváděla pozornost od předkládaných faktů. Bohužel instalace jako taková – konkrétně některých děl, fotografií a textů – poněkud pokulhává; chápu že každý prostor má svá specifika, ovšem uchycení stahovacími páskami nebo zvlněné fólie s textem nejsou úplně to pravé.

Snahu Galerie NTK propojovat umění s vědou a technologiemi vnímám coby smysluplný a důležitý koncept. Vezmu-li ji jako celek, je podle mě výstava AI & předchůdci objevná a srozumitelná.