Až nám rozvážou ruce. Rozhovor s popularizátorkou umělé inteligence Sarou Polak
Pořád čekáme vraždící roboty. Ale roboti už tu dávno jsou a pomáhají, říká popularizátorka umělé inteligence Sara Polak.
Sara Polak studovala v Oxfordu archeologii a antropologii. Pak pracovala ve startupech v Londýně a v Los Angeles. A teď je zpátky v Česku, popularizuje umělou inteligenci a mentoruje nové startupy. Zdejší startupové prostředí se jí zdá oproti tomu, jaké poznala na Západě, „ještě zdravé a inovativní“. Důraz se tu pořád klade na to, aby člověk něco vytvořil, ne aby tomu dokázal udělat bombastické PR. „V Londýně se všichni snaží, aby byli hlavně vidět – tady je pořád cítit energie přijít s něčím zajímavým, co bude tak dobré, že se o tom bude mluvit i bez milionů za marketing,“ říká.
Seznámili jsme se při natáčení pořadů pro Paralelní Polis: já tu v zimě chystal sérii Bitcoin: Nestátní peníze, Sara zase Na hraně chaosu. Ve svých videích propojuje umělou inteligenci, historii, ekonomii, politologii a další obory a nabízí unikátní pohled na minulost i budoucnost lidstva perspektivou člověka, kterému jsou mantinely jednoho oboru příliš úzké.
Věnuješ se zároveň umělé inteligenci a archeologii. To je poměrně neintuitivní spojení. Jak spolu můžou ty dvě disciplíny souviset?
Říkám si „archeolog v AI“, protože nejsem „vědec přes AI“ a zároveň mi přijde propojení s archeologií důležité. Koneckonců archeologii a evoluční antropologii jsem studovala. Když se podíváme na vývoj lidstva a na to, jak byly společenské změny provázané s nástupem různých technologií, můžeme pozorovat podobnosti i v reakci dnešní společnosti na nástup umělé inteligence.
Takzvaná obecná umělá inteligence, tedy opravdu inteligentní, neexistuje. Současná umělá inteligence má úroveň sofistikovaného mlýnku na maso – jen místo masa mele data. To ale vůbec není málo!
Moje role archeologa v umělé inteligenci je vzdělávací, pomáhám společnosti vstřebat novou technologii, která ovlivňuje čím dál víc věcí okolo nás. Zásadní je pro mě ukazovat lidem fenomén umělé inteligence multioborově, že se nejedná pouze o technologii jako takovou, ale o technologii v historickém kontextu. Dnešní technologické pokroky nejsou tak odlišné od těch historických, jako bylo praktické využití elektřiny nebo vynález parního stroje, včetně pochopitelných obav a očekávatelných společenských dopadů. Vždycky je dobré se z historie poučit a neopakovat stejné chyby.
Jaké společenské dopady a chyby třeba myslíš?
Mnoha velkým sociálním změnám předcházel objev nové technologie. Vynález parního stroje znamenal obrovský pokrok. Jenže zároveň přinesl stěhování z venkova do měst za prací v továrnách, překotně vznikající města měla mizernou hygienu, musela se rychle řešit kanalizace. Průmyslová revoluce přinesla i nevídanou míru dětské práce a zrodila Marxe s Engelsem.
Ještě předtím revoluce v navigaci, a tedy mořeplavbě znamenala rozvoj obchodu a pokrok, dala základ britskému impériu, prvnímu státu s moderní strukturou, ale taky velkému vykořisťování. Mimo jiné byl jejím důsledkem i rozvoj pirátství a později i otrokářství na velké škále. Odnést si z toho můžeme tři věci.
Kdo je Sara Polak
Vystudovala archeologii a kognitivní evoluční antropologii na Oxfordu. Několik let pracovala pro technologické startupy ve Velké Británii, USA nebo na Novém Zélandu. O umělé inteligenci pravidelně přednáší v Paralelní Polis, kde spoluzaložila technologický klub Paioneers. Angažuje se v neziskovce prg.ai, kde s Tomášem Mikolovem zdarma vyučuje kurz Elements of AI, a točí pořad Deus Ex Machina pro Red Button EDU. Ředitelka organizace Czech.global, se kterou chce propojit českou globální diasporu a „udělat z Čechů první cloudový národ na světě“. Ve volných chvílích popularizuje vědu (Science to Go, FIT ČVUT), píše na Twitteru Elonu Muskovi, sleduje Cimrmana a Montyho Pythona a googlí velké psy.
Ano?
Zaprvé: Lidé dokážou být zlí a budou zlí. Bránit se kvůli tomu inovacím je ale blbina. Musíme si uvědomit lidskou podstatu a prostě s ní počítat. Regulace nepomůžou – pomůže jenom sebeobrana ve formě plošného vzdělávání.
Zadruhé: všechno je propojené, alfa a omega k pochopení světa v jeho složitosti je multioborovost. Vynález žárovky je věc politická, ekonomická, sociální. Ovlivňuje, jak se dělá byznys, bez ní by nefungovaly například směnné provozy. Takže chápat technologie – třeba i umělou inteligenci – izolovaně je chyba. Akademické a technologické elitářství je cesta do pekla. Potřebujeme maximální komunikaci mezi sociálními a demografickými bublinami.
No a zatřetí – lidé mají z nových technologií pokaždé nejdřív strach. Rádi se bojí, rádi vytvářejí umělé senzace a stresy a poddávají se jim. Dá se na tom vydělat – chápu, že film Já datový klasifikátor, který vám pomůže poorganizovat zdravotnictví zní míň sexy než Black Mirror nebo Terminátor, ale je povinnost firem a institucí v „pozici síly“, aby vzdělávaly veřejnost o realitě, a ne ji strašily pohádkami. Antielektrifikační plakáty také ukazovaly, jak se lidé na ulici smaží na drátech elektrického vedení. V době, která předcházela ekonomickému krachu 30. let, tedy v době, kdy byla elektrifikace klíčová – mohla pomoct těm nejchudším. Když se technologie neuchopí za dobrý konec a když se nebude společnost odspoda vzdělávat, můžou zbytečně trpět a umírat lidé.
Využívají umělou inteligenci také přímo archeologové?
Určitě, hlavní přínos téhle technologie je dnes zpracovávání velkého množství dat. Archeologie sbírá strukturovaně data už přes sto let, ale často jsou nám celkem k ničemu; velká část jich není ani digitalizovaná. Umělá inteligence se tedy využívá při digitalizaci a katalogizaci dat, a jakmile jsou data zpracována, tak i při jejich zasazování do kontextu. Další zajímavé využití je například u vyhodnocování satelitních snímků, na kterých lze s pomocí umělé inteligence odhadnout, na kterých místech se můžou pod povrchem nacházet nová naleziště. Umělou inteligenci často využívá i forenzní a genetická antropologie.
To všechno zní sice zajímavě, ale pořád se jedná „pouze“ o strojové učení, ne? Vidíme ale někde už záchvěv skutečné inteligence?
Dnešní umělá inteligence je opravdu především strojové učení. Popravdě, „umělá inteligence“ není pro tu technologii úplně vhodné označení. Takzvaná obecná umělá inteligence, tedy opravdu inteligentní, neexistuje. Nerozumíme pořádně ani lidskému mozku, natož abychom byli schopni stvořit cokoli blížícího se mozku umělému. Současná umělá inteligence má úroveň sofistikovaného mlýnku na maso – jen místo masa mele data. To ale vůbec není málo!
Jeden z velkých problémů dnešní vědy je izolace jednotlivých oborů. A umělá inteligence ji může velmi posunout dopředu tím, že se data ze vzdálených oborů, jako třeba počítačové vědy a filozofie, vzájemně dají do kontextu. Umělá inteligence může provádět doporučení ohledně kompatibility výzkumů a datových sad.
Existuje nějaký pěkný srozumitelný příklad, kde umělá inteligence pomohla vědcům vystoupit z oborových škatulek a spojit síly?
Krásné propojení několika oborů je třeba digitalizace a následně využití metod umělé inteligence ve zdravotnictví. To, že přijdete k doktorovi a on vám na základě osobních lékařských dat naordinuje personalizovanou léčbu, kterou mu doporučí algoritmus, a vy se budete moct líp a přesněji léčit.
Proč se vlastně tvoje přednášková série pro Paralelní Polis jmenuje Na hraně chaosu?
Lidstvo se nachází na konci cyklu sinusoidy. Dosavadní systém přestává plnit svou roli a vakuum po něm bude muset vyplnit nový způsob fungování společnosti. Ilustrací změny může být třeba ta nedávná událost, kdy meme komunita z Redditu položila kus Wall Street. To nám ukazuje, jak internet jako neuvěřitelně efektivní komunikační nástroj umožňuje vytvářet komunity úplně nového typu, které nemají nic společného se státy ani jinými institucemi. Lidé si sílu technologie začínají uvědomovat, ale stále pořádně nevědí, co s ní na větší sociální škále. Společnost je dezorientovaná. Dělení na pravici a levici už nedává smysl. Řešení společenských problémů shůry, od státních institucí, nepřijde. Nacházíme se na hraně chaosu, ale ještě jsme do něj neupadli.
Umělá inteligence má potenciál usnadnit lidem v dnešním světě orientaci. Nebo jim dokonce dodat sebeúctu tím, jak se budou moct osamostatnit – představte si, jakou svobodu vám dává jenom to, že se po městě a po světě můžete pohybovat často pouze pomocí jednoho dokladu, telefonu a různých aplikací jako Uber, Airbnb, Google Maps, bitcoinová peněženka, online letenky atd.
Opice sobě
Reddit je platforma debatních fór. Dost často je to ovšem debata dost uvolněná. Ale svobodná. Na jednom z fór si lidé vyměňovali tipy na investiční sázky. Ne na investice. „Jsme opice, které házejí šipky na terč,“ říká jeden z místních. A tihle lidé si všimli spekulace jednoho velkého investičního fondu na pád vcelku bezvýznamné firmy. Domluvili se a začali skupovat její akcie, díky investičním apkám v mobilu je to dnes banální operace – a očekávaný pád se nekonal. Velcí hráči z velkého fondu si připsali velké ztráty. Davidové to nandali Goliášovi. (Podrobněji popsané to najdete třeba v tomto článku Dominika Stroukala na Finmag.cz). Jen jedno k němu doplníme, co se stalo později: Opičáci se dohodli a docela dost z vydělaných peněz poslali jiným opičákům: na záchranu divokých goril.
Je umělá inteligence technologie, která má potenciál spíš svobodu omezit, nebo posílit?
Záleží, kdo se jí ujme. Technologie samotná je neutrální a může sloužit zlé i dobré věci. Nacisté byli schopni vyvraždit miliony lidí částečně s pomocí pečlivého vedení archivu – s technologií tužky a papíru a děrných štítků. Zneužít se dá i kus šutru a evoluce nás vede k tomu, vidět v technologiích jak nástroje, tak zbraně.
Zneužití umělé inteligence ze strany států se nevyhneme, koneckonců v Číně se tyto technologie využívají ke sledování obyvatelstva a perzekuci menšin. Ale právě proto je zásadní se v nových technologiích vzdělávat. Loňské protesty v Bělorusku ukázaly, jak silným nástrojem může být umělá inteligence v rukou vzdělaných občanů. Běžně využívá technologii rozpoznávání obličejů stát; při běloruských protestech to ale byli demonstranti, kteří s pomocí rozpoznávání odhalovali tajné policisty ve svých řadách.
A co třeba techniky jako deep fakes, má něco takového i pozitivní využití?
Projevy umělé inteligence, které vyvolávají největší ohlas a firmy si s nimi dělají PR, jsou spíš jen dobře vypadající hračky. Sem spadají i deep fake videa a fotky. Ono to popravdě není nic moc nového, Stalin taky nechával editovat fotografie. Deep fakes a fake news jsou vlastně jen historicky dobře známá propaganda, která se ale s pomocí internetu šíří rychleji a s pomocí technologií ji může tvořit každý.
Víc než takových strašáků se obávám duševního vlastnictví a copyrightu. Například nedávno autoři doplnili do hry Cyberpunk 2077 speciální nastavení, aby bylo možné hru streamovat přes YouTube. Původní verze totiž obsahuje copyrightovanou hudbu a algoritmy YouTubu takový obsah zakazují nebo demonetizují. Takže když si vyděláváte jako profesionální hráč a do videa vám skočí kousíček copyrightované hudby, nedostanete ze svého videa ani korunu. Obdobně absurdní byl před lety navrhovaný článek 13, směrnice Evropské unie, která mimo jiné měla de facto zakázat meme vtípky. A já se nejvíc obávám toho, aby se takovými nepromyšlenými regulacemi zbytečně neomezoval skvělý komunikační kanál v podobě internetu. Pak se můžeme dočkat toho, že se lidé hromadně přesunou na dark web, kde naopak neplatí regulace vůbec žádné.
Česko má skvělé technické vzdělávání, místní univerzity jsou na špičkové úrovni. A jsme technologicky zaměřený národ a jsme hračičkové – když se objevil Apple Pay, vyskočila Česká republika v indexu adopce na první místo na světě.
Je tohle opravdu zásadní problém, kvůli kterému by se miliardy lidí přesunuly na dark web?
Tyhle regulace nastavují nový precedens v cenzurování kreativity a intelektuálního vlastnictví. Ono to zní jako OK, tak pár youtuberů nebude mít na nájem, ale později z toho může být velké omezení šíření dat po internetu pomocí nějaké takové obsahové cenzury.
Samozřejmě jsou asi senzačnější příklady zlého použití umělé inteligence: právě krádeže identity pomocí deep fake, falšování důkazů při soudních jednáních nebo špatně naprogramované bojové drony, které pálí do civilistů. To všechno jsou věci, které se můžou dít. Ale pro mě je nešikovná regulace toku dat na internetu mnohem závažnější, strukturální problém, který bude mít dopad na všechny. To už je ovlivňování toho, co vidíte, a hraní si s tím, jak lidé vnímají svět kolem sebe. Může to vést chtěně i nechtěně k masovým dezinformacím, izolaci některých skupin lidí od informací, zamezování svobodnému projevu.
V čem by naopak mohl být okamžitý přínos technologií?
Pozitivní využití přelomových technologií můžeme sledovat například v Africe, kde se v posledních letech rozvíjí distribuce krve a krevních komponentů s pomocí dronů Zipline. Vidíme vznik decentralizovaného systému logistiky. Takové experimenty a technologické skoky kupředu jsou něco, co nám citelně chybí – a vidíme to například na fiasku státní distribuce vakcín. Kdyby bylo možné takto experimentovat zde, propojit decentralizovanou logistiku se spolky, jako je třeba Skaut, tak máme proočkovanou celou republiku. Dobře, je to nadsázka, ale rozhodně bychom se pohybovali v jiných rychlostech – ostatně Rohlík a Liftago už touto cestou jdou. Potřebujeme zkrátka paralelní polis – systémy fungující mimo stát. Decentralizované, svobodné a využívající nové technologie.
Stát dneska nemá konkurenci a podle toho se chová. Vesměs nic na něj netlačí, aby poskytoval kvalitní služby, lidé nemají například ve zdravotnictví alternativu. Potřebujeme vybudovat poptávku zdola a ta vznikne jen tím, že lidem technologie a jejich inteligentní využití rozvážou ruce a poskytnou nové možnosti fungování.
A co by se dalo udělat hned?
Dokážu si představit, že využijeme umělou inteligenci k plošné revizi regulace a právního systému. Je zapotřebí stát digitalizovat a automatizovat. V záplavě regulací a zákonů se dnes nemůže žádný člověk vyznat.
Jak lidem vysvětlit, jakým způsobem jim umělá inteligence může pomoct? Přece jen při vynálezu automobilu bylo asi víc zřejmé, jaké výhody taková technologie přinese.
Ano, uchopitelnost technologie je problém. U bitcoinu nebo Tesly si už lidé můžou dobře představit, k čemu to je. Ze začátku to tak nebylo, ale jakmile adopce technologie mezi lidmi přesáhne určitou mez, začne se mínění o té technologii proměňovat a získá si až fanatické obhájce.
Umělá inteligence je proměnlivá a všestranná – a to je i její problém. Lidé si ani neuvědomují, kde všude jim už dneska pomáhá. Filtrace e-mailového spamu, plánování cest Uberem, doporučení při online nákupech, automatické překlady, výsledky vyhledávání na Google – tam všude nám pomáhá umělá inteligence, ale lidé to považují za něco samozřejmého. Je to sexy asi tak jako kalkulačka. Všichni čekají na ty vraždící roboty, které známe z filmů jako Terminátor nebo Já, robot. Přitom roboti už jsou dávno běžná součást našeho života. Pomáhající roboti, kteří ohromně usnadňují práci a šetří čas.
Která mocnost má v umělé inteligenci náskok? Spojené státy, nebo Čína?
Myslím, že Čína. Lidé považují Čínu za ohrožení, a to oprávněně, nicméně pozoruhodné je, jak shovívavě se lidé staví k obdobným rizikům, když přicházejí ze Spojených států. Americká tajná služba NSA špehuje kdekoho a Edward Snowden, který na to svět upozornil, se musí dodnes před americkou vládou schovávat. Čína a Spojené státy si v tomhle nemají moc co vyčítat.
Kromě velmocí si ale v dílčích ohledech vedou dobře i jiné země. V Tchaj-wanu jsou napřed s digitalizací a využitím umělé inteligence v průmyslu. Finsko je napřed, co se týče vzdělávání v nových technologiích. Významná země z hlediska umělé inteligence je třeba i Vietnam.
A Česko?
Česká republika má na to, stát se v umělé inteligenci mocností. Ale brání v tom regulace, byrokracie a hlavně česká povaha. Češi si neumějí budovat značku a prodat se. Kdybychom byli Američani, tak by o projektech, co tady vznikají, bylo dávno natočených dvacet celovečerních filmů. A tady to jsou vesměs garážové projekty.
A co tu tedy máme tak zajímavého?
Předně máme skvělé technické vzdělávání, místní univerzity jsou na špičkové úrovni. Školy sice nemají tolik peněz jako v zahraničí, ale ČVUT, matfyz a VUT v Brně se vyrovnají světovým univerzitám. Máme spoustu odborníků – například Josef Šivic, Josef Urban, Tomáš Mikolov, Pavel Kordík, Jiří Matas, Pavel Tvrdík, Radek Richtr. Máme firmy jako GoodAI, Avast, Warhorse Studios, Recombee, Blindspot Solutions, SpaceKnow. Jsme technologicky zaměřený národ a jsme hračičkové – když se objevil Apple Pay, vyskočila Česká republika v indexu adopce na první místo na světě.
Češi se umějí do technologií hodně ponořit, ale zatím nejsme schopní se překlenout přes hranici – všechno děláme v češtině, pro Čechy. Případně pokud už česká firma či projekt vyroste, první starostí zakladatelů je prodat to Američanům. Chybí tu sebevědomí troufnout si vybudovat skutečně světově výjimečnou, miliardovou firmu.
Rozhovor se Sarou Polak poprvé vyšel v tištěném časopise Finmag 2/2021.
