Camus: V analytických schopnostech stále vedou lidé. S příchodem AI je dobré mít zdravou dávku skepse

Diskuse kolem umělé inteligence je velmi rozmanitá. Je to dobře?

Pokud jde o roli AI, jsem velká optimistka. Myslím, že je skvělé, že se do diskuse zapojilo mnoho lidí. Pokud se podíváme na trajektorii, po které tato technologie směřuje, vidíme, že bude mít hluboký dopad na budoucnost naší společnosti a lidstva. Ovlivní to způsob, jakým komunikujeme a využíváme technologie. Takže skutečnost, že tato diskuse probíhá nyní, je velmi pozitivní věc, protože můžeme těžit z velkého množství názorů na umělou inteligenci, která je tu, jak věřím, pro nás všechny, nejen pro pár vyvolených. Diskuse proto nemohou vést jen někteří lidé ve svých zasedacích místnostech. Celkově je diskuse kolem AI pozitivní.

V těchto diskusích často vstupuje do hry strach a úzkost. Je to namístě?

Myslím, že je dobré mít zdravou dávku skepse. Bylo by ale naivní si myslet, že tato technologie nepřináší žádná rizika. To by byl přesně ten okamžik, kdy by mohla skutečně ublížit. Když spouštíme novou technologii, musíme být opatrní a dělat to odpovědným způsobem. A to se netýká jen umělé inteligence, ale jakékoli technologie. Například když byla vynalezena letadla, musela být přísně testována, aby byla zajištěna bezpečnost cestujících, a ta je nejvyšší prioritou i dnes. Totéž platí pro automobily nebo jiné spotřební zboží. Umělá inteligence se v tomhle neliší. 

Myslím, že určitá úzkost pramení ze skutečnosti, že je umělá inteligence velmi odlišná v tom, co nabízí. Je jen přirozené, že uživatel dospěje k pocitu strachu z neznámého. Domnívám se, že je naší odpovědností jako „technických lidí“ vzdělávat veřejnost a pomáhat našim vládám porozumět těmto produktům a regulovat je. V konečném důsledku je na nás, abychom učinili nástroje umělé inteligence pro lidi bezpečnými a aby lidé se lidé cítili komfortně s jejich využíváním.

Jsou nové technologie ze své podstaty děsivé?

Záleží na tom, jak definujete „nové technologie“. Technologie umělé inteligence není sama o sobě ve skutečnosti tak nová, ale teprve nedávno získala veřejnost plný přehled o možnostech například velkých jazykových modelů. Je tedy zcela oprávněné klást si otázky o tom, jak může umělá inteligence ovlivnit vzdělávání, pracovní sektor a další oblasti. Jak jsem již zmínila, vzdělávání a regulace jsou zcela klíčové.

Existuje nějaký konkrétní mýtus, který byste chtěla vyvrátit?

Jedna věc, kterou si lidé často myslí, ale není to pravda, je, že generativní modely, zejména jazykové modely, mají vědomí. Nemají. Prostě si zapamatují, co viděly, a protože toho viděly opravdu hodně, jsou schopny odpovídat na dotazy téměř stejně dobře jako člověk, který vědomí má. Umělá inteligence je velice vzdálená nejen lidskému vědomí, ale také lidským analytickým schopnostem. Emoce, pocity a vědomí sebe sama jsou věci, kterým se umělá inteligence v současném stavu ani neblíží.

Když už jsme u jazykových modelů, Google představil svou vlastní verzi s názvem Bard. Co je to a co umí?

Bard je podobný velkým jazykovým modelům, o kterých dnes hodně slýcháme. Byl vytvořen pro účely konverzace. Říkáme tomu konverzační AI. Když s takovým modelem komunikujete, může pro vás třeba napsat báseň nebo říct vtip. Je to ale stále experimentální model, takže průběžně zpřesňujeme způsoby, jakým se dá Bard využít. Dovedu si ale představit, že Bard pomáhá spotřebitelům s návrhy prázdninových destinací, radí, co je třeba zvážit při nákupu kola pro jejich děti, nebo pomáhá vymýšlet kreativní nápady. V jádru se jedná o asistenční technologie.

Jaké jsou nevýhody a rizika práce s umělou inteligencí?

Stejně jako u jiných technologií existují při uvedení těchto produktů neznámé. Musejí být zpřístupněny kontrolovaným způsobem, abychom se ujistili, že náhodně nezpůsobíme škodu. Příkladem mohou být takzvané halucinace chatbotů. Objevují se, když chatbot říká věci, které jsou prostě fakticky nesprávné. Je důležité na chyby upozornit a informovat uživatele, že určitý produkt může být k takovým chybám náchylný. Za všech okolností se musíme snažit tyto problémy zmírňovat a eliminovat a postupně přesouvat různé experimentální produkty do spotřebitelské fáze.

Zmínila jste důležitost transparentnosti, máte nějaké interní zásady pro informování spotřebitelů o používání AI?

Pokud jde o naše spotřebitelské produkty využívající umělou inteligenci, panuje všeobecná transparentnost. U všech našich interních i externích produktů máme AI komunitu, která je před uvedením na trh kontroluje. Máme tým etiků a odpovědných inženýrů, kteří zkoumají, kde a jak nejlépe informovat spotřebitele o tom, že využívá umělou inteligenci. Tyto kontroly probíhají několikrát v různých fázích procesu vývoje. Nebylo by asi příjemné, kdybyste jako uživatelé viděli informaci o užití umělé inteligence uprostřed porady na Google Meet. Ale existují samozřejmě situace, kdy je o použití umělé inteligence potřeba informovat. Úkolem našich etiků je vymyslet, jaké případy a situace to jsou.

Jaké jsou největší výzvy, kterým čelíte při vývoji umělé inteligence?

Těch je spousta! Rozhodně není jen jedna. Jak už jsem zmínila, je to všechno neuvěřitelně nové, takže je někdy těžké připravit se na překážky, které nás čekají.

Jaké jsou největší výzvy pro legislativní regulaci umělé inteligence?

Rozhodně dopad na životní prostředí. Školení těchto modelů není levné a je velmi náročné na zdroje. Zatímco tedy soutěžíme o vytvoření většího a lepšího modelu umělé inteligence, využíváme spoustu zdrojů. Musíme dbát na to, abychom přiřazovali správný model ke správnému použití. Pokud potřebuji jednoduchou odpověď, například „jaké je počasí“, skutečně potřebuji model s 200 miliardami parametrů? Asi ne. Jednoduše si musíme být vědomi dopadu na životní prostředí a nenechat se unést fascinací z nových technologií.

Máte v souvislosti s touto obavou pocit, že děláte maximum?

Pokud jde o zdroje, jsme ohleduplní a máme různé velikosti modelů, abychom vyhověli různým potřebám.

Jaký je váš názor na otevřený dopis o pozastavení výzkumu na velkých jazykových modelech, který mimo jiné podepsal třeba zakladatel společnosti SpaceX Elon Musk, americký inženýr a spoluzakladatel společnosti Apple Steve Wozniak nebo počítačový vědec a odborník na umělou inteligenci Stuart Russell?

Dopis vyvolal diskusi a diskuse je vždy dobrá. Vznesené obavy byly namístě. Vlády musejí provádět legislativní změny, aby zajistily, že vývoj a rozvoj berou zřetel na ochranu uživatelů. Souhlasím s tím, že tyto problémy je třeba řešit. Zastavení vývoje technologie však není způsob, jak ji ovládat. Podle mého názoru je správný přístup uvolňovat tuto technologii pomalu, kontrolovaným způsobem a správně.

Máte k umělé inteligenci osobní vztah?

Práce pro mne nikdy není jen prací. AI mě fascinuje, protože je to ve svém jádru velmi lidská technologie. Otevírá technologický svět těm, kteří nejsou ve skutečnosti tak technicky zdatní. Umělá inteligence mi připadá krásná i funkční. I když s umělou inteligencí pracuji téměř každý den, nepřestává mě udivovat, jak moc se mění a kam až došla. Jsem vděčná, že mohu pracovat s technologií, která se tak rychle rozvíjí.

Článek vznikl ve spolupráci s naším partnerem – společností Google.