Obličej plný akné, vrásek a chybějící úsměv. Kazí nám AI smysl pro krásu a v čem nás diskriminuje?

Vizuální zaujatosti umělé inteligence jsou dobře zdokumentovány. Na jeden takový narazila při ve svém projektu počítačová vědkyně, aktivistka a zakladatelka Algorithmic Justice League Joy Buolamwini. Už v roce 2018 zveřejnila výzkum nazvaný Gender Shades, který popisoval bias některých systémů na rozpoznávání obličeje. Systém nedokázal popsat tmavší odstíny pleti, rozeznat u takových obličejů pohlaví nebo je ani nepovažoval za obličej. Výzkum pracoval s více než tisícem tváří a testoval tři systémy od společností IBM, Microsoft a Faceᐩᐩ. Z výzkumu vyplynulo, že největší potíže měly systémy především s jedním typem objektu – se ženami s tmavší pletí.

Generativní modely využívané k výrobě obrázků vznikly relativně nedávno. Midjourney zpřístupnilo svou otevřenou beta verzi vloni v létě. Koncem minulého roku přibyl i další oblíbený program – Stable Diffusion, který vedle systému Dall-e od Open-AI rovněž převádí textová zadání do obrazových výstupů. „Myslím, že zvlášť v evropském prostředí stále nějak referujeme ke klasickému ideálu, který pracoval se správnou mírou: nejde jen o zlatý řez, ale vyvážené proporce, dnes by se řeklo třeba symetrie obličejových rysů či poměrů těla (90-60-90). Zamilovat se sice můžeme do osobitých nedokonalostí, ale krása se vždy blíží dokonalosti,“ zamýšlí se nad krásou přirozenou i umělou filozofka Dita Malečková. „Generativní systémy abstrahují z velkého množství dat a většinou vytvářejí něco jako průměr – tedy i v oblasti krásy operují s pojetím, v němž je krásné to, co většina za krásné považuje a deklaruje,“ dodává.

Když jsem generovala vizuály pro třetí řadu projektu Digitálního spisovatele, narazila jsem přesně na tento „průměr“: na neurážlivě atraktivní ženské postavy, které nedisponovaly žádnými osobitými nedokonalostmi, do kterých bychom se mohli zamilovat. Nestačilo tedy systém požádat o „krásnou ženu“. Bylo nutné zadání víc specifikovat – třeba napsat „krásná žena s rozcuchanými vlasy a velkým nosem“.

Pojďte se podívat, co o kráse a ošklivosti soudí systém Midjourney, a to pomocí jednoduchého experimentu. Nejprve jsem několikrát zadala úkol vyrobit obraz krásné ženy. Výsledky byly předvídatelné: naskočily obrázky mladé půvabné dívky s bezvadnou pletí a bohatými vlasy. Když jsem naopak chtěla ošklivou ženu, hádejte, které první výsledky mi to vygenerovalo: starší ženy s hlubokými vráskami a propadlýma očima.

Je důležité mít na paměti, že obrázky, které vidíte, vygeneroval systém Midjourney na základě nejširšího možného dotazu. Pojem „krásná žena“ je nesmírně široký a na jeho přesném zobrazení bychom se neshodli jistě ani při debatě s přáteli nebo rodinou. Tímto pohledem je dobré vnímat i výsledky generovaných obrazů. Výsledky sice nesporně přispívají ke stigmatizaci akné, vrásek i stáří a do jisté míry reflektují i floskuli o tom, že by „ženy byly o tolik hezčí, kdyby se jen trochu usmály“. Ale je tomu tak jen proto, že systémy pracují s biasy, které se naučily od lidí.

Může „algoritmizace krásy“ prohlubovat společenská stigmata spojená se zcela běžnými jevy? „Jistě, krásní budou krásnější a oškliví ošklivější, beauty bias bude i nadále přítomen. Působí zde ale poměrně hodně lidí, kteří se snaží napravit situaci a kriticky přistupovat ke všem ideálům včetně krásy,“ říká Dita Malečková.

Pokud bude takových lidí, médií a institucí dostatek, je možné, že se promění i kolekce dat, takzvaný dataset, ze kterého generativní algoritmy vycházejí, a v budoucnu se dočkáme reprezentativnějších výsledků.

Generativní modely, které chrlí takové nepřeberné množství obrázků na vyžádání, zavdávají příčiny k obavám – především umělcům, na jejichž autorských dílech se systém rychle „učí“. Na takový problém narazili například uživatelé programu LensAI. Ten nabízel výstup s názvem Magic Avatar, který kombinoval deset až dvacet fotografií uživatele, a vytvořil tak řadu portrétů v různých uměleckých stylech. Na výsledných obrazech ale bylo viditelné něco, co připomínalo autorský podpis. Ilustrátorka Lauryn Ipsum tehdy na twitteru sdílela taková díla s tím, že to, co vypadá jako podpisy, jsou „zbytky podpisů několika autorů, které program okradl“.

Andrey Usoltsev, výkonný ředitel Prisma Labs, společnosti, která LensAI vytvořila, ale vysvětlil, že tato mylná hypotéza vzniká z předpokladu, že jejich program kombinuje již existující díla. Proces je ale podle něj jiný – algoritmus se na existujících dílech pouze naučí napodobovat různé styly, při tvorbě ale nevychází přímo z děl samotných. V tomto konkrétním případě mělo tedy LensAI jen „pocit“, že podpis je standardní součástí díla, a tak si nějaký vymyslelo.

Těžko ale spekulovat, jestli toto ujištění někoho uklidnilo, a tak nezbývá než se zeptat, zda by se umělci měli bát, že jim AI vezme práci. „Jsem rozhodně pro to, aby se vytvořily férové podmínky, v nichž by byli oceněni lidští tvůrci a umělci, na jejichž práci se AI trénuje. Zdá se ale, že AI je ‚pouze‘ skvělý nástroj urychlující kreativní práci – snad se nemýlím, ale v interakci se strojem mohou grafičtí designéři stále tvořit velmi osobitá díla a odpadne jim monotónní práce s opakujícími se zadáními. Možná bude ‚human touch‘ vypadat jinak, než jsme byli zvyklí, ale věřím, že život si najde cestu,“ odpovídá Dita Malečková.

Generativní modely nabízejí zcela jedinečnou příležitost vytvářet a vnímat nové, neokoukané věci: zatímco dříve musel člověk nejprve dlouze vyhledávat to, co mu přišlo krásné, nyní může krásno jednoduše vytvářet, a jediné, co pro to musí umět, je pojmenovat ho. Umělá inteligence nám nekazí cit pro krásu, naopak rozšiřuje možnosti toho, co krásné být může. To ale má potenciálně zcela zásadní dopady na různá pole lidského zájmu – od hudby, her, literatury, ale třeba i pornografie. Jistě se tím otevírá i celá řada etických témat, od autorství po konsent. Je dobré o nich vědět a být připraveni jim čelit.

Každý den jsme neustále konfrontováni s tím, co krása ve současné společnosti znamená. Na sociálních sítích se setkáváme s filtry, díky kterým můžeme rychle a jednoduše „zkrásnět“, což ve většině případů znamená, že nám náhle zmizí pupínky, disponujeme dlouhými řasami, máme rovný nos, plné rty, dokonalé zuby a úzký obličej. Tyto filtry ale vyrábějí většinou lidé. A jsou to také lidé, kdo standardy krásy nastavují. Nebylo by proto trochu pokrytecké zlobit se na umělou inteligenci jen proto, že považuje za atraktivní to, co za atraktivní považuje většinová společnost?