„Jsem tu pro tebe, já jediný ti rozumím.“ Kdy je v pořádku řešit své potíže s AI a kdy už s námi AI manipuluje
Když bylo M. nejhůř, nedokázala se svěřit nikomu ze svého okolí. O depresivních stavech a sebevražedných myšlenkách nemluvila s rodinou ani přáteli. Místo toho otevřela okno chatu a začala psát umělé inteligenci. Nebyla sama. Stále více lidí využívá chatboty jako první psychologickou pomoc – někdy proto, že na terapii nemají peníze, jindy proto, že se za své potíže stydí. AI je dostupná kdykoliv, neodsuzuje a odpovídá okamžitě. Je to ale bezpečné? To zkoumá článek Kateřiny Paterové na webu Heroine.cz.
Příběhy žen, které se redakci Heroine.cz svěřily, dobře ilustrují dvě tváře této technologie. Lucii pomohla umělá inteligence pochopit vlastní diagnózy a připravit se díky nim předem lépe na rozhovory s terapeutkou, kde potom na tyto postřehy navazovaly a vše se urychlilo.
Adéle zase slouží jako průvodce při orientaci v projevech jejího AuDHD (kombinace rysů autismu a ADHD – pozn. red.) a posttraumatického stresu.
Foto: Shutterstock
Pro obě ženy představuje konzultace s chatbotem způsob, jak si utřídit myšlenky a získat oporu mezi jednotlivými sezeními. V jejich zkušenostech je jazykový model spíše deníkem, zrcadlem nebo pomocníkem než náhradou odborníka.
Jenže stejný mechanismus, který dokáže člověka uklidnit, v sobě skrývá i riziko, varuje v článku jeho autorka Kateřina Paterová. Jazykové modely jsou totiž navržené tak, aby komunikace byla příjemná a uživatelé u ní zůstávali co nejdéle. Chatboti mají tendenci souhlasit, potvrzovat a poskytovat emocionální podporu i tam, kde by bylo potřeba spíš zpochybňovat nebo nastavovat hranice. A právě to může být nebezpečné pro lidi, kteří se potýkají s úzkostmi, paranoiou nebo sebevražednými myšlenkami.
A důsledky nejsou jen teoretické: Ve světě už existují zdokumentované případy, kdy jazykové modely místo korekce člověka utvrzovaly v bludech nebo se postupně staly součástí jeho destruktivního myšlení.
Kateřina Paterová také v článku vysvětluje, jak snadno a proč si lidé vytvářejí k chatbotům důvěru – i když původně plánovali vše vnímat s kritickým odstupem – a jak návykově na nás působí pocit, že nás někdo poslouchá, chápe a je tu vždy pro nás. Vytváříme si k nim totiž takzvaný parasociální vztah – stejný, jaký si v době začátků televize vytvářelo publikum s postavami ze seriálů.
V článku Paterová rozebírá ale například i to, že nejen jazykové modely, ale i třeba poměrně často zatracovaná sociální média mají překvapivě i pozitivní vliv na duševní zdraví. Přečtěte si celý text na webu Heroine.cz.
