Nástup generativní AI dramaticky proměňuje zdravotnictví i sociální služby. Lidé se stále častěji obracejí na volně dostupné AI chatboty jako na první pomoc při psychických potížích. Nezodpovědně navržené nástroje bez odborného dohledu však mohou zranitelným lidem výrazně ublížit. Piráti proto dlouhodobě prosazují, aby digitalizace a zavádění nových technologií stály na bezpečných, etických a transparentních základech.
„Trh zaplavují komerční aplikace simulující psychoterapeuty nebo krizové interventy bez odborného zázemí. Jako Piráti podporujeme inovace, ale lidské zdraví a soukromí musí být na prvním místě. Musíme propojit odborníky s legislativci, podpořit krizové linky a zajistit, aby AI byla bezpečným pomocníkem, ne nekontrolovaným rizikem,“ zdůraznila Barbora Pipášová, poslankyně za Piráty.
Odborníci se na zasedání shodli, že AI dokáže skvěle odbourat administrativní zátěž lékařů a terapeutů, samotný terapeutický proces však vyžaduje lidskou empatii. Rizikem je zejména situace, kdy uživatelé přijímají odpovědi od AI nekriticky jako návod, jak mají žít.
„Každému z nás AI určitým způsobem vnáší pochybnost do naší role v očích veřejnosti – zdravotníkům do odborné autority, pedagogům do průvodcování, terapeutům do důležitosti vzájemného vztahu. Klíčové je definovat naše specifické místo a lidskou roli v odborné praxi a jak s technologií smysluplně spolupracovat, aniž bychom rezignovali na vlastní přemýšlení,“ upozornil Daniel Wagner z České asociace pro psychoterapii.
Data z terénu navíc ukazují, že veřejnost technologie k řešení osobních problémů již běžně používá, často však bez vědomí možných dopadů na psychické zdraví.
„Generativní AI vtrhla na trh a lidé ji začali svévolně používat jako intervenci v oblasti duševního zdraví. Nikdo se neptal, zda tyto nástroje chceme, nevznikly v rámci klasického systému zdravotní péče, ale staly se realitou ovlivňující péči nejen ve zdravotnictví, ale i ve školství a sociálních službách. Musíme tento fenomén systematicky monitorovat, zkoumat jeho dopady na péči a otevřeně o nich komunikovat,“ dodal Petr Winkler z Centra pro rozvoj péče o duševní zdraví a 1. lékařské fakulty Univerzity Karlovy.
Výstupem setkání je konkrétní dohoda o další spolupráci. Česká asociace pro psychoterapii předloží k odbornému připomínkování chystané Patero AI pro terapeuty, které nastaví etické hranice a pravidla ochrany citlivých dat.
„Pro řadu lidí je dnes AI něco jako předsíň, kam vejdou dřív, než zazvoní u terapeuta. Nemá smysl ji zamykat. Má smysl se starat o to, kam ta předsíň vede, jak vypadá a co nabízí, nebo v čem je ohrožující. Proto se potřebujeme jako obor vzdělávat, sdílet a mluvit o tom nahlas, mezi sebou i směrem k veřejnosti.“ vyzdvihla Tereza Komárková, autorka připravované publikace o AI v psychoterapii a koordinátorka odborné skupiny.
Paralelně vzniknou srozumitelné vzdělávací materiály pro odborníky v pomáhajících profesích i osvětové kampaně pro veřejnost, které vysvětlí, že AI chatbot nemůže nahradit hluboký terapeutický proces založený na lidském vztahu. Na příštím zasedání pracovní skupiny, které je naplánováno na začátek ledna, pak odborníci představí první nová data z rozsáhlé studie využití AI v psychologické podpoře (1. LF UK, FSS MU, Hedepy) i čerstvá národní data z šetření NÚDZ.