Zdravotnictví už prochází revolucí. Jako pacient bych se ptal, zda si můžu AI připlatit, říká expert

Umělá inteligence (AI) už mění zdravotnictví a lékaři ji využívají v každodenní praxi. „Už to v podstatě žijeme a bude to akorát přibývat na intenzitě,“ říká v rozhovoru s deníkem Echo24 Adam Gřunděl, konzultant ministerstva zdravotnictví v otázkách AI a vedoucí oddělení inovací Nemocnice AGEL Nový Jičín, který je zároveň členem nové odborné společnosti pro umělou inteligenci a inovativní digitální technologie v medicíně (CSAIM) ČLS JEP. Vývoj v Evropě však podle něj budou specificky ovlivňovat regulace a je tak otázkou, zda si tu lze představit něco jako v Číně chystanou AI nemocnici.

Stojíme před něčím, co by šlo nazvat revolucí ve zdravotnictví?

Nazval jste to správně revolucí, jde o technickou revoluci, která už se ale v současné době děje. V rámci zdravotnictví se už těžko hledá obor, který umělou inteligenci nevyužívá. Už to v podstatě žijeme a bude to akorát přibývat na intenzitě. Jediné, co se tomu musí v budoucnu určitě přizpůsobit, bude legislativa.

České zdravotnictví neoplývá zrovna pověstí nejrychleji se digitalizujícího sektoru, spíše za to čelí kritice, nebude tento technologický pokrok narážet na bariéry?

Já si nemyslím, že bychom v digitalizaci v rámci zdravotnictví byli nějak pozadu oproti například naším sousedům, ať už to jsou Poláci, Němci, Rakušané nebo Slováci. Možná jsme trochu pozadu oproti skandinávským zemím či zemím v Asii, ale asijské země nebo i Spojené státy mají trochu jinou legislativu.

Česká republika patří k jedněm z hlavních center robotické chirurgie, která bez digitalizace dnes nefunguje, v rámci velkých nemocnic, ať už fakultních či krajských, digitalizace probíhá a dá se říct, že jsou s ní smířeni. V ambulantním sektoru je digitalizace zdravotnictví o něco komplikovanější. Digitalizace je strašně komplexní a komplikovaná, zdigitalizovat zdravotnictví a něco opravdu z papíru – kdysi to tak bylo, dnes už je to méně a doufám, že to za pár let úplně vymizí – dostat do digitální podoby si prostě žádá nějaký čas a odborníky. Co se týká umělé inteligence, telemedicíny, případně jiných inovativních řešení jako je virtuální realita či robotika, na to jsou v nemocnicích připravení. Já působím v několika nemocnicích, kde zavádíme umělou inteligenci, a nevidím technické problémy. Samozřejmě vždy můžeme být připraveni lépe, ale nejsou tam žádné zásadní bariéry.

Umělou inteligenci už nemocnice napříč republikou využívají, v čem už nyní pomáhá? A vědí o tom vůbec pacienti?

Nejvíce exponovaná odbornost je radiologie, kde se pracuje v plně digitalizované podobě s obrazovými daty, je to obor, kde je digitalizace nejdále. Co se týká pacientů, narážíme nejen u nich, ale i u odborníků na digitální gramotnost. Ta by se mohla více prohlubovat a více by se o tom mohlo mluvit i navenek. Na druhou stranu i v rámci ministerstva proběhly třeba kulaté stoly s pacientskými organizacemi, úzce s nimi spolupracujeme a informujeme pacienty o nástupu nových technologií. A ze strany pacientských organizací je touha se o tom něco dozvědět.

Češi jsou trochu více skeptičtí k novým technologiím a déle trvá, než si to sedne, na druhou stranu mě ale těší zájem z řad pacientů o tyto nové technologie. Když já sám budu pacient a půjdu dnes třeba na kolorektální screening, na kolonoskopii, určitě se budu ptát, zda si můžu za využití AI třeba připlatit nebo jestli to zdravotnické zařízení zkrátka disponuje umělou inteligencí při vyšetření.

Když se ještě vrátíme k pacientům, musí být o využití těchto technologií dnes informovaní?

Pacient v dnešní době podepisuje obecně informovaný souhlas, v němž je popsán daný výkon – operace, rentgen hrudníku apod. V současné době si za využití AI pacient nepřiplácí, je to něco, co dává ta nemocnice navíc. A některé nemocnice to dávají do informovaného souhlasu, některé ne. Pacient má ale ze zákona právo na poskytnutí veškerých informací shromážděných ve zdravotnické dokumentaci.

Zkrátka když se pacient zeptá, měl by se to dozvědět.

Přesně tak, měl by se to dozvědět, personál by ho měl informovat či popsat, co to obnáší. Myslím si, že dnes lékaři detailně informují pacienty o výkonech ať už diagnostických, terapeutických nebo celkově o léčbě. Systémy umělé inteligence, které se používají v klinické praxi, jsou většinou uzavřené systémy, které musí projít certifikací zdravotnického prostředku. To je dost složitý proces, kdy musí výrobce splnit řadu podmínek a získat certifikaci. Tedy to, co se dnes používá k nějakému výkonu v rámci zdravotnictví, jsou zdravotnické prostředky.

Na co se mají pacienti připravit do budoucna, jak se může zdravotnictví v příštích letech proměnit?

Dnes je největší využití v rámci diagnostiky, kde se to používá už celkem stabilně. Přechod do terapeutické části tu určitě bude a nejvíce k tomu asi směřují robotické systémy, které už dnes sbírají data, využívají AI ke statistikám i učení. Je možné, že tu do patnácti, dvaceti let bude robot, který bude operovat úplně sám. Ale to je opravdu ještě daleká budoucnost, protože jedna z věcí, která nás tady v Evropě a v Česku bude v tomto směru nechci říct omezovat, ale zkrátka regulovat, budou ať už evropské či naše státní regulace. Například v Číně se chystají otevřít první AI nemocnici, kde budou AI doktoři i sestry, zvládat mají diagnostiku v rámci asi dvaceti oborů. Na druhou stranu je otázka, jestli tohle my, jako čeští pacienti, chceme. A zda to bude přenositelné do EU. Myslím si, že spíše ne, nebo s výhledem desítek let.

Očekáváte, že třeba i oproti USA zde budou regulace přísnější?

Určitě. Máme tu nyní regulaci, která se týká zdravotnických prostředků, do toho zasahuje GDPR, které se týká osobních dat, do toho kyberbezpečnost a k tomu přibývá evropský AI Act, který se přímo zaměřuje na systémy spojené s AI. Regulací je tu dost, na druhou stranu, ty systémy se využívají ve zdravotnictví, kde jsou velice citlivá data a kde chybná rozhodnutí, která může stroj stejně jako člověk udělat, mohou mít za následek poškození pacientů. Tedy má to svůj účel.

Objevuje se i otázka, zda by mohla AI do budoucna některé lékaře nahradit – sám zmiňujete robotické operace. Může se to podle Vás stát?

Co se týká operací, to je stále ve fázi věda, výzkum a testování. Jestli se to někdy stane v Evropě, že některé obory či vyšetření nahradí umělá inteligence spojená s dalšími inovativními technologiemi, nejsem si jistý, že bychom to my ještě mohli zažít. Je to velice citlivé téma i mezi odborníky, v současné době nese odpovědnost vždy lékař a ty systémy jsou spíše podpůrné, mají usnadňovat procesy ať už v rámci administrativy či diagnostického vyšetření. Mají šetřit čas, který pak lékařům zbyde na práci a komunikaci s pacientem. To je s výhledem nějakých deseti let v současné době úkol umělé inteligence a dalších systémů. Nemyslím si, že by měla nahradit doktora, já jsem jako pacient zastánce přístupu, že chci vždy mluvit s doktorem a myslím, že lidský kontakt k medicíně patří.

Lidé mají už dnes tendenci hledat si vlastní diagnózy na internetu, kde nemusí vždy narážet na zcela přesné informace a dostávat se i do sporů s lékaři. Co v tomto směru přinese AI? Dá se třeba do budoucna představit, že budou mít lidé v telefonu spolehlivého AI asistenta-lékaře? Mohl by ulevit třeba praktickým lékařům u, řekněme, banálnějších záležitostí?

Jak říká jeden kolega, je to tak trochu Pandořina skříňka. Něco se nám může zdát banální, ale pokud to nějaký chatbot vyhodnotí špatně, z banality může vzniknout mnohem horší problém, který může poškodit pacienta. Už teď je trendem, že lidé využívají chatboty k hodnocení nějakých svých neduhů či zdravotního stavu. Nemyslím si, že je to dobrá cesta.

Existují některé systémy třeba na vyšetření mateřských znamének, které jsou certifikované jako zdravotnický prostředek – pacient ho použije ve svém telefonu a systém mu řekne, že to nevypadá dobře a má určitě kontaktovat lékaře. Když to bude zdravotnický prostředek, s tím problém nemám, ale využívání jazykových modelů, které nejsou primárně určené pro diagnostiku a medicínu, to bych lidem spíše nedoporučoval. Nemyslím si, že je to cesta ani do budoucna – případně to bude cesta do prvního problému, který poškodí pacienta, a to by pak znamenalo, že to zastaví celkově rozkvět a rozmach AI ve zdravotnictví.

Zmiňoval jste administrativní úspory či více času na pacienty – mezi zásadní problémy českého zdravotnictví patří bující rozpočet a neefektivní využívání nejen personálních kapacit, je v AI potenciál situaci “zachránit”?

Nechci říkat, že situaci zachrání, i tak jsou ve zdravotnictví dříve či později potřeba systémové změny. AI může být nástroj k nějakému zefektivnění a lepšímu využívání času odborníků a lidí, kteří se dnes zabývají více administrativou než léčením. V tom vidím přidanou hodnotu. Ale že by mohla AI v současné době nahradit některé odborné pracovníky, myslím si, že spíše ne. Není to tak, že přijde umělá inteligence a zdravotnictví se úplně v tomto změní. Bude to dlouhodobý proces.

S využitím AI ve zdravotnictví se pojí řada etických otázek, jako první vyvstává otázka odpovědnosti za špatná rozhodnutí – jak je to nastavené dnes?

Dnes nese odpovědnost vždy lékař, ten má konečné slovo. Může a nemusí souhlasit s vyhodnocením umělé inteligence, musí si to dát do souvislostí. Když to budu brát na sňatých snímcích – AI vidí pouze ten snímek, je schopná ho vyhodnotit, neovlivňují ji žádné další aspekty jako hlad, žízeň, únava či starosti, které lékař má, podává konstantní výkon, na který je natrénovaná. Jenže nevidí další konsekvence – laboratorní výsledky, nemůže si na pacienta sáhnout. To vše lékař musí vzít v potaz a se svými zkušenostmi a odborností rozhodnout, zda je výsledek relevantní.

Nejsou kvůli tomu lékaři k využívání AI trochu skeptičtější, neobávají se jejího využívání?

Myslím, že rok zpátky to patřilo k prvním otázkám, co se stane, když jako lékař rozhodnutí AI nepřijmu. S přibývajícími klinickými studiemi, odbornými články a daty, která k tomu jsou, se to trochu mění, lékaři začínají tuto technologii přijímat a využívat. A pokud jsou v rozporu s výsledky AI, prostě si to odůvodní v rámci lékařské zprávy. Jednoduchý případ – když máte pacienta, kterému je 88 let a vy uvidíte nějaké lehké zastínění, u kterého AI varuje, že by tam něco mohlo být, je otázka, jestli to pro pacienta má klinický význam a odborník musí zhodnotit, zda má smysl například posílat pacienta na další stresující kolo vyšetření.

Zaznívá i názor, že by měl mít do budoucna pacient možnost diagnostiku skrze AI odmítnout. S tím se ale nabízí další otázky, bude například pacient schopný posoudit, zda se tím efektivita jeho léčby nesníží?

Myslím, že by to tak mělo být. Pacient obecně může odmítnout léčbu a lékař ho obeznámí s riziky, které to s sebou nese. Stejně tak můžete odmítnout jakoukoliv jinou diagnostiku.

Jak se řeší otázka soukromí/bezpečnosti a využívání pacientských dat?

Každá technologie, ať to bude telemedicína či AI, vždy s sebou přináší i něco negativního, v rámci práce s daty jde o to, že mohou někam utéct. Jde o velmi citlivá data, musí se velmi dbát na kyberbezpečnost. Co se týká využití dat pro klinické studie či nějaký vývoj, vždy by ta data měla být anonymizována a vždy opouštět nemocnici jen v této podobě. V rámci pacientských dat je tu AI Act, GDPR i další nařízení v rámci kybernetické bezpečnosti. Česko se pravidly v rámci EU striktně řídí.

Jste součástí nové odborné skupiny, České společnosti pro umělou inteligenci a inovativní digitální technologie v medicíně ČLS JEP (CSAIM), která spadá pod sekretariát České lékařské společnosti Jana Evangelisty Purkyně. Jaké má skupina cíle?

Nyní jsme slavili první rok fungování, tato odborná společnost sdružuje především odborníky z řad lékařů , akademických pracovníků a z řad pracovníků, kteří se pohybují v nemocnicích. Znamená to celkem široké spektrum lidí od lékařů po inženýry, programátory, IT odborníky na kybernetickou bezpečnost, ale třeba také právníky, kteří se zabývají právě otázkami etiky či GDPR. Vize odborné společnosti je osvěta, diskuze s dalšími odbornými společnostmi, pacientskými organizacemi a dále tvorba metodických pokynů, příruček, do budoucna klinicky doporučených postupů. A jedním z velkých témat je pak vzdělávání, tedy otázka, jak bychom měli v dnešní digitální době vzdělávat lékaře, aby uměli používat AI, uměli z ní vyčíst, co potřebují.