Pořád mě baví zkoumat meze toho, čeho může umělá inteligence dosáhnout

Profesorka Olga Štěpánková se zabývá možnostmi aplikace umělé inteligence v technickém prostředí, zdravotnictví, sociální péči a vzdělávání. Zkoumá potenciál AI proměnit diagnostické metody a způsob péče. Jedním z aktuálních témat, na která se soustřeďuje, je hledání neobtěžujících způsobů, které umožní včas identifkovat i nenápadné změny chování pacientů či klientů a předejít tak různým druhům zdravotních komplikací. Je předsedkyní České společnosti pro kybernetiku a informatiku a podílela se na vzniku Českého institutu informatiky, robotiky a kybernetiky ČVUT.

Cena Milady Paulové je udělována za celoživotní přínos v daném oboru. Co pro vás její získání znamená?

Udělení Ceny Milady Paulové si velmi vážím a vnímám jej také jako ocenění pro všechny své kolegy, kolegyně a přátele, s nimiž jsem měla v průběhu své kariéry příležitost dlouhodobě spolupracovat. Považuji za mimořádné štěstí, že se nám společně dařilo vytvářet svobodné a inspirativní tvůrčí prostředí, které nám dodávalo nejen odvahu neklást si malé cíle, ale i sílu jich dosahovat.

Ocenění jste získala v oblasti umělé inteligence, což je ale velice široký pojem. Mohla byste více přiblížit, čemu se věnujete?
Zajímají mě možnosti aplikací umělé inteligence nejen v technickém prostředí, ale především ve zdravotnictví, sociální péči a vzdělávání. Právě těmto oblastem se věnuje tým biomedicínského inženýrství v CIIRCu (Český institut informatiky, robotiky a kybernetiky, anglicky Czech Institute of Informatics, Robotics and Cybernetics, ČVUT), jehož jsem členkou. Dlouhodobě spolupracujeme s řadou lékařských institucí a společně hledáme nové, dobře cílené biomarkery, které dokážou upozornit na vznikající závažná onemocnění, například Alzheimerovu chorobu či onkologická onemocnění, výrazně dříve než ty dnes běžně používané.

Jedním z našich aktuálních témat je hledání neobtěžujících způsobů zjišťování nenápadných dlouhodobých změn v chování pacientů či klientů, které lze objektivně popsat a přispět tak do mozaiky celkového obrazu pacienta. Na takovém komplexním obraze lze objevit anomálie daleko dříve než na jednotlivých příznacích – to umožňuje předcházet rozvoji plíživě vznikajících onemocnění, která mohou ztrpčovat život například mnoha seniorům i jejich rodinám. K tomu často nemusí sloužit jen data ze složitých lékařských přístrojů, ale i údaje z různých senzorů chytré domácnosti nebo data vznikající při hraní vhodně zvolených počítačových her v průběhu týdnů a měsíců. Taková data zpracováváme pomocí metod umělé inteligence, které pomáhají při jejich interpretaci, zjišťování odchylek, a především při personalizaci řešení pro konkrétního uživatele.

To je velice aktuální a komplexní téma. Co vás na jeho zkoumání nejvíce baví?
Velmi ráda spolupracuji s odborníky z externích institucí, protože práce s jejich daty je vždy velkým dobrodružstvím. Naším prvním úkolem je pochopit, jak data vznikají a co může jejich hodnoty ovlivnit. To zpravidla probíhá v několika iteracích – nejprve se zvědavě ptáme, dostáváme expertní odpovědi a následně pokračujeme v nové analýze. Tento proces často modifikuje původní pohled na zkoumanou problematiku a umožňuje formulovat korektní a důvěryhodné závěry, které přinášejí publikovatelné výsledky. Je to různorodá a pestrá práce, která často „roste pod rukama“ a současně otevírá nové obzory. Je radost tvořit v prostředí, kde se členové velmi různorodého týmu sami hlásí k úkolům, které nejlépe odpovídají jejich naturelu.

Jak jste se dostala právě k umělé inteligenci? 
Vždycky jsem měla ráda matematiku a fascinovalo mě, jak přesně dokáže vymezit podmínky pro to, kdy lze nějakou úlohu vyřešit a kdy ne. Tímto pohledem jsem také vnímala umělou inteligenci před více než padesáti lety, kdy jsem o tomto oboru poprvé slyšela na semináři Aplikované logiky od Ivana Havla, poté co se vrátil ze studijního pobytu v USA. Nadšeně hovořil o stanfordském robotovi Shakey a o tom, jak robot přistupoval k samostatnému řešení úloh formulovaných jeho tvůrci. Zajímalo mě, za jakých okolností by bylo možné pro plánování akcí robota používat důkazové prostředky matematické logiky. A právě těmto otázkám se věnovaly naše společné publikace na přelomu 70. a 80. let.

U teorie jsem zůstala i v dalším desetiletí, kdy jsme s manželem zkoumali vlastnosti právě vznikajícího deklarativního programovacího jazyka Prolog, určeného právě pro úlohy umělé inteligence a vycházejícího z principů logického dokazování. V roce 1988 mi nabídla vědecké místo Katedra kybernetiky na FEL a od té doby intenzivně spolupracuji s profesorem Maříkem a jeho týmem. V tomto prostředí jsem si uvědomila, jak zajímavým inspiračním zdrojem pro rozvoj oboru mohou být praktické aplikace. Klíčem k úspěšné aplikaci bývá důkladná analýza dat z prostředí úlohy, při níž hrají zásadní roli metody strojového učení. Posledních třicet let se tedy věnuji především strojovému učení a jeho aplikacím. Označení Artificial Intelligence bylo ve vědeckém světě poprvé použito v roce 1956 a do 70. let, kdy jsem se s ním poprvé setkala, již v odborných kruzích zdomácnělo.

Matematika a programování jsou vnímány spíše jako domény mužů, a tak jste asi neměla nouzi o mužské profesní vzory. Řekla byste, že jste ve své profesi měla i nějaké ženské vzory?
Samozřejmě, že jsem jako školačka obdivovala studentku a mladou vědkyni Marii Skłodowskou z knihy Tvrdohlavá Marie od Antonína Zhoře. Živý vzor jsem však měla daleko blíž – oba mí rodiče se jako lékaři společně velmi úspěšně věnovali neurofyziologickému výzkumu. Obdivovala jsem jejich rozhled, vytrvalost, pracovní nasazení, schopnost spolupráce, efektivní dělbu práce i to, jak se vzájemně respektovali a podporovali.

Vědecká práce mi připadala jako velmi lákavá volba – toužila jsem objevovat nové obzory, ale chtěla jsem jít vlastní cestou. Z několika alternativ jsem zvolila jsem studium matematiky a fyziky, kam jsem měla dveře otevřené díky úspěšné účasti v olympiádách.

Měla jsem skvělé rodinné zázemí a má rodina mě plně podporovala například tím, že se mi snažila zajistit dobré jazykové vzdělání. Měla jsem veliké štěstí, že jsem díky zahraničním kontaktům svých rodičů mohla v roce 1967 strávit prázdniny v Londýně jako au-pair u rodiny známých jejich známých. To byla výborná zkušenost – zvykla jsem si nejen komunikovat v angličtině, ale i číst anglické knihy a v cizím prostředí spoléhat sama na sebe.

Setkala jste se naopak s nějakými překážkami, které vás v kariéře limitovaly?
Vlastní vědeckou kariéru jsem si musela tak trochu vyvzdorovat nikoli na rodině, ale na tehdejších společenských poměrech. MFF UK jsem dokončila s červeným diplomem v roce 1972, ale vedoucí fakultního kádrového oddělení si dobře pamatovala, že jsem byla na podzim 1968 členkou fakultního stávkového výboru, a také to, že oba mí rodiče byli vyloučeni z KSČ. Napsala mi posudek, se kterým mě odmítli nejen do postgraduálního studia na všech školicích pracovištích, ale i na běžné pracovní pozice.

S trochou štěstí jsem nakonec přesto získala místo v Ústavu výpočetní techniky ČVUT, kde se ke mně chovali velmi vstřícně a časem mě doporučili do dálkového doktorandského studia. Závěrečnou práci jsem odevzdala v roce 1979, ale titul mi byl udělen až v roce 1981 a statut vědecké pracovnice jsem získala teprve v roce 1985. Myslím, že tím, že jsem si svou vědeckou práci musela prosadit přes nepřízeň poměrů, mě to k vědě o to více přitahovalo.

Jaké největší výzvě jste ve své profesní dráze čelila?
Výzvou samozřejmě bylo skloubit práci, výzkum a mateřské povinnosti. Byla jsem velmi ráda, že mi v Ústavu výpočetní techniky ČVUT po mateřské dovolené ochotně snížili úvazek a upravili pracovní dobu tak, abychom se s manželem nebo s paní na hlídání mohli podle potřeby střídat v péči o naše dvě malé dcerky.

Velmi mi pomáhalo i to, že moje maminka, která tehdy ještě pracovala na plný úvazek, se o obě vnučky pravidelně jedno odpoledne v týdnu starala a já jsem mohla chodit na semináře či do knihovny. Byla jsem velmi vděčná, že jsem měla možnost opřít se o pomoc rodiny. Manžel se se mnou v té době ochotně dělil o domácí povinnosti, a dokonce jsme společně řešili některé výzkumné problémy. Nebylo nic výjimečného, když jsme o nich diskutovali večer při mytí nádobí.

Vědecké prostředí se během vaší profesní dráhy velmi proměnilo. Co je podle vás tou největší změnou?
Světové vědecké prostředí se zásadně změnilo s příchodem internetu. Současný přístup k informačním zdrojům je nesrovnatelně bohatší a rychlejší. Nikomu se určitě nestýská po době, kdy bylo potřeba leteckým dopisem žádat o separát, který v lepším případě dorazil za dva až tři týdny. S pádem železné opony se i pro nás Středoevropany otevřely hranice a nic nám nebrání ve spolupráci se zahraničními institucemi ani v získávání mezinárodních grantů.

Dá se říct, zda v oblasti umělé inteligence převažují muži či ženy?
Obecně zůstává AI, stejně jako mnohé jiné technické obory, doménou mužů. Ale není to tak všude. Například v našem institutu jsou hned tři týmy, které vedou ženy. Právě ve výzkumu AI je v současnosti řada velmi úspěšných a inspirativních žen, z nichž některé veřejně vystupují například při Dnech AI.

Jsem moc ráda, že dívky jsou také výrazně zastoupeny mezi studenty biomedicínského inženýrství na Fakultě biomedicínského inženýrství ČVUT v Praze, kde mám čest učit AI a Analýzu a rozpoznávání vícerozměrných dat. Nelákám do výzkumu speciálně studentky, ale snažím se motivovat všechny studenty bez rozdílu.

V dnešní době se velmi rozšiřuje povědomí o AI a její používání proniká do běžných oblastí našeho života. Myslíte, že jsou veřejnosti dostatečně vysvětlována specifika jejího využívání – tedy jak možnosti, tak možná úskalí?
Reklamní společnosti a mnozí další aktéři dnes rafinovaně kombinují různé metody umělé inteligence k výraznému, a přitom nenápadnému ovlivňování našich postojů k různým otázkám. Daří se jim tak zneužívat neutrální nástroje AI k polarizaci společnosti, manipulaci s veřejným míněním či k jiným protispolečenským aktivitám. Není výjimkou, když se tímto způsobem šíří falešné a lživé zprávy.

I když takové jevy zásadně odsuzuji, protože je považuji za nebezpečný útok na samotnou podstatu demokracie, cítím za ně i trochu spoluzodpovědnost. Oceňuji proto současné snahy vlád hledat způsoby, jak tomu bránit pomocí regulace. Chápu, že je to velmi obtížné, protože Pandořina skříňka s AI už byla otevřena.

Za stejně důležitou jako regulaci však považuji prevenci – tedy průběžné zvyšování odolnosti občanů vůči různým AI útokům tím, že široká veřejnost bude srozumitelně informována o aktuálních potenciálních nebezpečích a zapojována do hledání cest, jak se jim bránit.

Zde už nyní hrají významnou pozitivní roli veřejnoprávní média i některé neziskové organizace, například Člověk v tísni. Důležité je zajistit pro tento úkol širokou multidisciplinární spolupráci, podpořit metody z oblasti občanské vědy a dávat prostor pro otevřenou diskuzi. Nic z toho se neobejde bez spolehlivé finanční podpory, kterou nelze zajišťovat jen prostřednictvím sponzorů. Myslím, že stát by se měl více podílet na financování podobných aktivit, protože prevence je vždy lepším a efektivnějším řešením než potírání zločinnosti.

Kam bude podle vás vývoj AI v blízké budoucnosti směřovat?
Principy a teoretický základ AI tvoří sofistikované algoritmy, jejichž zásoba se stále rychle rozrůstá. Podle toho, jak se je podaří využít, se budou podílet na rozvoji a zásadně posunou zcela rozdílné obory – už nyní pomáhají pochopit principy vzniku mnoha nemocí, přispívají ke vzniku nových a účinných léků na zatím neléčitelné choroby, výrazně zefektivňují výrobu nebo pomáhají s interpretací archeologických nálezů.

Tento vývoj bude jistě dále pokračovat. Tytéž algoritmy však mohou být použity také k výraznému zvýšení účinnosti různých typů zbraní, k realizaci dystopií, jaké popisuje George Orwell v románu 1984, nebo k nenápadnému masovému ovlivňování názorů lidí i toho, čemu věří.

Vývoj algoritmů nelze zastavit. Povinností vědců, demokratických států i nás všech je proto zvažovat potenciální nebezpečí, která může použití AI přinést, a hledat způsoby, jak nás jako lidstvo proti nim chránit. To se musí projevit v důrazu na vzdělávání, které rozvíjí kritické myšlení, humanitní hodnoty, úctu k životu, schopnost empatie i lásku k umění – a to nejen ve škole, ale i v rámci celoživotního vzdělávání každého z nás.

Pevně doufám, že i s takovými úkoly nám AI bude schopna pomoci.

Na co jste ve své kariéře nejvíce pyšná?
Jsem hrdá na to, že jsem měla příležitost přispět svým dílem k rozvoji AI na ČVUT a k etablování vzniklého AI týmu na mezinárodním vědeckém poli. Stejně tak jsem pyšná na mimořádné vědecké výsledky, kterých dosáhli a dosahují někteří z mých doktorandů.

Zkoumat meze toho, čeho může AI dosáhnout, mě pořád baví. Ale největší radost mám vždy, když se nám podaří ve spolupráci s externími partnery formulovat konkrétní otázku, na kterou můžeme společně hledat odpověď pomocí nástrojů AI – a když se později ukáže, že navržené řešení funguje v reálném prostředí.

Jaké máte další profesní cíle?
Mým současným hlavním cílem je postarat se o pokračování své práce i v budoucnu tím, že postupně předám žezlo i odpovědnost za řadu svých aktivit mladší generaci.

Ráda bych pomohla své nástupkyni ve vedení týmu zajistit prostředky na nejbližší roky tak, aby se mohly dál rozvíjet všechny naše úspěšné spolupráce s externími subjekty, například se zdravotnickými či sociálními zařízeními, a aby bylo možné realizovat naše společné výzkumné plány, na které se těším.

Nejde přitom jen o finanční zdroje, jejichž získávání je dnes velmi náročné. Důležité je také zajistit, aby někteří mladší členové týmu dostali příležitost zastávat akademické funkce, na které jsou už připraveni – například samostatně školit své doktorandy či být garanty vysokoškolských přednášek.