Případová studie: UI v lékařství

Technologie mění západní medicínu již desítky let. Ať se jednalo o rentgen, elektrokardiogram či magnetickou rezonanci, každá z těchto inovací představovala ve své době diagnostickou revoluci.  Revoluční technologií dnešní medicíny, jež má radikální schopnost změnit způsob, jakým praktikujeme a zažíváme zdravotní péči, je umělá inteligence (Artificial intelligence, AI). Ta je založena na systému komplexních algoritmů, jejichž cílem je navrhnout diagnózu bez přímého lidského přispění. Správně navržený algoritmus může pomoci k rychlejší a zároveň spolehlivější diagnostice. Špatně navržený algoritmus, který je založený např. na zkreslených, předsudečných či neúplných datech, s sebou ale přináší řadu rizik. Jedním z těch nejzávažnějších je rozšíření stávajících nerovností v důsledku zabudování společenských stereotypů a předsudků do struktury systému AI, jež mohou prohloubit negativní zdravotní důsledky pro ženy či rasové menšiny.

Příkladem prohloubení takovýchto důsledků je např. léčba srdečních onemocnění, která jsou u žen špatně diagnostikována dvakrát častěji než u mužů. Pramení to ze skutečnosti, že ve výzkumu srdečního selhání se obvykle používají muži. Infarkt si proto většina z nás spojuje s akutní bolestí hrudi či paže, tyto symptomy ale mají ve většině případů jen muži. U žen se srdeční záchvaty projevují méně intenzivně a jejich diagnostika je proto těžší, což podporuje i fakt, že samotní lékaři a lékařky si pod infarktem často představí právě mužské symptomy. Pokud tedy algoritmu popíšeme mužské symptomy infarktu jako typické, v diagnostice srdečních příhod u mužů se zlepší, zatímco u žen se zhorší a míra špatně diagnostikovaných infarktů u žen tak bude růst.

„Když krmíme strojové učení zkreslenými daty, způsob jeho fungování se zlepšuje zejména v jednom – v předpojatosti. Můžeme tak doslova psát kód, který zdravotní péči pro ženy zhorší.” Caroline Criado Perez

Dalším dokladem toho, jak androcentrické algoritmy AI mohou být, jsou mobilní aplikace na sledování našeho zdraví. Např. rozsáhlá zdravotní aplikace společnosti Apple, HealthKit, pomocí níž šlo sledovat příjem mědi či selenu, neobsahovala funkci pro sledování menstruace. Toto tragikomické zjištění v nás může vzbudit údiv, pokud ale uvážíme, že technologičtí giganti, jako je Google, IBM či Microsoft, zaměstnávají ve svých projektech AI méně než 15 % žen, jeví se toto aplikační pochybení jako nevyhnutelná daň za nedostatečnou rozmanitost. Genderově vyvážené týmy přitom průkazně přicházejí s lepšími inovacemi, které minimalizují vliv společenských předsudků na zdravotní výsledky pacientů a pacientek, a vedou si tak i lépe na trhu. Bohužel procentuální zastoupení žen v tomto odvětví od 90. let stále klesá.

Sexismus ale není jediným předsudkem, který se v systémech AI může objevit. Příkladem je software Optum, jenž američtí poskytovatelé zdravotní péče používají k předpovídání toho, kteří nemocní budou nejvíce potřebovat zvláštní lékařskou péči. Systém funguje na základě bodového hodnocení zdravotního stavu nemocných – čím vyšší skóre, tím vážnější stav, a tedy i nutnost zvláštní zdravotní péče (více speciálních vyšetření či pozornosti od personálu). Podle vědeckého týmu z UC Berkeley, který prošel téměř 50 tisíc záznamů z jedné nejmenované nemocnice, ale software neudílel body rovnocenně, nýbrž upřednostňoval pacienty a pacientky bílé pleti před těmi s pletí tmavou. Zdravotní stav bílých osob Optum totiž hodnotil jako vážnější, takže se jim zvláštní péče dostávalo častěji než osobám tmavé pleti, jejichž zdravotní stav byl ve skutečnosti naprosto stejný. Jedním ze způsobů, kvůli kterým k tomuto rasistickému zkreslení docházelo, bylo hodnocení zdravotního stavu na základě historie nákladů zdravotní péče. Jinými slovy – nemocní s vyššími životními náklady na zdravotní péči byli Optem vnímáni jako nemocnější. Ze socioekonomických důvodů ale pacienti a pacientky tmavé pleti mají historicky nižší náklady na zdravotní péči než bílí pacienti a pacientky se stejným zdravotním stavem. Výsledkem bylo, že algoritmus skóre lidí s tmavou pletí podhodnocoval, zatímco těch s pletí bílou nadhodnocoval.

Nástup umělé inteligence ve zdravotnictví je stejně tak výzvou jako příležitostí. Systémy AI jsou schopny urychlit pokrok v oblasti zdraví zajištěním rovného přístupu a standardů péče pro všechna pohlaví, rasy i etnika, rovněž ale mohou napomáhat ke stigmatizaci, předpojatosti a diskriminaci. Lídři v této oblasti se proto musí soustředit na to, aby nové technologie, jako je umělá inteligence, využívaly velká množství dat k určení okamžiku selhání v diagnostickém procesu, a ne k rozšiřování stávajících nerovností. Vzhledem k tomu, že oblast zdraví žen, jako je menstruace, menopauza či endometrióza, je i v současnosti nedostatečně prozkoumána, znamená lepší diagnostika a léčba žen mimo zkvalitnění zdravotní péče i velké obchodní příležitosti pro společnosti, které se do ženského zdraví rozhodnout investovat.