Když tu informační technologie a AI nejsou pro všechny

Veřejné debatě dnes dominuje raketový rozvoj umělé inteligence (AI), která zásadně proměňuje vědu, pracovní procesy napříč obory i náš každodenní život. Společenské důsledky těchto změn však nejsou neutrální – přístup k digitálním technologiím a přínosy z jejich využívání určují existující mocenské struktury a společenské normy.

Většina digitálních technologií, včetně AI, je vyvíjena na základě neúplných či předpojatých dat. Ta vedou k rozdílné uživatelské zkušenosti v závislosti na genderu, sexuální identitě, barvě pleti či etnickém původu. Nástroje AI pak často reprodukují společenské stereotypy a toxické narativy, které jsou součástí těchto datových souborů. Ty přitom mnohdy postrádají adekvátní zastoupení žen, různých menšin nebo například osob se zdravotním znevýhodněním.

Předpojatost technologických řešení dále zhoršuje nízká míra diverzity v týmech, které je vyvíjejí. Výsledkem jsou produkty, které nereflektují potřeby a zkušenosti různorodých skupin uživatelů a uživatelek. To nejen snižuje jejich inovační a ekonomický potenciál, ale může také nevědomky přispívat k diskriminaci a prohlubování existujících nerovností.

Proto se chceme v naší komunikaci na sociálních sítích nyní věnovat genderové dimenzi v ICT se zaměřením na obor umělé inteligence. Sledujte naše posty na Facebooku, Instagramu a LinkedInu.

Příklady toho, jak pohlaví a gender ovlivňují informační a komunikační technologie:

• Přístup k internetu: Ženy a dívky celosvětově tvoří téměř dvě třetiny negramotných, což omezuje jejich používání ICT. Tzv. digitální propast, tedy údaj označující počet těch, kdo z používání internetu (ne)benefituje, především v rozvojových zemích dosahuje i poměru 4:1. Například v Indonésii je tak mezi čtyřmi milióny uživatelů internetu jen 800 tisíc žen (SIDA, 2015).
• Rozpoznávání hlasu: Softwary pro rozpoznávání řeči jsou čím dál tím rozšířenější alternativou k psaní na klávesnici (Palmiter Bajore, 2019). Přesnost nejúspěšnějšího softwaru je u žen o 13 % horší než u mužů a o 10 % horší u lidí jiné než bílé pleti. Důvodem je způsob, jakým je strukturována analýza dat a strojové učení. Databáze, na kterých jsou softwary umělé inteligence založeny, totiž obsahují spoustu údajů o bílých mužích, ale jen malé množství dat o ženách a menšinách.
• Kybernásilí: Ženy jsou terčem kyberšikany výrazně častěji než muži (SIDA, 2015). I přesto se zavádění nových právních předpisů pro kybernetickou bezpečnost často děje bez uvážení genderového hlediska. Platformy sociálních médií se navíc mnohdy zdráhají vypořádat se s misogynií a vlády i soukromý sektor na online násilí reagují pomalu nebo váhavě.

Důležité statistiky:

• Americká pobočka společnosti Google v roce 2020 zaměstnávala pouze 3,7 % osob s černou pletí a 5,9 % osob hispánského a latinskoamerického původu (Clement, 2020).
• V roce 2019 v EU ženy tvořily pouze 17,9 % odborníků na ICT (EIGE, 2018).
• Systémy pro rozpoznávání obličejů mají vyšší chybovost u žen a lidí z rasově a etnicky znevýhodněných skupin, protože jsou obvykle trénovány na datových sadách s převážně bílými mužskými obličeji. Míra chybovosti se pohybuje od 35 % u žen tmavší pleti do 12 % u mužů tmavší pleti, 7 % u žen světlejší pleti a méně než 1 % u mužů světlejší pleti. (Zdroj: Gender Shades, 8 data types of gender baises)
• Méně než třetinu pracovníků v oblasti umělé inteligence tvoří ženy a většina odborníků a odbornic na umělou inteligenci se domnívá, že dokud budou v tomto oboru dominovat muži, budou přetrvávat předpojaté výsledky. (Deloitte)
• Podle dat WomenTech je AI téma číslo jedna, o kterém se ženy chtějí něco dozvědět, ale 63 % z nich uvádí, že jim chybí dovednosti a přístup ke školení v zaměstnání.
• V současné době mají ženy a dívky o 25 % nižší pravděpodobnost než muži, že budou umět využívat digitální technologie k základním účelům, čtyřikrát nižší pravděpodobnost, že budou umět programovat počítače, a třináctkrát nižší pravděpodobnost, že podají žádost o technologický patent. (UNESCO, 2023).

Proč na tom záleží?

• Digitální dovednosti žen zvyšují ekonomickou nezávislost. Lepší orientace v digitálním prostředí je chrání před online násilím a manipulací, zlepšuje přístup ke vzdělání, zdravotnictví i dalším oblastem.
• Jak situaci řešit?
• Začít ve školách i mimo ně – dívky potřebují bezpečné, motivující prostředí pro digitální učení.
• Role-modelyky a mentoryky, které inspirují a podporují.
• Vzdělávání učitelů a učitelek, kteří umí pracovat s genderově citlivým přístupem.
• Politiky, data a cíle, které aktivně podporují rovné příležitosti v digitální sféře.

Jedna velikost nestačí ani v technologiích.

Budeme proto rády*i, když se podíváte na stránku naší kampaně Jedna velikost nestačí – konkrétně na sekci Informační a komunikační technologie.

Na stránce Jedné velikosti najdete více oblastí, které v rámci kampaně pokrýváme, nabízíme také například důležitou podstránku o genderové dimenzi v lékařských vědách. 

Sledujte také naše příspěvky na sociálních sítích (Facebooku, Instagramu či LinkedInu), kde důležitá data a statistiky pravidelně komunikujeme.