Mladé čierne dievčatá sú obzvlášť terčom predsudkov AI, čo vyvrcholí v ešte ostrakizovanejších skupinách žien, ktoré zostávajú nedostatočne vzdelané o svojom tele.
„Prečo by som to mal Google, keď môžem požiadať ChatGPT o presne to, čo hľadám?“
Spýtal sa ma na to 16-ročný mladík počas nedávneho rozhovoru s černošskými dospievajúcimi o tom, kam sa obracajú so zdravotnými informáciami. Jej odpoveď bola zarážajúca, ale sotva prekvapivá.
Keďže tradičná sexuálna výchova čelí škrtom v školách a služby reprodukčného zdravia sú čoraz ťažšie dostupné – najmä pre mladých ľudí inej farby pleti v komunitách s nedostatočnými službami – dospievajúci čoraz častejšie hľadajú odpovede inde. Chatboty AI ponúkajú niečo, čo školy, kliniky a dokonca aj dôveryhodní dospelí často nemajú: informácie, ktoré sú okamžité, súkromné a bez úsudku.
ChatGPT a ďalšie nástroje AI sa rýchlo stávajú neočakávaným – a do značnej miery neregulovaným – zdrojom informácií o sexuálnom a reprodukčnom zdraví pre tínedžerov. Čo sa však stane, keď sú odpovede, ktoré poskytujú, neobjektívne, nepresné alebo neúplné?
Pre čierne dievčatá sú riziká obzvlášť vážne. Mnohí už čelia pretrvávajúcim prekážkam v komplexnej, potvrdzujúcej sexuálnej výchove. Niektorí navštevujú školy, ktoré ponúkajú učebné osnovy alebo výučbu zameranú výlučne na heterosexuálne vzťahy, takže LGBTQ+ študenti sú úplne mimo. Iní ovládajú systémy zdravotnej starostlivosti formované lekárskym rasizmom a dospelosťou – tendenciou vnímať čierne deti, najmä čierne dievčatá, ako staršie a menej nevinné, než sú.
Pracujem s čiernymi dievčatami každý deň, aby som im pomohla cítiť sa bezpečne, informovane a sebavedome o svojom tele, zdraví a hlasoch. Takže chápem, prečo môže byť AI príťažlivá. Príliš často sú alternatívami učebné osnovy, ktoré vynechávajú dôležité informácie, poskytovatelia, ktorí neberú svoje obavy vážne, alebo prostredia, kde sa kladenie otázok zdá byť nebezpečné.
Nástroje AI ako ChatGPT nie sú neutrálne. Sú vyškolení na rozsiahlych súboroch údajov z webových stránok, sociálnych médií, online publikácií, akademickej literatúry a spravodajských článkov, ktoré odrážajú predsudky sveta, v ktorom žijeme. Výsledkom je, že môžu generovať odpovede, ktoré posilňujú stereotypy, šíria dezinformácie alebo vynechávajú kultúrne nuansy potrebné na to, aby slúžili rôznym používateľom.
Jedno čierne dospievajúce dievča mi nedávno povedalo, že sa vyhýba otázkam personálu kliniky, pretože sa obáva, že ju budú súdiť alebo že to povedia rodičom. Namiesto toho sa obráti na AI s tým, čo nazýva „otázkami, ktoré nemôžem povedať nahlas“.
To je vákuum, ktoré AI vypĺňa. Ale to, že sa cíti bezpečnejšie, neznamená, že je skutočne bezpečné.
Nedávna Washington Post správa zdôraznila štúdie, ktoré ukazujú, že populárne chatboty AI poskytovali nesprávne odpovede na zdravotné otázky takmer v polovici prípadov, pričom niektoré odpovede boli považované za potenciálne nebezpečné, ak by sa dodržiavali. Toto je obzvlášť znepokojujúce, pokiaľ ide o citlivé témy, ako je antikoncepcia, súhlas alebo sexuálne prenosné infekcie.
Dôsledky dezinformácií môžu byť vážne, ako napríklad neúmyselné tehotenstvo, oneskorená liečba problémov s reprodukčným zdravím, zvýšená hanba a úzkosť z normálneho sexuálneho vývoja a dezinformácie o súhlase.
Niekto môže namietať, že akákoľvek informácia je lepšia ako žiadna. Ale poskytovanie chybných alebo zaujatých odpovedí čiernym dievčatám nie je riešením – je to pokračovanie toho istého zanedbania, ktoré už zažívajú na školách a klinikách.
Budovanie lepšej AI pre mladých ľudí
Teraz je čas konať. Keďže sa prijímanie AI zrýchľuje vo všetkých sektoroch, stále máme možnosť ovplyvniť, ako sa tieto nástroje používajú a aké hodnoty riadia ich vývoj.
Po prvé, vývojári umelej inteligencie a lídri v oblasti verejného zdravia musia spoluvytvárať kultúrne citlivé a predpojaté auditované nástroje pre výchovu k sexuálnemu a reprodukčnému zdraviu. Tieto nástroje by nemali byť navrhnuté pre mladí ľudia; mali by byť navrhnuté s ich. To znamená pracovať v partnerstve s dospievajúcimi, najmä s tými, ktorí sú najčastejšie vylúčení, vrátane čiernych dievčat. Keď vytvárame systémy, ktoré sú zamerané na najviac marginalizovaných, zlepšujeme výsledky pre všetkých.
Po druhé, školy a zdravotnícke systémy musia do sexuálnej výchovy začleniť digitálnu gramotnosť a online bezpečnosť. Adolescenti musia byť schopní rozpoznať obmedzenia AI, zhodnotiť kvalitu online zdravotných informácií a vedieť, kde hľadať podporu. Technológie nezmiznú, rovnako ako potreba kritického myslenia v digitálnom veku.
Verím, že technológie môžu pomôcť rozšíriť prístup k zdravotným znalostiam a uľahčiť mladým ľuďom získať odpovede, ktoré inde možno nehľadajú. Musíme si však položiť otázku: Rozširujeme prístup k spoľahlivým informáciám, alebo jednoducho robíme dezinformácie dostupnejšie? Ak má AI slúžiť ako sexuálna výchova, musíme zabezpečiť, aby bola nielen rýchla a súkromná, ale aj presná, potvrdzujúca a zodpovedná.
V centre tejto práce musia byť čierne dievčatá. Keď AI pracuje pre čierne dievčatá, keď odráža ich žitú realitu, rešpektuje ich dôstojnosť a poskytuje presné, potvrdzujúce informácie, stáva sa efektívnejšou a spravodlivejšou pre všetkých dospievajúcich. Pri navrhovaní s ohľadom na tých, ktorí sú najčastejšie poškodení, sú systémy odolnejšie a pohotovejšie pre každého. Čo podporuje Čierne dievčatá, podporuje všetky dievčatá.
Vytvorením AI, ktorá je kultúrne založená, oboznámená s predsudkami a informovaná komunitou, nielenže znižujeme škody. Budujeme pevnejší základ starostlivosti, taký, ktorý ctí právo každého mladého človeka hľadať odpovede o svojom zdraví a tele bez strachu, hanby alebo skreslenia.
Toto nie je len okrajový problém. Ide o verejné zdravie a vec spravodlivosti. To, čo dnes dovolíme umelej inteligencii, bude formovať spôsob, akým sa budúca generácia bude orientovať v niektorých z najdôležitejších rozhodnutí svojho života.
Máme na výber: Umožniť predpojatým systémom zakoreniť sa; alebo navrhnúť technológiu, ktorá odráža naše najvyššie záväzky týkajúce sa starostlivosti, rovnosti a pravdy.
Vyberajme s rozumom.
*
Poznámka od pani. redaktori: Chceme od vás počuť Väčšinanová kampaň zbierajúca príbehy o tom, ako reprodukčná sloboda umožnila čitateľom vybudovať si život, aký chcú a potrebujú. Prieskum za prieskumom ukazuje, že väčšina Američanov podporuje prístup k reprodukčnej zdravotnej starostlivosti. Verejná diskusia však prehliada životy formované prístupom k potratom, antikoncepciou, IVF, starostlivosťou o potrat, zdravotnou starostlivosťou o matku alebo komplexnou sexuálnou výchovou – nespočetné množstvo žien, ktoré sa rozhodli študovať, mať deti, nemať deti, chrániť svoje zdravie a plánovať si vlastnú budúcnosť. Pridajte svoj hlas a dokončite vetu: „Prístup k reprodukčným rozhodnutiam mi dal slobodu…“ Tieto príbehy spoločne pomôžu ukázať nielen to, prečo sloboda reprodukcie zostáva väčšinovou hodnotou, ale aj to, čo umožňuje.
Ak vy alebo váš blízky potrebujete vedieť viac o spoľahlivej interrupčnej starostlivosti, pozrite sa na tieto dôveryhodné skupiny:
