Keďže obrazové nástroje AI normalizujú vytváranie nekonsenzuálnych sexualizovaných obrázkov, mladí ľudia vyrastajú v digitálnom svete, kde je možné súhlas vymazať jedinou výzvou.
Grok, AI chatbot používaný na platforme X Elona Muska, je pod paľbou za generovanie miliónov nahých alebo sexualizovaných obrázkov skutočných ľudí vrátane detí. V jednom odhade Grok vytvoril jeden nekonsenzuálny sexuálny obraz za minútu počas 24 hodín. Výzvy ako „oblečte ju do priehľadných bikín“ vytvorili pozmenené obrázky, ktoré sa potom šírili verejne, pričom niektoré nazbierali tisíce lajkov. Cieľom sú skutočné ženy a neplnoleté dievčatá, ktorých obrázky boli manipulované bez ich vedomia alebo povolenia.
Musk zareagoval vtipom, vyžiadal si Grokom vygenerovaný obrázok seba v bikinách a reagoval vysmiatymi emotikonmi.
Pre dievčatá vyrastajúce v tomto online prostredí je toto posolstvo jednoznačné: … Vaše telo môže byť zmenené, distribuované a konzumované pre zábavu. Jeho porušenie možno odmietnuť ako vtip.
Keď najmocnejšia postava platformy a jeden z najmocnejších mužov v krajine zaobchádza so zneužívaním ako s pointou, vyšle správu o tom, čo je v skutočnosti škodlivé oproti tomu, čo by sa podľa neho malo považovať za humor – a poskytuje tichý súhlas mladým mužom na platforme, aby mohli pokračovať vo vytváraní týchto obrázkov.
Veľká časť verejnej konverzácie o mladých ľuďoch a AI sa zamerala na podvádzanie v škole alebo klesajúcu gramotnosť. Oveľa menej pozornosti sa venovalo tomu, čo to znamená, keď chlapec zo strednej školy dokáže napísať vetu a vytvoriť sexualizovaný obraz spolužiačky v priebehu niekoľkých sekúnd ako vtip alebo ako pozornosť – alebo predstierať, že to od nej dostal ako status.
V celej krajine chlapci vo veku 10 a 11 rokov údajne vytvorili a zdieľali nahé obrázky dievčat vygenerované AI vo svojich školách. V jednom nedávnom prípade bolo 13-ročné dievča vylúčené po tom, čo sa fyzicky stretlo s chlapcom, ktorý jej vytvoril a distribuoval explicitné obrázky AI. Pred hádkou hľadala pomoc u výchovného poradcu a dokonca aj u orgánov činných v trestnom konaní. Žiadny zmysluplný zásah neprišiel. Ona bola tá odstránená.
Nástroje Deepfake nevytvárajú iba obrázky. Vytvárajú normy.
Platformy sociálnych médií definujú, čo sa považuje za vtipné, prijateľné, normálne a cool. Sociálny status sa meria podľa lajkov a zobrazení. Vo svete, kde platformy sociálnych médií teraz môžu vytvárať explicitné obrázky mladých žien stlačením jediného tlačidla, si tieto nové nástroje vyžadujú zmenu v konverzácii o súhlase mladých ľudí.
Materiál o sexuálnom zneužívaní generovaný AI sa celosvetovo rozširuje alarmujúcou rýchlosťou, vrátane vytvárania a pozmeňovania obrázkov sexuálneho zneužívania detí.
Pre dievčatá vyrastajúce v tomto online prostredí je posolstvo nezameniteľné: Váš obrázok nie je chránený ako váš. Vaše telo môže byť zmenené, distribuované a konzumované pre zábavu. Jeho porušenie možno odmietnuť ako vtip.
Keď som bol na strednej a strednej škole, pamätám si, že sa viedli vážne rozhovory o posielaní nahých fotografií alebo preposielaní cudzích obrázkov bez súhlasu. Čo sa však stane, keď generácia vyrastie s vedomím, že ich spolužiaci skutočnú fotografiu vôbec nepotrebujú – že si ju dokážu vyrobiť za pár sekúnd?
Keď chlapec dokáže vytvoriť explicitný obraz dievčaťa pomocou nič iného ako vety a čeliť malým alebo žiadnym dôsledkom, samotná definícia súhlasu sa posúva. Tínedžeri sa dnes nielen orientujú v rizikách zdieľania obrázkov. Pohybujú sa vo svete, v ktorom je možné vytvárať ich obrazy a používať zbrane bez ich účasti alebo vedomia. To zásadne mení rozhovory, ktoré musíme viesť o súkromí, moci a telesnej autonómii.
Žijeme už vo svete, v ktorom aspoň jedna z troch žien zažije počas svojho života fyzické alebo sexuálne násilie. Technológia nevynašla mizogýniu alebo obťažovanie, ale umelá inteligencia dramaticky zvýšila rýchlosť a rozsah, v ktorom môže dôjsť k zneužitiu, pričom súčasne robí akciu menej škodlivou alebo reálnou.
Preskúmanie 20 popredných platforiem na generovanie obrázkov AI zistilo, že iba sedem vyžaduje, aby subjekty mali viac ako 18 rokov v podmienkach poskytovania služby, a ešte menej z nich vynucovalo zmysluplné overenie veku.
Vývoj nástrojov AI nielen formuje spôsob, akým sa generácia učí; formuje spôsob, akým sa generácia socializuje. Konverzácia o súhlase sa už zmenila, či už to uznávame alebo nie. Učitelia, rodičia, zákonodarcovia a lídri platforiem sú pozadu. Otázkou nie je, či to bude formovať chápanie moci a intimity ďalšej generácie – ale čo s tým urobíme.
