Dhuna online po i largon gratë në Indi nga hapësirat digjitale

Rritja e përdorimit të mjeteve të inteligjencës artificiale për të krijuar imazhe dhe video të manipuluara, përfshirë deepfake dhe aplikacionet që “nudifikojnë”, po detyron gratë në Indi të tërhiqen nga aktiviteti online.

Sipas një raporti të publikuar së fundmi, i cili mbështetet në të dhënat e mbledhura nga Rati Foundation, një organizatë që menaxhon një linjë kombëtare ndihme për viktimat e abuzimit online, tregon se adaptimi i formave të reja të AI është shoqëruar me mënyra të reja për të ngacmuar dhe sulmuar gratë online.

Raporti ka gjetur rritje të përdorimit të AI për të krijuar imazhe apo video të manipuluara, qoftë nudo ose forma të tjera, të cilat përdoren pa lejen e personave të prekur – duke çuar shpesh në abuzime, shantazh dhe frikë për ekspozim publik. Sipas raportit, “rreth 10% e qindra rasteve të raportuara në linjën e ndihmës tani përfshijnë këto imazhe”.

“Efekti është real,” thotë Rohini Lakshané, studiuesе e të drejtave gjinore dhe politikave digjitale, e cila shmang postimin e fotove të saj online. “Fakti që ato mund të keqpërdoren aq lehtë më bën shumë më të kujdesshme.”

Në vitet e fundit, India është bërë një nga vendet më të rëndësishme për testimin e mjeteve të AI. Ajo është tregu i dytë më i madh në botë për OpenAI, me teknologjinë që përdoret gjerësisht në profesione të ndryshme, shkruan The Guardian. “Në tre vitet e fundi pjesa dërrmuese e përmbajtjes së krijuar me AI përdoret për të sulmuar gratë dhe pakicat gjinore”, thotë raporti i hartuar nga Rati Foundation dhe Tattle.

“Pasojat e përballjes me ngacmim online janë në fakt të heshtësh veten ose të bëhesh më pak aktive në internet,” thotë Tarunima Prabhakar, bashkëthemeluese e Tattle. “Emocioni që kemi identifikuar është lodhja. Dhe si pasojë e kësaj lodhjeje është që ti tërhiqesh plotësisht nga këto hapësira online”, shton ajo.

Në Indi, si në pjesën më të madhe të botës, nuk ka ligje specifike që e kriminalizojnë deepfake-un. Agjencitë indiane të zbatimit të ligjit e përshkruajnë procesin e detyrimit të platformave online si YouTube, Meta, X, Instagram dhe Whatsapp për të hequr përmbajtje abuzive si “të paqartë, kërkues në burime, të paqëndrueshëm dhe shpesh joefektiv”.

Raporti i Rati-t vëren disa raste në të cilat këto platforma u përgjigjën në mënyrë joadekuate ndaj abuzimit online. Whatsapp-i ndërmorri veprim më në fund, por përgjigja e tyre ishte e pamjaftueshme, pasi që fotografitë nudo veçse ishin kudo në internet. Ndërkohë, Instagram-i u përgjigj vetëm pas përpjekjeve së vazhdueshme, me një përgjigje që ishte “e vonuar dhe e papërshtatshme”. Edhe nëse një platformë e hiqte një llogari që shpërndante përmbajtje abuzive, ajo përmbajtje shpesh rishfaqej diku tjetër. “Një nga karakteristikat e qëndrueshme

të abuzimit të gjeneruar nga AI është prirja e tij për t’u shumëfishuar. Krijohet lehtësisht, shpërndahet gjerësisht dhe ka tendencë të rishfaqet vazhdimisht”, thuhet në raport.

Përktheu dhe përgatiti: Erjona Thaqi

Raportin e plotë e gjeni këtu.