“Grok” po përdoret për krijimin e imazheve intime të grave dhe fëmijëve pa pëlqim

Inteligjenca artificiale Grok, e zhvilluar nga kompania xAI dhe e integruar në platformën sociale X (ish-Twitter), është vënë në qendër të kritikave pasi po përdoret për të krijuar imazhe intime dhe seksualizuese të grave dhe fëmijëve pa pëlqimin e tyre.

Sipas raportimeve mediatike, përdorues të platformës kanë ngarkuar fotografi reale dhe më pas i kanë kërkuar Grok-ut që t’i manipulojë ato, duke i “zhveshur” ose duke i shfaqur personat në rroba minimale. Në disa raste, këto imazhe kanë përfshirë edhe fëmijë. Përmbajtjet e krijuara janë shpërndarë më pas në internet, duke shkaktuar shqetësime serioze për privatësinë dhe sigurinë, raporton The 19th News.

Pas publikimit të rasteve, autoritete rregullatore dhe organizata për mbrojtjen e të drejtave të fëmijëve dhe grave kanë reaguar, duke theksuar se krijimi dhe shpërndarja e imazheve të tilla pa pëlqim përbën shkelje të rëndë ligjore dhe etike. Në Evropë, Komisioni Evropian ka kërkuar nga kompania X që të ruajë të gjithë dokumentacionin e brendshëm që lidhet me Grok, në kuadër të vlerësimit të respektimit të ligjeve për sigurinë digjitale dhe përmbajtjen e dëmshme.

Edhe autoritetet në Mbretërinë e Bashkuar kanë kërkuar shpjegime nga kompania, duke ngritur shqetësime për mënyrën se si janë lejuar këto funksione dhe për mungesën e mekanizmave të mjaftueshëm mbrojtës, veçanërisht kur bëhet fjalë për fëmijët.

Si reagim ndaj kritikave publike, xAI ka vendosur kufizime në funksionet e gjenerimit dhe redaktimit të imazheve, duke i bërë ato të qasshme vetëm për përdoruesit me pagesë. Megjithatë, kjo masë nuk e zgjidh problemin thelbësor të krijimit dhe shpërndarjes së imazheve pa pëlqim, i cili mbetet nën shqyrtim nga autoritetet dhe rregullatorët.

Rasti i Grok ka rihapur debatin ndërkombëtar mbi rreziqet e përdorimit të pakontrolluar të inteligjencës artificiale, veçanërisht kur teknologjia përdoret për dhunë digjitale, shkelje të privatësisë dhe dëmtim të dinjitetit të grave dhe fëmijëve.