Grok, mjeti i inteligjencës artificiale i Elon Musk, ka çaktivizuar funksionin e krijimit të imazheve për shumicën dërrmuese të përdoruesve, pas reagimeve të forta publike lidhur me përdorimin e tij për krijimin e imazheve seksualisht eksplicite dhe të dhunshme.
Ky vendim vjen pasi Musk u kërcënua me gjoba, masa rregullatore dhe madje edhe me një ndalim të mundshëm të platformës X në Mbretërinë e Bashkuar.
Mjeti ishte përdorur për të manipuluar imazhe të grave, duke u hequr rrobat dhe duke i vendosur ato në pozicione të seksualizuara. Funksioni për kryerjen e këtyre veprimeve tashmë është çaktivizuar për të gjithë përdoruesit, përveç abonentëve me pagesë.
Në një postim në X, rrjeti social i Musk, Grok njoftoi: “Gjenerimi dhe editimi i imazheve aktualisht është i kufizuar vetëm për abonentët me pagesë.”
Kjo do të thotë se shumica e përdoruesve të platformës nuk mund të krijojnë imazhe përmes Grok, ndërsa ata që kanë akses kanë të dhënat e tyre personale dhe informacionin e kartës së kreditit të ruajtura nga X, duke bërë të mundur identifikimin e tyre në rast abuzimi me funksionin.
Një hulumtim i publikuar nga “The Guardian” zbuloi se mjeti ishte përdorur për të krijuar video pornografike të grave pa pëlqimin e tyre, si edhe imazhe që paraqesnin gra duke u qëlluar dhe vrarë.
Musk po përballet me kërcënime për masa rregullatore nga vende të ndryshme të botës, pasi Grok u përdor për krijimin e imazheve seksuale pa pëlqim.
Kryeministri britanik, Keir Starmer, të mërkurën paralajmëroi masa të ashpra ndaj kompanisë së rrjeteve sociale.
Ai kërkoi që X “të vendosë kontroll” mbi përmbytjen e fotografive të krijuara nga inteligjenca artificiale, që shfaqin gra dhe fëmijë pjesërisht të zhveshur në platformë, duke e cilësuar këtë përmbajtje si “të turpshme” dhe “neveritëse”.
Starmer deklaroi se autoriteti rregullator i komunikimeve, Ofcom, “ka mbështetjen tonë të plotë për të ndërmarrë veprime në lidhje me këtë çështje”. Ai shtoi: “Është e paligjshme. Nuk do ta tolerojmë. Kam kërkuar që të gjitha opsionet të jenë në tryezë. Është e neveritshme. X duhet të marrë përgjegjësi dhe ta heqë këtë material. Ne do të veprojmë, sepse kjo është thjesht e patolerueshme.”
Mijëra imazhe të seksualizuara të grave janë krijuar pa pëlqimin e tyre gjatë dy javëve të fundit, pasi funksioni i krijimit të imazheve nga Grok u përditësua në fund të dhjetorit. Musk është përballur me thirrje të përsëritura publike për ta hequr ose kufizuar këtë funksion, por deri tani platforma nuk kishte ndërmarrë veprime.
