Jakarta, suarabersama.com – Perusahaan kecerdasan buatan xAI milik Elon Musk membatasi akses fitur pembuatan dan pengeditan gambar pada AI Grok di platform media sosial X. Langkah ini diambil menyusul gelombang kritik karena fitur tersebut digunakan untuk menghasilkan gambar perempuan dan anak-anak bermuatan sensual.
Hingga Jumat, Grok menginformasikan bahwa pengguna X harus berlangganan layanan berbayar untuk dapat membuat dan mengedit gambar. Padahal sebelumnya, fitur ini tersedia gratis dengan batas penggunaan harian. Sementara itu, aplikasi Grok versi mandiri masih memungkinkan pengguna membuat gambar tanpa berlangganan.
Dalam beberapa pekan terakhir, kemampuan Grok menuai sorotan setelah banyak pengguna memanfaatkannya untuk memanipulasi foto orang—terutama perempuan—menjadi gambar seolah mengenakan pakaian minim. Bahkan, fitur tersebut dilaporkan digunakan untuk membuat konten seksual yang melibatkan anak-anak tanpa persetujuan pihak terkait.
Elon Musk sebelumnya menyatakan bahwa setiap pengguna yang memanfaatkan Grok untuk membuat konten ilegal akan dikenai sanksi yang sama seperti mengunggah konten terlarang secara langsung. Ia menegaskan bahwa platform X melarang segala bentuk seksualisasi dan eksploitasi anak.
Meski demikian, langkah pembatasan ini dinilai belum memadai. Pemerintah Inggris menilai kebijakan tersebut hanya memindahkan fitur bermasalah ke layanan berbayar, bukan menghentikan penyalahgunaan. Internet Watch Foundation (IWF) bahkan mengaku menemukan gambar ilegal di dark web yang diduga dihasilkan menggunakan Grok.
Regulator media Inggris, Ofcom, menyatakan telah menerima tanggapan dari X dan sedang melakukan penilaian lebih lanjut. Pemerintah Inggris pun menyatakan dukungan penuh terhadap Ofcom untuk mengambil tindakan jika diperlukan.
Tekanan juga datang dari Amerika Serikat. Sejumlah senator Demokrat mendesak Apple dan Google menghapus aplikasi X dan Grok dari toko aplikasi mereka hingga persoalan moderasi konten diselesaikan. Menurut para legislator, pembiaran pelanggaran berpotensi merusak klaim keamanan platform distribusi aplikasi.
Di Eropa, Uni Eropa meminta X menyimpan dokumen internal terkait Grok hingga akhir tahun sebagai bagian dari penyelidikan. Otoritas Uni Eropa menilai sejumlah konten eksplisit yang beredar di platform tersebut melanggar hukum. Hingga kini, Apple, Google, dan pihak xAI belum memberikan tanggapan resmi atas desakan dan kritik yang terus menguat dari berbagai negara. (kls)
