Jakarta, suarabersama.com – Anggota Komisi I DPR RI dari Fraksi Partai NasDem, Amelia Anggraini, mengecam penyalahgunaan teknologi Grok AI di platform X yang diduga digunakan untuk membuat dan menyebarkan konten pornografi dengan memanfaatkan wajah atau identitas visual orang nyata tanpa persetujuan.
Amelia menilai praktik manipulasi foto atau wajah seseorang menjadi konten asusila bukan sekadar pelanggaran norma kesusilaan, melainkan bentuk kekerasan berbasis teknologi yang berdampak serius terhadap martabat, kondisi psikologis, dan reputasi korban. “Pemanfaatan identitas visual seseorang tanpa izin untuk konten asusila adalah perampasan hak atas citra diri dan pelanggaran berat terhadap privasi,” ujar Amelia dalam keterangan tertulis, Sabtu (10/1/2026).
Ia menyoroti temuan Kementerian Komunikasi dan Digital (Komdigi) yang menyebut Grok AI belum memiliki sistem moderasi memadai untuk mencegah pembuatan konten pornografi berbasis foto orang nyata. Menurutnya, pemerintah tidak boleh menunggu kasus serupa menjadi viral sebelum bertindak. “Negara harus hadir melindungi warga di ruang digital. Platform berbasis AI wajib memiliki pagar pengaman yang jelas agar tidak disalahgunakan,” tegasnya.
Dari sisi hukum, Amelia mengingatkan bahwa wajah dan foto termasuk data pribadi yang dilindungi Undang-Undang Pelindungan Data Pribadi (UU PDP). Pemrosesan data visual untuk kepentingan seksual tanpa dasar hukum dinilai sebagai pelanggaran serius.
Ia juga mengaitkan persoalan ini dengan berlakunya Kitab Undang-Undang Hukum Pidana (KUHP) baru sejak 2 Januari 2026. Dalam aturan tersebut, ketentuan terkait pornografi diatur secara tegas, termasuk sanksi pidana. “Ini menegaskan bahwa ruang digital bukan wilayah tanpa hukum. Langkah administratif harus sejalan dengan penegakan hukum pidana,” ujarnya.
Sebagai tindak lanjut, Amelia mendorong penguatan kewajiban kepatuhan bagi Penyelenggara Sistem Elektronik (PSE), termasuk platform X. Ia menekankan pentingnya penerapan prinsip prevention by design agar sistem AI tidak dapat memproses permintaan konten seksual berbasis individu nyata. Selain itu, ia menuntut adanya mekanisme pelaporan yang cepat, sistem penurunan konten yang efektif, serta pencegahan unggah ulang demi melindungi korban dari dampak lanjutan. (kls)
