Jakarta – Kementerian Komunikasi dan Digital (Kemkomdigi) secara resmi menindaklanjuti dugaan penyalahgunaan fitur kecerdasan buatan Grok AI pada platform X. Teknologi tersebut diduga kuat dimanfaatkan untuk memproduksi dan menyebarkan konten asusila, termasuk manipulasi foto pribadi (deepfake) tanpa persetujuan pemiliknya.
Direktur Jenderal Pengawasan Ruang Digital, Alexander Sabar, menyatakan bahwa investigasi awal menunjukkan sistem keamanan Grok AI masih sangat lemah dalam mencegah produksi konten pornografi berbasis foto nyata warga Indonesia.
Kemkomdigi menilai manipulasi digital ini merupakan pelanggaran berat terhadap hak privasi dan hak atas citra diri (right to one’s image).
“Grok AI belum memiliki pengaturan spesifik untuk mencegah pembuatan konten pornografi dari foto pribadi. Hal ini berisiko menimbulkan kerugian psikologis, sosial, dan reputasi yang permanen bagi korban,” ujar Alexander di Jakarta seperti rilis yang disampaikan Humas Komdigi, Rabu (7/1/2026).
Tindakan Tegas dan Koordinasi PSE
Alexander menegaskan bahwa seluruh Penyelenggara Sistem Elektronik (PSE) wajib mematuhi regulasi di Indonesia. Kemkomdigi kini tengah berkoordinasi untuk memastikan mekanisme moderasi konten dan perlindungan terhadap deepfake asusila diperkuat.
Jika platform X dan Grok AI tidak kooperatif dalam melakukan perbaikan sistem keamanan, Kemkomdigi tidak segan mengambil langkah ekstrem:
Sanksi Administratif: Teguran keras hingga denda.
Pemutusan Akses: Pemblokiran layanan Grok AI dan platform X di wilayah Indonesia.
Jeratan Hukum KUHP Baru 2026
Seiring berlakunya UU Nomor 1 Tahun 2023 (KUHP Baru) per 2 Januari 2026, pelaku produksi dan penyebar konten asusila digital menghadapi ancaman yang lebih berat.
Berdasarkan Pasal 172 dan Pasal 407 KUHP, penyedia layanan maupun pengguna yang terbukti melanggar dapat dijatuhi:
Pidana Penjara: Minimal 6 bulan hingga maksimal 10 tahun.
Pidana Denda: Sesuai dengan kategori pelanggaran yang ditetapkan.
Imbauan Bagi Masyarakat
Kemkomdigi mengimbau masyarakat yang menjadi korban manipulasi foto atau deepfake untuk segera menempuh jalur hukum melalui laporan kepolisian atau pengaduan resmi ke Kemkomdigi.
“Ruang digital bukan ruang tanpa hukum. Kami ingatkan bahwa ada hak atas citra diri setiap warga yang harus dihormati. Gunakan teknologi kecerdasan buatan secara bertanggung jawab,” tutup Alexander. (*/rsd)
