IPOL.ID-Kementerian Komunikasi dan Digital (Komdigi) memutus akses sementara terhadap aplikasi Grok AI karena teknologi tersebut dapat memproduksi konten pornografi palsu, termasuk deepfake seksual nonkonsensual yang membahayakan perempuan, anak, dan masyarakat luas.
Komdigi juga meminta Platform X segera memberikan klarifikasi resmi terkait potensi dampak negatif penggunaan Grok AI. Terutama, yang terkait kemampuan sistem tersebut memanipulasi foto pribadi menjadi konten asusila, tanpa persetujuan pemiliknya.
“Pemerintah memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital,” kata Menkomdigi Meutya Hafid dalam keterangan resminya, Sabtu (10/1/2026).
Temuan Awal: Pengamanan Konten Lemah
Sebelumnya, pada Rabu (7/1/2026), Direktur Jenderal Pengawasan Ruang Digital Alexander Sabar mengungkapkan, hasil penelusuran awal menunjukkan Grok AI belum memiliki pengaturan eksplisit dan memadai, untuk mencegah pembuatan maupun distribusi konten pornografi berbasis foto nyata warga Indonesia.
