“Kondisi tersebut berpotensi melanggar hak privasi dan hak atas citra diri, khususnya ketika foto seseorang dimanipulasi atau disebarluaskan tanpa persetujuan sah,” ujar Alexander di Jakarta.
Menurutnya, Grok AI belum memiliki mekanisme spesifik untuk mencegah penyalahgunaan teknologi dalam pembuatan konten seksual berbasis foto pribadi, yang berpotensi menimbulkan kerugian psikologis, sosial, dan reputasi bagi korbannya.
Risiko Deepfake Seksual
Komdigi menilai, manipulasi digital terhadap foto bukanlah sekadar persoalan kesusilaan. Deepfake seksual menimbulkan ancaman serius terhadap keamanan individu, menghilangkan kendali seseorang atas identitas visualnya, serta membuka ruang penyalahgunaan dan pemerasan di ruang digital.
Teknologi ini dapat memanfaatkan foto publik atau foto pribadi seseorang, untuk kemudian dimodifikasi menjadi konten asusila yang tampak nyata, dan dapat disebarkan tanpa izin. Kondisi inilah yang mendorong pemerintah mengambil tindakan cepat untuk mencegah meluasnya dampak.
