Ketua Indonesia Cyber Security Forum (ICSF), Ardi Sutedja, menegaskan bahwa kemunculan chatbot AI generatif seperti Grok telah membuka celah baru kejahatan digital, khususnya pelecehan berbasis manipulasi visual.
“Bayangkan foto seseorang tiba-tiba muncul dalam bentuk vulgar di media sosial, padahal tidak pernah ada pose atau persetujuan. Ini bukan fiksi, tapi ancaman nyata di era AI yang terlalu permisif,” ujar Ardi dalam pernyataan Minggu (11/1/2026).
Menurutnya, berbeda dengan platform AI lain yang menerapkan pembatasan ketat, Grok dinilai memiliki celah etika karena mampu menghasilkan atau memodifikasi konten visual yang berpotensi merendahkan martabat manusia. Kondisi ini, jika tidak diatur, berisiko menjadikan AI sebagai alat pelecehan digital massal.
