Komdigi Rencanakan Pemblokiran Layanan Grok AI Platform X di Indonesia

Komdigi Rencanakan Pemblokiran Layanan Grok AI Platform X di Indonesia

Komdigi sedang menyelidiki dugaan penyalahgunaan fitur AI Grok di platform X untuk membuat konten asusila, termasuk manipulasi foto pribadi menjadi deepfake cabul tanpa persetujuan. Dirjen Pengawasan Ruang Digital Alexander Sabar mengeluarkan peringatan tegas agar Penyelenggara Sistem Elektronik (PSE) seperti X memperkuat moderasi konten.

Tren viral di X memanfaatkan Grok untuk mengedit foto orang menjadi berpakaian minim atau pornografi, seperti mengubah pakaian tertutup menjadi bikini. Temuan awal Komdigi menunjukkan Grok belum punya pengaturan spesifik mencegah produksi konten semacam itu, berisiko langgar privasi dan hak citra diri warga Indonesia.

Ancaman Sanksi

Jika X tidak kooperatif atau patuh regulasi Indonesia, Komdigi bisa jatuhkan sanksi administratif hingga blokir layanan Grok dan platform X secara keseluruhan. Peringatan ini juga berlaku untuk PSE AI lain dan pengguna yang terbukti sebarkan konten ilegal.

Respons Publik

Kasus ini memicu perdebatan etika AI di media sosial, dengan netizen khawatir jejak digital disalahgunakan. Komdigi tekankan PSE wajib lindungi pengguna dari eksploitasi seksual digital.

 

Next Post Previous Post