Apple dan Google Diminta Hapus Aplikasi “Nudify” dari App Store

Pemerintah San Francisco meminta Apple dan Google menghapus puluhan aplikasi “nudify” dari toko aplikasi mereka karena dinilai melanggar hukum dan memfasilitasi pembuatan gambar intim tanpa persetujuan. Dalam surat yang dikirim ke kedua perusahaan, City Attorney David Chiu menyebut keduanya sudah lama mengetahui keberadaan aplikasi yang melanggar aturan itu.

Apa yang Terjadi

Aplikasi “nudify” adalah perangkat lunak berbasis AI yang dapat mengubah foto orang agar terlihat telanjang atau nyaris telanjang. Menurut laporan itu, San Francisco meminta Apple dan Google menindak 13 aplikasi, dengan rincian lima aplikasi di Google Play dan delapan di App Store Apple. Langkah ini muncul di tengah meningkatnya kekhawatiran soal penyebaran nonconsensual intimate imagery, yaitu konten intim yang dibuat atau disebarkan tanpa izin.

Respons Apple dan Google

Apple mengatakan aplikasi seperti itu memang dilarang di App Store, dan perusahaan mengaku sudah menghapus tiga aplikasi yang disebut dalam kasus ini serta sedang menutup akun pengembang terkait. Apple juga menyatakan masih berkomunikasi dengan empat pengembang lain yang perlu memperbaiki pelanggaran kebijakan atau berisiko dihapus. Google mengatakan lima aplikasi yang disebut dalam surat tersebut sudah ditangguhkan dari Google Play.

Alasan Penindakan

Menurut Chiu, aplikasi semacam ini tidak hanya melanggar kebijakan platform, tetapi juga berpotensi melanggar hukum California terkait konten seksual buatan AI yang dibuat tanpa persetujuan. Google juga disebut sudah membatasi kata kunci pencarian terkait seperti “nudify” di tokonya untuk mengurangi visibilitas aplikasi serupa. Masalah ini menjadi sorotan karena aplikasi semacam itu dapat mempercepat pelecehan digital dan merugikan korban, terutama perempuan.

Dampak bagi Industri AI

Kasus ini menunjukkan bahwa tekanan terhadap perusahaan teknologi tidak lagi hanya soal moderasi konten, tetapi juga soal tanggung jawab distribusi aplikasi AI yang berbahaya. Jika penegakan hukum seperti ini makin sering terjadi, Apple dan Google kemungkinan akan memperketat proses kurasi, pencarian, dan verifikasi pengembang di App Store mereka. Bagi ekosistem AI, ini juga jadi sinyal bahwa penggunaan model generatif untuk konten intim tanpa izin akan semakin sulit ditoleransi.