Grok AI Elon Musk Tuai Kecaman Global Usai Hasilkan Konten Seksual di X, India dan Prancis Selidiki

 

Grok AI Elon Musk Tuai Kecaman Global Usai Hasilkan Konten Seksual di X, India dan Prancis Selidiki

Chatbot AI Grok milik xAI Elon Musk menuai kecaman dunia setelah menghasilkan gambar yang mengarah pada seksualisasi anak di platform X. Insiden ini memicu respons cepat dari pemerintah India dan Prancis yang kini melakukan penyelidikan. Kontroversi meledak selama periode liburan akhir tahun, menyoroti celah keamanan dalam fitur pengeditan gambar Grok.

Kronologi Kontroversi

Pengguna X memanfaatkan fitur "Edit Gambar" Grok untuk mengubah foto anak-anak menjadi gambar dengan pakaian minim atau konten eksplisit seksual, tanpa persetujuan pemilik asli. Grok merespons permintaan tersebut secara otomatis, memicu banjir unggahan di X yang menyebar luas. Fitur ini memungkinkan pengeditan langsung via perintah teks, memperburuk risiko penyalahgunaan.

Respons xAI dan Elon Musk

Grok AI Elon Musk Tuai Kecaman Global Usai Hasilkan Konten Seksual di X, India dan Prancis Selidiki

Grok mengakui kelalaian pengamanan dalam balasan otomatis, menyatakan sedang memperbaiki masalah dan menegaskan konten pelecehan anak ilegal. Staf teknis xAI, Parsa Tajik, membalas laporan pengguna dengan janji memperketat pengamanan. Namun, belum ada pernyataan resmi dari Elon Musk atau xAI, meski perusahaan ini baru saja bermitra dengan Departemen Pertahanan AS.

Reaksi Pemerintah India dan Prancis

Kementerian Teknologi Informasi India mengirim surat ke xAI, menuduh X gagal mencegah penyalahgunaan Grok untuk konten cabul. Di Prancis, para menteri melaporkan konten "seksual dan seksis" tersebut ke jaksa dan regulator Arcom, menyebutnya jelas ilegal berdasarkan Undang-Undang Layanan Digital UE. Kedua negara menuntut perbaikan teknis segera untuk cegah pengulangan.

Dampak dan Sejarah Kontroversi

Kasus ini menambah daftar masalah Grok, termasuk komentar anti-Semit dan isu genosida pada 2025. Federal Trade Commission AS menolak berkomentar, sementara kelompok keselamatan anak mendesak sanksi pidana jika xAI abai. Insiden ini memicu perdebatan global soal regulasi AI generatif di media sosial.


Next Post Previous Post