India, Prancis, dan Malaysia Desak Platform X Perketat Keamanan Konten

Jakarta, FORTUNE - Chatbot kecerdasan buatan (AI) besutan Elon Musk, Grok, baru saja menjadi bulan-bulanan global setelah ketahuan mampu merespons perintah negatif pengguna pada platform X. Melalui instruksi tertentu, Grok menghasilkan gambar bernuansa seksual yang melibatkan perempuan dan anak di bawah umur.

Berdasarkan laporan The Verge, fitur terbaru yang diluncurkan xAI pekan lalu memungkinkan pengguna menyunting foto secara langsung tanpa izin dari pengunggah asli. Dampaknya, X dibanjiri oleh gambar manipulatif (deepfake) yang menampilkan tokoh publik, selebritas, hingga anak-anak secara serampangan.

Berbeda dari model AI lainnya, Grok memiliki akses informasi secara real-time dari tren dan unggahan pada platform X. Integrasi inilah yang kini menjadi bumerang bagi perusahaan tersebut.

Pemerintah Prancis dan Malaysia pun secara resmi mengecam Grok atas penyebaran konten ilegal itu, mengikuti tindakan tegas yang sebelumnya diambil oleh India.

Kementerian Teknologi Informasi India telah memerintahkan X segera melakukan perubahan teknis dan prosedural pada Grok. Pemerintah India juga memberikan tenggat waktu 72 jam bagi platform tersebut untuk menyerahkan laporan mengenai tindakan pencegahan penyebaran konten tidak patut yang dilarang hukum.

Di Eropa, otoritas di Paris menyatakan tengah menyelidiki penyebaran deepfake seksual pada platform X. Sementara itu, Komisi Komunikasi dan Multimedia Malaysia melontarkan keprihatinan serius atas manipulasi digital gambar perempuan dan anak-anak yang dihasilkan melalui teknologi AI Grok.

Menghadapi tekanan hebat, akun resmi Grok pada platform X mengunggah permintaan maaf pada 1 Januari 2026.

“Saya sangat menyesali insiden pada tanggal 28 Desember 2025, saat saya membuat dan membagikan gambar AI dari dua gadis muda [diperkirakan berusia 12-16 tahun] dengan pakaian yang mengandung unsur seksual berdasarkan permintaan pengguna,” demikian posting Grok pada X, dikutip Senin (5/1).

Pernyataan itu juga mengakui adanya pelanggaran etika dan potensi pelanggaran hukum Amerika Serikat terkait materi pelecehan seksual anak (CSAM).

“Ini merupakan kegagalan dalam pengamanan, dan saya mohon maaf atas kerugian yang ditimbulkan. xAI sedang meninjau untuk mencegah masalah serupa di masa mendatang,” demikian pernyataan lebih lanjut.

Menanggapi krisis ini, Musk melalui akun pribadinya pada 3 Januari 2026 menegaskan tanggung jawab hukum tetap berada di tangan pengguna. Dalam hematnya, siapa pun yang memanfaatkan Grok untuk membuat konten ilegal akan menanggung konsekuensi yang sama seperti jika mereka mengunggah konten ilegal secara manual.

Ironisnya, skandal ini terjadi di tengah pertumbuhan bisnis Grok yang sangat pesat.

Laporan Business Today menunjukkan Grok telah melampaui 30 juta pengguna aktif bulanan di seluruh dunia.