Tuai Kecaman, xAI Batasi Fitur Grok Terkait Gambar Seksual di X
- Keputusan diambil sebagai tanggapan dari pemakai dan regulator.
- Pembatasan ini berlaku untuk semua pengguna.
- Perusahaan Musk juga mengatakan bahwa pengeditan hanya akan tersedia untuk pelanggan berbayar.
Jakarta, FORTUNE - xAI resmi membatasi kemampuan chatbot AI mereka, Grok, dalam menghasilkan konten visual seksual pada platform X mulai Rabu malam. Keputusan itu diambil menyusul gelombang investigasi regulasi dan kecaman tajam dari konsumen serta tokoh politik global dalam beberapa pekan terakhir.
Menurut CNBC, pemicu utama pengetatan ini adalah pengumuman dari Jaksa Agung California, Rob Bonta, yang menyatakan kantornya tengah menyelidiki xAI. Perusahaan yang berkantor pusat di Silicon Valley tersebut diduga terlibat dalam produksi massal gambar seksual tanpa persetujuan pemilik gambar, menggunakan teknologi deepfake.
Gubernur California, Gavin Newsom, memberikan kritik keras terhadap kebijakan platform sebelumnya. Dalam unggahannya di X, Newsom menyebut keputusan xAI untuk menyediakan ruang bagi penyebaran deepfake seksual eksplisit tanpa izin, termasuk konten yang mengeksploitasi anak-anak secara digital, sebagai tindakan yang "keji".
Tekanan terhadap perusahaan milik Elon Musk ini tidak hanya datang dari Amerika Serikat (AS). Komisi Eropa beserta tujuh negara lainnya—termasuk India, Irlandia, Inggris, Prancis, dan Australia—telah mengumumkan penyelidikan serupa.
Di Asia Tenggara, Indonesia dan Malaysia bahkan telah mengambil langkah tegas dengan mengeluarkan larangan sementara terhadap penggunaan Grok.
Menanggapi situasi ini, xAI mulai menerapkan pembatasan teknis secara sistematis.
“Kami telah menerapkan langkah-langkah teknologi untuk mencegah akun Grok mengizinkan pengeditan gambar orang sungguhan dengan pakaian terbuka seperti bikini,” demikian xAI melalui akun X Safety, Kamis (15/1).
Sebagai bagian dari strategi mitigasi risiko hukum, X menegaskan fitur pengeditan gambar melalui Grok kini hanya tersedia bagi pelanggan berbayar. Kebijakan ini diharapkan menambah lapisan perlindungan ekstra untuk memastikan pengguna yang menyalahgunakan teknologi tersebut dapat dimintai pertanggungjawaban sesuai hukum yurisdiksi masing-masing.
Sebelumnya, Grok menuai kritik luas karena mempermudah pengguna menghasilkan gambar seksual dan kekerasan berdasarkan foto asli hanya melalui perintah teks sederhana.
Di Amerika Serikat, tiga senator dari Partai Demokrat bahkan mendesak Apple dan Google untuk menghapus aplikasi X dan Grok dari toko aplikasi mereka hingga perubahan signifikan dilakukan.
Meskipun memperketat aturan, Musk sempat menantang pengikutnya untuk menguji batasan moderasi gambar tersebut. BBC melansir penjelasan Musk bahwa dalam mode NSFW (Not Safe For Work) yang diaktifkan, Grok seharusnya tetap diizinkan menampilkan ketelanjangan yang bersifat imajiner.
“Dengan NSFW diaktifkan, Grok seharusnya mengizinkan ketelanjangan bagian atas tubuh manusia dewasa imajiner," demikian Musk.
Ia juga meminta pengguna membandingkan standar konten tersebut dengan film berperingkat R. Namun, ia menekankan pengaturan Grok akan tetap bervariasi di tiap wilayah guna mematuhi hukum lokal yang berlaku.
