Jakarta, FORTUNE - Kementerian Komunikasi dan Digital (Komdigi) menindaklanjuti dugaan penyalahgunaan fitur kecerdasan buatan, Grok AI, pada platform X. Fitur tersebut digunakan memproduksi konten yang melanggar privasi pengguna asal Indonesia.
Direktur Jenderal Pengawasan Ruang Digital Kementerian Komdigi, Alexander Sabar, mengatakan chatbot yang terintegrasi dengan X tersebut memungkinkan pengguna menyunting foto secara langsung tanpa izin pemilik asli. Hasil penelusuran awal menunjukkan Grok AI belum memiliki sistem pencegahan memadai terhadap distribusi konten pornografi berbasis foto nyata.
“Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga,” ujar Alexander dalam keterangan resmi, Rabu (7/1).
Komdigi mengingatkan seluruh Penyelenggara Sistem Elektronik (PSE) di Indonesia untuk tunduk pada regulasi nasional. Sikap tidak kooperatif X dapat berujung pada sanksi administratif hingga pemutusan akses layanan Grok AI dan platform X di wilayah Indonesia.
Saat ini, pemerintah tengah berkoordinasi dengan PSE untuk memastikan mekanisme perlindungan yang efektif, meliputi: penguatan sistem moderasi konten, pencegahan pembuatan deepfake asusila, dan prosedur penanganan cepat terhadap laporan pelanggaran hak citra diri.
Bagi penyedia layanan maupun pengguna yang terbukti memproduksi atau menyebabkan manipulasi citra pribadi tanpa hak, sanksi administratif dan pidana telah menanti.
Pada Undang-Undang No.1/2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP), konten pornografi diatur dalam Pasal 172 dan Pasal 407.
Pasal 407 mengatur ancaman pidana penjara paling singkat 6 bulan dan paling lama 10 tahun, atau pidana denda bagi pelaku yang melanggar norma kesusilaan melalui media.
“Kami mengimbau seluruh pihak untuk menggunakan teknologi akal imitasi secara bertanggung jawab. Ruang digital bukan ruang tanpa hukum, ada privasi dan hak atas citra diri setiap warga yang harus dihormati dan dilindungi,” katanya.
Langkah tegas Indonesia sejalan dengan sikap internasional. Pemerintah Prancis dan Malaysia sebelumnya telah mengecam Grok AI atas penyebaran konten ilegal.
India bahkan telah memberikan perintah keras kepada X untuk melakukan perubahan teknis dalam tenggat waktu 72 jam.
Sementara itu, otoritas di Paris tengah menyelidiki penyebaran deepfake seksual pada platform tersebut, menyusul kekhawatiran serupa dari Komisi Komunikasi dan Multimedia Malaysia mengenai manipulasi gambar perempuan dan anak-anak.