Jakarta, FORTUNE – Platform TikTok terus mendorong ekosistem digital yang sehat dan lebih transparan di tengah maraknya penggunaan teknologi kecerdasan buatan atau artificial intelligence (AI) di media sosial. Apalagi, penggunaan AI dapat disalahgunakan untuk memproduksi konten spam secara massal hingga akun palsu sehingga membuat karya autentik dari kreator asli tersisihkan.
Pada kuartal pertama tahun ini saja, TikTok telah menghapus lebih dari 86 juta akun palsu secara global.
“Kami telah lama melarang konten spam, serta memanfaatkan teknologi untuk mendeteksi dan menghapusnya dalam skala besar dari TikTok,” kata Tom Varghese, AI Lead dan Global Public Policy TikTok, melalui keterangan tertulis di Jakarta, Rabu (15/7).
Oleh karena itu, dalam beberapa minggu ke depan, TikTok akan meningkatkan sistem deteksi untuk mengidentifikasi akun TikTok yang mengunggah konten spam berbasis AI terkait topik-topik yang berisiko tinggi. Topik ini mencakup konten seputar politik dan peristiwa terkini, kiat-kiat keuangan, dan kesehatan.
Seiring banyaknya kreator yang mengeksplorasi penggunaan AI, TikTok juga menerapkan teknologi pelabelan AI Generated Content alias konten buatan AI (AIGC) bagi pengguna.
Menurut Tom, dua tahun lalu TikTok telah menerapkan Kredensial Konten C2PA, teknologi transparansi AI yang membantu masyarakat mengidentifikasikan konten.
Hingga saat ini, TikTok telah memberi label pada lebih dari 3 miliar video sebagai AIGC melalui kombinasi kredensial konten, alat pelabelan kreator, dan teknologi invisible watermarking.
Tak berhenti di situ, TikTok bahkan mengalokasikan investasi senilai US$4 juta dalam program edukasi AI dengan menggandeng organisasi seperti NoFiltr dan Raspberry Pi Foundation.
Sejak diluncurkan pada November 2025, program ini telah membantu berbagai organisasi meraih lebih dari 200 juta tayangan konten yang membantu masyarakat memahami dan menggunakan AI secara bertanggung jawab.