Langkah Microsoft menyiapkan AI ramah anak disebut sebagai upaya perusahaan untuk dapat bersaing di pasar. Perusahaan sedang bersaing ketat dengan sejumlah raksasa teknologi, seperti OpenAI, Meta, dan Google yang menawarkan teknologi AI.
Berdasarkan laporan keuangan perusahaan terbaru, Copilot memiliki 100 juta pengguna aktif bulanan di seluruh platform Microsoft. Angka tersebut jauh dengan pesaingnya, seperti OpenAI dengan 800 juta pengguna aktif bulanan di platform ChatGPT.
Pembangunan AI ramah anak menyusul isu yang sedang dihadapi sejumlah chatbot dengan pengguna muda. Sejumlah pesaing Microsoft di bidang AI sedang menghadapi tekanan dari pengguna. Banyak pengguna yang menyampaikan kekhawatiran akan keamanan pengguna usia muda di platform mereka.
Beberapa keluarga telah menggugat OpenAI dan Character.AI karena merugikan anak-anak mereka dan dalam beberapa kasus diduga berkontribusi pada bunuh diri.
Menanggapi hal tersebut, sejumlah perusahaan teknologi di balik chatbot AI populer merancang perlindungan baru untuk anak. Character.AI membatasi pengguna muda di bawah 18 tahun untuk membuat cerita, video, dan live streaming di platformnya mulai 25 November.