Aturan baru tidak berlaku bagi layanan AI berbasis tugas seperti pendidikan, pekerjaan, maupun layanan pelanggan.
Nancy Dai, peneliti interaksi manusia dan AI dari City University of Hong Kong, mengatakan kekhawatiran pemerintah memiliki dasar yang kuat.
Menurutnya, penelitian terbaru menunjukkan chatbot pendamping tidak hanya memberikan dukungan emosional, tetapi juga berpotensi memicu manipulasi hubungan, pelecehan psikologis hingga pelanggaran privasi.
Di sisi lain, industri AI pendamping berkembang sangat pesat di China.
Data Sensor Tower menunjukkan pendapatan aplikasi AI companion di negara tersebut meningkat empat kali lipat sepanjang 2025 menjadi sekitar 15,8 juta dolar AS. Pada kuartal pertama 2026 saja, pendapatannya telah melampaui 9 juta dolar AS.
Bagian dari Strategi AI China
Pembatasan chatbot pendamping juga dinilai sebagai bagian dari strategi besar China membangun citra sebagai pemimpin global dalam keamanan dan tata kelola AI.
Pekan lalu, Beijing mengumumkan pembentukan Organisasi Kerja Sama Kecerdasan Buatan Dunia yang bermarkas di Shanghai. Aliansi tersebut beranggotakan 29 negara, termasuk Indonesia, Rusia, dan Pakistan.
