Faktakalbar.id, TECHNOLOGY – Pemerintah Tiongkok melalui regulator sibernya kembali menunjukkan ketegasan dalam mengawasi perkembangan teknologi. Cyberspace Administration of China (CAC) merilis rancangan pedoman baru yang secara spesifik membatasi Artificial Intelligence (AI) berkemampuan meniru kepribadian manusia.
Langkah ini bertujuan melindungi kesehatan mental pengguna dari ketergantungan emosional terhadap mesin.
Fenomena chatbot yang semakin cerdas dalam merespons perasaan pengguna memicu kekhawatiran baru. CAC menilai interaksi intens dengan AI yang meniru emosi manusia dapat menimbulkan risiko psikologis serius.
Oleh karena itu, regulator mewajibkan perusahaan teknologi menerapkan batasan ketat.
Wajib Pasang Fitur Anti-Kecanduan
Dalam rancangan peraturan tersebut, CAC menuntut penyedia layanan AI mengambil peran aktif dalam mencegah kecanduan. Perusahaan pengembang harus merancang sistem yang mampu memantau perilaku pengguna secara real-time.
Jika sistem mendeteksi pengguna menghabiskan waktu terlalu lama atau menunjukkan tanda-tanda ketergantungan, aplikasi wajib memberikan peringatan.
Mekanisme ini bisa berupa jendela pop-up yang mengingatkan pengguna untuk beristirahat atau bahkan pembatasan akses sementara. Tujuannya agar pengguna tidak tenggelam dalam realitas semu buatan AI.
Larangan Memanipulasi Emosi
Selain fitur teknis, CAC juga menyoroti aspek etika. Regulator melarang keras pengembang merancang AI yang secara sengaja memancing keterikatan emosional demi keuntungan komersial.
Layanan AI tidak boleh mengarahkan pengguna menjalin hubungan emosional tidak sehat dengan mesin. Aturan ini menegaskan posisi AI hanyalah alat bantu, bukan pengganti interaksi antarmanusia yang sesungguhnya.
Keamanan Data dan Nilai Sosial
Rancangan aturan ini juga menyinggung masalah keamanan konten. CAC menegaskan AI peniru manusia tidak boleh menghasilkan materi yang melanggar ketertiban umum atau membahayakan keamanan nasional.
Pengembang memegang tanggung jawab penuh atas setiap konten dari sistem mereka. Mereka harus memastikan algoritma AI tetap berjalan dalam koridor hukum dan tidak menyebarkan informasi palsu.
Baca Juga: Intrusi Sebulan di Perairan Sarawak, Kapal Coast Guard China CCG 5304 Dipantau Ketat 24 Jam
Langkah Tiongkok ini menjadi sinyal kuat bagi industri teknologi global. Inovasi AI harus berjalan beriringan dengan keselamatan mental dan keamanan data penggunanya. Saat ini, rancangan tersebut masih dalam tahap konsultasi publik sebelum pemerintah meresmikannya menjadi undang-undang yang mengikat.
(*Sari)
