Larangan Memanipulasi Emosi
Selain fitur teknis, CAC juga menyoroti aspek etika. Regulator melarang keras pengembang merancang AI yang secara sengaja memancing keterikatan emosional demi keuntungan komersial.
Layanan AI tidak boleh mengarahkan pengguna menjalin hubungan emosional tidak sehat dengan mesin. Aturan ini menegaskan posisi AI hanyalah alat bantu, bukan pengganti interaksi antarmanusia yang sesungguhnya.
Keamanan Data dan Nilai Sosial
Rancangan aturan ini juga menyinggung masalah keamanan konten. CAC menegaskan AI peniru manusia tidak boleh menghasilkan materi yang melanggar ketertiban umum atau membahayakan keamanan nasional.
Pengembang memegang tanggung jawab penuh atas setiap konten dari sistem mereka. Mereka harus memastikan algoritma AI tetap berjalan dalam koridor hukum dan tidak menyebarkan informasi palsu.
Baca Juga: Intrusi Sebulan di Perairan Sarawak, Kapal Coast Guard China CCG 5304 Dipantau Ketat 24 Jam
Langkah Tiongkok ini menjadi sinyal kuat bagi industri teknologi global. Inovasi AI harus berjalan beriringan dengan keselamatan mental dan keamanan data penggunanya. Saat ini, rancangan tersebut masih dalam tahap konsultasi publik sebelum pemerintah meresmikannya menjadi undang-undang yang mengikat.
(*Sari)
