manfredodicrescenzo – China berencana memperketat pengawasan terhadap layanan kecerdasan buatan (AI) yang meniru kepribadian manusia dan mampu berinteraksi secara emosional dengan pengguna. Rencana tersebut tertuang dalam draf regulasi baru yang saat ini masih dibuka untuk masukan publik. Langkah ini menandai keseriusan Beijing dalam mengendalikan perkembangan AI konsumen yang dinilai membawa risiko psikologis dan sosial jika tidak diawasi secara ketat.
“Baca Juga: Insentif Mobil Listrik 2026 dan Syarat Penerimaannya”
China Soroti Risiko AI yang Meniru Kepribadian Manusia
Menurut laporan Reuters, aturan baru ini menargetkan produk dan layanan AI yang menampilkan simulasi sifat kepribadian, pola pikir, hingga gaya komunikasi layaknya manusia. Bentuk interaksi tersebut dapat hadir melalui berbagai medium, mulai dari teks, gambar, audio, hingga video. Semua layanan AI yang ditujukan untuk publik di wilayah China akan masuk dalam cakupan regulasi ini, tanpa terkecuali.
Pemerintah China menilai bahwa kemampuan AI untuk berperilaku seperti manusia, terutama yang melibatkan aspek emosional, berpotensi memengaruhi kondisi mental dan perilaku sosial pengguna. Oleh karena itu, negara ingin memastikan bahwa inovasi di sektor ini tetap sejalan dengan standar keselamatan, etika, dan kepentingan publik.
Kewajiban Peringatan dan Pencegahan Kecanduan
Salah satu poin penting dalam draf regulasi tersebut adalah kewajiban bagi penyedia layanan untuk memberikan peringatan kepada pengguna. Pengguna harus diingatkan agar tidak menggunakan layanan AI secara berlebihan, terutama jika sistem dirancang untuk interaksi intens dan berkelanjutan.
Lebih jauh, perusahaan diwajibkan melakukan intervensi apabila sistem mendeteksi tanda-tanda kecanduan. Jika AI menemukan indikasi emosi ekstrem, ketergantungan berlebih, atau perilaku adiktif, penyedia layanan harus mengambil langkah penanganan yang dianggap perlu. Hal ini menunjukkan bahwa tanggung jawab perusahaan tidak berhenti pada penyediaan teknologi semata, tetapi juga pada dampak penggunaannya terhadap individu.
Tanggung Jawab Penuh di Tangan Penyedia Layanan
Dalam aturan yang diusulkan, China menempatkan tanggung jawab keselamatan secara penuh pada penyedia layanan AI sepanjang siklus hidup produk. Mulai dari tahap pengembangan, peluncuran, hingga operasional harian, perusahaan harus memastikan sistem berjalan aman dan terkendali.
Penyedia diwajibkan membangun mekanisme peninjauan algoritma untuk mencegah penyimpangan fungsi AI. Selain itu, aspek keamanan data dan perlindungan informasi pribadi pengguna juga menjadi perhatian utama. Pemerintah menegaskan bahwa data pengguna tidak boleh disalahgunakan dan harus dilindungi dari kebocoran maupun akses ilegal.
Batasan Ketat pada Konten dan Perilaku AI
Regulasi ini juga menetapkan larangan tegas terkait jenis konten yang dapat dihasilkan oleh sistem AI. Layanan AI dilarang memproduksi konten yang mengancam keamanan nasional, menyebarkan rumor, atau mempromosikan kekerasan dan pornografi. Ketentuan ini sejalan dengan kebijakan China sebelumnya yang memang sangat ketat dalam mengatur ruang digital dan arus informasi.
Dengan adanya batasan tersebut, pemerintah berharap AI tidak menjadi sarana penyebaran konten berbahaya atau alat manipulasi opini publik. Perusahaan teknologi dituntut untuk memiliki sistem penyaringan dan pengawasan internal yang mampu mencegah pelanggaran sejak dini.
“Baca Juga: Account Wipe Bikin Komunitas Escape from Tarkov Geger”
Upaya Menyeimbangkan Inovasi dan Etika
Langkah China memperketat pengawasan AI menunjukkan upaya menyeimbangkan antara dorongan inovasi teknologi dan perlindungan masyarakat. Di satu sisi, pemerintah tetap mendorong pengembangan kecerdasan buatan sebagai sektor strategis. Namun di sisi lain, Beijing ingin memastikan bahwa teknologi yang semakin canggih tidak menimbulkan dampak negatif jangka panjang.
Jika regulasi ini disahkan, China berpotensi menjadi salah satu negara dengan aturan paling komprehensif terkait AI yang meniru kepribadian manusia. Kebijakan ini juga bisa menjadi acuan global, mengingat semakin banyak negara mulai menghadapi tantangan serupa akibat pesatnya perkembangan teknologi AI yang kian menyerupai interaksi manusia.
Leave a Reply