BEIJING, 16 Julai. - China pada Rabu memperkenalkan satu set peraturan yang bertujuan membendung kebergantungan emosi terhadap bot berkuasa kecerdasan buatan (AI), sekali gus menandakan langkah baharu dalam usaha mengawal selia sektor yang berkembang pesat ini.
Perkhidmatan teman AI, yang digunakan dalam pelbagai bidang termasuk khidmat pelanggan, sokongan kesihatan mental, penjagaan kanak-kanak dan penjagaan warga emas, semakin popular kerana keupayaannya mensimulasikan personaliti serta perbualan seperti manusia. Namun, kebimbangan terhadap kebergantungan emosi dan risiko lain telah mencetuskan desakan agar peraturan yang lebih ketat diperkenalkan.
Peraturan baharu itu mewajibkan platform mengesan tanda-tanda tekanan emosi, campur tangan dalam situasi krisis, mengehadkan penggunaan berlebihan, memberikan pengguna kawalan penuh terhadap data peribadi mereka, serta menghalang penyalahgunaan maklumat pengguna.
Peraturan tersebut mentakrifkan perkhidmatan teman AI sebagai perkhidmatan yang menawarkan "interaksi emosi berterusan" melalui teks, imej, audio atau video, manakala aplikasi AI yang berorientasikan tugasan seperti khidmat pelanggan, bantuan kerja, pendidikan dan penyelidikan saintifik dikecualikan.
Peraturan ini merupakan usaha khusus pertama China untuk mengawal selia perkhidmatan interaktif AI yang menyerupai manusia. Ia digubal bersama oleh Pentadbiran Ruang Siber China dan empat lagi badan kerajaan.
Platform utama penjanaan kandungan AI di China, termasuk Doubao, Qwen dan Yuanbao, baru-baru ini turut mengumumkan penggantungan ciri ejen AI mereka.
Bot teman AI, yang merupakan segmen AI yang berkembang dengan pantas, kini menjadi sebahagian daripada kehidupan harian ramai orang. Namun, pelbagai masalah mula timbul.
Teman maya ini berupaya membentuk ikatan emosi yang mendalam, dengan golongan muda dilihat paling terdedah kepada penggunaan berlebihan serta menjauhkan diri daripada hubungan di dunia sebenar.
Pada tahun 2025, Pusat Penyelidikan Belia dan Kanak-Kanak China menjalankan tinjauan melibatkan lebih 8,500 individu bawah umur di seluruh negara. Hasil kajian menunjukkan lebih 60 peratus pernah menggunakan AI, manakala lebih 20 peratus menyatakan mereka "hanya mahu berbual dengan AI dan tidak mahu bercakap dengan manusia sebenar”.
Walaupun kanak-kanak dan warga emas bukanlah kumpulan yang paling banyak menggunakan AI, mereka lebih mudah membentuk ikatan emosi dengannya kerana AI sentiasa tersedia, sangat sabar dan sentiasa memberikan respons yang mematuhi kehendak pengguna, kata Wang Zhechen, penyelidik bersekutu di Jabatan Psikologi, Sekolah Pembangunan Sosial dan Dasar Awam, Universiti Fudan di Shanghai.
Pakar memberi amaran bahawa pendedahan berpanjangan kepada ruang komunikasi tanpa konflik yang diwujudkan oleh AI boleh melemahkan keupayaan seseorang untuk mengendalikan hubungan di dunia sebenar, sekali gus berpotensi menyebabkan kemerosotan hubungan sosial secara lebih meluas.
Bagi menangani isu ini, peraturan baharu itu secara jelas melarang sistem AI daripada menggalakkan penggunaan yang bersifat ketagihan. Ia turut mewajibkan peringatan selepas penggunaan berterusan melebihi dua jam, paparan amaran apabila tanda-tanda kebergantungan dikesan, serta mekanisme campur tangan sekiranya pengguna mengalami tekanan emosi yang melampau.
"Apabila pengguna mula mengelirukan hubungan emosi maya dengan hubungan sebenar, sistem perlu memberikan peringatan yang sesuai seperti: 'Ini ialah mesin, bukan manusia sebenar,'" kata Liu Xiaochun, profesor madya di Universiti Akademi Sains Sosial China di Beijing.
Beliau berpendapat pengguna sedemikian perlu digalakkan supaya meluangkan lebih banyak masa berinteraksi dengan orang di dunia sebenar serta berbual dengan rakan dan ahli keluarga.
Bagi melindungi data interaksi pengguna, dokumen itu mewajibkan penyedia perkhidmatan AI mengambil langkah seperti penyulitan data dan kawalan akses. Ia juga melarang mereka berkongsi data interaksi pengguna dengan pihak ketiga tanpa persetujuan pengguna, kecuali jika dikehendaki oleh undang-undang.
Dokumen itu turut menegaskan bahawa pengguna mempunyai hak ke atas data interaksi mereka, termasuk hak untuk menyalin atau memadam sejarah perbualan dan rekod interaksi terdahulu, sekali gus melindungi kepentingan sah mereka.
Selain melindungi privasi dan maklumat peribadi pengguna, peraturan tersebut turut menggesa supaya mekanisme campur tangan risiko diwujudkan bagi mencegah tingkah laku ekstrem.
Zhang Jiyu, pengarah eksekutif Institut Undang-undang dan Teknologi di Universiti Renmin China, berkata alat teknologi boleh membantu mengenal pasti potensi risiko serta membolehkan campur tangan dilakukan dengan segera.
Bagi risiko umum, sistem AI boleh memberikan respons yang menyokong pengguna, manakala dalam kes yang lebih serius, sistem boleh memaklumkan individu yang telah ditetapkan sebagai pihak untuk dihubungi. Menurut beliau, mekanisme sedemikian mampu menyediakan perlindungan yang lebih kukuh apabila digunakan secara meluas.
Pasaran AI China terus berkembang hasil penggunaan yang semakin meluas dalam pelbagai industri. Berdasarkan penyelidikan terkini, nilainya dijangka melepasi 1.2 trilion yuan (kira-kira AS$177 bilion) pada tahun 2025 dan dijangka melebihi 1.8 trilion yuan menjelang tahun 2028.
Dalam beberapa tahun kebelakangan ini, China telah memperkukuh perundangan berkaitan AI serta mewujudkan rangka kerja kawal selia pelbagai dimensi yang merangkumi aspek data, algoritma dan aplikasi.
Chen Liang, dekan Sekolah Kecerdasan Buatan dan Undang-undang di Universiti Barat Daya Sains Politik dan Undang-undang di Perbandaran Chongqing, berkata peraturan baharu itu membuka peluang penting kepada industri untuk meningkatkan mutu serta melakukan transformasi.
Menurut beliau, peraturan tersebut akan menggalakkan syarikat mengalihkan tumpuan daripada memaksimumkan tahap keterlibatan dan keasyikan pengguna kepada pembangunan model interaksi manusia-AI yang lebih sihat dan bertanggungjawab. Langkah itu juga akan membantu menyalurkan sumber kepada aplikasi yang memberi manfaat kepada masyarakat serta menyokong pembangunan industri secara lebih teratur. - ©XINHUA
