Çin, son yıllarda hızla büyüyen yapay zeka arkadaşlık hizmetlerine yönelik kapsamlı bir düzenleme paketini yürürlüğe koydu. Yeni yönetmelikle birlikte, kullanıcıların yapay zekaya aşırı duygusal bağ geliştirmesini önlemek, kişisel verileri daha güçlü şekilde korumak ve platformların sorumluluklarını artırmak hedefleniyor.
Yapay zeka arkadaş botları daha sıkı denetlenecek
Yeni düzenlemeler, uzun süreli duygusal etkileşim kurabilen yapay zeka arkadaşlık hizmetlerini kapsıyor. Metin, ses, görüntü ve video üzerinden kullanıcılarla kişisel bağ kurmayı amaçlayan sistemler artık belirlenen yeni kurallara uymak zorunda olacak.
Buna karşılık müşteri hizmetleri, eğitim, bilimsel araştırmalar ve iş süreçlerine yönelik görev odaklı yapay zeka uygulamaları ise düzenlemenin kapsamı dışında bırakıldı.
Platformlara yeni sorumluluklar getirildi
Yönetmelik kapsamında hizmet sağlayıcılarından kullanıcı güvenliğini artıracak çeşitli önlemler almaları isteniyor. Buna göre platformların;
- Kullanıcıların olası duygusal sıkıntılarını tespit edebilmesi,
- Kriz durumlarında uygun yönlendirme ve müdahale mekanizmaları oluşturması,
- Aşırı kullanımın önüne geçecek sistemler geliştirmesi,
- Kullanıcılara kişisel verileri üzerinde daha fazla kontrol sunması,
- Verilerin kötüye kullanımını engelleyecek güvenlik tedbirlerini uygulaması gerekiyor.
Bu adımların, yapay zekanın insan psikolojisi üzerindeki olası etkilerini azaltmaya yönelik önemli bir güvenlik mekanizması oluşturması bekleniyor.
Duygusal bağımlılık tartışmaları düzenlemeyi hızlandırdı
Yapay zeka destekli arkadaşlık uygulamaları son dönemde özellikle yalnızlık hissini azaltmaya yönelik sundukları kişiselleştirilmiş sohbet deneyimi sayesinde milyonlarca kullanıcıya ulaştı. Ancak uzmanlar, kullanıcıların bu sistemlerle aşırı duygusal bağ kurmasının psikolojik ve sosyal riskler oluşturabileceğine dikkat çekiyor.
Çin'in yeni düzenlemesi de bu endişeleri dikkate alarak hem kullanıcı güvenliğini artırmayı hem de sektörün daha kontrollü şekilde büyümesini amaçlıyor.
Çin'in yapay zeka pazarı büyümeye devam ediyor
Dünyanın en büyük yapay zeka pazarlarından biri haline gelen Çin'de sektör büyümesini sürdürüyor. Yapılan pazar analizlerine göre ülkenin yapay zeka ekonomisinin 2025 yılında 1,2 trilyon yuan seviyesini geçtiği tahmin edilirken, 2028 yılına kadar bu rakamın 1,8 trilyon yuanın üzerine çıkması bekleniyor.
Yeni düzenlemelerin ise hem kullanıcı güvenliğini artırması hem de sektörün sürdürülebilir şekilde gelişmesine katkı sağlaması hedefleniyor.
