California Valisi Gavin Newsom, çocukları sosyal medya ve AI tabanlı sohbet botlarının risklerine karşı korumayı hedefleyen yeni yasa paketini imzaladı. Düzenlemeler, 16 yaş altındaki kullanıcılar için bağımlılık yarattığı düşünülen bazı sosyal medya özelliklerini yasaklarken, “companion chatbot” olarak tanımlanan sohbet botları için de daha sıkı güvenlik kuralları getiriyor.
Yeni kurallara göre sosyal medya platformları, 16 yaş altındaki kullanıcılara otomatik oynatma, sonsuz kaydırma ve kullanıcının geçmişine ya da profil verilerine göre şekillenen algoritmik akış gibi bağımlılığı artırdığı savunulan özellikleri sunamayacak. California yönetimi, bu adımın çocukların platformlarda daha uzun süre tutulmasına yönelik tasarım kararlarını sınırlamayı amaçladığını söylüyor.
Yasa paketi yalnızca sosyal medya tarafıyla sınırlı değil. Özellikle duygusal bağ kurmaya çalışan ya da sürekli, insan benzeri etkileşim sunan AI sohbet botları için de yeni yükümlülükler geliyor. Newsom’ın ofisine göre bu düzenlemeler, çocuk güvenliği odaklı bağımsız denetimleri ve yıllık risk değerlendirmelerini zorunlu kılan ilk kurallar arasında yer alıyor.
Bu kapsamda sohbet botu geliştiricilerinin, ürünlerini çocuklar açısından taşıdığı riskleri düzenli olarak değerlendirmesi gerekecek. Ayrıca bağımsız denetçilerin güvenlik incelemesi yapabilmesi için yeni bir çerçeve oluşturulacak. Amaç, özellikle çocukların duygusal olarak etkilenebileceği, zararlı yönlendirmelere maruz kalabileceği veya gerçek bir insanla konuşuyormuş hissine kapılabileceği sistemlerde daha sıkı gözetim sağlamak.
California son dönemde çocukların çevrim içi güvenliği konusunda ABD’de en agresif adımları atan eyaletlerden biri haline gelmiş durumda. Bu son yasa paketi de hem büyük sosyal medya şirketlerinin tasarım tercihlerini hem de hızla yayılan AI arkadaşlık uygulamalarını daha doğrudan denetlemeye yönelik yeni bir aşama olarak görülüyor.
Özetle California, çocukların ekran başında daha uzun kalmasını teşvik eden sosyal medya mekaniklerine ve çocuklarla yakın ilişki kuracak şekilde tasarlanan AI sohbet botlarına karşı kuralları sertleştiriyor. Teknoloji şirketleri içinse bu adım, ürün tasarımı ve güvenlik süreçlerinde daha fazla yasal sorumluluk anlamına geliyor.
Kaynak: www.techspot.com
