OpenAI, 18 yaş altındaki kullanıcıların ChatGPT deneyimini daha güvenli hale getirmek amacıyla yeni bir koruma sistemi üzerinde çalışıyor. “ChatGPT for Teens” adı verilen yeni mod ile gençlerin şiddet, kendine zarar verme, yeme bozuklukları ve cinsel içerik gibi riskli konularla karşılaşmasının sınırlandırılması hedefleniyor.
Yeni uygulamayla birlikte yapay zeka sohbetlerinin genç kullanıcılar üzerindeki etkisini azaltmak ve daha güvenli bir kullanım ortamı oluşturmak amaçlanıyor.
OpenAI’nin geliştirdiği sistem, yüksek risk taşıyan bazı konuşmaları otomatik olarak daha sıkı kurallara tabi tutacak. Özellikle kendine zarar verme eğilimi, şiddet içerikleri ve psikolojik açıdan hassas konularda ChatGPT’nin vereceği yanıtların sınırlandırılacağı belirtildi.
Şirket ayrıca, yapay zekanın kullanıcılarla kurduğu iletişimde yanlış bir şekilde “duygusal bağ” algısı oluşturmasını engelleyecek ek güvenlik önlemlerini de artıracak.
Yeni düzenlemenin eğitim alanına yönelik önemli bir değişiklik de içereceği açıklandı. ChatGPT’nin öğrencilerin ödevlerini doğrudan tamamlayan bir araç yerine, onların düşünme ve öğrenme süreçlerini destekleyen bir yardımcı olarak çalışması planlanıyor.
Bu kapsamda sistem, bir öğrencinin ödev çözmeye çalıştığını fark ettiğinde doğrudan sonucu vermek yerine yönlendirici sorular soracak ve öğrencinin cevaba kendi çabasıyla ulaşmasına yardımcı olacak.
OpenAI, kullanıcıların kayıt sırasında yaş bilgisi paylaşmasını zorunlu tutuyor. Platformun kullanım şartlarına göre ChatGPT’den yararlanmak için kullanıcıların en az 13 yaşında olması gerekiyor.
Ancak şirket, bazı kullanıcıların yaş bilgisini doğru vermeyebileceğini belirterek yaş tahmini için farklı sinyallerden yararlanıldığını açıkladı. Hesabın kullanım süresi, giriş alışkanlıkları ve benzeri verilerin gizlilik ilkeleri gözetilerek değerlendirileceği ifade edildi.
Yeni sistemle birlikte bir kullanıcının 18 yaşından küçük olduğu tahmin edilirse gençlere yönelik güvenlik modunun otomatik olarak devreye alınacağı belirtildi.
OpenAI, yaş tespitinde çok sayıda farklı göstergenin değerlendirildiğini ve bu süreçte kullanıcı gizliliğinin korunmasına öncelik verileceğini duyurdu.
Yeni uygulama kapsamında gençlerin ChatGPT kullanımında ebeveyn izni ve denetim seçeneklerinin de artırılması planlanıyor. Ebeveynlerin belirli durumlarda bildirim alabileceği ve çocuklarının kullanım deneyimini daha yakından takip edebileceği belirtildi.
OpenAI, genç kullanıcıların yapay zeka araçlarıyla güvenli şekilde etkileşim kurmasını sağlamak için yeni önlemler geliştirmeye devam ediyor. Şirket, son dönemde bazı ailelerin çocukların yapay zeka sohbetleri nedeniyle zarar gördüğünü iddia ederek hukuki süreç başlatmasının ardından güvenlik politikalarını daha fazla gündeme almıştı.