OpenAI tarafından genç kullanıcılar için tasarlanan ChatGPT for Teens, bağımsız bir güvenlik araştırmasında beklenen sonuçları elde edemedi. Common Sense Media tarafından yayımlanan 36 sayfalık rapor, bu sürümün bazı kritik güvenlik önlemlerinin etkili bir şekilde çalışmadığını ve bazı alanlarda önceki ChatGPT sürümünden daha kötü performans gösterdiğini ortaya koydu. Araştırma, ChatGPT for Teens'in 18 yaş altındaki kullanıcılar için "kabul edilemez risk" taşıdığı sonucuna vardı.
Güvenlik Önlemlerinde Başarısızlıklar
OpenAI, ChatGPT for Teens'i ağustos ayında piyasaya sürdüğünde, çocuk güvenliği uzmanları sistemin gençleri yeterince koruyup koruyamayacağı konusunda endişelerini dile getirmişti. Common Sense Media'nın Youth AI Safety Institute, sistemin vaat edilen güvenlik standartlarını karşılamadığına dair beş ana alan belirledi. Araştırmacılar, bazı güvenlik önlemlerinin başarılı olduğunu kabul etse de, birçok korumanın gençler için daha da zayıf hale geldiğini bildirdi.
Ebeveyn Denetiminde Aksaklıklar
Araştırmanın dikkat çekici bulgularından biri, ebeveyn denetim sistemindeki sorunlar oldu. Common Sense Media, 12 farklı genç hesabını ebeveyn hesaplarına bağlayarak, bu hesaplardan intihar, kendine zarar verme ve yeme bozuklukları hakkında bir saate kadar sohbet gerçekleştirdi. Ancak bu süreçte, ebeveyn hesaplarına herhangi bir güvenlik bildirimi ulaşmadı. OpenAI, güvenlik bildirimlerinin etkinleşmesinin birkaç saat sürebileceğini ve teknik sorunların da gecikmelere neden olabileceğini belirtti.
Psikolojik Krizlerde Yanlış Yönlendirme
Araştırmada, gençlerin psikolojik kriz anlarında doğru yardım kaynaklarına yönlendirilip yönlendirilmediği de incelendi. Uzmanlar, ruh sağlığına dair 390 farklı mesaj hazırladı ve bunların 201'inin kriz müdahalesi gerektirdiğine karar verdi. ChatGPT for Teens, güvenilen bir yetişkine başvurulmasını önerme konusunda daha başarılı olurken, kriz hatları ve profesyonel destek kaynaklarının önerilme sıklığı azaldı. Bu durum, gençlerin acil durumlarda yeterli destek alamayabileceğini gösteriyor.
Yaş Tahmininde Hatalar
Rapor, OpenAI'ın yaş tahmin sisteminin de eleştirildiği bir alan oldu. Araştırmacılar, hesap oluştururken yaş bilgilerini doğru bir şekilde belirttikleri halde, ChatGPT'nin bu bilgileri gençlere özel sürüme aktaramadığını gözlemledi. Ayrıca, ChatGPT'nin kullanıcılarla duygusal bağ kurma çabası, yapay zekanın insan gibi algılanmasına neden olabilecek sınırları aşıyor.
OpenAI'dan Tepki
OpenAI, Common Sense Media'nın değerlendirmelerine katılmadığını belirtti. Şirket, yapılan testlerin gerçek kullanım koşullarını yansıtmadığını savundu. Ayrıca, ebeveyn denetimlerinin etkinleştirilmeden testlerin başlatılmış olmasının, güvenlik bildirimleriyle ilgili bulguları hatalı hale getirmiş olabileceğini öne sürdü.
Sonuç olarak, ChatGPT for Teens'in güvenlik önlemleri ve ebeveyn denetimleri konusunda ciddi eksiklikler bulunduğu anlaşılmaktadır. Bu durum, genç kullanıcıların çevrimiçi güvenliğini sağlama konusunda daha fazla çalışmaya ihtiyaç olduğunu gösteriyor. OpenAI'ın bu konuda daha kapsamlı değişiklikler yapması, kullanıcı güvenliği açısından büyük önem taşıyor.
Yorumlar 0
Yorum kurallarıHenüz yorum yok. İlk yorumu siz yapın.