OpenAI’nın Çocuk Güvenliği İçin Yaptığı Yenilikler
OpenAI, son dönemlerde ChatGPT’nin çocuklar üzerindeki olumsuz etkileri nedeniyle eleştirilerle karşı karşıya kaldı. Özellikle bazı intihar vakalarının bu sohbet robotuyla ilişkilendirilmesi ve reşit olmayanların cinsel içerikli konuşmalara ulaşabilmesi şirketi endişelendirmişti. OpenAI mühendisleri birkaç ay önce, 18 yaş altı kullanıcılara yönelik bir erotik içerik üretme hatasını düzeltmek zorunda kaldılar.
OpenAI, bu sorunu çözmek için çalışmalarına devam ederken, şirketin yeni duyurduğu ‘yaş tahmini’ özelliği dikkat çekiyor. Yeni mekanizmada, kullanıcıların beyanlarına güvenmek yerine hesapların davranışlarını inceleyen bir algoritma kullanılıyor.
Bu algoritma, hesabın ne kadar süredir aktif olduğu ve hangi saatlerde kullanıldığı gibi faktörleri değerlendirerek kullanıcıların yaşını tahmin etmeye çalışacak. Şu anda platformda 18 yaş altındakilere özel filtreler bulunmakta ve yeni mekanizma, reşit olmayan bir kullanıcıyı tespit ederse bu filtreleri devreye sokacak.
Ancak her ne kadar teknoloji gelişmiş olsa da yanılma payı olasılığı bulunuyor. Eğer bir yetişkin yanlışlıkla reşit olmayan olarak işaretlenirse, bu durumu düzeltmek için bir itiraz mekanizması mevcut. Kullanıcılar, kimlik doğrulama ortağı Persona’ya bir selfie göndererek yaşlarını kanıtlayarak hesaplarının eski haline getirilebilecekler.
