OpenAI, yapay zekâ sohbet robotu ChatGPT için çocukların çevrim içi güvenliğini artırmaya yönelik yeni bir sistemi hayata geçiriyor. Şirket, 18 yaş altı kullanıcıları otomatik olarak tespit ederek onlara güvenli içerik sunacak.
OpenAI CEO’su Sam Altman, ay sonuna kadar platforma ebeveyn denetimleri ekleneceğini ve kullanıcıların yaşını tahmin etmeye yönelik yeni bir sistemin devreye alınacağını açıkladı. Sistem, kullanıcı davranışlarını analiz ederek yaş tahmini yapacak; 18 yaşın altında olduğu değerlendirilen kullanıcılara yalnızca yaşa uygun içerikler gösterilecek. Yaş tespitinin mümkün olmadığı durumlarda ise kimlik doğrulaması talep edilecek.
“Önce Güvenlik” Yaklaşımı
Altman, şüpheli durumlarda “önce güvenlik” prensibiyle 18 yaş altı modunun otomatik olarak aktif edileceğini belirtti:
“Bazı durumlarda veya ülkelerde kimlik belgesi isteyebiliriz. Bunun yetişkinler için gizlilik ihlali olduğunu biliyoruz. Ancak bu fedakârlığa değeceğine inanıyoruz.”
Çocuklara Ayrı, Yetişkinlere Ayrı Deneyim
Yeni sistemle birlikte 18 yaş altı kullanıcılara yönelik olarak flört içerikli sohbetler ve intihar temalı açıklamalar tamamen engellenecek. Altman, reşit olmayan bir kullanıcının intihar eğilimli ifadeler kullanması halinde önce ebeveynlerle iletişime geçmeye, gerekirse acil tehlike durumlarında yetkililere başvurmaya hazır olduklarını açıkladı.
ChatGPT’nin varsayılan sürümünün flörtöz dil kullanmadığını hatırlatan Altman, yetişkin kullanıcıların özel taleplerinde daha esnek bir deneyim yaşayabileceğini söyledi. Örneğin, model intihar hakkında doğrudan talimat vermeyecek; ancak yetişkin bir kullanıcı kurgusal bir hikâye yazmak için böyle bir içerik talep ederse destek sunabilecek.
Bu gelişme, çocukların çevrim içi güvenliğini sağlamak adına yapay zekâ platformlarında atılan en önemli adımlardan biri olarak değerlendiriliyor.
