OpenAI, kullanıcıların ruh sağlığı krizlerinde yaşanan bazı eksiklikleri kabul ettiği yeni bir blog yazısında, ChatGPT sohbetlerinin “zararlı içerik” türlerine göre tarandığını ve bazı durumlarda kolluk kuvvetlerine bildirilebileceğini açıkladı. Bu açıklama, şirketin önceki gizlilik taahhütleriyle çeliştiği eleştirilerine yol açtı.
Süreç Nasıl İşliyor?
-
Kullanıcı sohbetleri, başkalarına zarar verme planı içeriyorsa, önce özel bir inceleme sistemine yönlendiriliyor.
-
İçerik, kullanım politikaları konusunda eğitilmiş ve hesapları yasaklama yetkisine sahip insan inceleme ekibine aktarılıyor.
-
Eğer ekip, ciddi ve yakın bir fiziksel zarar tehdidi tespit ederse, bu içerik kolluk kuvvetlerine bildirilebiliyor.
Ancak, kendine zarar verme durumlarında benzer bir prosedür uygulanmıyor. Şirket, bunun sebebini ChatGPT etkileşimlerinin “benzersiz derecede özel” olması ve polise yönlendirmenin gizliliğe müdahale oluşturma riski olarak açıkladı.
Eleştiriler ve Endişeler
Bu açıklama, kullanıcılar ve uzmanlar arasında tartışmalara yol açtı:
-
Bazıları, ChatGPT ile konuşmanın bir danışmanla konuşmak kadar güvenli olacağı beklentisinin zedelendiğini savunuyor.
-
Başka eleştirmenler, hangi durumların polise bildirileceğinin belirsiz olmasının ciddi bir güven sorunu doğurduğunu belirtiyor.
-
Ayrıca, “swatting” gibi kötüye kullanım senaryolarının riskleri de gündeme geldi. Bir kişi sahte tehditler yazarak bir başkasını yanlışlıkla hedef gösterebilir ve polis müdahalesiyle mağdur olabilir.
Özet Tablo
| Durum | Ne Yapılıyor? | Ne Yapılmıyor? |
|---|---|---|
| Başkalarına zarar verme tehdidi | Polise bildirilebilecek şekilde insan incelemesine yönlendiriliyor | — |
| Kendine zarar verme (intihar vb.) | Halihazırda polise yönlendirme yapılmıyor | — |
| Şirketin gizlilik taahhütleri | İnsan incelemesi + yetkili ekip müdahalesi | “Therapist benzeri gizlilik” algısında çelişki oluşuyor |
Bu gelişme, yapay zekâ tabanlı sohbet sistemlerinin sorumluluklarını, etik sınırlarını ve gizlilik-güvenlik dengesini yeniden tartışmaya açtı.
