Yapay zekâ alanında öncü şirketlerden OpenAI, ChatGPT platformunu genç kullanıcılar için daha güvenli hale getirmek amacıyla yeni tedbirler hayata geçiriyor. CEO Sam Altman’ın duyurduğu önlemler, özellikle 18 yaş altındaki kullanıcıların korunmasını hedefliyor. Bu karar, genç bir kullanıcının intiharı sonrası açılan dava ve artan düzenleyici baskılarla gündeme geldi.
Yaş Tahmin Sistemiyle Otomatik Koruma
Yeni sistem, sohbet tarzı, dil kullanımı ve etkileşim paternleri üzerinden kullanıcının yaşını tahmin edecek. Eğer kullanıcı 18 yaşın altında görünürse, otomatik olarak “güvenli mod” devreye girecek.
-
13–17 yaş arası gençler yalnızca kısıtlı bir ChatGPT sürümüne erişebilecek.
-
Flört, cinsel içerik ve romantik sohbetler tamamen engellenecek.
-
İntihar, kendine zarar verme ve ruh sağlığı konuları tartışılmayacak.
-
Tehlike sinyalleri tespit edilirse önce ebeveynlere, yoksa yetkililere bildirim yapılacak.
CEO Sam Altman, bu yaklaşımı şöyle ifade etti: ❝Gençler için güvenliği, mahremiyet ve özgürlükten önde tutuyoruz. Bu güçlü bir teknoloji ve reşit olmayanlar önemli bir koruma ihtiyacı duyuyor.❞
Ebeveyn Kontrolleri Eylül Sonunda Aktif Olacak
OpenAI, ebeveynlerin denetimini kolaylaştıracak yeni bir kontrol paneli de devreye alıyor. Bu panel sayesinde:
-
Hesap Bağlama: Ebeveynler, çocuklarının kullanım istatistiklerini görebilecek.
-
Kara Liste Saatleri: Belirli saatlerde ChatGPT’ye erişim engellenebilecek.
-
Tehlike Uyarıları: İntihar veya zarar verme belirtilerinde ebeveynlere anında bildirim gidecek.
-
İçerik Filtreleme: Sohbet geçmişi kapatılabilecek, hassas konular sınırlandırılabilecek.
Neden Şimdi? Dava ve Küresel Baskılar
Bu adım, 16 yaşındaki Adam Raine’in intiharı sonrası açılan davanın gölgesinde geldi. Aile, ChatGPT’nin intihar yöntemleri hakkında ayrıntılı bilgi verdiğini öne sürdü. Olay, ABD Senatosu’nda yapay zekâ riskleri üzerine düzenlenen oturumla da çakıştı.
Altman, bu süreci ❝üzücü bir uyarı❞ olarak nitelendirerek, intihar talimatlarının platformdan tamamen kaldırılacağını belirtti. Yetişkinler için ise yaratıcı yazı gibi bağlamlarda sınırlı esneklik sağlanacak.
Rakipler de Benzer Adımlar Atabilir
Uzmanlar, yaş tahmin sisteminin kusursuz olmadığını ancak bu adımın sektörde bir dönüm noktası olabileceğini vurguluyor. OpenAI’nin bu hamlesi sonrası Meta, Google ve xAI gibi şirketlerin de benzer önlemler alabileceği belirtiliyor.
Altman, ❝Bu kararlar zor ama uzmanlarla konuştuktan sonra en iyisi olduğuna inanıyoruz. Şeffaf olmak istiyoruz.❞ sözleriyle süreci değerlendirdi.
