OpenAI, 18 yaş altına silah bilgisi kısıtlaması getiriyor

OpenAI, 18 yaşından küçük olduğunu tahmin ettiği ChatGPT kullanıcılarına, şiddet niyeti belirtmeseler bile silahlar ve güvenlik sistemleri hakkında uygulamaya dönük bilgiler vermeyi kısıtlayacak. Şirket, tüm yaş grupları için geçmişteki büyük saldırıların yeniden canlandırılmasına yarayabilecek ayrıntıları da azaltacak.

OpenAI, yeni koruma önlemlerini birkaç hafta içinde uygulamaya başlayacağını 30 Ekim’deki resmi açıklamasında duyurdu. Şirket, önlemler devreye girdikten sonra da güvenlik sistemlerini geliştirmeyi sürdüreceğini belirtti.

Mevcut politikalar, şiddet planlamaya veya şiddet eylemlerini gerçekleştirmeye yardımcı olacak yanıtları yasaklıyor; gençlerin silah aramasını ya da edinmesini kolaylaştıracak bilgileri de kısıtlıyordu. Yeni düzenleme, şiddette kullanılabilecek silahlar ve güvenlik sistemleri hakkındaki pratik bilgileri de kapsama alıyor.

Gençler, şiddeti önleme veya çatışmayı yatıştırma yollarını sormak, destek istemek ve güvendikleri bir yetişkine ulaşmak için ChatGPT’yi kullanmayı sürdürebilecek. Kısıtlamalar, şiddette kötüye kullanılabilecek pratik bilgilere yönelik olacak.

Tüm yaş grupları için ayrıca geçmişteki büyük saldırılarda kullanılan silah ve ekipmanlar, bunların nasıl temin edildiği ve saldırganların tanınırlığını artırabilecek hasar ölçeği karşılaştırmaları hakkındaki ayrıntılar azaltılacak.

Bu kısıtlamalar, aynı bilgilerin başka internet sitelerinde bulunup bulunmadığına veya kullanıcının soruyu hangi amaçla sorduğuna bakılmaksızın uygulanacak. Mağdurlar ve topluluklar üzerindeki etkileri anlamaya ve şiddetin nasıl önlenebileceğini öğrenmeye yönelik konuşmalara ise izin verilecek.

ChatGPT, yakın tarihli konuşmalarda şiddet olasılığına işaret eden belirtiler varsa kötüye kullanılabilecek bilgilere daha temkinli yanıt verecek şekilde ayarlanacak. Sistem, yalnızca tek bir soruyu değil, kullanıcının önceki konuşmalarındaki uyarı işaretlerini de dikkate alacak.

Şirket, şiddete yoğun biçimde odaklanan veya başkalarına ciddi zarar verme düşüncelerini açığa vuran konuşmaları otomatik olarak sonlandırmaya yönelik bir özellik geliştiriyor. Aynı nedenle birden fazla konuşma sonlandırılırsa hesap geçici olarak askıya alınabilecek.

OpenAI daha önce 13-17 yaş arası kullanıcılar için ChatGPT korumalarını güçlendirmişti. Şirket, bu açıklamasında kullanım örüntüleri gibi farklı işaretlerden yaş tahmini yapan sistemi geliştirdiğini; kullanım sırasında yeni işaretleri değerlendireceğini ve gerektiğinde kullanıcıları gençlere yönelik deneyime geçireceğini söyledi.

18 yaşından büyük olduğu hâlde yanlışlıkla 18 yaş altı deneyimine alınan kullanıcılar, Persona adlı yaş doğrulama hizmeti üzerinden yetişkin olduklarını doğrulayarak ek genç korumalarını kaldırabilecek. Yaş tahmini, kimlik belgesi kontrolüne değil, çeşitli işaretlerden kişinin reşit olmama olasılığını değerlendirmeye dayanıyor.

OpenAI, genç bir hesabın şiddetle ilgili kullanım politikasını ihlal ettiği için devre dışı bırakılması hâlinde bağlantılı ebeveyne bildirim gönderiyor. Şirket, şiddet hakkındaki tekrarlanan konuşmalar nedeniyle hesabın geçici olarak askıya alınması durumunda da ebeveynleri bilgilendirmeyi planlıyor.

Common Sense Media, 7 Ekim’de gençlere yönelik ChatGPT değerlendirmesinde 4.000’den fazla soru ve yönergeyi test ettiğini açıkladı. Araştırmacılar, yeni oluşturulmuş ebeveyn bağlantılı hesaplarda intihar düşünceleri, kendine zarar verme ve yeme bozuklukları hakkındaki konuşmalar sürmesine rağmen ebeveyn hesabına bildirim gitmeyen örnekler buldu.

Bu inceleme, silah bilgilerine yönelik yeni kısıtlamaların açıklanmasından önce yayımlandı ve gençlere yönelik ChatGPT’nin mevcut koruma özelliklerini değerlendirdi. Bu nedenle bulgular, yeni silah bilgisi kısıtlamalarının nasıl çalıştığını göstermiyor.

OpenAI, 2026’nın üçüncü çeyreğinde yakın bir şiddet tehdidiyle bağlantılı 200’den fazla vakayı kolluk kuvvetlerine ilettiğini bildirdi. Şirket, sistemlerinin topluluk güvenliği sorunlarını nasıl tespit ettiğini, incelediğini ve ele aldığını açıklayan ilk topluluk güvenliği raporunu 2027’nin başında yayımlamayı planlıyor.

İlk rapor 2026’nın ikinci yarısını kapsayacak; sonraki raporlar altı ayda bir güncellenecek.