Haberler 
Coin Bilgisi 
Hakkımızda 
Ordunun yapay zekâyı (AI) hedef belirlemede ve otonom silahlarda kullanma olasılığı OpenAI içinde de endişe yaratıyor. OpenAI’nin insan hakları ve sorumlu dağıtım sorumlusu Sarah Yager, ordunun AI kullanımının “geceleri uykularını kaçırdığını” söyledi.
Fortune’un haberine göre Yager, 6’sında New York’ta düzenlenen ‘ScaleUp:AI’ etkinliğinde ordunun AI ile hedef belirlemesi ve otonom silah kullanma ihtimali konusundaki kaygılarını dile getirdi. Yager, OpenAI’ye katıldıktan sonra uluslararası uzmanlarla modellerin uluslararası insancıl hukuk ve savaş hukukuna ilişkin yanıtlarını incelediğini, araştırmacı ve mühendislerle iyileştirme çalışmaları yürüttüğünü de Fortune’a anlattı. Testlerin ayrıntılı sonuçları veya modellerde yapılan değişiklikler açıklanmadı.
Etkinlikteki konuşmacı tanıtımına göre Yager, OpenAI’nin ilk insan hakları ve sorumlu dağıtım sorumlusu. Daha önce Human Rights Watch’un Washington direktörlüğünü ve ABD Genelkurmay Başkanı Ofisi’nde insan hakları kıdemli danışmanlığını yaptı.
Yager, başlangıçta atanmasının yalnızca tanıtım amaçlı olabileceğinden şüphelendiğini, ancak çalışanlarla görüştükten sonra teknolojinin güvenliğini kurum içinde değiştirmenin mümkün olup olmadığını görmek için OpenAI’ye katıldığını Fortune’a söyledi. Karar alma yetkisi ve modellerde değişiklikleri onaylama kapsamı hakkında ayrıca açıklama yapılmadı.
Bu açıklamalar, OpenAI’nin askeri AI dağıtımında güvenlik önlemleri bulunduğunu belirtmesinin ardından geldi. OpenAI, 28 Şubat 2026’da Savunma Bakanlığı ile gizli ortamlarda AI kullanımı için yaptığı sözleşmeyi duyurdu.
OpenAI, sözleşmeye ilişkin açıklamasında modellerin yalnızca bulut ortamında dağıtılacağını ve güvenlik sınıflandırıcılarının kullanılacağını bildirdi. Yasa, düzenlemeler veya Savunma Bakanlığı politikalarının insan denetimi gerektirdiği durumlarda AI’nin otonom veya yarı otonom silahları bağımsız biçimde yönetemeyeceğinin sözleşmede belirtildiğini açıkladı.
OpenAI’ye göre sözleşme, otonom ve yarı otonom sistemlerin gerçek ortamlarda kullanılmasından önce doğrulama, geçerleme ve test süreçlerinden geçirilmesini de şart koşuyor. Bu bilgiler şirketin sözleşmeye ilişkin açıklamasına dayanıyor; sözleşmenin tam metni veya gerçek kullanım sonuçlarını gösteren belgeler yayımlanmadı.
Yager’in model incelemelerine ilişkin açıklaması da ilgili tarafın beyanı niteliğinde. Test belgeleri, bağımsız değerlendirmeler veya dağıtım öncesi ve sonrası performans karşılaştırmaları kamuya açıklanmadı.
Uluslararası Kızılhaç Komitesi (ICRC), askeri AI’nin savaşın hızını ve ölçeğini artırabileceği, güç kullanımına ilişkin insan denetimini zayıflatabileceği uyarısında bulunuyor. Kurum, AI sistemlerinin insan muhakemesini desteklemesi, onun yerini almaması gerektiğini savunuyor.
ICRC ayrıca AI karar destek sistemlerinde belirsiz sonuçlar ve otomasyon yanlılığı riski bulunduğuna dikkat çekiyor. Kullanıcıların makine önerilerini yeterince incelemeden izleyebileceğini belirtiyor.
Tartışma, askeri AI’nin kullanım alanını, güvenlik önlemlerini ve güç kullanımına ilişkin kararlarda insan muhakemesinin korunmasını gündeme taşıyor. Konunun kripto varlıklar veya blokzincirle doğrudan bağlantısı olduğuna dair bilgi bulunmuyor.
Yorum 0