Papa 14. Leo’dan ülkelere ölümcül otonom silah yasağı çağrısı

Papa 14. Leo (Pope Leo XIV), ölümcül otonom silahların yasaklanması için ülkeleri somut adımlar atmaya çağırdı. Yaşamı, özgürlüğü ve güç kullanımını etkileyen kararların sorumlu insan gözetiminde alınması gerektiğini vurguladı.

Papa, 30 Ekim’de Vatikan’da düzenlenen yapay zekâ konulu diyalog etkinliğine katılanlara hitap etti. Vatikan Basın Ofisi’nin yayımladığı konuşma metninde “Makineler araçtır, kişi değildir” dedi.

Papa, mayıs ayında yayımlanan “Magnifica Humanitas” başlıklı genelgesinde insan onuru ve kamusal denetimi yapay zekâ tartışmalarının ölçütü olarak ortaya koymuştu. TokenPost, o dönemde genelgede yer alan yapay zekâ güvenliği ilkelerini ele almıştı.

Son konuşmasında yapay zekânın geleceğinin insanların seçimlerine bağlı olduğunu belirten Papa, bu teknolojinin nasıl kullanılacağını yönlendirme ve değiştirme sorumluluğunun insanlarda olduğunu söyledi. Gerektiğinde yapay zekâ uygulamalarının reddedilebileceğini de ifade etti.

Papa, yapay zekâ sistemlerine hak veya hukuki kişilik tanınması önerilerine de değindi. Böyle bir yaklaşımın zarar meydana geldiğinde insanların sorumluluğunu belirsizleştirebileceğini ve mağdurları sorumluluğun kime ait olduğu açık olmayan bir muhatapla karşı karşıya bırakabileceğini söyledi.

Bir kişinin hedef listesine alınması veya sınır kontrolü veri tabanına kaydedilmesi gibi kararları örnek gösteren Papa, kişinin tek bir veriye indirgenmesi riskine dikkat çekti.

“İnsan yaşamını, özgürlüğünü ve güç kullanımını etkileyen kararlar her zaman etkili, yeterli bilgiye dayanan ve sorumluluk taşıyan insan gözetimi altında olmalıdır” dedi. Kasım ayında Cenevre’de bir araya gelecek ülkelere ölümcül otonom silahların yasaklanması için somut adımlar atma çağrısı yaptı.

Papa’nın “yapay zekânın silahsızlandırılması” ifadesi, yapay zekâ geliştirme veya kullanımının tamamen durdurulması anlamına gelmiyor. Mayıs ayındaki “Magnifica Humanitas” genelgesinde bu ifade, teknolojinin insanlara hükmetmesini önleme ve teknoloji gücü etrafındaki rekabeti kamusal tartışmaya açma fikriyle açıklanmıştı.

Genelge, “silahlanma yarışının” yalnızca askeri alanla sınırlı kalmadığını, ekonomi ve bilişsel alanlarda da görüldüğünü belirtiyor. Daha güçlü algoritmalar geliştirme ve büyük ölçekli veri edinme yarışı da jeopolitik ve ticari üstünlük arayışıyla bağlantılı olabiliyor.

Genelgeye göre askeri alanda yapay zekâ destekli silahların geliştirilmesi ve kullanılması sıkı etik sınırlamalara tabi olmalı. Ölümcül veya geri döndürülemez kararlar yapay zekâ sistemlerine bırakılmamalı.

Metin, sorumluluğun açıkça belirlenmesi için süreçler oluşturulmasını da istiyor. Hedef saldırısına ilişkin kararların otomatikleşmesi veya şeffaf olmaması, sorumluluğun makineye yüklenmesi riskini doğurabilir. Bu nedenle teknolojiyi tasarlayan, eğiten, onaylayan ve kullanan tarafların sorumluluğu belirlenebilmeli.

Papa ayrıca ortak standartlara, bağımsız denetime ve açık sorumluluk süreçlerine sahip kurumlar kurulması çağrısı yaptı. Yapay zekânın geliştirilmesi ve kullanımına ilişkin kararların incelenebilmesi, gerektiğinde kararlara itiraz edilebilmesi ve zarar meydana geldiğinde mağdurların telafi yoluna başvurabilmesi gerektiğini söyledi.

Ölümcül otonom silahlar, hedef seçimi ve saldırı süreçlerinde insan müdahalesinin sınırlı olduğu veya bulunmadığı silah sistemlerini ifade ediyor. Birleşmiş Milletler Genel Sekreteri ve Uluslararası Kızılhaç Komitesi (ICRC), 27 Ağustos’ta yayımladıkları ortak çağrıda ülkelerden hukuken bağlayıcı kurallar için müzakerelere başlamalarını istedi.

İki kurum, sonuçları öngörülmesi güç otonom silahların ve insanları hedef alan silahların yasaklanmasını önerdi. Ortak çağrıda, müzakerelerde ilerleme sağlamak için kasım ayında yapılacak CCW Gözden Geçirme Konferansı bir yol olarak gösterildi. Çağrı, Papa’nın konuşmasından önce yayımlandı.

BM Genel Sekreteri’nin CCW 7. Gözden Geçirme Konferansı için gönderdiği toplantı yazısında, konferansın 16-20 Kasım’da Cenevre’de yapılacağı belirtiliyor. Sözleşmeye taraf olmayan devletler ile ilgili uluslararası kuruluş ve kurumlar, ayrıca sivil toplum kuruluşları gözlemci olarak davet edildi. Papa konuşmasında konferansın adını doğrudan anmadı.