OpenAI'dan 3 çalışan, Ukraynalı yetkilileri taklit eden Ruslarla 17 dakika askerî yapay zekâyı görüştü

OpenAI'nin ulusal güvenlik ekibinden üç kişi, üst düzey Ukraynalı yetkilileri taklit eden Ruslarla yaptıkları 17 dakikalık görüntülü görüşmede Ukrayna'ya desteği ve yapay zekânın saldırı amaçlı askerî kullanım olasılığını konuştu. OpenAI, görüşmedeki kişilerin taklitçi olduğunu doğruladı ve benzer olayları önlemek için adım attığını bildirdi.

The Intercept, 11 Kasım'da görüşme kaydı ve haber çalışmasına dayanarak olayı aktardı. Haberde OpenAI çalışanlarının görüşmedeki sözlerine ve şirket sözcüsünün sonradan yaptığı açıklamaya yer verildi.

Görüşmeye OpenAI ulusal güvenlik politikaları sorumlusu Sasha Baker, stratejik girişimler sorumlusu Caroline Zier ve Avrupa ulusal güvenlik yetkilisi Ben Crampton katıldı.

Görüşmedeki kişiler kameralarını kapalı tuttu. Habere göre Baker ve Zier, daha önce üst düzey Ukraynalı yetkililerle görüştüklerini söyledi.

Konuşmada Ukrayna'ya destek ve yapay zekânın saldırı amaçlı askerî kullanım olasılığı ele alındı. Görüşmedeki sözler olası iş birliği üzerineydi; Ukrayna'ya saldırı amaçlı yapay zekâ sağlandığı anlamına gelmiyor.

Crampton, “Ukrayna ile mümkün olduğunca derin bir ilişki kurmak istiyoruz” dedi. Ancak hedeflenen iş birliği düzeyine hemen ulaşmanın zor olabileceğini de ekledi.

Crampton, OpenAI üst yönetimindeki birçok kişinin şirket teknolojisinin saldırı amaçlı askerî kullanımına temkinli yaklaştığını anlattı. Bu sözler, görüşmede olası iş birliğinin konuşulmasıyla teknolojinin gerçekten sağlanmış olması arasındaki farkı ortaya koyuyor.

OpenAI sözcüsü Nate Evans, The Intercept'e görüşmenin gerçekliğini birkaç hafta önce araştırmaya başladıklarını söyledi. Evans, ilgili makamlarla birlikte görüşmenin bir taklit girişimi olduğu sonucuna vardıklarını belirtti.

Evans, “Benzer bir durumun yaşanmasını önlemek için adımlar attık” dedi. Kamuoyuna açıklanan bilgilerde, hükümet yetkililerinin iletişim bilgilerinin doğrulanması sürecinde neyin değiştirildiği belirtilmedi.

OpenAI, 8 Temmuz'da yayımladığı ulusal güvenlik iş birliği ilkelerinde hükümetlerle ortaklıkların demokratik hesap verebilirlik, insan denetimi ve hukukun üstünlüğüyle uyumlu olması gerektiğini bildirdi. Şirket, ilkelerin mevcut ve gelecekteki ulusal güvenlik ve kolluk kuvvetleri iş birlikleri için geçerli olduğunu açıkladı.

OpenAI, teknolojisinin ABD'de kitlesel gözetimde, otonom silah sistemlerinin doğrudan kontrolünde ve yüksek riskli otomatik kararlarda kullanılmasını kısıtladığını belirtti. Bunlar, şirketin ulusal güvenlik iş birlikleri için açıkladığı kullanım sınırları arasında yer alıyor.

Şirket, ulusal güvenlik alanındaki önemli kararların demokratik süreçlerle ele alınması gerektiğini de söyledi. OpenAI'ye göre şirketler bu tartışmalara bilgi sağlayabilir ancak kararların yerini alamaz.

OpenAI, 23 Eylül'de yaptığı açıklamada Ukrayna hükümetine Daybreak programına erişim sağlayarak sivil altyapının siber savunmasına destek olacağını duyurdu. Şirket, iş birliğini sivil altyapıyı korumaya yönelik bir çalışma olarak tanımladı.

OpenAI, Ukrayna Dijital Dönüşüm Bakanlığı ile birlikte yazılım açıklarının bulunmasına, bunları giderecek çözümlerin geliştirilmesine ve test edilmesine destek vermeyi planladığını bildirdi. Daybreak; açıkları inceleme ve şüpheli faaliyetleri araştırma gibi izinli siber güvenlik çalışmalarında kullanılabiliyor.

OpenAI'nin kamuya açıkladığı Ukrayna iş birliği sivil altyapının savunulmasıyla sınırlı. Bu kapsam, taklit görüşmesinde gündeme gelen saldırı amaçlı askerî kullanım olasılığından ayrı tutuluyor.