Yapay zekâ kazaları için bildirim mekanizması görüşüldü: Askeri yanlış karar ve güvenlik araştırmaları gündemde

ABD ile Çin, ulusal güvenliği etkileyebilecek yapay zekâ (YZ) kazalarını birbirlerine bildirecek bir mekanizmayı görüştü. Ancak resmi bir yardım hattı kurulması veya ortak işletilmesi konusunda anlaşmaya varıldığı açıklanmadı.

ABD Hazine Bakanı Scott Bessent (Scott Bessent), 20 Eylül’de New York’ta Çin Başbakan Yardımcısı He Lifeng ile görüştükten sonra ABD’nin bir ‘bildirim mekanizması’ önerdiğini söyledi. Bessent, “Dünyanın birinci ve ikinci YZ gücü arasındaki belirsizliği azaltmak ve şeffaflığı artırmak çok önemli” dedi.

Bessent ayrıca iki ülkenin “ortak hedefler ve ortak tehditler konusunda paylaşılan bir vizyon” istediğini belirtti. Görüşme, ABD Başkanı Donald Trump ile Çin Devlet Başkanı Şi Cinping’in 24 Eylül’deki zirvesi öncesinde yapıldı.

Çin Dışişleri Bakanlığı, 22 Eylül’deki soruya verdiği yanıtta Çin’in açıkladığı ABD-Çin ekonomik ve ticari görüşme sonuçlarına bakılması gerektiğini, somut önlemler için ilgili kurumlara başvurulmasını söyledi. Bildirim mekanizmasının işletme sorumlusu veya iletişim yöntemine ilişkin Çin’den açıklama gelmedi.

Görüşme, ABD’nin Çin’e YZ kazaları için bildirim mekanizması önerdiğine ilişkin önceki haberin devamı niteliğinde. Kamuya açıklanan çerçeve, uluslararası bir kuruluş veya ortak müdahale merkezi kurulmasından ziyade ulusal güvenlikle ilgili YZ kazalarını paylaşmaya yönelik diyalog ve bildirim yöntemlerinin incelenmesiyle sınırlı.

Bir YZ kazası bildirim sisteminin çalışabilmesi için hangi olayların ulusal güvenlik meselesi sayılacağı, kime ve ne zaman bildirim yapılacağı ve bilgilerin doğruluğunun nasıl doğrulanacağı belirlenmeli. Görüşmede başlatma kriterleri, hukuki bağlayıcılık veya yaptırım yöntemi açıklanmadı.

Görüşmenin arka planında, YZ’nin hatalı askeri bilgiler üreterek silahlı çatışmayı tetikleyebileceği endişesi bulunuyor. CNN, bu yılın başında ABD Özel Harekât Komutanlığı’nda görevli bir analistin YZ kullanarak Çin’e ait bir geminin nükleer silah programıyla ilgili parçaları İran’a taşıdığı sonucuna varan bir istihbarat raporu hazırladığını bildirdi.

Söz konusu bilgi doğru olmamasına rağmen ABD ordusu gemiyi durdurmak için plan hazırladı. CNN’in haberine göre silahlı personelin gemiye çıkmaya hazırlanması ve askeri uçakların havalanması aşamasına kadar gelindi. YZ, kamuya açık bilgilerle ABD hükümetinin gizli sinyal istihbaratını birleştirerek hatalı bir sonuca ulaştı. Analist ise bu sonucu askeri istihbarat raporu formatında yeniden 작성해 유통한 것으로 전해졌다.

Geminin gerçek yükü ile kullanılan YZ aracının türü ve ticari olup olmadığı açıklanmadı. ABD Savunma Bakanlığı ve ABD Özel Harekât Komutanlığı da haber hakkında yorum yapmadı.

OpenAI, 21 Eylül’de yayımladığı YZ güvenlik standartları önerisinde hükümetler ile kritik altyapı işletmecilerinin ulusal güvenlik endişeleri, yeni güvenlik açıkları ve tehditleri paylaşabileceği güvenli iletişim kanalları kurulması gerektiğini belirtti. OpenAI, ABD-Çin arasındaki YZ diyaloğunu olumlu bir adım olarak değerlendirdi ve ortak ölçüm yöntemleriyle kaza sınıflandırma ve raporlama prosedürleri önerdi.

YZ destekli siber saldırı ihtimali de görüşmenin arka planındaki başlıklardan biri olarak gündeme geldi. Siber güvenlik şirketi Hacktron AI, 25 Temmuz’da iki güvenlik açığını birleştirerek OpenAI çalışanlarının ChatGPT hesaplarına eriştiğini ve kurum içi depolarda zararsız bir pull request oluşturduğunu açıkladı.

Hacktron AI, Discourse forumundaki bir görsel yükleme açığı ile OpenAI’ın SSO yapılandırma hatasını kullandıktan sonra ChatGPT ve Codex hesaplarına ve GitHub bağlantısına eriştiğini söyledi. Araştırmacılar, Anthropic’in Claude Opus 5 modelini kullandı. Hacktron AI, ilk güvenlik açığının keşfinden OpenAI’ın kurum içi depolarına erişime kadar geçen sürenin 72 saatten kısa olduğunu belirtti.

OpenAI, araştırmacılara 6.500 dolar (yaklaşık 8,95 milyon won) tutarında hata ödülü ödedi. Ancak bu olay, araştırmacıların kendi açıklamalarına dayanan sınırlı bir güvenlik incelemesiydi. Aynı yöntemin gerçek saldırganlar tarafından kullanılıp kullanılmadığı doğrulanmadı.

Asia Group dijital politika uzmanı ve ortağı George Chen (George Chen), YZ risk bildirim mekanizmasının diğer ülkelerin izleyebileceği bir emsal oluşturabileceğini söyledi. Bu değerlendirme, iletişim kanalının sembolik anlamına ilişkin olup fiili bir işletim sisteminin kurulduğu anlamına gelmiyor.

YZ kazalarını bildirecek iletişim kanalları, hatalı askeri bilgilerin çatışmaya dönüşmesini önlemede kullanılabilir. Buna karşılık YZ’nin şirket sistemlerine saldırdığı veya birden fazla sunucuya yayıldığı durumlarda yalnızca bildirim yapılmasının yeterli olmayacağı yönünde görüşler de dile getirildi.

Görüşmeler ile kripto varlıklar arasında doğrudan bir bağlantı açıklanmadı. Belirli bir blokzincir, borsa veya stablecoin’e yönelik saldırı ya da zarar; ayrıca YZ bildirim görüşmeleriyle bağlantılı yarı iletken ihracat kontrolü anlaşması veya rakamı kamuoyuna açıklanmadı. ABD ve Çin, 24 Eylül’deki liderler zirvesi öncesinde temaslarını sürdürüyor.