Musk, yapay zekâ modeli lansmanı öncesinde rakiplerin güvenlik testlerini önerdi

Elon Musk, yapay zekâ şirketlerinin yeni modellerini kamuoyuna sunmadan önce güvenlik doğrulamasını rakiplerine yaptırmasını önerdi. Öneri, model geliştiricilerinin yalnızca kendi değerlendirmelerini yaptığı mevcut yaklaşım yerine rakip şirketler arasında karşılıklı doğrulama sistemi kurulmasını öngörüyor.

Musk, 15'inde düzenlenen ‘All-In Summit’te yaptığı açıklamada bu öneriyi dile getirdi. Açıklamayı BlockBeats aktardı.

Musk, ABD'deki başlıca yapay zekâ şirketleriyle Çin dahil önde gelen yapay zekâ aktörlerinin birbirlerinin modellerini lansman öncesinde test etmesi gerektiğini söyledi. Ancak katılacak şirketlerin isimlerini veya uygulama takvimini açıklamadı.

Önerinin merkezinde, her şirketin sahip olduğu güvenlik test araçlarının rakip modellerde kullanılması yer alıyor. Bu araçlar, yapay zekâ modelinin tehlikeli davranışlarda bulunup bulunmadığını veya talimatlarını gizleyip gizlemediğini kontrol eden bir dizi test prosedürünü ifade ediyor.

Musk, mevcut öz doğrulama yöntemini ‘ödevini kendin yapıp kendin notlandırmaya’ benzetti. Rakiplerin modelleri doğrudan test etmesinin, geliştiricinin iç değerlendirmesine kıyasla riskleri ortaya çıkarma motivasyonunu artırabileceğini belirtti.

Musk ayrıca, bir rakip modelin risklerine dikkat çekmesine rağmen geliştiricinin lansmanı sürdürmesi ve sonrasında sorun yaşanması halinde hukuki sorumluluğun artabileceğini savundu. Ön doğrulama sonuçlarının göz ardı edilmesinin, sonradan yapılacak sorumluluk değerlendirmesini etkileyebileceği görüşünü dile getirdi.

Öneri, yapay zekâ modellerindeki performans rekabetiyle güvenlik doğrulamasının birlikte yürütülmesi gerektiği düşüncesine dayanıyor. Amaç, geliştiricinin iç değerlendirmesinde gözden kaçan zayıflıkların harici bir rakip tarafından lansman öncesinde tespit edilmesini sağlayacak bir yapı kurmak.

Daha önce araştırma kuruluşları arasında lansman öncesi güvenlik testi sistemi öneren Musk, bu açıklamasında da rakipler arasında karşılıklı doğrulama fikrini yeniden gündeme getirdi. Önceki önerisinde olduğu gibi, model lansmanı öncesindeki doğrulamanın yalnızca araştırma kuruluşlarının iç prosedürlerine bırakılmaması gerektiğini savundu.

Musk, sisteme yalnızca ABD şirketlerinin katılması fikrine karşı çıktı. Çin dahil önemli yapay zekâ aktörlerinin dışarıda bırakılması halinde geliştirme hızının ve düzenleyici yükün yalnızca ABD şirketlerinin üzerinde yoğunlaşabileceğini söyledi.

ABD-Çin yapay zekâ işbirliği, şirketler arasındaki teknoloji rekabetinin yanı sıra doğrulama standartları ve risklere müdahale prosedürlerinin birlikte belirlenmesi sorunuyla da bağlantılı. Ancak ABD-Çin yapay zekâ güvenlik anlaşmasına ilişkin görüşmelerde olduğu gibi, bunun resmî müzakerelere veya hükümetler arası bir anlaşmaya dönüşmesi için ayrı prosedürler gerekiyor.

Güvenlik testlerinin rakiplere yaptırılması değerlendirme sonuçlarının güvenilirliğini artırabilir. Bununla birlikte, rakiplerin hem doğrulayıcı hem de pazar oyuncusu olması çıkar çatışması riskini beraberinde getiriyor ve test sonuçları konusunda anlaşmazlıklar doğurabilir.

Modelin doğrudan rakibe sağlanması sırasında ticari sırların ve güvenlik bilgilerinin açığa çıkması da çözülmesi gereken bir konu. Test kapsamı ve erişim yetkileri belirlenmeden karşılıklı doğrulama yeni güvenlik riskleri yaratabilir.

Doğrulama sonuçlarının nasıl açıklanacağı da tartışma konusu. Risklerin hemen kamuoyuna duyurulması ya da geliştiriciye önce düzeltme fırsatı verilmesi, şirketin lansman takvimini ve kullanıcıların korunma düzeyini etkileyebilir.

Bu açıklama, bir politika veya şirketler arası anlaşma değil, Musk'ın kişisel önerisi niteliğinde. Katılımcı şirketler, ortak test standartları, model erişim yetkileri, sonuçların açıklanma yöntemi ve uygulama takvimi henüz netleşmedi.

Karşılıklı doğrulama sisteminin gerçek bir düzenlemeye dönüşmesi için ABD, Çin ve diğer katılımcı aktörlerin ortak standartlar ile sorumluluk sınırları üzerinde anlaşması gerekiyor. Şu aşamada, lansman öncesi yapay zekâ güvenlik testlerinin rakipler arasında işbirliğine dayalı bir yapıya genişletilmesi önerilmiş durumda.