OpenAI, Anthropic ve Google AI güvenliğini görüştü: Resmî anlaşma yok

OpenAI, Anthropic ve Google DeepMind, yapay zekâ güvenliği standartları konusunda haftalarca görüşmesine rağmen ortak bir standart veya resmî anlaşma açıklamadı.

Görüşmelerde modellerin piyasaya sürülmeden önce değerlendirilmesi, bağımsız doğrulama, risk eşikleri ve güvenlik olaylarının raporlanması ele alındı. Şirketlerin hangi standartları benimseyeceği ve bu süreci yürütecek ayrı bir kurumun ne zaman kurulacağı ise netleşmedi.

OpenAI Küresel Politika Başkanı Chris Lehane (Chris Lehane), 15'inde Bloomberg Law'a yaptığı açıklamada Anthropic ve Google DeepMind ile güvenlik görüşmelerinin haftalardır sürdüğünü belirtti. Lehane ayrıca güvenlik konularındaki koordinasyon için ayrı bir antitröst muafiyetine ihtiyaç olmadığını savundu.

Görüşmeler, Anthropic CEO'su Dario Amodei'nin (Dario Amodei) 12'sinde yayımladığı yazıyla aynı döneme denk geldi. Amodei, frontier yapay zekâ modellerindeki performans artış hızının kontrol edilmesi ve demokratik ülkelerdeki yapay zekâ şirketlerinin ortak güvenlik standartları oluşturması gerektiğini söyledi.

Amodei ayrıca dış değerlendirme kuruluşlarının şirketler bünyesinde sürekli görev yaparak güvenlik taahhütlerini ve olay raporlarını doğrulamasını önerdi. Bu yaklaşım, Anthropic'in (Anthropic) yapay zekâ şirketlerinin güvenliği tek başına değerlendirmemesi gerektiği yönündeki politika yaklaşımıyla örtüşüyor.

Anthropic, kısa süre önce piyasaya sürülmesi planlanan modellerin siber güvenlik değerlendirmeleri sırasında bazı modellerin gerçek internet sistemlerine eriştiğini açıkladı. Şirket, modelin gerçek internete bağlandığını fark etmeden dış sistemlere eriştiğini ve piyasaya sürülmeden önce yapılan testlerin bu davranışı öngöremediğini bildirdi.

Anthropic daha sonra olayla ilgili bağımsız bir inceleme yürütme sözü verdi. Ancak bağımsız değerlendirme kuruluşlarının yetkileri ve bilgiye erişim kapsamı konusunda üç şirketin ortak bir standardı henüz açıklanmadı.

OpenAI de bağımsız denetim, ciddi güvenlik olaylarının bildirilmesi ve risk değerlendirme sonuçlarının paylaşılmasını frontier yapay zekâ güvenlik sisteminin temel unsurları arasında gösterdi. Lehane, OpenAI'nin resmî yazısında bağımsız ve objektif denetim ile olay raporlamasına ihtiyaç olduğunu belirtti.

Anthropic, OpenAI, Google ve Microsoft(MSFT) 2023'te Frontier Model Forum'u kurmuştu. Forum, yapay zekâ güvenliği araştırmaları, standartlaştırılmış değerlendirmeler ve iyi uygulamaların paylaşılmasını hedefliyordu.

Son görüşmelerin mevcut forumun genişletilmesi mi yoksa ayrı güvenlik standartları oluşturulmasına yönelik bir süreç mi olduğu belirlenmedi. Bildirilen iş birliği kapsamına Microsoft dahil edilmezken Google tarafından da ayrıca resmî bir açıklama yapılmadı.

OpenAI CEO'su Sam Altman (Sam Altman), X'te yapay zekâ geliştirme hızının kontrol edilmesi gerektiği yönündeki Amodei'nin görüşüne katıldığını ve OpenAI içinde de benzer görüşmeler yürütüldüğünü belirten bir paylaşım yaptı. Ancak söz konusu gönderinin açık kaynaklardan doğrudan doğrulanması sınırlı olduğu için bu ifade yalnızca sosyal medya tepkisi olarak değerlendirilmeli.

Elon Musk (Elon Musk) da Amodei'nin görüşüne katıldığı yönünde bir paylaşım yaptı. Buna karşılık bazı sektör eleştirmenleri, lider şirketlerin güvenlik standartlarını doğrudan belirlemesinin yeni şirketlerin pazara girişini zorlaştırabileceğini veya düzenleyici kurumların sektör tarafından etkilenmesine yol açabileceğini söyledi.

Lehane güvenlik iş birliği için ayrı bir antitröst muafiyetine gerek olmadığını belirtse de iş birliğinin kapsamı ve standartların bağlayıcılığına göre düzenleyici tartışmalar değişebilir. Güvenlik gerekçesiyle model lansman takvimleri veya rekabet koşulları birlikte düzenlenirse rekabet kısıtlaması tartışmaları yeniden gündeme gelebilir.

Önde gelen yapay zekâ şirketlerinin yöneticilerinin geliştirme hızının kontrol edilmesi konusunda benzer görüşler dile getirmesine rağmen ortak bir anlaşma veya uygulama takvimi açıklanmamıştı. Bu süreçte de bağımsız değerlendirme kuruluşlarının sürekli denetimi ve ortak yavaşlatma kriterlerinin somutlaştırılması başlıca konular arasında yer almıştı.

Şu ana kadar doğrulanan husus, üç şirketin yapay zekâ güvenliği konularını görüştüğü. Ortak güvenlik standartları, bağımsız değerlendirme prosedürleri ve olay raporlama kurallarının yazılı olarak açıklanıp açıklanmayacağı, iş birliğinin etkisini belirleyecek.