OpenAI, RSI ve olay raporlamasını içeren uluslararası yapay zekâ standardı önerdi

OpenAI, yinelemeli öz iyileştirme ölçümü, yapay zekâ olaylarının raporlanması ve insan gözetimini içeren uluslararası yapay zekâ güvenlik standartlarının oluşturulmasını önerdi. Amaç, ülkelerin ortak değerlendirme ve raporlama sistemleri kurarak sınır ötesi yapay zekâ risklerine birlikte karşı koyması.

OpenAI, 21'inde yayımladığı politika önerisinde yapay zekâ geliştirmenin birçok şirket ve ülkeye yayıldığını belirterek, ülkelerin değerlendirme ve raporlama standartlarının uyumlaştırılması gerektiğini açıkladı. Standartların farklı olması halinde aynı yapay zekâ sistemlerinin risklerini karşılaştırmanın ve olaylara ortak müdahale etmenin zorlaşacağı ifade edildi.

Yinelemeli öz iyileştirme ve olay raporlaması

İlk tartışma alanı yinelemeli öz iyileştirme (RSI) oldu. Bu kavram, yapay zekânın yeni nesil yapay zekâ geliştirme sürecine katılmasıyla insan müdahalesinin azalması durumunu ifade ediyor. OpenAI, otomatikleştirilmiş yapay zekâ araştırmalarında insan gözetiminin hangi seviyede gerekli olduğunu ve hangi durumlarda derhâl inceleme yapılması gerektiğini ölçmeye yarayan standartlara ihtiyaç bulunduğunu açıkladı.

OpenAI, tamamen otonom yinelemeli öz iyileştirmenin şu anda yürütülmediğini ve güvenli biçimde gerçekleştirilebilene kadar bunun hedeflenmemesi gerektiğini bildirdi. Bu yaklaşım, yapay zekâ geliştirme hızının insanların anlama ve kontrol kapasitesini aşabileceği endişesini yansıtıyor.

İkinci temel alan, olayların sınıflandırılması ve raporlanması. OpenAI, uyum başarısızlığı ve otomatikleştirilmiş yapay zekâ araştırmaları sırasında meydana gelen olayların sınıflandırılması, izlenmesi ve raporlanması gerektiğini, olayların ciddiyet düzeyi ile raporlama ölçütlerinin ortaklaşa belirlenmesini önerdi.

OpenAI'nin 16'sında açıkladığı model uyumsuzluğu raporlama çerçevesi de modellerin eğitim, değerlendirme, test ve dağıtım süreçlerinde ortaya çıkan sorunları kapsıyor. Kamuya açıklanan örneklerde davranış, ciddiyet, dış etkiler, meydana gelme zamanı ve inceleme kapsamının kaydedilmesi öngörülüyor. Sorun tamamen giderilmemiş olsa bile gerekli durumlarda raporlama yapılmasına imkân tanınıyor.

Üçüncü alan ise uluslararası iş birliği yapısı. OpenAI, ABD'ye bağlı Yapay Zekâ Standartları ve İnovasyon Merkezi (CAISI) tarafından 2024'te başlatılan Uluslararası Yapay Zekâ Ölçüm, Değerlendirme ve Bilim Ağı'nın kullanılmasını önerdi. Bu yapı kapsamında ABD, Birleşik Krallık, Almanya, Fransa, Japonya, Güney Kore, Singapur ve Hindistan'daki yapay zekâ güvenliği kurumlarıyla iş birliği yapılması öngörülüyor.

ABD ve Avrupa düzenlemeleriyle kesişim

Öneri, OpenAI'nin 9'unda yayımladığı ayrı politika belgesiyle de bağlantılı. OpenAI bu belgede, ABD Kongresi'nin kapasiteye dayalı zorunlu ulusal yapay zekâ güvenlik düzenlemeleri hazırlaması ve ABD standartlarının uluslararası standartlara öncülük etmesi gerektiğini açıklamıştı.

Ancak son öneri belirli bir yasa tasarısı veya uluslararası anlaşma taslağı değil. Yapay zekâ modellerinin piyasaya sürülmesine izin verilmesini ya da zorunlu ön incelemeyi de düzenlemiyor. Yapının, hükümetlerin uluslararası standartları kendi hukuk sistemlerine nasıl yansıtacağına karar vermesine dayandığı belirtiliyor.

OpenAI, ortak standartların belirli bir şirket, ülke veya iş modelinin lehine işlememesi gerektiğini açıkladı. Standartların yeni şirketlerin ve açık model geliştiricilerinin rekabetini engelleyecek biçimde uygulanmaması gerektiği de ifade edildi.

Avrupa Birliği, sistemik risk taşıyan genel amaçlı yapay zekâ modeli sağlayıcılarından ciddi olayları takip edip belgelemelerini ve ilgili kurumlara bildirmelerini istiyor. Avrupa Komisyonu'nun Yapay Zekâ Yasası'nın 55. maddesi kapsamında ciddi olay raporlama formunu yayımlamasıyla ilgili yükümlülükler daha somut hâle geldi.

Bu nedenle OpenAI'nin yaklaşımı, ABD merkezli yeni standartlar oluşturma önerisi olmasının yanı sıra ABD ve Avrupa'nın düzenleyici çerçevelerini uyumlu hâle getirme tartışmasına da dönüşebilir. Ancak uluslararası standardı hangi kurumun yönlendireceği ve ülkelerin aynı standartları kabul edip etmeyeceği henüz belirlenmedi.

Sektör tepkileri ve Güney Kore bağlantısı

Yapay zekâ sektöründe de ortak güvenlik standartları ve bağımsız değerlendirme ihtiyacı tartışılmaya devam ediyor. OpenAI ve Anthropic gibi büyük yapay zekâ şirketlerinin temsilcilerinin güvenlik standartları ve geliştirme hızının ayarlanması konusunda ortak görüşmeler yürüttüğü bildirildi.

Buna karşılık şirketlerin önerdiği standartların bağımsız kurumlar tarafından doğrulanabilmesi gerektiği yönünde eleştiriler de bulunuyor. Sosyal medyada, OpenAI'nin düzenleme talep ederken standartların tasarımında aynı zamanda etkili olmaya çalıştığı ve büyük şirketlerin lehine düzenlemelerin yeni rakiplerin pazara girişini zorlaştırabileceği yönünde görüşler paylaşıldı. Bunlar sosyal medya kullanıcılarının tepkileri olup bağımsız biçimde doğrulanmış olgular değil.

Uluslararası yapay zekâ güvenlik standartları tartışması, OpenAI'nin ulusal ölçekte yapay zekâ güvenlik standartları oluşturulması yönündeki politika çizgisiyle de örtüşüyor. Bağımsız denetim ve ciddi güvenlik olaylarının raporlanması gibi güvenlik önlemlerini savunan şirketin politika yaklaşımı, uluslararası standart tartışmasına taşınmış oldu.

Uluslararası standartların veya ülke düzenlemelerinin kabul edilmesi hâlinde, bunların Güney Kore'deki şirketlerin yapay zekâ modeli geliştirme, değerlendirme ve olay raporlama süreçlerini etkilemesi mümkün. Yapay zekâ modeli doğrulaması ve siber güvenlik, finans, borsalar ve cüzdan altyapılarıyla da bağlantılı olsa da bu önerinin sanal varlık fiyatları veya işlem piyasaları üzerinde doğrudan bir etkisi bulunmuyor.

OpenAI'nin önerisi, ABD hükümeti veya uluslararası bir kuruluş tarafından kabul edilmiş resmî bir standart değil; bir politika yaklaşımı niteliğinde. Bundan sonraki süreçte, hükümetlerin ve bağımsız değerlendirme kuruluşlarının önerilen ölçüm ve raporlama sistemlerini gerçek düzenlemelere ve standartlara yansıtıp yansıtmayacağı izlenecek.