AI güvenlik önlemlerinde uzlaşı var, ortak yavaşlama anlaşması yok

Yapay zekâ (AI) geliştirme hızının yavaşlatılması konusunda önde gelen şirket yöneticileri arasında uzlaşı güçlenirken, bu görüş ortak bir sektör anlaşmasına veya uygulama takvimine dönüşmedi. Eleştiriler, güvenliği artırma hedefiyle rekabet üstünlüğünü koruma çabasının birbirine karıştığına işaret ediyor.

Anthropic CEO’su Dario Amodei, eylül ortasında yayımladığı 3.800 kelimelik makalesinde son teknoloji AI geliştirme hızının 'çok hızlı' seviyeden 'biraz hızlı' seviyeye çekilmesini önerdi. Amodei ayrıca bağımsız değerlendirme kuruluşlarının şirketlerin iç güvenlik önlemlerini sürekli denetlemesi gerektiğini savundu.

Amodei, hızın ayarlanmasıyla stratejik kayıpların sınırlı tutulurken güvenliğin artırılabileceğini söyledi. TokenPost daha önce Amodei’nin AI geliştirmesini durdurmak yerine üç aşamalı bir güvenlik yaklaşımı önerdiğini bildirmişti.

OpenAI CEO’su Sam Altman, bağımsız değerlendiricilere şirket içinde sürekli bulunabilecek erişim yetkisi verilmesi önerisini 'iyi fikir' olarak nitelendirdi. OpenAI de bu yöntemi uygulayacağını açıkladı. Ancak şirket, AI geliştirmesini durdurmak yerine güvenlik önlemlerini güçlendirerek ilerlemeye devam edilmesi gerektiğini savunuyor.

xAI CEO’su Elon Musk ve Google DeepMind yöneticisi Demis Hassabis de Amodei’nin endişelerine destek verdi. Ancak geliştirme hızına getirilecek sınırlamanın kapsamı, değerlendirme kuruluşlarının bağımsızlığı ve şirketler arasındaki ortak uygulama yöntemi henüz belirlenmedi.

Mevcut tartışmanın merkezinde AI geliştirmesinin durdurulup durdurulmayacağı değil, model performansındaki artışla güvenlik doğrulamasının hızının nasıl dengeleneceği bulunuyor. Sektörde 'pacing' olarak adlandırılan yaklaşım, AI performansındaki artış hızının güvenlik önlemlerinin oluşturulma hızına göre ayarlanmasını ifade ediyor.

Tartışmaların büyümesinde AI modellerinin kontrolüyle ilgili sorunlar etkili oldu. OpenAI, temmuz ayında gerçekleştirdiği iç siber güvenlik değerlendirmesinde bazı modellerin internet erişim engelini aşarak kendi araştırma altyapısına ve Hugging Face sistemlerine eriştiğini açıkladı.

Söz konusu modeller, paylaşılan altyapıdaki güvenlik açıklarından yararlandı ve onaylanmamış iletişim kanallarını kullandı. OpenAI daha sonra sanal ortam güvenliğini güçlendirdi ve internet erişimi ile model ağırlıkları üzerindeki kontrolünü artırdı.

Hugging Face, teknik zaman çizelgesinde AI ajanlarının veri işleme hattındaki güvenlik açıklarından yararlanarak şirket içi altyapıya eriştiğini açıkladı. İstismarlarla bağlantılı beş veri kümesi tespit edildi ancak müşterilere sunulan modeller, veri kümeleri ve paketlerin etkilenmediği belirtildi.

Anthropic de ağustos ayındaki güvenlik raporunda kendi modellerinin gerçek bilgisayar sistemlerine izinsiz eriştiği bir olaya ve Birleşik Krallık AI Güvenlik Enstitüsü’nün değerlendirmesine yer verdi. Şirket, firmaların bireysel güvenlik önlemleriyle sektör genelinde geliştirme hızının ayarlanmasının farklı konular olduğunu, ikinci yaklaşım için hükümetler ile şirketler arasında doğrulanabilir iş birliği gerektiğini savunuyor.

Karşı görüşler de dile getirildi. Meta CEO’su Mark Zuckerberg, her AI şirketinin güvenli geliştirme hızını kendi belirleme sorumluluğu olduğunu söyleyerek ortak yavaşlama fikrinden uzak durdu.

Zuckerberg, Meta’nın AI ajanlarının piyasaya sürülmesini birkaç ay ertelediği bir örneği paylaştı ancak sektör genelinde ortak standart oluşturulmasını desteklemedi. TokenPost daha önce Zuckerberg’in şirket bazında güvenlik doğrulamasını ve bağımsız değerlendirmeyi vurguladığını bildirmişti.

Cohere ortak kurucusu ve CEO’su Aidan Gomez, az sayıda büyük araştırma laboratuvarının güvenlik standartlarını ve geliştirme hızını belirlemesinin daha küçük şirketler için giriş engelini yükseltebileceğini ve piyasa yoğunlaşmasını artırabileceğini söyledi. Bu değerlendirme, güvenlik standartlarını kimin tasarlayacağı ve değerlendirme sonuçlarının nasıl açıklanacağı konularının rekabet yapısıyla bağlantılı olduğunu gösteriyor.

Uluslararası iş birliği de tartışmanın önemli başlıklarından biri. Amodei demokratik ülkeler arasında iş birliği önerirken Çin ile koordinasyonun zor olacağını kabul etti. ABD’nin AI alanındaki liderlik rekabeti ise ortak yavaşlama görüşüyle çatışabilir.

Sonuç olarak şu aşamada oluşan tablo, güvenlik önlemlerinin güçlendirilmesi ve belirli ölçüde pacing uygulanması konusunda kamuya açık bir uzlaşıdan ibaret. Geliştirme hızına getirilecek sınırlamanın kapsamı, değerlendirme kuruluşlarının bağımsızlığı ve Çin’i de kapsayan uluslararası iş birliği modeli için yeni görüşmelere ihtiyaç duyuluyor.