Yapay zekâ geliştirmesini durdurmak, lider şirketlerin üstünlüğünü pekiştirebilir

Yapay zekâ (AI) geliştirmesinin topluca durdurulmasının güvenliği artırmak yerine mevcut lider şirketlerin piyasa konumunu güçlendirebileceği öne sürüldü. Bir tarafta özerk güvenlik önlemleri ve bağımsız doğrulamanın önceliklendirilmesi gerektiği savunulurken, diğer tarafta yasal olarak zorunlu standartlara ihtiyaç olduğu belirtildi.

Cato Enstitüsü teknoloji politikası kıdemli araştırmacısı Jennifer Huddleston, 14’ünde yayımladığı yazıda hükümetlerin yapay zekâ geliştirmesini topluca durdurmasının düzenlemelerin hazırlanmasını geciktirebileceğini ve teknolojik değişime yanıt vermeyi zorlaştırabileceğini savundu. Huddleston, belirli risklere şirketlerin özerk güvenlik önlemleri ve ortak standartlarla karşılık verilebileceğini belirtti.

Huddleston, lider şirketlerin kaynaklarına göre tasarlanan düzenlemelerin küçük şirketlerin piyasaya girişini engelleyebileceğini söyledi. Geliştirme kapasitesi ve kaynakları yüksek şirketlerin düzenleme maliyetlerini karşılayabilmesi, piyasa yoğunlaşmasını artırabilir.

Yapay zekâ geliştirmesinin yalnızca ABD’de durdurulması hâlinde, yabancı rakiplerin teknoloji geliştirmeye devam ederek siber güvenlik açısından kırılganlığı artırabileceği uyarısı da yapıldı. Ancak bu değerlendirme, ABD’deki geliştirme faaliyetlerinin durdurulmasının uluslararası rekabet üzerindeki olası etkilerine ilişkin bir argüman olarak sunuldu.

Block CEO’su Jack Dorsey, bağımsız değerlendirme ve risk doğrulamasını desteklediğini, ancak mevcut lider şirketlerin müzakere ettiği sektör genelindeki geliştirme kısıtlamalarına karşı olduğunu söyledi. Dorsey, 14’ünde yayımladığı yazıda “Şirketlerin ticari üstünlüğünü korumak güvenlik hedefi değildir” diye yazdı.

Dorsey’nin yaklaşımı, yapay zekâ güvenlik kurallarının büyük şirketlerin üstünlüğünü pekiştirebileceği yönündeki endişeye dayanıyor. Dorsey, araştırmacıların modelleri doğrudan doğrulayabilmesi için açık modellerin, değerlendirme sonuçlarının ve bilinen sınırlamaların yayımlanması gerektiğini savundu.

Bu yaklaşım, açık modellerin her durumda yayımlanması gerektiği anlamına gelmiyor. Bağımsız biçimde incelenebilen kanıtlar, modelin yayımlanmasının yıkıcı riskleri fiilen artıracağını gösterirse yayının ertelenebileceği belirtildi.

Dorsey’nin önerdiği sıralama, tamamen durdurmaktan çok kademeli önlemlere dayanıyor. Önce güvenlik açığı yamaları, erişim yetkilerinin sınırlandırılması ve tehlikeli deneylerin durdurulması gibi dar kapsamlı adımların uygulanması; bu araçlarla riskleri azaltmanın zor olduğuna dair kanıt bulunması hâlinde model yayınının kısıtlanması öneriliyor.

Bağımsız doğrulama, yalnızca geliştirmeyi yapan şirketin iç değerlendirmesine dayanmak yerine dış araştırmacıların modelin çalışma biçimini ve risklerini doğrudan incelemesi anlamına geliyor. Açık modeller, dış araştırmacıların sonuçları yeniden üretmesine ve sorunları tespit etmesine olanak sağlaması nedeniyle bir doğrulama aracı olarak gösterildi.

Buna karşılık, yalnızca öz düzenlemenin hesap verebilirlik ve yaptırım gücü açısından yetersiz kalabileceği de belirtildi. Atlantic Council, haziran ayında yayımladığı raporda ABD’nin yapay zekâ yönetişiminin kurum yönergeleri ve gönüllü standartlar arasında bölündüğünü, tutarlı standartları zorunlu kılacak yasal bir çerçevenin bulunmadığını değerlendirdi.

Atlantic Council, risk sınıflandırması, şeffaflık ve olay bildirimi dâhil olmak üzere federal düzeyde zorunlu ve gönüllü standartların birlikte hazırlanmasını tavsiye etti. Önerinin amacı, şirketlerin teknik uzmanlığından yararlanırken kural ihlallerine karşı yasal yaptırım gücünü korumak.

Raporda, federal hükümetin yapay zekâ denetiminin bakanlık yönergeleri, kamu alım kuralları ve gönüllü standartlara dayandığı; eyalet düzenlemelerinin de eklenmesiyle politika yapısının parçalı hâle geldiği belirtildi. Bu nedenle ülke genelinde tutarlı bir düzenleyici çerçeve oluşturulması önerildi.

Tartışmanın merkezinde yapay zekâ geliştirmesinin durdurulup durdurulmayacağından çok, güvenlik standartlarını kimin hazırlayıp uygulayacağı bulunuyor. Özerk doğrulama rekabeti ve inovasyonu koruyabilir, ancak şirketlerin aleyhlerine sonuçlanan değerlendirmeleri yayımlamaması ve kural ihlallerinin yaptırımsız kalması riskini taşıyor.

Öte yandan, kapsamlı geliştirme yasağı veya ön onay süreçlerinin lider şirketleri merkeze alan bir düzenleme yapısı oluşturabileceği endişesi var. Sonuç olarak, yayın kısıtlamalarının hangi ölçütlere göre uygulanacağı, bağımsız doğrulamanın yetkileri ve yasal yaptırımların kapsamı tartışmanın ana başlıkları olmaya devam edecek.