Gelişmiş AI için ön onay teklifine Voorhees: “Yüzüğü Sauron’a vermeyin”

ABD’de gelişmiş yapay zekâ modellerinin yayımlanmadan önce federal onay almasını öngören bir yasa tasarısı ile model yayımlarını durdurma yetkisinin bağımsız bir güvenlik kurumuna verilmesini savunan bir seçim vaadi gündeme geldi. İki öneri, AI güvenliği için kamu denetiminin kapsamı ve yetkilerin kimde olacağı konusunda farklı yaklaşımlar sunuyor.

Venice’in kurucu ortağı ve CEO’su Erik Voorhees, 12’sinde X’te “Yüzüğü Sauron’a vermeyin” diye yazdı. Bu paylaşım CryptoSlate’in haberinde de yer aldı.

Voorhees, açık kaynak şeffaflığını ve gücün dağıtılmasını AI güvenliğinin yolları arasında gösterdi. İzin sistemlerinin yayımlama ve dağıtımı kısıtlayabileceğini, bunun da eşitlikle çatışabileceğini savundu.

AI risklerine dikkat çekerek güvenlik önlemlerini ve kamu müdahalesini savunanlar da var. Microsoft’un (MSFT) kurucu ortağı Bill Gates, AI’ın 1 milyar kişinin ölümüne yol açabilecek bir olayı tetikleyecek kadar güçlü hâle gelebileceği uyarısında bulundu. TokenPost daha önce Gates’in bu açıklamasını haberleştirdi.

Bitcoin(BTC) alanında faaliyet gösteren Voorhees’in değerlendirmelerine rağmen S.5493 tasarısı ve Abdul El-Sayed’in seçim vaadi, sanal varlıkları veya blokzinciri doğrudan düzenleyen hükümler içermiyor.

ABD Senatörü Bernie Sanders, 3 Eylül tarihli açıklamasında “Geleceğimizi bir avuç büyük teknoloji şirketinin eline bırakamayız” dedi. Sanders, gelişmiş AI geliştirmenin risklerini azaltmak için kamusal denetimin gerekli olduğunu savundu.

Sanders’ın sunduğu “Yapay Süper Zekâyı Yasaklama Yasası” (S.5493), eğitiminde en az 10^25 tam sayı veya kayan nokta işlemi kullanan sistemleri “gelişmiş AI” olarak tanımlıyor. Tasarının kapsamı bu ölçütle belirleniyor.

Tasarıya göre bu kapsamdaki sistemler dağıtılmadan, kamuya açılmadan, ithal edilmeden veya devredilmeden önce yeni kurulacak AI Bakanlığından onay almalı. Dolayısıyla düzenleme, tüm AI hizmetlerinin ön onaya tabi olacağı anlamına gelmiyor.

Bakan, yayımlama öncesi incelemede kamu için risk oluşturabilecek özellikler saptarsa onayı bekletecek. Böylece kamuya açıklama kararında yetki bakana veriliyor.

Tasarı ayrıca bakanın başkan tarafından aday gösterilip Senato tarafından onaylanmasını, bir bilim ve teknoloji danışma kurulu kurulmasını ve bakanlık çalışanları için çıkar çatışması sınırlamalarını öngörüyor. Danışma kurulu üyelerini ise bakan seçecek.

Michigan’dan ABD Senatosu adayı Abdul El-Sayed, 13 Ekim’de açıkladığı “AI Under Control” seçim vaadinde bağımsız bir AI güvenliği kurumuna laboratuvarları denetleme ve modellerin yayımlanmasını engelleme yetkisi verilmesini önerdi. Vaade, geliştirmeyi geçici olarak durdurma ve sistemleri kapatma yetkileri de dahil edildi.

El-Sayed’in önerisi, bilim kurulunun kurum dışından seçilmesini ve istisnai önlemlerin kamuya açıklanmasını da öngörüyor. Aday ayrıca arama emri olmadan gözetlemeye karşı olduğunu belirtiyor.

Her iki yaklaşım da yayımlama öncesi denetimi savunuyor; ancak yetkiyi farklı kurumlara veriyor. S.5493, yeni bakanın onay ve bekletme yetkilerine dayanırken El-Sayed bağımsız bir kuruma denetleme, durdurma ve sistemleri kapatma yetkileri verilmesini öneriyor.

S.5493, 23 Eylül’de ABD Senatosuna sunuldu ve Ticaret, Bilim ve Ulaştırma Komitesine sevk edildi. El-Sayed’in önerisi ise seçim vaadi olarak açıklandı.