Vitalik Buterin: Yapay zekâ yetenekleri kullanıcı kimliğine göre değil, kullanım amacına göre sınırlandırılmalı

Vitalik Buterin, yapay zekânın (AI) tehlikeli yeteneklerini sınırlandırırken kullanıcıların kimliğini değil, kullanım amacını ölçüt almanın daha uygun olduğunu söyledi.

Buterin, 26’sında X’te yaptığı paylaşımda, Kimi 3.1’in eğitim verilerinden gelişmiş siber saldırı yeteneklerinin kasıtlı olarak çıkarılmasını kabul edilebilir bulduğunu belirtti. Tehlikeli kullanımlara imkân veren yetenekleri kısıtlamanın, kullanıcıları kimliklerine göre ayırmaktan daha az yan etki doğuracağı görüşünü dile getirdi.

Kimi’nin geliştiricisi Moonshot AI, teknik dokümanında K3.1 Pro’nun model ağırlıklarını yayımlamadan önce ara eğitim verilerinden ve pekiştirmeli öğrenme ortamından siber güvenlik materyallerini ve görevlerini çıkardığını açıkladı. Genel kodlama görevleri ise korundu. Model ağırlıkları, geliştiricilerin modeli kendi ortamlarında çalıştırması için gereken verilerdir.

Moonshot AI’nin şirket içinde tasarladığı testlerde, kısıtlamalar uygulanmayan model güvenlik açığı bulma ve bunlardan yararlanma görevlerinin yüzde 90,5’ini çözdü. Nihai K3.1 Pro’nun oranı yüzde 81,0 oldu. Verilerin çıkarılması saldırı yeteneğini ortadan kaldırmadı; Moonshot AI, son modelin siber güvenlik görevlerindeki performansının önceki modele kıyasla daha yüksek olduğunu belirtti.

Buterin, güçlü siber saldırı yetenekleri yaygınlaşmadan önce toplumun sistemleri güçlendirmek ve eski kodları gözden geçirmek için zamana ihtiyacı olduğunu söyledi. Yeni kodlarda hata bulunmadığının matematiksel olarak doğrulanmasını sağlayan biçimsel doğrulamanın uygulanması gerektiğini de savundu. Açıklamaları, AI erişiminin kime verileceği ile saldırılarda kullanılabilecek yeteneklerin hangi düzeyde sunulacağı konularını birbirinden ayırdı.

Buterin, ilk ciddi AI risklerine gerektiği gibi karşılık verilmemesi halinde model kullanımının büyük ölçüde kısıtlanabileceği, müşterini tanı (KYC) uygulamalarının ve gözetimin yaygınlaşabileceği uyarısında bulundu. Kullanıcıların sahip oldukları niteliklere veya vatandaşlıklarına göre farklı düzeydeki modellere erişmesi ihtimalini de gündeme getirdi. Bunlar yürürlükteki düzenlemelerin açıklaması değil, Buterin’in dile getirdiği kaygılardı.

Moonshot AI, K3.1 Pro’yu kendi hizmetleri ve API üzerinden sunuyor. Şirket, model ağırlıklarının tamamını 4 Kasım’a kadar yayımlamayı planladığını açıkladı.