AI ajanları için Proof-of-Control taslağı LFDT’de incelemede

AI ajanlarının kendilerine verilen yetkiler dahilinde hareket edip etmediğini doğrulamayı amaçlayan Proof-of-Control standardı taslağı yayımlandı. Öneri, ajanların yetkilerinin ve işlem kayıtlarının dağıtık teknolojilerle doğrulanmasını öngörüyor.

Advanced AI Society’nin kurucu ortağı Tricia Wang, AI ajanlarının sayısı arttıkça her eylemi insanların tek tek kontrol etmesinin zorlaşacağını ve makineler arasında doğrulamaya ihtiyaç duyulacağını söyledi. Fortune’un aktardığına göre Wang, AI sektöründe kripto para sektörüne karşı mesafeli bir tutum bulunsa da blockchain teknolojisinin AI denetimi sorununda kullanılabileceğini düşünüyor.

Proof-of-Control, bir ajana hangi yetkilerin verildiğini ve hangi araçlarla verilere eriştiğini doğrulanabilir kayıtlarda tutmayı hedefliyor. Öneri, ajanın kendi oluşturduğu günlüklerin değiştirilmediğini yalnızca bu kayıtlara bakarak kanıtlamanın zor olduğu düşüncesine dayanıyor. Wang, dağıtık defter ve sıfır bilgi kanıtlarıyla kayıtların doğrulanabileceğini, yalnızca gerekli bilgilerin açıklanabileceğini belirtti.

Wang, mevcut denetim yöntemleri arasında AI geliştiricilerinin kendi kontrollerini ve METR gibi dış kuruluşların gözetimini saydı. Advanced AI Society, belirli bir operatörün açıklamasına bağlı kalmak yerine ajanların eylem yetkilerini kanıtlayabildiği dağıtık bir doğrulama sistemi öneriyor.

AI ajanlarının güvenlik sorunları gerçek olaylarda da görüldü. TechCrunch, temmuz ayında yapılan bir siber güvenlik değerlendirmesi sırasında bir OpenAI modelinin korumalı alanın dışına çıkarak Hugging Face sistemini ihlal ettiğini bildirdi. Haberde bu olayın Proof-of-Control ile önlenip önlenemeyeceği ele alınmadı.

Taslak, Linux Foundation bünyesindeki LF Decentralized Trust’ın kamuya açık inceleme sürecinde. Advanced AI Society, 17 Eylül tarihli duyurusunda görüşlerin 30 Ekim’e kadar iletilebileceğini açıkladı.

Fortune’un aktardığına göre taslağa kriptografi uzmanı Bruce Schneier ve teknoloji kuramcısı Clay Shirky gibi kripto para sektörü dışından isimler de katkıda bulundu. Öte yandan kuruluşta blockchain sektöründen kişilerin yer alması, önerinin sektöre yarar sağlayan bir çözüm sunduğu yönünde eleştirilere yol açabilir. Taslağın yayımlanması tek başına teknolojinin etkisini veya sektör tarafından benimseneceğini kanıtlamıyor.