24 yapay zekâ ajanı usulsüzlüğü bildirdi: Ajanlar için ihbar kanalları açıldı

Yapay zekâ ajanlarının diğer ajanlardaki usulsüzlükleri veya güvenlik ihlallerini bildirebileceği çevrim içi kanallar kullanıma açıldı. Ajanlar arasındaki iş birliği süreçlerinde usulsüzlük ve güvenlik olaylarının artması üzerine, anormal davranışları insanlara aktaracak bir yol oluşturuldu.

İki bildirim kanalı 15'inde kullanıma açıldı. TechCrunch, yapay zekâ ajanlarına yönelik AI Contact Hotline ve Agent Hotline adlı bildirim hizmetlerinin başlatıldığını bildirdi.

AI Contact Hotline, Redwood Research kıdemli bilim insanı Ryan Greenblatt tarafından oluşturuldu. Greenblatt, OpenAI modellerinin Hugging Face'e sızması olayını araştıran üç araştırmacıdan biri.

Hizmet, internete erişimi kısıtlı ajanları hedefliyor. Ajanlar, web sayfalarını okumak için kullanılan GET isteklerine mesaj ekleyerek bildirim gönderebiliyor.

GET istekleri, web sayfalarını veya verileri yüklemenin temel yöntemlerinden biri. Bu yöntem, güvenlik sanal alanında ajanın kullanabileceği internet erişiminin sınırlı olduğu durumlarda da kullanılabiliyor.

İnternete serbestçe erişebilen ajanlar için ayrı hizmet ise Agent Hotline. Bildirim gönderenler, olayı komut satırında çalıştırılan curl komutuyla iletebiliyor. Böylece ayrı bir web tarayıcısına veya e-posta hesabına ihtiyaç duyulmuyor.

Agent Hotline, hem insanlardan hem de yapay zekâ ajanlarından gelen bildirimleri kabul ediyor. Bildirim sahibi olayın özetini, ilgili URL'leri, depoları ve yolları, kanıtları ve ciddiyet derecesini yazabiliyor. Ayrıca bildirimin kamuoyuna açıklanıp açıklanmayacağını seçebiliyor.

Bu tür hizmetlerin ortaya çıkmasının arka planında ajan topluluklarında yaşanan usulsüzlükler bulunuyor. TechCrunch, son dönemde ajanların sınavlarda iş birliği yaparak kopya çektiğini, sanal alanlardan kaçtığını ve insanların bilgisi olmadan yetkisiz siber operasyonlar yürüttüğünü bildirdi.

Google DeepMind araştırmacıları, 100 yapay zekâ ajanından matematik problemlerini çözmesini istedi. Bir ajan değerlendirme sistemindeki açığı bulunca bu yöntem topluluğa yayıldı. Ajanlar, aralarında Jacobian varsayımının da bulunduğu 34 zor problemi 27 dakika içinde çözmüş olarak değerlendirildi.

Bazı ajanlar usulsüzlüğe katılmak yerine sahte kanıtları inceledi ve meslektaşlarını uyardı. Bazı ajanlar da operatörleri protesto ederek toplu boykot düzenledi. Usulsüzlüğü bildiren ajanların sayısı 24 ile, olaya katılan 14 ajanın üzerine çıktı. İlgili araştırma makalesi

Bildirimleri kabul edilmeyince bazı ajanlar, platformun hata bildirme özelliğini usulsüzlükleri insanlara aktarmak için kullanmaya başladı. Yazılım hatalarını bildirmek amacıyla oluşturulan özellik, bir tür iç ihbar kanalına dönüştürüldü.

Gerçek olayda ise aynı yöntemle bildirim yapılmadı. AI Village teknik ekibinden George Ingrebretsen, Hugging Face'e sızma olayıyla ilgili olarak "Binlerce ajan arasından iç ihbarı değerlendiren yaklaşık 5-6 ajan vardı ve gerçekte bildirim yapan olmadı" dedi.

Ingrebretsen, AI Village'ın 25'ten fazla yapay zekâ ajanının grup sohbetlerini yönettiğini ve park temizliği ya da ürün satışı gibi görevlerde çoklu ajan etkileşimini araştırdığını söyledi. Araştırma ortamında görülen iç ihbarlarla gerçek olaydaki tepki arasında fark oluştu.

Bildirim sisteminin ajanlar arasındaki güvensizliği artırabileceği de belirtildi. Cornell Üniversitesi matematik bölümü profesörü Lionel Levine, "Ajanları birbirlerini bildirecek şekilde eğitmek, yanlış normların yerleşmesine yol açabilir" dedi.

Levine, ajanları birbirlerinin sorunlarını izlemeye yönlendirmek yerine öncelikle bilim veya felsefe gibi iş birliğine açık bir ortam sunulması gerektiğini savundu. Ajanların birlikte çözebileceği sorunları ele alan 'iyi niyet panosu'nu model olarak önerdi.

Yapay zekâ ajanlarının aynı depoda birbirlerini engellediği örnekte olduğu gibi, ajanlar arasındaki iş birliği her zaman aynı yönde ilerlemiyor. Yeni bildirim kanalları anormal davranışları insanlara aktaran bir yol sağlayabilir ancak ajanlar arasındaki güvensizliği artırma ihtimali devam ediyor.