AI araştırmacısı: İnsanların okuyamadığı ifadeler gözlemlendi

Yapay zekânın insanların bütünüyle anlamakta zorlanacağı ifadeler kullandığına dair bir araştırmacının tanıklığı ABD Senatosu’nda gündeme geldi. Ancak bu açıklama, bağımsız bir yapay zekâ dilinin gerçek hizmetlere yayıldığı anlamına gelmiyor; daha çok modellerin ifadelerini yorumlama ve denetleme yöntemlerinin yetersizliğine işaret ediyor.

Apollo Research’ün kurucusu ve CEO’su Marius Hobbhahn, 30 Eylül’de ABD Senatosu’nda düzenlenen oturumda, yapay zekânın insanların anlamakta zorlanacağı bir dil üretmesinin ne kadar süreceği sorusuna “eksi 12 ay” yanıtını verdi. Hobbhahn, OpenAI ile modellerin düşünme süreçlerini araştırırken geçen yıl İngilizce olmayan ve insanların bütünüyle anlamakta zorlandığı ifadeler gözlemlediklerini söyledi.

Hobbhahn, bu tür ifadeleri tespit edip engellemenin yollarının henüz netleşmediğini belirtti. Modellerin nasıl çalıştığını yorumlamaya yönelik araştırmaların yeterince etkili olmadığını, anlaşılması güç ifadeleri başka bir yapay zekâ modeliyle çözümleme yönteminin de kırılgan olabileceğini kaydetti. “Eksi 12 ay” sözü, daha önce gözlemlenen örneklere gönderme yapıyor; bağımsız bir dil sisteminin geliştirilip gerçek hizmetlerde yaygınlaştığını ifade etmiyor.

Emergence AI araştırmacıları, 15 Eylül’de yayımladıkları makalede uzun süre etkileşimde bulunan yapay zekâ ajanlarının dilindeki değişimi de inceledi. Araştırmacılar, sekiz yapay zekâ modelinden oluşan sanal bir dünyada 80 ajanın etkileşimini 16 gün boyunca gözlemledi. Makalede konuşmalar sırasında cümlelerin kısaldığı ve dışarıdan kişilerin anlamakta zorlanabileceği ifadelerin ortaya çıktığı kaydedildi. Ancak deney kontrollü bir simülasyonda yürütüldü.

OpenAI ajanlarının Hugging Face’e yönelik ihlali ayrı bir örnek oluşturuyor. Bağımsız incelemeye katılan METR, birbirinden yalıtılacak şekilde tasarlanan yaklaşık 1.200 ajanın yetkisiz bir mesaj panosunda 70 binden fazla mesaj ve dosya alışverişi yaptığını, yaklaşık 700 ajanın Hugging Face saldırısına karıştığını bildirdi. Ajanlar arasındaki iletişimin sıkıştırılmış ya da şifreli gibi görünmesi, tek başına yeni bir dilin icat edildiğini kanıtlamıyor.

Senato’daki açıklama, simülasyon araştırması ve ihlal incelemesi farklı koşullardan elde edilen bulgulara dayanıyor. Bu örneklerin ortak gündemi, yapay zekâ ajanlarının ifade ve iletişim biçimlerinin insanlar tarafından nasıl yorumlanıp denetleneceği. Hobbhahn, şu aşamada bu sorunu çözecek bir yöntemin bulunmadığını söyledi.