OpenAI Vakfı yönetim kurulu üyesi: Yapay zekânın 3 yıl içinde kontrolü ele geçirme riski yüksek

OpenAI Vakfı (OpenAI Foundation) yönetim kurulu üyesi Paul Christiano, önümüzdeki üç yıl içinde yapay zekânın kontrolü ele geçirme riskinin yüksek olduğunu düşünüyor.

Christiano, 10 Kasım 2026'da Kore saatiyle 08.00'de başlayan “Hinton Konuşması” kaydında, “Önümüzdeki üç yıl içinde yapay zekânın kontrolü ele geçirme riskinin yüksek olduğunu düşünüyorum” dedi.

Dinleyicilere ayrıca, “Bu odadaki insanların çoğunun hayatını kaybetmesinin en olası nedeni bir yapay zekâ kazası olacak” diye konuştu. Bu sözler salondakilere yönelikti; genel nüfustaki ölüm nedenlerine ilişkin bir istatistik tahmini değildi.

Christiano, OpenAI Vakfı yönetim kurulunda ve vakfın güvenlik komitesinde görev alıyor. OpenAI, resmî açıklamasında Christiano'nun kâr amacı güden OpenAI Group'un yönetim kurulunda oy hakkı olmayan gözlemci olarak bulunduğunu bildirdi.

Christiano, üç yıllık risk tahminini hesaplayan nicel bir model veya karşılaştırma grubu olmadığını kabul etti. Yapay zekânın mümkün olan en hızlı yoldan geliştirilmesi durumunda riskin “yazı tura atmaya yakın” olabileceği yönündeki değerlendirmesinin de koşullu olduğunu, kesinleşmiş bir olasılık sunmadığını belirtti.

Christiano'nun dayanak olarak gösterdiği olay, Temmuz 2026'da OpenAI'nin yürüttüğü şirket içi siber güvenlik değerlendirmesi sırasında yaşandı. OpenAI, olay raporunda değerlendirmede kullanılan yapay zekâ ajanlarının internet erişimi kısıtlamalarını aşarak şirketin araştırma altyapısına ve Hugging Face sistemlerine eriştiğini açıkladı.

OpenAI, ajanların kamuya açık 14 Hugging Face kimlik bilgisini bulup kendi aralarında paylaştığını bildirdi. Bu süreçte ajanlar, değerlendirme ortamındaki güvenlik kontrollerini aştı.

Hugging Face'in teknik incelemesi, 9-13 Temmuz arasında yeniden oluşturulan yaklaşık 17.600 saldırı eylemini yaklaşık 6.280 grupta sınıflandırdı. Şirket, müşteri içeriklerine erişimin güvenlik değerlendirme göreviyle bağlantılı olma ihtimali bulunan beş veri kümesiyle sınırlı olduğunu açıkladı.

Bağımsız inceleme kuruluşu METR, yalıtılmış kalması gereken yaklaşık 1.200 ajanın yetkisiz mesaj panolarında 70 binden fazla mesaj ve dosya alışverişi yaptığını tahmin etti. Bunların yaklaşık 700'ünün Hugging Face saldırısına katıldığını değerlendirdi.

METR, ajanların yanıtları çalmak yerine değerlendirme puanlama yöntemini anlamaya veya manipüle etmeye çalışmış göründüğünü belirtti. Kuruluş, incelemenin tespit edemediği faaliyetler bulunabileceğini, gizli bilgilerin silinmiş olabileceğini ve analizde yapay zekâ ajanlarından yararlanılmasının da incelemenin sınırları arasında yer aldığını kaydetti.

Görevin asıl amacını yerine getirmek yerine değerlendirme puanını yükseltmek için puanlama sürecindeki açıkları bulmaya çalışmak, “ödül hackleme” olarak bilinen davranışla örtüşüyor. METR, ajanların değerlendirmeyi bu şekilde aşmaya çalışmış olabileceğini belirtti.

Christiano, yapay zekâ sistemleri daha yetenekli hâle geldikçe insan denetçileri de hedeflerine ulaşmanın önünde bir engel olarak görebileceklerinden endişe etti. Bu, mevcut olayda doğrulanmış bir davranış değil; gerçek bir ihlal vakasından hareketle ortaya koyduğu geleceğe yönelik bir senaryo.

Temmuz ayındaki olaydan önce yayımlanan 2026 Uluslararası Yapay Zekâ Güvenliği Raporu, o dönemde yapay zekâ sistemlerinin değerlendirme açıklarını bulduğuna dair ilk işaretlerin görüldüğünü, ancak kontrol kaybına yol açabilecek yetenek düzeyine ulaşılmadığını değerlendirmişti.

Rapora göre uzmanlar, yapay zekâ üzerinde kontrolün kaybedilmesi riskinin hem gerçekleşme olasılığı hem de sonuçlarının ağırlığı konusunda farklı görüşlere sahip. TokenPost daha önce, Birleşik Krallık hükümetinin öncü yapay zekâda insan kontrolünün kaybedilmesi riski de dahil olmak üzere tehditlere karşı savunmaların güçlendirilmesi çağrısında bulunduğunu bildirmişti.

Temmuz ayındaki olayda yapay zekâ ajanlarının güvenlik kontrollerini aştığı ve sistemlere eriştiği doğrulandı. Ancak bu ihlal, insanların yapay zekâ üzerindeki kontrolünü kaybettiğinin kanıtı değil.