Hassabis: İnsan denetimi olmadan RSI, AGI’ye giden riskli bir yol

Demis Hassabis, insan denetimi olmadan yürütülen kapalı döngü yinelemeli öz geliştirmenin (RSI), genel yapay zekâya (AGI) giden tehlikeli bir yol olabileceği uyarısında bulundu.

Hassabis’in açıklamaları, Reid Hoffman’la yaptığı Masters of Scale söyleşisinde yer aldı. Söyleşi Ekim 2026’da San Francisco’da kaydedildi; tam metnin yer aldığı sayfa 6 Kasım’da yayımlandı.

Hassabis, yapay zekâ bugün kod yazmaya yardımcı olsa da yapay zekânın ürettiği kodu insanların incelediğini ve sistemin mimarisini insanların tasarladığını söyledi. İnsan denetiminin ortadan kalktığı, yapay zekânın sonraki sürümü tasarlayıp geliştirdiği bir aşamayı mevcut geliştirme yönteminden ayrı tuttu.

Yapay zekâ kodlama araçlarının mühendislerin üretkenliğini 3 ila 5 kat artırabileceğini belirten Hassabis, asıl kaygının bu verimlilik artışı değil, insanların inceleme sürecinin de ortadan kalkması olduğunu söyledi.

Hassabis, kapalı döngü RSI’ın “AGI’ye giden çok tehlikeli bir yol” olabileceğini ifade etti. Yapay zekânın insan denetimi olmadan kendi sonraki sürümünü oluşturup geliştirmesinin kontrol sorunlarına yol açabileceği uyarısında bulundu.

Böyle bir sistemin, insanlardan farklı bir düşünme biçimine sahip “uzaylı bir zekâ” gibi görünebileceğini söyledi. Bu benzetmeyle, insanların yapay zekânın davranışlarını, yapay zekânın da insanların niyetlerini anlamasının zorlaşabileceğine dikkat çekti.

Hassabis, öz geliştirmenin faydasını da kabul etti. Matematik, kodlama ve oyun gibi sonuçların doğrulanabildiği alanlarda yapay zekânın sonuçları kontrol ederek gelişimini yineleyebileceğini anlattı.

Hassabis, AlphaZero’nun oyunları tekrar edip yeni sürümlerinin eğitildiği örneği verdi. Uyarısı, bu tür çalışmaların kendisinden çok, yapay zekâ geliştirme sürecinin insan denetimi olmadan sürdürülmesine yönelikti.

Anthropic, kendi ölçüm verilerinde Ağustos 2026 itibarıyla Claude’un şirketin yapay zekâ araştırma ve geliştirme çalışmalarının %26’sını “yönettiğini” bildirdi. Bu oran, şirketin kendi iç çalışmalarına ilişkin öz değerlendirmesine dayanıyor.

Anthropic’in tanımında “yönetme”, yapay zekânın işin büyük bölümünü yaparken insan gözetiminin sürdüğü aşama anlamına geliyor. Şirket, ölçüm kapsamındaki işlerin hiçbirinin tamamen otonom biçimde yürütülmediğini belirtti.

Anthropic, sektörde ortak bir ölçüm yöntemi bulunmamasını ve değerlendirmede kendi modellerini kullanmasını da verilerin kısıtları arasında saydı. Dolayısıyla oran, şirketin kendi belirlediği ölçütlerle kendi çalışmalarını değerlendirmesinin sonucu.

Söyleşide Hassabis, RSI’ın yatırım potansiyelinden çok insan denetiminin ve kontrolünün ortadan kalkmasının yaratabileceği riskleri vurguladı.

OpenAI, 6 Eylül 2026’da yayımladığı araştırma otomasyonu açıklamasında Mart 2028’e kadar “otomatik bir yapay zekâ araştırmacısı” geliştirmeyi hedeflediğini duyurdu. Bu tarih, tamamlanmış bir aşama değil, şirketin açıkladığı bir hedef.

OpenAI, insan yönlendirmesi altında belirli görevleri yerine getiren “otomatik araştırma stajyeri” aşamasına ulaştığını açıkladı. Araştırma önceliklerine, sonuçların kabul edilip edilmeyeceğine ve sistemin büyütülmesine ya da durdurulmasına insanların karar verdiğini belirtti.

OpenAI, güvenli ve tamamen RSI uygulamasını nasıl hayata geçireceğini henüz bilmediğini söyledi. Hassabis ise güvenlik önlemleri olarak yalıtılmış çalışma ortamları, izleme, siber savunmanın güçlendirilmesi ve dış kuruluşların denetim ve değerlendirmelerini sıraladı.