AI araştırmacısı Bilal Chughtai: “İnsanlığın ölme ihtimali var”

Google DeepMind'de yapay zekâ (AI) güvenliği ve hizalama araştırmaları yürüten Bilal Chughtai, AI'ın insanlığı öldürme ihtimali bulunduğunu açıkladı. Chughtai, AI şirketleri arasındaki geliştirme yarışının yavaşlatılması ve güvenlik doğrulamalarında şeffaflığın artırılması gerektiğini savundu.

Bilal Chughtai (Bilal Chughtai), Google DeepMind eski araştırma mühendisi, 14'ünde kişisel internet sitesinde yayımladığı 'Google DeepMind'den ayrılırken' başlıklı açıklamada işten ayrıldığını duyurdu. Chughtai, görev yaptığı dönemde genel yapay zekâ (AGI) güvenliği ve hizalama araştırmaları yürüttüğünü belirtti.

Chughtai açıklamasında, “AI'ın hepimizi öldürme ihtimali olduğuna gerçekten inanıyorum ve bu sonucu önlemek için yeterli zamanımız olmayabilir” diye yazdı. Bu ifade, AI'ın insanlığın yok olmasına yol açacağının kesinleştiği anlamına gelmiyor; Chughtai'nin AI geliştirme yönünü gözlemledikten sonra yaptığı kişisel risk değerlendirmesini yansıtıyor.

Chughtai, AI'ın yeteneklerinin son yıllarda hızla geliştiğini, ancak AI sistemlerinin insan niyetleriyle uyumlu hareket etmesini sağlamayı amaçlayan hizalama araştırmalarının bu hıza yetişemediğini savundu. Hizalama, AI'ın insanların talimatları ve değerleri doğrultusunda davranması için eğitilmesini ifade ediyor.

Chughtai, AI şirketlerinin önümüzdeki birkaç yıl içinde her alanda insan yeteneklerini önemli ölçüde aşan süperzekâ sistemleri geliştirebileceğini yazdı. Ancak bu sistemlerin ne zaman ortaya çıkacağına veya gerçekleşme ihtimaline ilişkin bir oran vermedi.

Chughtai, AI şirketlerinin 'çılgınca bir yarışa' girmesini önlemek için geliştirme hızının toplumun kaldırabileceği seviyeye çekilmesini önerdi. Şirketlerin geliştirme süreçlerine daha fazla şeffaflık kazandırılarak güvenliğin dışarıdan doğrulanabilmesi gerektiğini de savundu.

Chughtai, AI'ın güvenli şekilde geliştirilmesinin hâlâ mümkün olduğunu belirtti. Açıklamasının amacı geliştirmelerin tamamen durdurulmasını istemek değil, güvenlik araştırmaları ve değerlendirmelerinin AI yeteneklerindeki ilerlemeyi takip edebilmesi için zaman kazanılması gerektiğini vurgulamaktı.

Reuters, LinkedIn profilini kaynak göstererek Chughtai'nin Temmuz 2026'da Google DeepMind'den ayrıldığını bildirdi. Google, Chughtai'nin ayrılığıyla ilgili yorum talebine hemen yanıt vermedi.

Chughtai'nin kişisel internet sitesi, onun şu anda AI güvenliği alanında uzman yetiştiren kâr amacı gütmeyen BlueDot Impact'te program lideri olarak görev yaptığını belirtiyor. BlueDot Impact, resmi internet sitesinde 2022'den bu yana 10 binden fazla uzmanı eğittiğini ve toplam 35 milyon dolar (yaklaşık 47 milyar 145 milyon won) bağış topladığını açıkladı.

Bu açıklama, Anthropic ve OpenAI'dan ayrılan isimlerin AI geliştirme yarışını art arda eleştirdiği döneme denk geldi. Daha önce Anthropic araştırmacısı Jacob Coxon, süperzekâ geliştirme yarışının insan hayatını riske attığını savunmuştu.

Anthropic hizalama araştırmacısı Evan Hubinger de AI'ın önümüzdeki 10 yıl içinde tüm insanları öldürme ihtimalini kişisel olarak yüzde 10'un üzerinde gördüğünü söyledi. Bu oran Hubinger'ın görüşünü yansıtıyor ve sektörün üzerinde uzlaştığı bir tahmin değil.

Anthropic CEO'su Dario Amodei de 12'sinde yayımladığı makalede, AI modellerinin yeteneklerindeki gelişme hızının yavaşlatılması gerektiğini savundu. Amodei, böylece güvenlik araştırmaları ve değerlendirmelerinin gelişmeleri takip edebilmesi için zaman kazanılacağını belirtti. Bunun AI geliştirmelerinin durdurulması değil, öncü AI sistemlerinin ilerleme hızının ayarlanması anlamına geldiğini ifade etti.

Amodei'nin geliştirme hızının ayarlanması görüşüne OpenAI CEO'su Sam Altman ve Elon Musk'ın da kamuoyu önünde destek verdiği bildirildi. Bu destek, Chughtai'nin istifasına değil, AI güvenliğini sağlamak için geliştirme hızının ayarlanması gerektiği görüşüne yönelikti.

Chughtai'nin açıklaması kişisel istifa gerekçesini ve risk değerlendirmesini içerirken, Amodei'nin makalesi şirketlere ve hükümetlere yönelik bir politika önerisi niteliği taşıyor. Her iki açıklama da AI yeteneklerinin gelişimi ile güvenlik araştırmaları arasındaki farkın azaltılması gerektiğine odaklandı.

Bu tartışma, AI araştırmacılarının kendi kendini geliştiren süperzekânın kontrol edilebilirliği konusunda yaptığı uyarıların devamı niteliğinde. Ancak Chughtai'nin açıklaması, AI'ın insanlığın yok olmasına yol açma riskini veya bunun gerçekleşeceği belirli bir zamanı tek başına kesinleştirmiyor.