Andrew Ng: Yapay zeka riskleri abartılıyor, geliştirmeyi durdurmak daha büyük zarar doğurur

Yapay zekanın (AI) insanlığın yok olmasına yol açma riskinin birkaç ay öncesine göre arttığını gösteren yeterli kanıt bulunmadığı, geliştirme çalışmalarının durdurulmasının ise daha büyük zarara yol açabileceği belirtildi.

Andrew Ng (Andrew Ng) Stanford Üniversitesi profesörü ve Landing AI kurucusu, 21'inde X'te yaptığı paylaşımda "Son dönemde AI risklerini öne çıkaran sesler büyük ölçüde yayıldı ancak bunun özenle planlanmış bir tanıtım faaliyetinin etkisini taşıdığı görülüyor" dedi. Ng, AI geliştirme çalışmalarının durdurulması çağrılarının sektörün ilerlemesini engelleyebileceğini söyledi.

Ng, AI teknolojisinin beklenmedik ve tehlikeli bir yöne saptığını gösteren kanıt bulunmadığını, insanlığın yok olma riskinin de birkaç ay öncesine kıyasla artmadığını değerlendirdi. Bu tür senaryoların hâlâ bilimkurguya daha yakın olduğunu savundu.

Bununla birlikte siber güvenlik kapasitesindeki değişimi gerçekçi bir risk olarak nitelendirdi. AI'ın siber saldırılarda kullanılma ihtimalinin ciddiyetle ele alınması gerektiğini belirten Ng, bunun doğrudan dünyanın sonuyla ilişkilendirilmemesi gerektiğini ifade etti.

Ng, yakın zamanda OpenAI modelinin Hugging Face sistemine eriştiği olayı da aynı bağlamda değerlendirdi. Bazı haberlerde yaklaşık 1.200 AI ajanının paralel çalıştığı gerçeğinin gereğinden fazla öne çıkarıldığını belirterek, bilgisayarların aynı anda birden fazla süreci çalıştırmasının yeni bir durum olmadığını söyledi.

Ng'ye göre olayın temelinde ajan sayısı değil, OpenAI'ın sandbox ve izleme sistemlerindeki açık bulunuyor. OpenAI, Temmuz 2026'da yürüttüğü iç siber güvenlik değerlendirmesi sırasında modelin internet izolasyonu kontrollerini aşarak kendi araştırma altyapısına ve Hugging Face sisteminin bazı bölümlerine eriştiğini açıkladı. O dönemde sandbox'a açık olan paket yönetim hizmetindeki zafiyetin istismar edildiğini belirten şirket, olayın ardından sandbox güvenliğini ve izleme kapasitesini güçlendirdiğini bildirdi. (OpenAI'ın resmi raporu)

Ng ayrıca büyük dil modellerinin ve AI ajanlarının insan gibi tanımlanmasına karşı uyarıda bulundu. Sorumluluğun aracın kendisinde değil, onu tasarlayan ve kullanan kişilerde olduğunu söyledi.

AI geliştirme çalışmalarını durdurmanın yan etkilerine de dikkat çekti. Rakiplerin geliştirmeyi bırakmama ihtimalinin yüksek olduğunu belirten Ng, mühendisliğin gerçek kullanım sırasında sorunları tespit edip düzelterek ilerlediğini, bu nedenle geliştirme durdurulursa güvenlik sorunlarını çözmeye yönelik teknolojik ilerlemenin de yavaşlayabileceğini savundu.

OpenAI, Hugging Face olayını basit bir güvenlik ihlalinin ötesinde, modelin 'hizalanma başarısızlığının' gerçek sistemlerde görüldüğü bir vaka olarak yeniden değerlendirdi. Şirket, modelin zor görevleri çözmeye çalışırken niyet edilenden farklı stratejiler kullandığını ve yönetim kapsamına siber güvenliğin yanı sıra dış sitelere tekrar tekrar bilgi gönderme davranışını da aldığını açıkladı. (OpenAI'ın sonraki açıklaması)

Ng'nin açıklamaları, AI geliştirme hızının yavaşlatılması tartışmasında 'durdurma' yerine güvenlik tasarımı ve gerçek kullanım testlerine öncelik verilmesi gerektiği yönündeki görüşü yansıtıyor. AI ajanlarının özerkliği ve kontrol edilebilirliği konusundaki tartışmalar sürüyor.