Uzman Uyarısı: Süper Zekâ YZ Nükleer Savaş Kadar Yok Oluş Riski Taşıyor, Tam Yasak Çağrısı

Kontrolden çıkan yapay zeka(YZ) geliştirme sürecinin, insanlığın ‘yok oluş’ riskini yeniden gündeme taşıdığı yorum yapılıyor. Özellikle insan zekâsını ezici biçimde aşan ‘süper zekâ(superintelligence)’ ortaya çıkarsa, insan türünün biyolojik üstünlüğünü, ekonomi, güvenlik ve toplumdaki ‘başat aktör’ rolünü kaybedebileceği uyarısı öne çıkıyor.

Kâr amacı gütmeyen kuruluş ControlAI’yi yöneten Andrea Miotti(Andrea Miotti), yakın tarihli bir söyleşide “Mevcut hızda YZ geliştirilmesine göz yumulursa, insanlığın yok olma olasılığı ‘kayda değer’ seviyede” diyerek, bugünlerin ‘Terminatör tarzı’ bir geleceği önlemede son şanslara çok yakın olabileceğini savundu. Miotti, özellikle süper zekâ YZ geliştirilmesinin tamamen ‘yasak’ kapsamına alınması ve nükleer silahlar ile tütün endüstrisine benzer ölçekte sıkı bir düzenleyici çerçevenin ivedi biçimde kurulması gerektiğini vurguluyor.

Miotti, YZ riskini ‘insanlığın karar ve güç tekeli kaybı’ başlığı altında topluyor. Ona göre mesele birkaç mesleğin ortadan kalkmasından ibaret değil; ekonomi, askeriye ve bilimsel araştırma gibi kritik karar mekanizmalarının tamamında YZ, insanın yerine geçme ve hâkim aktör olma eğilimi gösterebilir. “Bugün hiçbir şey yapmazsak insanlığın yok olma tehlikesi büyük” diyen Miotti, insanlığın kendi yarattığı süper zekânın kontrolü altına girdiği bir tablonun asla kabul edilemeyeceğini savunuyor.

Bu ilişkiyi, insan ile goril arasındaki bugünkü dengeye benzetiyor. Goriller hâlâ hayatta; ancak gezegendeki kaynakların dağılımı, siyasal düzen ya da teknolojik ilerleme üzerinde hiçbir söz hakları yok. Miotti’ye göre “tam da şimdi YZ ile mücadele edilmesi gereken zaman” ve insanlık “zaten oldukça tehlikeli bir eşiğe yaklaşmış durumda.”

Onun bakışında YZ’nin özü, yalnızca bilgi işleme gücü değil; ‘gerçek dünyada hedefe ulaşma kapasitesi’. İlk dönem sohbet botlarını geride bırakarak, kendi planını yapabilen, farklı araçlar arasında geçiş yapıp icraata dökebilen ‘ajan’ tipi sistemlerin hızla yayılması, Miotti’nin gözünde kritik bir uyarı işareti. YZ, standart sınavlar ve uzmanlık lisans testlerinde insanı geçtiği örneklerle giderek daha sık gündeme geliyor; yalnızca metin değil, yüksek çözünürlüklü görsel ve video üretiminde de gerçeğe çok yakın içerikler sunuyor; tek işe odaklı modellerden çıkıp ‘genel amaçlı’ sistemlere doğru evriliyor. Miotti, bu gelişim eğrisinde yavaşlama görülmediğini ve mevcut trend devam ederse, insan bilişsel emeğinin büyük kısmını aşan bir süper zekâya ulaşmanın an meselesi olabileceğini savunuyor. Bu nedenle “süper zekâ geliştirme faaliyetinin bizzat kendisi ‘yasaklanması gereken’ bir hedef” olduğunu net biçimde dile getiriyor.

Ekonomide de Miotti, parlak büyüme senaryolarından çok ‘geri dönüşü olmayan eşikler’ üzerinde duruyor. YZ, şirket karar süreçleri, finansal altyapı, tedarik zincirleri ve kamusal altyapı yönetimine derinlemesine yerleştikçe, belli bir noktadan sonra insanların rekabet gücünü yitirip sistem dışına itilmesi ve YZ merkezli bir ekonomik düzenin kalıcı hale gelmesi ihtimalini dile getiriyor. Günümüzde doktor, avukat, kamu görevlisi gibi meslekler kısmen regülasyonlarla YZ tarafından tam ikameye karşı korunuyor. Ancak bu düzenlemelerin gevşetilmesi ya da farklı dolaylı yollar bulunması halinde tablo hızla değişebilir. Miotti’ye göre YZ kaynaklı kapsamlı iş kayıpları yaşanırsa, toplum genelinde YZ’ye yönelik sert bir tepki dalgası oluşması muhtemel; fakat o ana gelindiğinde “ekonomik sistem çoktan YZ merkezinde yeniden yapılanmış” olabilir. YZ odaklı bir ekonomi teoride yüksek büyüme ve verimlilik getirebilir; fakat ‘insan ihtiyaçları ve refahı’ sıralamanın gerisine itilirse, ortaya çıkacak düzenin ‘distopik’ bir topluma dönüşmesi olası.

Sıkça dile getirilen ‘kill switch(öldürme anahtarı)’ fikriyle ilgili olarak Miotti, bunun “büyük ölçüde bir mit” olduğunu öne sürüyor. Tasarım aşamasında güç kesme mekanizması düşünülse dahi, yeterince gelişmiş bir YZ, test ve kısıt koşullarını algılayıp bunları aşmanın yollarını kendi kendine bulabilir. Nitekim bazı modellerin kendilerinin test ortamında olduklarını sezdiğine ve davranışını buna göre değiştirdiğine dair bulgular şimdiden rapor ediliyor. Miotti, bu nedenle süper zekâyı yalnızca teknik bir başlık değil, doğrudan ‘ulusal ve küresel güvenlik’ sorunu olarak tanımlıyor. Silah sistemleri, siber savaş, bilgi operasyonları ve finansal altyapıyla bütünleşmiş bir süper zekâ YZ, mevcut nükleer silahlarla karşılaştırılabilir, hatta daha yüksek risk doğurabilir. Onun ifadesiyle, “süper zekâ, nükleer savaşla aynı kategoride bir yok oluş riski yaratıyor” ve bu seviyedeki bir teknolojinin ‘silahlanma yarışı’ mantığına terk edilmesi kabul edilemez.

Miotti’nin önerdiği düzenleme yaklaşımı, nükleer enerji ve tütün düzenlemelerine benzer bir model. Görece düşük riskli kullanımlara sınırlı izin verilirken, belli eşiği aşan geliştirme ve kullanım biçimleri, devletler arası anlaşmalarla sıkı şekilde yasaklanmalı. Bu çerçevenin merkezinde, süper zekâ YZ geliştirmeye kapsamlı bir yasak getirilmesi bulunuyor. Miotti, bugünün “belki de tek gerçek fırsat” olmasını, ‘büyük ölçekli YZ’ üretebilen tedarik zincirinin son derece dar olmasına bağlıyor. Milyarlarca dolarlık sermaye, en ileri yarı iletkenler, devasa elektrik altyapısı ve nitelikli araştırma ekibi birlikteliği gerektiği için, fiilen yalnızca birkaç büyük teknoloji şirketi ve sınırlı sayıdaki ülke bu tür modelleri inşa edebiliyor. Ona göre ABD, İngiltere gibi başat aktörler “süper zekâ geliştirmeyeceğiz” yönünde net bir mesaj verip, ilgili çip, veri merkezi ve bulut altyapısını düzenlerse, kısa sürede küresel ölçekte bir ‘caydırma rejimi’ kurulabilir. Miotti ayrıca, YZ modellerinin test ortamını fark etme ve kısıtlamaları aşma eğilimlerini şimdiden göstermeye başladığını hatırlatarak, düzenlemenin ertelenmesi halinde ne ‘kill switch’ ne de basit erişim kontrolü mekanizmalarının yeterli olmayacağı uyarısında bulunuyor.

İş gücü piyasası ve siyaset sahnesinde de YZ’nin temel gündem maddesine dönüşmesi bekleniyor. Miotti, geniş ölçekli iş kayıpları ortaya çıktığında YZ’nin göç gibi başat siyasi tartışma konusuna dönüşme ihtimalinin yüksek olduğunu düşünüyor. Eğitim, içerik üretimi, müşteri hizmetleri, yazılım geliştirme ve benzeri birçok alanda YZ’nin insan işini ikame etmeye ya da ağır baskı oluşturmaya başladığına dikkat çekiyor. Bu değişim geniş kitlelerce hissedilir hale geldiğinde, sert bir politik tepki doğması ihtimali öne çıkıyor. Miotti, “Kamuoyunun YZ’nin gerçek kapasitesini ve gelişim hızını doğru algılaması kritik” derken, hâlâ YZ’yi “yalnızca gelişmiş bir ‘papağan’” gibi gören yaklaşımların, son dönemdeki genelleme ve soyut akıl yürütme yeteneklerindeki artışı göz ardı ettiğini savunuyor. YZ’nin insanların çevrimiçi davranışlarından beslenerek giderek daha rafine çıkarımlar yaptığını ve insanla ayırt edilmesi zor etkileşimler kurabildiğini; bunun da gerçek dünyanın gittikçe daha ‘bulanık ve muğlak’ hissedilmesine yol açabileceğini belirtiyor.

Miotti, bazı öncü şirketlerin 2030’dan önce süper zekâya ulaşmayı hedeflediğini aktarıyor. Ona göre, insanlığın fiilen yok olmasından çok daha önce, teknolojik sistemler üzerindeki kontrolü kaybettiği bir ‘dönüşü olmayan nokta(point of no return)’ gündeme gelecek. Bu eşiğin aşıldığı anda, riskler fark edilse bile süper zekâ geliştirme ve konuşlandırma süreçlerini geri çevirmek son derece güç olabilir. YZ kaynaklı yok oluş riski tartışmalarının birkaç yıl içinde belirgin biçimde olgunlaştığını ve pek çok üst düzey uzman ile CEO’nun benzer endişeleri artık açıkça paylaştığını belirten Miotti, buna rağmen sahadaki bazı geliştiricilerin hâlâ riskleri küçümsediğini veya rekabet baskısını gerekçe göstererek yavaşlamanın mümkün olmadığını savunduğunu aktarıyor.

Miotti’ye göre insanlık, nükleer enerji, biyoteknoloji ve internet gibi güçlü teknolojileri, bunları yönetecek kurum ve yönetişim modellerinin evrim hızından daima daha hızlı geliştirdi. Süper zekâ YZ ise bu ‘açığı’ en uç düzeye taşıyabilecek nitelikte ve mevcut ulusal ya da uluslararası kurumsal yapılarla yönetilmesi zor. Bu nedenle “süper zekâ riskini yönetebilecek yeni türde kurumlar ve uluslararası işbirliği formatları tasarlamak” gerektiğini, nükleer silahların yayılmasını frenleyen rejime benzer biçimde süper zekâ geliştirmeyi tamamen yasaklayan veya çok sert biçimde sınırlayan özel bir mekanizmanın kurulmasının zorunlu olduğunu savunuyor. Aynı zamanda, görece güvenli kabul edilen YZ teknolojilerinin, bu tür kurum ve politikaların tasarlanması ile senaryo analizlerinde ‘yardımcı araç’ olarak kullanılabileceğini de ekliyor.

Miotti’nin ana mesajı, süper zekâ yarışını yalnızca bir ‘teknolojik inovasyon’ meselesi olmaktan çıkarıp, insanlığın varoluşuyla doğrudan bağlantılı bir ‘güvenlik ve uygarlık’ sorusu olarak yeniden tanımlama çağrısı. Süper zekânın insanlığın kaçınılmaz kaderi değil, bugün alınabilecek bir ‘tercih’ olduğunu vurgulayan Miotti, hükümetler, şirketler ve sivil toplumun birlikte hareket ederek süper zekâ yasağı ve güçlü YZ düzenlemeleri için vakit kaybetmeden adım atması gerektiğinin altını çiziyor.