Yapay zekada kendi kendini geliştirme riski: küresel işbirliği çağrısı

Yapay zekanın (AI) kendi kendini geliştirme potansiyeli konusunda teknoloji ve finans dünyasından art arda uyarılar geldi: geliştirme hızının yavaşlatılması ve uluslararası işbirliğinin güçlendirilmesi gerektiği vurgulandı.

OpenAI ve Anthropic'te ön eğitim (pre-training) araştırmalarından sorumlu olan Jacob Coxon(Jacob Coxon), geçtiğimiz günlerde Anthropic'ten ayrılırken büyük yapay zeka laboratuvarlarının güvenlikten çok teknoloji yarışını öne çıkardığını eleştirdi. Coxon sosyal medyada, "Bu şirketler kendi kendini geliştiren süper zekaya doğru koşarken hayatlarımızı riske atıyor" ifadelerini kullandı.

Coxon, kendi kendini geliştirme yeteneğine sahip insanüstü yapay zekanın kısa sürede çeşitli dijital sistemlere saldırabileceğini, endüstriyel yapıları değiştirebileceğini ve gerçek dünyadaki kaynaklara erişebileceğini öne sürdü. Yapay zeka sektöründe önümüzdeki 10 yıl içinde bu teknolojinin insanlığın varlığını tehdit edebileceğini düşünen araştırmacılar bulunduğunu, ancak şirketlerin kamuoyuna yönelik açıklamalarının halkla ilişkiler süreci içinde yumuşatıldığını belirtti.

Coxon, OpenAI bünyesindeki bazı çalışanların süper zekanın yol açabileceği medeniyet düzeyindeki riskleri yeterince kavrayamadığını savundu. Anthropic için ise yapay zeka güvenliği risklerine dair farkındalığın görece yüksek olduğunu, ancak "biz yapmazsak başka biri yapar" şeklindeki rekabet baskısı altında olduklarını aktardı.

Coxon, ABD'deki önde gelen yapay zeka laboratuvarlarının teknolojik gelişim hızını sınırlayan bir anlaşma yapması gerektiğini vurguladı. Maliyeti yüksek olsa da küresel çapta geçici bir yasaklama önleminin değerlendirilmesi gerektiğini, modellerin iç işleyiş prensipleri yeterince anlaşılmadan pekiştirmeli öğrenme (reinforcement learning) yoluyla süper zeka sistemlerinin geliştirilmeye devam edilmemesi gerektiğini söyledi.

Yatırımcı Paul Tudor Jones(Paul Tudor Jones), yapay zekayı mevcut jeopolitik güçleri aşabilecek 'üçüncü süper güç' olarak tanımladı. Jones, yapay zekanın hızlı gelişiminin bilim kurgu değil, hükümetlerin karşı karşıya olduğu gerçek bir risk olduğunu belirtti.

Jones, ABD ve Çin başta olmak üzere büyük ülkelerin yapay zeka geliştirme ve yayılma takvimini koordineli bir şekilde belirlemesi gerektiğini savundu. Teknolojinin güvenli, kontrol edilebilir ve anlaşılır bir yönde ilerlemesi için uluslararası standartlara ihtiyaç olduğunu vurguladı.

Jones, bir yapay zeka modelinin binlerce kez kendi kendini geliştirme sürecinden geçtiği bir senaryoyu örnek gösterdi. Bu süreçte modelin izlediği hedef ile insanların belirlediği hedef bir kez bile birbirinden saparsa insanlığa zarar verme veya felaket sonuçlara yol açma riski bulunduğunu, böyle bir modelin aynı anda on binlerce kişiye dağıtılması durumunda zararın büyüyebileceğini açıkladı.

Jones, yapay zekanın mevcut ülkelerden farklı olarak net bir gelişim sınırına veya öngörülebilir bir ölçeğe sahip olmayabileceğini değerlendirdi. Nihai etkisinin bugünkü herhangi bir ülkeyi aşma ihtimali bulunduğu için, her ülkenin liderinin görev süresi boyunca yapay zeka güvenliğini en öncelikli politika gündemi haline getirmesi gerektiğini vurguladı.

Bu uyarılar, yapay zeka güvenliği meselesinin artık teknoloji şirketlerinin iç araştırma konusu olmaktan çıkıp uluslararası yönetişim, ulusal güvenlik ve uzun vadeli toplumsal risk sorununa dönüştüğünü gösteriyor. Bir araştırmacı ile finans piyasasından bir ismin benzer dönemde geliştirme hızının kontrol altına alınmasını ve ortak müdahale çağrısı yapması da dikkat çekiyor.

Güney Kore'de de yapay zeka veri merkezleri, yarı iletkenler ve fiziksel yapay zekayı bir araya getiren hükümetin yatırım genişletme planı sürdürülüyor. Yapay zeka altyapısını ve kullanımını genişleten politikalar devam ettikçe, geliştirme hızı ile güvenlik doğrulamasını birlikte ele alan tartışmalar da yerel politika ve sanayi çevrelerinin gündemine taşınabilir.

Ancak Coxon ve Jones'un açıklamaları, uluslararası düzeyde geliştirme sınırlaması ve güvenlik işbirliği çağrısında bulunan önerilerdir. Bahsettikleri önlemler henüz uluslararası bir düzenlemeye veya yapay zeka geliştirmesinin durdurulmasına dönüşmüş değildir.