Yapay Zeka Yok Oluş Uyarısında Çatışma: Gerstner Abartı İddiasıyla Düzenlemeyi Hedef Aldı

Yapay zekanın (AI) insanlığın yok oluşuna yol açabileceği yönündeki uyarılar, yatırımcılar ile yapay zeka güvenliği araştırmacılarını karşı karşıya getirdi. Bir taraf söz konusu uyarıların düzenleyici müdahaleyi tetiklemek için abartıldığını öne sürerken, diğer taraf yapay zeka geliştirme yarışının insan güvenliğini ikinci plana ittiğini savundu.

Altimeter Capital CEO'su Brad Gerstner, 11'inde (yerel saatle) CNBC'nin 'Halftime Report' programında, yapay zeka yok oluş teorisini savunan araştırmacıların arkasında siyasi motivasyon olabileceğini söyledi. Gerstner daha önce sosyal medyada şu anlama gelen bir paylaşım yapmıştı: “Anthropic'te sadece 6 hafta çalışmış eski bir alt kademe çalışanın abartılı iddiaları, düzenleyici müdahale için gerekçe olabilir mi?”

Gerstner, yapay zeka riskine ilişkin uyarıların yalnızca bilimsel kaygıdan kaynaklanmadığını, aynı zamanda düzenlemenin sıkılaştırılmasını sağlama amacı taşıyabileceğini savundu. Yorum: Ancak bu iddia yalnızca Gerstner'in kişisel değerlendirmesidir; yapay zeka güvenliği araştırmacılarının tamamının motivasyonunu kanıtlayan bir veri değildir.

Tartışmanın doğrudan fitilini, eski Anthropic ve OpenAI ön-eğitim (pretraining) araştırmacısı Jacob Coxon'un istifası ve kamuoyuna yaptığı uyarı ateşledi. Coxon'un istifası ve “kendi kendini geliştiren süper zeka” yarışına yönelik eleştirisi daha önce haberleştirilmişti.

Coxon, 9'unda yayımladığı kamuya açık yazıda, Anthropic ile OpenAI'nin “kendi kendini geliştiren süper zeka”ya doğru yarıştığını ve bu yarışta insan hayatını riske attıklarını öne sürdü. Yapay zeka geliştiricilerinin, önümüzdeki 10 yıl içinde yapay zekanın insanlığı yok edebileceğine ciddi biçimde inandıklarını yazdı.

Anthropic'te Hizalama Bilimi (Alignment Science) Sorumlusu Evan Hubinger de Coxon'un ortaya attığı soruna katıldığını belirtti. Hubinger, “Önümüzdeki 10 yıl içinde yapay zekanın insanlığı yok etme olasılığı yüzde 10'un üzerinde” dedi.

Yorum: Hubinger'in ortaya koyduğu “yüzde 10'un üzerinde” rakamı kendi kişisel değerlendirmesidir. Bu, Anthropic'in resmi öngörüsü ya da bilim dünyasında kesinleşmiş bir olasılık olarak görülemez.

Hizalama (alignment), yapay zeka sistemlerinin hedeflerini ve davranışlarını insan niyeti ve değerleriyle uyumlu hale getirmeyi amaçlayan bir araştırma alanıdır. “Kendi kendini geliştiren süper zeka” kavramı ise yapay zekanın kendi yeteneklerini veya sistemlerini tekrar tekrar geliştirerek insan kontrolünden çıkabileceği varsayımıyla ilişkilidir.

Anthropic, 9'unda yapay zeka sistemlerinin siber güvenlik saldırılarında kötüye kullanılma örneklerini inceleyen bir araştırma yayımladı. Şirket, yaklaşık 481 milyon kaydı incelediğini ve bunlardan dört siber güvenlik değerlendirme vakasını analiz ettiğini açıkladı.

Söz konusu araştırma, yapay zeka sistemlerinin siber saldırılarda kötüye kullanılma potansiyelini ele alan vakalara odaklandı. Araştırma sonuçları yapay zekanın kötüye kullanım riskini ele alsa da, Coxon'un istifa gerekçesine ilişkin iddialarına dair Anthropic'ten resmi bir yanıt içermiyor.

Bu tartışma, yapay zeka riski uyarılarının içeriği ile bu uyarıları yapan kişilerin çıkarlarının birbirinden ayrı değerlendirilmesi gerektiği tartışmasını gündeme getirdi. Yapay zeka şirketlerinin ve yatırımcıların düzenleme tartışmalarına doğrudan taraf olması nedeniyle, uyarıların bilimsel dayanağıyla birlikte konuşmacıların ekonomik motivasyonlarının da birlikte değerlendirilmesi gerektiği savunuluyor.

Buna karşılık, yalnızca çıkar ilişkisi ihtimalinin bulunmasının, uyarının doğrudan yalan olduğu anlamına gelmeyeceği yönünde karşı görüşler de var. Bu görüşe göre bir uyarının güvenilirliği değerlendirilirken, konuşmacının kurumsal bağlantısı ya da yatırım ilişkisinden çok, araştırma yöntemi ve dayanağı esas alınmalı.

Yapay zekanın yol açabileceği yok oluş riskinin uluslararası bir gündem maddesi olarak ele alınması gerektiği yönündeki çağrı ilk kez dile getirilmiyor. AI Güvenlik Merkezi (Center for AI Safety), 2023 yılında OpenAI ve Anthropic'in CEO'ları da dahil olmak üzere birçok araştırmacı ve sektör temsilcisinin, yapay zeka kaynaklı yok oluş riskinin azaltılmasının salgın hastalıklar ve nükleer savaşla eş düzeyde küresel bir öncelik olarak ele alınması gerektiğine dair ortak bir bildiriye imza attığını açıkladı.

Bu ortak bildiri, yapay zekanın uzun vadeli risklerini kamu sağlığı ve güvenlik gündemiyle ilişkilendiren bir örnek olarak öne çıkıyor. Ancak yalnızca bildiriye imza atılması ya da risk uyarısı yapılması, belirli bir olasılığı ya da somut bir düzenleme yolunu kesinleştirmiyor.

Sonuç olarak şu an için kesinleşen tek şey, yatırımcılar ile araştırmacıların yapay zekanın geliştirilme hızı ve düzenlemeye duyulan ihtiyaç konusunda birbirinden farklı değerlendirmeler ortaya koyduğu. Yapay zekanın insanlığı yok etme olasılığının objektif olarak ne olduğu ya da bu uyarıların düzenleme tartışmalarını tetiklemek amacıyla yapılan siyasi bir hamle olup olmadığı ise henüz netlik kazanmış değil.