AI'nın insanlığı yok etme olasılığı yüzde 10'u aşıyor iddiası: David Sacks'tan 'korku pazarlaması' yanıtı

Yapay zekanın (AI) önümüzdeki 10 yıl içinde insanlığı yok etme olasılığının yüzde 10'u aştığı iddiası tartışma yarattı. David Sacks(David Sacks) ve All-In Podcast panelistleri, bu rakamın nesnel verilere değil korku pazarlamasına dayandığını savundu.

All-In Podcast, 12'sinde yayınladığı YouTube videosunda AI güvenliği tartışmalarını ve düzenleme sorunlarını ele aldı. Craft Ventures ortağı David Sacks(David Sacks), "AI'nın insanlığı yok etme olasılığı yüzde 10 mu? Bu rakam nereden çıktı?" dedi.

Tartışma, eski Anthropic(Anthropic) araştırmacısı Jacob Coxin(Jacob Coxin)'in, AI geliştirme şirketlerinin insanlığın yok olma olasılığının farkında olmalarına rağmen kontrolden çıkabilecek bir AI yarışını sürdürdüğünü iddia etmesiyle başladı. Anthropic'in hizalama bilimi (alignment science) lideri Evan Hubinger(Evan Hubinger), Coxin'in iddiasına katılarak önümüzdeki 10 yıl içinde AI'nın insanlığı yok etme olasılığının yüzde 10'u aştığını belirtti.

ABD Senatörü Bernie Sanders(Bernie Sanders) gibi politikacılar bu paylaşımı referans göstererek süper zekalı AI geliştirmeyi durdurmaya yönelik bir yasa girişimini destekleyeceklerini açıkladı. Ancak söz konusu yüzde 10'luk rakam resmi bir istatistik değil, araştırmacının kişisel değerlendirmesi olarak ortaya konuldu.

Sacks, yüzde 10 rakamının nesnel araştırma verilerine veya iç belgelere değil, sadece bir 'his'e dayandığını öne sürdü. İlgili paylaşımın yayınlanmasının hemen ardından Wall Street Journal(WSJ)'da ön bilgilendirme şeklinde haberleştirilmesini ve ardından bazı grupların paylaşımı kısa sürede yaygınlaştırmasını göstererek bunun organize bir çalışmaya benzediğini söyledi.

Sacks, paylaşımın yayılmasında rol oynadığı görülen grupların, Anthropic'in önemli yatırımcılarından Jaan Tallinn(Jaan Tallinn) tarafından desteklenen, etkin özgecilik (effective altruism) eğilimli bir ağla bağlantılı olduğunu iddia etti. Ancak bu, podcast panelistlerinin öne sürdüğü bir yorumdan ibaret.

All-In Podcast sunucusu Jason Calacanis(Jason Calacanis), mevcut AI'ların Python kod tamamlama, otel rezervasyonu ya da yemek siparişi gibi işleri bile eksiksiz şekilde yerine getiremediğini söyledi. Mevcut teknoloji seviyesi ile insanlığın yok olma senaryosu arasında büyük bir uçurum olduğunu savundu.

Calacanis, AI görevleri yerine getirirken insan onayından geçmesini sağlayan kontrol mekanizmalarının yazılıma eklenebileceğini açıkladı. Örnek olarak, geliştirme sürecinde kullanıcının bir sonraki adıma geçmek için boşluk tuşuna basması gereken yöntemleri gösterdi.

Production Board CEO'su David Friedberg(David Friedberg), kritik sistemlerde internetten fiziksel olarak ayrılmış 'hava boşluğu' (air gap) ile insan müdahalesi prosedürlerinin kullanıldığını söyledi. Hava boşluğu sistemi dış ağlardan izole eden bir güvenlik yöntemini, insan müdahalesi ise AI'nın çalışma sürecine insanın onay adımıyla dahil olduğu yapıyı ifade ediyor.

Panelistler, AI güvenliği düzenlemelerinin açık kaynaklı modellerin paylaşımını ve kullanımını kısıtlayabileceği endişesini de dile getirdi. Sacks, kapalı kaynaklı AI şirketlerinin, düzenlemelere uyum kapasitesi sınırlı olan açık kaynaklı AI'ların paylaşılmasını ve barındırılmasını engellemek amacıyla federal bir AI düzenleyici kurum kurulmasını talep edebileceğini savundu.

Friedberg, açık kaynaklı AI'nın geliştirme maliyetlerini düşüren ve teknolojiye erişimi genişleten bir araç olduğunu söyledi. Açık kaynaklı AI kısıtlanırsa hükümet ve büyük şirketler merkezli bir kontrol yapısının güçlenebileceğini savundu.

Social Capital CEO'su Chamath Palihapitiya(Chamath Palihapitiya), Anthropic'in AI'nın ölümcül risklerini kabul ederken halka arz (IPO) sürecini sürdürmesini geçmişteki tütün şirketlerinin tutumuna benzetti. Anthropic'in ABD Menkul Kıymetler ve Borsa Komisyonu'na (SEC) sunacağı halka arz belgesinde riskleri açıkça beyan etmemesi halinde ürün sorumluluğuyla ilgili hukuki risklerle karşılaşabileceği uyarısında bulundu.

Sacks de bir şirket yöneticisinin, kendi ürününün medeniyeti sona erdirebileceğini iddia ederken aynı zamanda halka arzdan sermaye toplamaya çalışmasının çelişkili olduğunu söyledi. Palihapitiya ise bazı araştırmacıların toplu bir sanrı haline girdiğini ya da açık kaynaklı AI'yı engellemeyi hedefleyen organize bir çalışmanın parçası olduğunu değerlendirdi.

Yayınımız daha önce, AI'nın insanlığı yok edeceği iddialarının yayılma sürecinde yapay bir müdahale olasılığının gündeme geldiğini bildirmişti. O dönemde de Sacks ve Cathie Wood(Cathie Wood), ilgili uyarıların hangi yollarla yayıldığına dair soru işaretleri ortaya atmış, ancak bu iddianın kesinleşmiş bir gerçek olmadığını belirtmişti.

Bu tartışma, AI'nın yol açabileceği risklerin olasılığının nasıl hesaplanacağı ve açık kaynaklı modellerin ne ölçüde paylaşılmasına izin verileceği sorularını da beraberinde getiriyor. Yüzde 10'luk rakamın resmi bir istatistik değil, bir araştırmacının kişisel değerlendirmesi olarak ortaya konduğu belirtilirken, panelistler teknik kontrol mekanizmalarının ve düzenlemelerin olası yan etkilerinin birlikte değerlendirilmesi gerektiğini savundu.