Yapay zekâ kıyameti anlatısı, riskleri ve teknolojinin potansiyelini öne çıkarıyor

Yapay zekâ kıyameti anlatısı, tehlikelere dikkat çekerken teknolojinin büyük potansiyelini de vurgulayabiliyor.

Boston College İletişim Bölümü profesörü Michael Serazio, 9’unda Fortune’da yayımlanan yazısında, bu anlatının yatırımcılara ve kullanıcılara teknolojinin gücünü vurgulayan bir satış söylemi olarak işlev görebileceğini savundu. Serazio, uyarıların samimi kaygılardan kaynaklanma ihtimali ile sektörün ticari çıkarlarının iç içe geçebileceğinin birlikte değerlendirilmesi gerektiğini belirtti.

Serazio, Anthropic’in eski araştırmacısı Jacob Coxon’ın geçen ay şirketten ayrılırken yapay zekâ geliştirme yarışını “hayatlarımızı ortaya koyduğumuz bir kumar” olarak nitelendirmesini örnek gösterdi. Coxon, X’te yapay zekâ geliştiricilerinin bu teknolojinin 10 yıl içinde herkesi öldürebileceğine gerçekten inandığını yazdı ve “Bu teknolojinin gücünü küçümsemeyin” dedi. Bu ifadeler Coxon’ın kişisel görüşünü yansıtıyor.

Serazio’ya göre yapay zekânın uygarlığı tehdit edecek kadar güçlü olduğu anlatısı, e-posta yazmaktan günlük yaşama destek olmaya kadar teknolojiden yararlanma beklentisiyle bağlantılı. Yapay zekâ şirketlerinin yüksek maliyetlerini karşılayabilmesi için kullanıcıların teknolojiyi iş ve özel yaşamlarının farklı alanlarında benimsemesi gerekiyor. Kıyamet uyarıları da paradoksal biçimde teknolojinin ezici gücünü öne çıkarabiliyor.

Risk uyarıları ve geliştirme çalışmalarını durdurma çağrıları açık mektuplarda da yer aldı. Future of Life Institute’un Mart 2023’te yayımladığı mektup, yapay zekâ laboratuvarlarına GPT-4’ten daha güçlü sistemlerin eğitimine en az 6 ay ara verme çağrısı yaptı. Mektupta, gelişmiş yapay zekânın toplum ve insanlık için ciddi riskler yaratabileceği savunuldu.

Serazio, kıyamet senaryolarına odaklanmanın elektrik ve su kullanımı gibi kaynak sorunlarını ya da eğitimde düşünme becerisini yapay zekâya devretmenin sonuçlarını gölgede bırakabileceğine dikkat çekti. Yazıda kaynak tüketimi veya eğitim üzerindeki etkilere ilişkin nicel bir araştırma bulgusu sunulmadı.