Anthropic AI kazalarında 2-4 trilyon dolarlık potansiyel kayıp tahmini

Anthropic’in 2 trilyon dolarlık (yaklaşık 2.686 trilyon won) şirket değeri gündemdeyken, olası yapay zekâ (AI) kazalarının maliyeti ile şirketlerin tazminat sorumluluğunun bu değerlemeye nasıl yansıtılacağı tartışılıyor. 2-4 trilyon dolarlık potansiyel kayıp, gerçekleşmiş bir zarar ya da doğrulanmış bir tahmin değil.

Bloomberg, Anthropic’in halka arzına (IPO) katılacak yatırımcıların yapay zekânın olası risklerini değerlendirmekte zorlandığını bildirdi. Habere göre kayıpların boyutunu ve sorumluluğun kimde olacağını belirlemek güç. Ayrıca kaza maliyetlerini başka tarafların üstleneceği beklentisi, yatırımcıların bu riskleri şirket değerine yansıtıp yansıtmayacağını belirsiz kılıyor.

Slow Ventures ortağı Sam Lessin, “AI şirketlerinin gelecekte yaşanabilecek kazalara karşı büyük miktarda kaynak ayırması gerekiyor” dedi. Lessin, ABD hükümetinin yapay zekâ geliştiren şirketleri ayrı bir hesaba 1 trilyon dolar yatırmaya zorlamasını önerdi. Önerinin amacı, küresel finans krizinin ardından bankalara sermaye bulundurma zorunluluğu getiren düzenlemeleri yapay zekâ sektörüne de uygulamak.

Lessin, Bloomberg’e verdiği röportajda yapay zekâ şirketlerinin topluma yol açabileceği potansiyel kayıpları 2-4 trilyon dolar (yaklaşık 2.686-5.372 trilyon won) olarak tahmin etti. Bu rakam, aşırı riskleri anlatmak için ortaya atıldı; gerçekleşmiş bir zarar veya doğrulanmış bir hasar tahmini değil. İnsanlığın yok olması gibi en kötü senaryolar hesaba katıldığında şirketlerin gerçek değerinin eksiye düşebileceği de öne sürüldü.

Güvenlik önlemlerinin maliyetleri artırabileceği, ancak müşteri güvenini ve rekabet gücünü de destekleyebileceği değerlendiriliyor. PitchBook kıdemli araştırmacısı Harrison Rolphs, bu önlemlerin müşteri güvenini artırabileceğini ve rakiplerin aynı standartları karşılayamaması hâlinde pazara giriş engeli oluşturabileceğini söyledi.

Sigorta kapsamı ve hukuki sorumluluğun nasıl belirleneceği henüz net değil. Sigorta sektörü yapay zekâ şirketlerine yönelik ürünler geliştiriyor, ancak kaza geçmişinin ve tazminat davalarındaki emsal kararların yetersizliği risk hesaplamasını zorlaştırıyor. Realm Insurance CEO’su Joe Ziolkowski, yapay zekâ kendi kararlarını verdikçe ve diğer yapay zekâ sistemleriyle etkileşime girdikçe kazalarda sorumluluk konusunun önem kazanacağını söyledi.

Sektörün değerlendirdiği riskler arasında kazaların ardından doğabilecek toplumsal tepki ve düzenlemeler de bulunuyor. Axios, OpenAI ve Anthropic gibi büyük yapay zekâ şirketlerinden yetkililerin, büyük çaplı bir kazanın ardından izlenecek senaryoları görüştüğünü bildirdi. Ele alınan varsayımsal durumlardan biri, geniş çaplı bir siber saldırının finansal hizmetleri ve internet erişimini kesintiye uğratması, elektrik ve su tedarikini aksatmasıydı.

Axios’un 9’unda yayımladığı habere göre sektör temsilcileri, önümüzdeki 6-12 ay içinde ciddi bir kaza yaşanabileceğini öngördü. Bu, temsilcilerin tahmini; böyle bir kazanın kesin olarak yaşanacağı anlamına gelmiyor. Gündeme gelen düzenleme seçenekleri arasında süper zekâ geliştirilmesinin yasaklanması, gelişmiş yapay zekâ çalışmalarına geçici ara verilmesi ve yüksek kapasiteli sistemlere acil kapatma mekanizması zorunluluğu bulunuyor.