Naval Ravikant, AI riskini 'ateş' ve 'nükleer silah' benzetmesiyle anlattı

Yatırımcı Naval Ravikant, yapay zekâ riskini 'ateş' ve 'nükleer silah' ile karşılaştırarak teknolojiye erişim ve kontrol ilkelerinin risk seviyesine göre değişebileceğini söyledi.

Ravikant, AI güvenliği tartışmasını ele alan Yishan'ın uzun paylaşımına yanıt verirken, “AI riski ateşe benziyorsa herkesin kullanımına açık olmalı; nükleer silaha benziyorsa hiç kimse ona sahip olmamalı” dedi. PANews bu açıklamayı 16'sında aktardı.

Bu benzetme, yapay zekânın hangi düzeyde riskli kabul edildiğine göre yönetim biçiminin de değişebileceği tartışmasını ortaya koyuyor. Ateş, yaygın biçimde kullanılan ancak güvenlik kuralları ve denetim gerektiren bir araç olarak; nükleer silah ise erişimi ve sahipliği sıkı biçimde sınırlandırılması gereken bir unsur olarak ele alındı.

Paylaşım ve yanıtlarında AI riskinin seviyesi, kontrolün kime ait olacağı ve teknoloji ya da tedarik zincirinde 'uranyum zenginleştirme' gibi darboğazların bulunup bulunmadığı temel tartışma başlıkları olarak öne çıktı. Belirli bir darboğaz varsa o aşamaya erişimi sınırlandırmak mümkün olabilir. Böyle bir darboğaz yoksa kontrolün kapsamı ve yöntemi de farklılaşabilir.

AI güvenliği tartışması, yalnızca model performansını değil, risk kontrol sistemlerini ve sorumluluğun sınırlarını da kapsaması bakımından daha önce gündeme gelen AI güvenliği tartışmasıyla kesişiyor.

Ravikant'ın açıklaması, yapay zekânın yönetilebilir bir araç mı yoksa geniş çaplı zararlara yol açabilecek bir risk mi olarak görüleceğine bağlı olarak açık erişim ve paylaşım ile sıkı kısıtlama şeklinde iki farklı yönetim yaklaşımının ortaya çıkabileceğini gösterdi.