Yapay zekâ riskinde Palantir CEO’su Karp: Geliştiricilerin hedefleri de incelenmeli

Palantir(PLTR) CEO’su Alex Karp, yapay zekâ riskleri tartışılırken geliştirici şirketlerin hedeflerinin müşterilerin çıkarları ve kamu yararıyla örtüşüp örtüşmediğinin de incelenmesi gerektiğini savundu.

Karp, 2'sinde (yerel saatle) yayımladığı 3. çeyrek hissedar mektubunda “Hizalama sorunu kesinlikle var ve ciddi” dedi. Temel görevin yalnızca teknolojinin hedeflerini insanlığın çıkarlarıyla uyumlu hâle getirmek olmadığını, yapay zekâ geliştiren şirketlerin hedeflerinin müşterilerin çıkarları ve kamu yararıyla da örtüşmesi gerektiğini belirtti.

Hizalama, yapay zekânın izlediği hedefleri insanların istediği yönde ayarlama meselesi. Karp, yapay zekâ geliştiricilerinin hedeflerinin müşterilerin ve toplumun genel çıkarlarıyla örtüşüp örtüşmediğinin de değerlendirilmesi gerektiğini vurguladı.

Karp’ın daha önce gündeme getirdiği konulardan biri müşteri verileri ve ‘alfa’ kavramı. Karp, alfayı müşteri şirketlerin oluşturduğu teknolojik üstünlük anlamında kullanıyor. Yapay zekâ geliştiricilerini, müşterilerin temel verilerini ve bu üstünlüğü kendi yapay zekâ sistemlerine katmaya çalışmakla eleştiriyor.

Karp daha önce, Japonya’daki özel şirketlerin fikrî mülkiyetlerini korumak için yapay zekâ modellerini kendilerinin geliştirip eğitmesi ve denetlemesi gerektiğini söylemişti. Önceki haberde bu açıklamaya yer verilmişti. Bir röportajında da yapay zekâ düzenlemeleri için uygulanabilir kurallara ihtiyaç olduğunu belirtmişti. Bu açıklama da daha önce aktarılmıştı.