OpenAI Baş Bilim İnsanı Pachocki'den Yapay Zekanın 'Kendini Geliştirme' Uyarısı

OpenAI'nin baş bilim insanı, yapay zeka gelişiminin mevcut hızıyla devam etmesi halinde kendi kendini yinelemeli biçimde geliştirebileceği konusunda uyardı. Hizalama ve izleme tekniklerinin güçlendirilmesi, savunma sistemlerinin kurulması gerektiğini belirten bilim insanı, gerekirse ek ölçek büyütmenin tek taraflı olarak durdurulabileceğini de söyledi.

OpenAI Baş Bilim İnsanı Jakub Pachocki(Jakub Pachocki), 6'sında (yerel saatle) yayımladığı 'Yabancı Bir Zihin' (An Alien Mind) başlıklı yazısında, 2023'ün ortasında yürütülen RLSlow araştırma projesinin akıl yürütme modeli eğitiminin ölçeklenebilirliğini ilk kez gösterdiğini belirtti. Pachocki, sonraki üç yıl içinde akıl yürütme dil modellerinin ekonomik büyümenin bir parçası haline geldiğini; bilgisayar ve grafik arayüzlerini kullanabilir, insanlarla ve diğer yapay zekalarla iş birliği yapabilir, hatta araştırma projelerini yürütebilir hale geldiğini açıkladı.

Pachocki, iç sonuçlara dayanarak mevcut gelişim hızının kendi kendini yinelemeli geliştirmeye kadar sürebileceğine dair güçlü bir beklenti taşıdığını söyledi. Bilim insanı, 'makine zekâsının sürekli ve hızlı yükselişinin getireceği sonuçlara kimsenin hazır olmadığından endişe ediyorum' dedi. Bu sözler, gelişim hızının mevcut denetim kapasitesini aşabileceği yönündeki kaygıyı yansıtıyor.

Pachocki, yapay zeka hizalama sorununu hedef hizalaması ve değer hizalaması olarak ikiye ayırdığını, asıl zorluğun ise genelleme olduğunu belirtti. Düşünce sürecinin izlenmesini başlıca denetim aracı olarak gördüğünü ancak bu yönteme duyulan güvenin giderek zayıfladığını söyleyen bilim insanı, şu anda elde bulunan en iyi modellerle kritik sistem güvenliğinin güçlendirilmesi gereken dar bir zaman diliminden geçildiğini kaydetti.