Sam Altman: Yapay zekada gelişim hızı güvenliği geçmemeli

OpenAI CEO'su Sam Altman, yapay zeka (AI) geliştirme hızının kontrol altına alınmasının teknolojik ilerlemenin durdurulması anlamına gelmediğini, ancak AI yeteneklerindeki gelişim hızının güvenlik, hizalama (alignment) ve izleme seviyesini geçmemesi gerektiğini açıkladı.

OpenAI CEO'su Sam Altman(Sam Altman), yapay zekanın gelişim hızının kontrol edilmesi gerektiği yönündeki görüşünü paylaşarak "güvenlik ve hizalama seviyesi, yapay zekadaki gelişimin hızını belirlemelidir" dedi. Altman, yapay zeka güvenlik standartlarını karşılamak amacıyla bazı en gelişmiş pekiştirmeli öğrenme (reinforcement learning) süreçlerinin geçici olarak durdurulduğunu açıkladı.

OpenAI ise resmi açıklamasında, yakında kullanıma sunulacak en yeni modelin bazı pekiştirmeli öğrenme eğitim süreçlerini, yeni seviyedeki yapay zeka yeteneklerine uygun hizalama, güvenlik ve izleme standartlarını karşılamak amacıyla geçici olarak durdurduğunu bildirdi. Şirket ayrıca güvenlik ve hizalama araştırmalarını, model davranışlarının izlenmesini güçlendirmeye devam ettiğini belirtti.