Sam Altman: 'OpenAI'yi yönetişimle idare ediyoruz', yapay zeka güvenliği öncelik dedi

OpenAI(OpenAI) CEO'su Sam Altman(Sam Altman), Y Combinator'daki yöneticilik deneyiminden yola çıkarak bir şirketi doğrudan 'yönetmek' yerine farklı paydaşlar arasında denge kurarak 'yönetişim' ilkesiyle idare etmek gerektiğini söyledi.

Altman, Fortune dergisine verdiği röportajda "Her kararı doğru veremeyeceğim" diyerek hükümetlerin, yatırımcıların, rakip şirketlerin ve yapay zeka ekosisteminin baskısıyla aynı anda başa çıkmak zorunda olduğunu belirtti. Röportaj, Kore saatiyle 15'inde saat 01.51'de yayımlandı.

Altman, Y Combinator'ın yatırım yaptığı girişimleri doğrudan yönetemediğini anlattı. Kendisinin her şirketin yöneticisi değil yatırımcısı olduğunu belirterek, bu deneyimin kendisine 'rule' etmek değil 'govern' etmeyi öğrettiğini söyledi.

Y Combinator'ın resmi kayıtlarına göre Altman, 2014-2019 yılları arasında kurumun başkanlığını yürüttü. O dönemde yatırım yapılan şirketlerin günlük kararları kurucular ve yönetim ekipleri tarafından alınıyordu.

Altman, OpenAI'nin hükümetlerden, yatırımcılardan, rakiplerden ve yapay zeka ekosisteminden çeşitli baskılar aldığını, hükümetler ile ekosistem arasındaki gergin konuları dengelemesi gerektiğini söyledi. Bu açıklama, OpenAI'nin kararlarının yalnızca ürün geliştirmeden değil düzenleme ve güvenlik standartlarından da etkilendiğini gösteriyor.

Altman'a göre OpenAI, doğrudan ticari çıkarları ya da yatırımcı çıkarlarıyla çelişse bile yapay zeka güvenliğini önceliklendiren kararlar alabilmeli. Yapay zeka geliştirmeyi yavaşlatmak ya da durdurmak gerekirse, bunun finansal çıkarlara aykırı bir karar olduğunu yatırımcılara açıklayabilmesi gerektiğini vurguladı.

Bu açıklamalar, Altman'ın yapay zekanın insan kontrolünden çıkma riskine ve güvenlik standartlarındaki yetersizliğe değindiği önceki röportajıyla da örtüşüyor. Altman, mevcut güvenlik standartlarının daha güçlü yapay zeka yeteneklerinin geliştirilmesini durduracak düzeye ulaşmadığını söylemiş, yapay zekanın insan kontrolünden çıkma ihtimalinin "kesinlikle" var olduğunu belirtmişti.

OpenAI, 9'unda yayımladığı politika belgesinde diğer öncü yapay zeka şirketleriyle birlikte gönüllü güvenlik standartları oluşturmayı, yapay zeka yeteneklerinin ölçülmesi, risk yönetimi, insan kontrolü ve geliştirme hızının ayarlanmasına yönelik uluslararası bir yaklaşım geliştirmeyi hedeflediğini açıkladı. Gerekirse model geliştirmenin yavaşlatılabileceği ya da durdurulabileceği kriterler de tartışma gündeminde yer aldı.

OpenAI, 18 Ağustos'ta yeni nesil modeli Astra'nın siber yeteneklerinin 'kritik' seviyeye ulaşma ihtimalini değerlendirdikten sonra bazı eğitim ve test çalışmalarını durdurduğunu duyurmuştu. İlgili çalışmalar, yeni güvenlik standartlarına geçiş sürecinde askıya alınmıştı.

Altman'ın sözünü ettiği 'yönetişim', şirketin tüm kararlarını doğrudan dikte etmek yerine kurucular, yatırımcılar, hükümetler ve rakipler gibi çok sayıda tarafın çıkarlarını dengeleyen bir karar alma yapısını ifade ediyor. Y Combinator'da yatırım yapılan şirketlerin günlük yönetimini üstlenmemiş olması, bu açıklamanın arka planını oluşturuyor.

Altman, Başkan Trump ile Çin Devlet Başkanı Şi Cinping(Xi Jinping) ileri düzey yapay zeka konusunda ortak standartlarda anlaşırsa Nobel Barış Ödülü alabileceklerini de söyledi. Ancak bu açıklama, ortak standart mutabakatı ya da ödül sürecinin başladığı anlamına gelmiyor.

Anthropic(Anthropic) CEO'su Dario Amodei(Dario Amodei) ve Elon Musk da yapay zeka geliştirme hızı ve güvenlik konularını kamuoyu önünde dile getirmişti. Ancak ikisinin Altman'ın 'yönetişim' açıklamasına doğrudan yanıt verdiğine dair bir bilgi bulunmuyor.

OpenAI'nin güvenlik standardı tartışmaları, daha önce ulusal düzeyde yapay zeka güvenlik standartları oluşturulmasını talep eden OpenAI'nin tutumuyla da bağlantılı. Şirket, bağımsız denetim ve ciddi güvenlik olaylarının raporlanması gibi güvenlik önlemlerinin hayata geçirilmesini talep etmişti.

Ancak OpenAI'nin politika belgesi şirketin kendi ortaya koyduğu yön ve tutumu yansıtıyor. Yapay zeka şirketleri arasında ortak güvenlik standardı ya da ABD-Çin işbirliğinin somut bir anlaşmaya ya da yasal bağlayıcılığı olan bir sözleşmeye dönüştüğüne dair bir bilgi doğrulanmadı.

Altman'ın bu açıklamaları, OpenAI'nin yalnızca yatırımcı çıkarlarını değil yapay zeka güvenliğini ve uluslararası koordinasyonu da gözetmesi gerektiği yönündeki işletme ilkesini ortaya koyduğu şeklinde değerlendiriliyor. Somut bir ortak güvenlik standardı ya da anlaşma takvimi paylaşılmadı.