2 milyon dolarlık taahhüt: OpenAI çocuklara yönelik yapay zekâ araştırmasını destekleyecek

OpenAI, çocuklara yönelik yapay zekânın risklerini ve fırsatlarını ölçmek için ortak araçlar geliştirecek araştırma ağına 2 milyon dolar (yaklaşık 2,67 milyar won) taahhüt etti. Destek, ‘Yapay Zekâ Çağında Çocuk Hakları ve Korunması İttifakı’ bünyesindeki bilimsel araştırma ağına verilecek.

OpenAI, 12 Kasım’da yayımladığı açıklamada Paris Barış Forumu’nda ‘Çocuklar İçin Daha Güvenli Yapay Zekâ Katılım Şartı’nı imzaladığını ve araştırma ağını destekleyeceğini bildirdi. Açıklamada taahhüt duyuruldu, ancak ödemenin yapılıp yapılmadığı belirtilmedi.

Paris Barış Forumu, 10 Kasım’da yapay zekâ geliştiricileri ile güvenlik kuruluşlarının araştırma ve araç geliştirme taahhütlerinin toplam 8 milyon euro olduğunu açıkladı. Bu tutar, farklı katılımcıların toplam taahhüdünü kapsıyor; dolayısıyla OpenAI’nin 2 milyon dolarlık taahhüdüyle aynı kapsamda değil.

Fransa Cumhurbaşkanlığı tarafından yayımlanan şartta OpenAI, Anthropic, Black Forest Labs ve Microsoft (MSFT) destekçi şirketler olarak sıralandı. Araştırma için taahhütte bulunanlar ile şartı destekleyen şirketlerin listeleri birbirinden ayrı.

Şartta çocukların güvenliği, mahremiyeti ve üstün yararı; yaşa uygun tasarım ile ailelerin ve çocukların sürece katılımı; etik, eşitlik ve kapsayıcılık; veri minimizasyonu ve yaş doğrulaması; çocukların cinsel istismarına ilişkin materyallerin ve rıza dışı mahrem görüntülerin önlenmesi; yapay zekâ okuryazarlığı ortak ilkeler arasında yer aldı. Amaç, çocukların kullanabileceği yapay zekâ sistemlerinin tasarım ve işletim süreçlerine koruma önlemlerini dahil etmek.

Şartı imzalayan şirketlerden, çocukların kullanabileceği yapay zekâ sistemleri geliştiren veya dağıtanların, gerekli durumlarda dağıtım öncesinde ve sonrasında düzenli olarak risk değerlendirmesi ve test yapması isteniyor. Şirketlerin ayrıca risk azaltma önlemleri alması ve çocuklarla ilgili ciddi olayları tespit edip bunlara müdahale edecek sistemler kurması gerekiyor.

Araştırma ağı bağımsız bir bilim kurulu tarafından yönlendirilecek. Araştırma ekipleri sonuçlar üzerinde kontrol sahibi olacak ve olumsuz, etkisi belirgin olmayan ya da belirsiz sonuçları da yayımlayacak.

Şirketler kendi sistemlerinde kullanılan değerlendirme yöntemlerini denetleyebilecek ve yöntemlerle ilgili kaygılarını dile getirebilecek. Ancak güvenlik standartlarını veya araştırma sonuçlarını kontrol edemeyecek, sonuçların yayımlanmasını geciktiremeyecek.

Şirketlerden gelen fonlar ortak ölçüm araştırmalarına ayrılacak. Gözlemsel araştırmalar, gelişim üzerindeki etki çalışmaları, bilim kurulu üyelerinin ücretleri ile değerlendirme ve standart çalışmaları ise kamu fonları ve bağımsız hayırsever kaynaklarla desteklenecek.

Şart, çocuklar ve ergenlerin üretken yapay zekâyla tekrarlanan etkileşimlerinin uzun vadeli etkilerine ilişkin araştırmaların yetersiz olduğunu belirtiyor. Yaklaşım, mevcut gelişim bilimi ve ilk araştırmalardan hareketle koruma önlemleri oluşturmak ve yeni kanıtlar ortaya çıktıkça bunları güncellemek.

Araştırmalar yalnızca riskleri ele almayacak; öğrenme ve yaratıcılık gibi yapay zekânın çocuklara sunabileceği fırsatları da inceleyecek.

Paris Barış Forumu, 10-11 Kasım’da Çocuklar Zirvesi’ni düzenledi. Fransa Cumhurbaşkanı Emmanuel Macron, «Hiçbir yapay zekâ, test edilip değerlendirilmeden ve buna bağlı onay alınmadan çocuklara sunulmamalı» dedi.

OpenAI, çocukları koruyan güçlü ve uygulanabilir yasaların yanı sıra yapay zekâya öğrenme ve yaratıcılık amacıyla erişimin de güvence altına alınması gerektiğini savundu. Şirket, yaşa uygun varsayılan korumaları, ebeveyn araçlarını, düzenli risk değerlendirmelerini ve hesap verebilirliği başlıca önlemler arasında gösterdi.

Şart, katılımcıların destek amaçlarını, kaynaklarını ve uygulama takvimlerini açıklamasını öngörüyor. OpenAI’nin duyurusunda araştırma ağının ayrıntılı yapısı ve katkıların hangi takvimde yapılacağı yer almadı.