OpenAI’nin AGI kullanım haklarını ABD, Çin ve Rusya’ya sunma planı tartışıldı; Amodei karşı çıktı

OpenAI’nin geliştirme finansmanı sağlamak için gelecekteki genel yapay zekâ (AGI) teknolojisini kullanma haklarını ABD, Çin ve Rusya hükümetlerine sunmayı görüştüğü öne sürüldü. O dönemde araştırma ekibinin başındaki Dario Amodei, planın silahlanma yarışını körükleyebileceği ve insan hakları ihlallerinde kullanılabileceği gerekçesiyle buna karşı çıktı.

ABD merkezli aylık haber dergisi The Atlantic, Kevin Roose’un “The AGI Chronicles” adlı kitabından bir bölümü yayımladı. Roose, OpenAI, Anthropic ve Google DeepMind’dan 150’den fazla kişiyle görüştü ve iç belgeleri inceledi. Kitap, Amodei ile OpenAI yönetimi arasındaki kopuş sürecini ele alıyor.

The Atlantic’in haberine göre ilk fikir, AGI risklerini yönetmek ve faydalarını paylaşmak üzere ülkelerin uluslararası bir kuruluş oluşturmasıydı. Ancak 2017’deki bir iç sunumda, gelecekteki AGI teknolojisini kullanma haklarının ABD, Çin ve Rusya hükümetlerine sunulacağı ve karşılığında finansman alınacağı bir açık artırma modeli gündeme geldi. The Atlantic, öneriyi OpenAI kurucu ortağı Greg Brockman ile baş bilim insanı Ilya Sutskever’in ortaya attığını yazdı.

Elon Musk’ın finansman desteği kesilince OpenAI, yapay zekâ geliştirme maliyetlerini karşılamak için yeni kaynak arıyordu. AGI gerçeğe dönüşürse hükümetlerin teknolojiyi geliştiren şirketlerden alabileceği düşüncesiyle, önceden hükümetlerden finansman sağlanması fikri savunuldu. OpenAI CEO’su Sam Altman’ın bu öneriyi bizzat sunup sunmadığı ise doğrulanmadı.

Amodei, Aralık 2017’de yönetime gönderdiği e-postada planın silahlanma yarışını azaltmak yerine artırabileceğini savundu. Otoriter hükümetlerin kendi değerlerini yansıtan bir AGI’ye sahip olmasının ciddi insan hakları ihlallerine yol açabileceği endişesini de dile getirdi. Güvenli AGI geliştirmeyi amaçlayan bir kuruluşun finansman için güçlü bir teknolojiyi hükümetlere sunmasının ahlaki meşruiyetini zedeleyebileceğini belirtti.

OpenAI, o dönemde şirketi uluslararası bir iş birliği projesine dönüştürme olasılığını kısa süreliğine değerlendirdiğini, ancak AGI’yi Çin’e veya Rusya’ya satmayı düşünmediğini The Atlantic’e söyledi. Plan uygulanmadı ve Microsoft’un büyük ölçekli yatırımı sonrasında görüşmeler sona erdi.

Ulusal hükümetlere yönelik plan, Amodei’nin OpenAI’den ayrılmasına yol açan anlaşmazlıklardan yalnızca biriydi. The Atlantic, GPT-3’ün yayımlanmamış bir sürümünün müşteri listesi ve Microsoft’la yatırım görüşmeleri gibi konularda da güvensizliğin arttığını aktardı. Amodei, 2020’de çalışma arkadaşlarıyla OpenAI’den ayrıldı ve 2021’de Anthropic’i kurdu.