Yapay zekada yavaşlama yasal mı? OpenAI Kongre'ye sordu

OpenAI, rakip yapay zeka (AI) şirketleriyle geliştirme hızını yavaşlatma yönünde yapılacak anlaşmaların ABD rekabet hukukuna aykırı olup olmadığını Kongre'ye sordu. Yapay zeka güvenliği için işbirliği ile rekabeti kısıtlayan davranış arasındaki sınırın nerede çizileceği tartışma konusu haline geldi.

OpenAI, son birkaç hafta içinde ABD Kongresi yetkililerinden, 'sınır AI' (frontier AI) geliştirmesini sektör genelinde yavaşlatmaya yönelik bir mutabakatın yasal olup olmadığı konusunda net bir kılavuz talep etti. OpenAI, konuyla ilgili haberler yayınlanmadan önce yorum talebine yanıt vermedi. Bu bilgi Wired'ın haberiyle ortaya çıktı.

Tartışmanın arka planında, OpenAI Baş Bilim İnsanı Jakub Pachocki'nin 6'sında yayımladığı bir yazı bulunuyor. Pachocki, OpenAI'nin resmi yazısında, hiçbir laboratuvarın şu an itibarıyla yapay zeka sistemlerini en yüksek hızda genişletebilecek kadar hizalama (alignment) ve izleme sorunlarını çözmediğini belirtti.

Pachocki, yapay zekanın kendi geliştirme sürecini destekleyebileceği 'özyinelemeli kendini geliştirme' olasılığına değinerek, “gerekirse gelecekteki geliştirme hızını yavaşlatmak için koordinasyon” gerekeceğini söyledi. Ortak güvenlik standartları oluşturulana kadar gönüllü hız ayarlamasının yaygınlaşmasını umduğunu da belirtti.

Bu, OpenAI'nin yapay zeka geliştirmeyi durdurmaya karar verdiği anlamına gelmiyor. Pachocki'nin argümanı, güvenlik standartları ve uluslararası koordinasyon sağlanana kadar şirketlerin geliştirme hızını ayarlayabilmesi gerektiği noktasına odaklanıyor.

Hukuki tartışmanın özü, şirketler arası mutabakatların rekabeti kısıtlayıcı olarak yorumlanabilmesi. Rakip şirketlerin ürün lansmanını veya model geliştirmeyi birlikte yavaşlatması, üretim kısıtlaması veya piyasa rekabetini baskılama olarak değerlendirilebilir.

Buna karşılık, siber güvenlik açıklarına, model hırsızlığına ve yüksek riskli yapay zekanın kötüye kullanımına karşı yapılan bilgi paylaşımı, ulusal güvenlik amaçlı işbirliği olarak değerlendirilebilir. Sorun, güvenlik amaçlı ortak yanıt ile rakipler arasındaki geliştirme takvimi koordinasyonunun aynı davranış olarak görülüp görülemeyeceği.

ABD Kongresi'ne bu tür işbirliğine sınırlı ölçüde izin veren bir yasa tasarısı da sunuldu. Cumhuriyetçi Senatör Jim Banks ile Demokrat Senatör Adam Schiff, 23 Temmuz'da 'Düşmanca Tehditler ve Güvenlik Riskleri İşbirliği Yasası'nı sundu. Schiff ve Banks'in ofisleri, tasarı açıklamasında, yabancı aktörlerce model hırsızlığı, siber saldırılar, biyokimyasal-nükleer-saldırgan siber tehditler ve kontrol kaybı riskine karşı bilgi paylaşımı ve savunma koordinasyonuna izin verildiğini belirtti.

Tasarı, fiyat sabitleme, piyasa bölüşümü, tekelleşme ve boykot gibi rekabeti zedeleyen davranışlara izin vermiyor. Yüksek riskli yapay zeka modellerinin dağıtımını yavaşlatan veya kısıtlayan koordinasyon için de önceden yazılı bildirim şartı getiriyor.

Söz konusu tasarı şu an Senato ve Temsilciler Meclisi Yargı Komiteleri'ne havale edilmiş durumda ve henüz yasalaşmadı. Dolayısıyla tasarının kendisi, şirketler arası geliştirme hızı koordinasyonuna kapsamlı bir izin vermiyor.

OpenAI, 9'unda ayrı bir politika yazısında Kongre ile birlikte 'yetkinlik temelli ulusal yapay zeka güvenlik düzenlemesi' oluşturmak istediğini açıkladı. Diğer sınır araştırma laboratuvarlarıyla gönüllü güvenlik standartları geliştirmeyi ve geliştirmenin ne zaman yavaşlatılması veya durdurulması gerektiğine dair uluslararası standartlar oluşturmayı hedeflediklerini belirtti. OpenAI'nin politika yazısında somut bir hukuki mutabakat önerisi sunulmadı.

Sektördeki tepkiler karışık. Eski OpenAI kurucu ortağı ve şu an Thinking Machines Baş Bilim İnsanı olan John Schulman, bunun “sahte bir gerekçe” olduğunu ve rekabet hukukunun güvenlik işbirliğinden kaçınmak için bahane olarak kullanılmaması gerektiğini savundu. Rekabet hukukunun yalnızca belirli mutabakatları yasakladığını, ortak öneri sunmayı engellemediğini açıkladı.

Öte yandan çevrimiçi yapay zeka topluluklarında, Çin ile rekabet göz önüne alındığında yalnızca ABD şirketlerinin geliştirmeyi yavaşlatmasının zor olacağı yönünde tepkiler ile bir güvenlik kazası yaşanması halinde bunun daha sert düzenlemeleri beraberinde getirebileceği yönünde görüşler bir arada dile getirildi. Bu tepkiler hukuki bir yorum ya da OpenAI'nin resmi tutumu olarak değerlendirilemez.

Bu tartışmanın özü, yapay zeka geliştirmenin yavaşlatılıp yavaşlatılmayacağından çok, güvenlik işbirliğinin rekabeti kısıtlama olarak görülmemesi için izin verilen alanın hukuken nereye kadar çizileceğinde yatıyor. OpenAI ile rakiplerinin fiilen ortak bir yavaşlatma mutabakatına girip girmediği ve ABD Kongresi'nin OpenAI'ye resmi bir hukuki yorum sunup sunmadığı henüz doğrulanmadı.