Microsoft(MSFT), yapay zekada insan kontrolünü 2027'de zorunlu kılacak

Microsoft(MSFT), insan kontrolünü ve güvenliği önceliklendiren geçici bir yapay zeka davranış kuralları seti hazırladı. Şirket, dış görüşleri topladıktan sonra bu kuralları 2027'den itibaren kendi geliştirdiği modellere uygulamayı planlıyor. Yeni kurallar, yapay zekanın insan yargısının ve hedeflerinin yerini almamasını sağlamaya odaklanıyor.

Microsoft'un yapay zeka biriminin başındaki isim Mustafa Suleyman(Mustafa Suleyman), şirketin bu kuralları yaklaşık beş aydır hazırladığını açıkladı. Amaç, insanların sistemi anlayıp kontrol edebilmesini yapay zekanın yeteneklerinden önde tutmak.

Kurallara göre Microsoft'un yapay zeka modelleri kullanıcı hedeflerini takip etmek zorunda; kendi başına hedef belirleyemeyecek. Modellerin kullanıcı bağımlılığını artıracak ya da insanların özerkliğini ve karar verme yetisini zayıflatacak şekilde çalışması da yasak.

Modelin uygunsuz davranışlarını gizlemesi ya da kendi akıl yürütme sürecini, kodunu veya eylem kayıtlarını keyfi şekilde değiştirmesi de sınırlandırılıyor. Buradaki temel kaygı, yapay zekanın 'yeteneği' değil, insanların sistemi anlayıp denetleyebilmesi.

Silah üretimine ya da tehlikeli madde teminine yardım etmek de yasaklananlar arasında. Sağlıksız beslenme alışkanlıklarını teşvik etmek veya şiddet içerikli ya da açık cinsel içerik üretmek de kısıtlamalara dahil.

Microsoft, gerekirse yapay zekanın genel kullanım kapasitesinden, özerkliğinden ve performansından bir miktar ödün verebileceğini de belirtti. Şirket, modelin performansını hızla artırmak yerine güvenliği ve insan kontrolünü öne çıkarmayı tercih ediyor.

Microsoft'un mevcut yapay zeka hizmetleri davranış kuralları da, kendi başına karar alıp hareket eden sistemler için insan gözetimi ve müdahale mekanizmaları öngörüyor. Mevcut kurallar Microsoft Yapay Zeka Hizmetleri Davranış Kuralları'nda yer alıyor.

Bu adım, en gelişmiş yapay zeka modellerinin geliştirme hızının yavaşlatılması gerektiği tartışmalarının sürdüğü bir dönemde geldi. Anthropic CEO'su Dario Amodei(Dario Amodei), yapay zeka yeteneklerindeki gelişim hızının yavaşlatılması gerektiğini savunmuştu.

OpenAI CEO'su Sam Altman(Sam Altman), Amodei'nin görüşüne katıldığını açıkladı; Elon Musk(Elon Musk) da "Dario haklı" yorumunu yaptı. Vurgulanan nokta, hız yarışına girmek yerine güvenlik araştırmalarına ve doğrulamaya daha fazla zaman ayrılması gerektiği.

Microsoft CEO'su Satya Nadella(Satya Nadella), yapay zeka hizalama araştırmalarına daha fazla yatırım yapılmasını ve temkinli bir geliştirme hızının benimsenmesini desteklediğini belirtti. Hizalama, yapay zekanın insanların belirlediği hedeflere ve güvenlik standartlarına uygun davranmasını sağlamaya odaklanan araştırma alanı.

Sam Altman, en gelişmiş yapay zeka araştırmalarının hızını yavaşlatma konusunu diğer yapay zeka laboratuvarlarıyla görüşebileceğini daha önce dile getirmişti. Ancak o dönemde de gerçek araştırma takviminin ya da model çıkış planlarının değişip değişmediği teyit edilmemişti.

Geliştirme hızının ayarlanması, yapay zeka sektöründe genel bir 'dur' anlamına gelmiyor. Şirketler model performansı yarışını sürdürürken, güvenlik değerlendirmelerini, dış denetimi ve insan müdahale mekanizmalarını güçlendirme seçeneklerini de birlikte değerlendiriyor.

Microsoft, hukuk, etik, dilbilim ve felsefe alanlarından uzmanlarla görüşmeyi ve odak grupları aracılığıyla kamuoyu görüşü toplamayı planlıyor. Dış görüşlerin geçici kurallara yansıtılarak metnin geliştirilmesi hedefleniyor.

Yapay zeka ajanları arasındaki şeffaf olmayan iletişimi sınırlayan ek kurallar da hazırlanacak. Bu, yapay zeka sistemlerinin insanların anlamakta zorlanacağı yöntemlerle bilgi alışverişi yapmasını kontrol altına almayı amaçlıyor.

Yeni ilkelerin model geliştirme sürecinde performans ve hıza ne ölçüde sınırlama getireceği, 2027'deki uygulama sürecinde netleşecek.