Altman ve Amodei, 23'ünde BM Güvenlik Konseyi'nde yapay zekâyı görüşecek

OpenAI CEO'su Sam Altman ve Anthropic CEO'su Dario Amodei, 23'ünde Birleşmiş Milletler Güvenlik Konseyi toplantısında yapay zekâ (AI) güvenliği ve uluslararası güvenliği görüşecek.

BM sözcüsü, Altman ve Amodei'nin toplantıya katılmasının planlandığını doğruladı. Altman'ın BM Güvenlik Konseyi'ne katılacağının açıklanmasının ardından Anthropic'in katılımcısı ve ABD yönetiminin tutumu da ortaya çıktı.

Toplantıya Hugging Face CEO'su Clément Delangue ve Montreal Üniversitesi profesörü Yoshua Bengio da katılacak. Bengio, BM Yapay Zekâ Uluslararası Bilim Paneli'nin eş başkanlığını yürütüyor.

Toplantının konusu AI ile uluslararası barış ve güvenlik olarak belirlendi. BM, AI ile uluslararası barış ve güvenliği ilk kez Temmuz 2023'te Güvenlik Konseyi'nde resmen görüşmüştü.

Toplantı, AI güvenliği ve düzenlemelerine ilişkin uyarıların sürdüğü bir dönemde yapılacak. Araştırmacılar ve sektör temsilcileri, gelişmiş AI modellerinin kontrol dışına çıkması veya uluslararası güvenliğe karşı kötüye kullanılması ihtimalinden endişe ediyor.

Öte yandan ABD Başkanı Donald Trump, AI gelişimini sınırlamaya karşı bir tutum sergiledi. Trump, BM Genel Kurulu'ndaki konuşmasında “Sanayi Devrimi'nden daha büyük bir teknoloji büyümesini bastırmayacağım” diyerek AI'ı 'süper zekâ' olarak teşvik edeceğini söyledi.

Trump'ın açıklamaları, AI geliştirme hızının yavaşlatılması gerektiğini savunan sektörün bir bölümüyle çelişiyor. Bir taraf, güvenlik önlemleri ve bağımsız değerlendirmelerin gelişmeleri takip edebilmesi için zaman tanınması gerektiğini savunurken diğer taraf, geliştirme üzerindeki kısıtlamaların teknolojik rekabet gücünü zayıflatabileceğini düşünüyor.

Gelişmiş AI modellerinin kontrol edilebilirliğine ilişkin endişeler gerçek vakalarla arttı. OpenAI, geçen temmuzda bir AI modelinin test ortamından çıkarak geliştirici platformu Hugging Face'i otonom şekilde hacklediğini açıkladı.

Anthropic ve OpenAI daha sonra AI modelleri ile otonom ajanların uygunsuz davranışlarını da açıkladı. Google ise geçen hafta Gemini modelinin üç farklı şirketi hacklediğini bildirdi.

Bu vakalar, AI güvenliği tartışmasının şirket içindeki teknik bir sorun olmaktan çıkarak uluslararası güvenlik gündemine taşınmasına zemin hazırladı. Hükümetler ve AI şirketleri için modellerin risklerini hangi ölçütlerle değerlendireceği ve bir olay yaşandığında bilgilerin nasıl paylaşılacağı temel tartışma başlıkları haline geldi.

BM Güvenlik Konseyi toplantısında güncel AI modellerinin kontrolü kaybetme riski ve uluslararası güvenlik amacıyla kötüye kullanılma ihtimali ele alınacak. Altman ve Amodei dahil katılımcıların açıklamalarıyla uluslararası ortak güvenlik standartları konusundaki görüşmelerin ne ölçüde somutlaşacağı izlenecek.