Yapay zekâ geliştirme hızına dış denetim çağrısı

Avrupa yapay zekâ (AI) sektöründen yöneticiler, en gelişmiş AI sistemlerinin geliştirilme hızının koordine edilmesi ve ülkeler arasında düzenleme ile denetim mekanizmaları kurulması çağrısında bulundu. Tartışmanın odağında geliştirmeyi durdurmak yerine güvenlik doğrulaması ve denetimin teknolojik ilerlemeyi takip edebilmesi için hızın yönetilmesi yer alıyor.

Anthropic’in Birleşik Krallık, İrlanda, Kuzey Avrupa ve İsrail sorumlusu Pip White, 25'inde Londra’da düzenlenen Fortune CEO Forum’da sektörün büyük bölümünün risklerin farkında olduğunu ve endişe taşıdığını belirterek küresel iş birliğiyle ülkelerin düzenleme ve yaptırım uygulamalarının birlikte yürütülmesi gerektiğini söyledi. Bu açıklama, Anthropic’in güvenlik ve koruma çalışmalarının yanı sıra önde gelen AI şirketlerinde güvenlik standartlarına ilişkin tartışmaların sürdüğünü gösterdi.

Fortune’a göre OpenAI’dan Sam Altman, SpaceX AI’dan Elon Musk ve Google DeepMind’dan Demis Hassabis de geliştirme hızının koordine edilmesi çağrısını destekledi. Ancak sektör genelinde ortak bir yavaşlama veya bağlayıcı bir anlaşma konusunda uzlaşma sağlanmış değil.

Anthropic CEO’su Dario Amodei, 12'sinde yayımladığı yazıda model eğitimini ya da teknolojik ilerlemeyi durdurmayı değil, güvenlik doğrulamasının gelişmeleri takip edebilmesi için zaman kazanılmasını savundu. Amodei, dış değerlendirme kuruluşlarının modelleri, eğitim süreçlerini ve güvenlik prosedürlerini sürekli olarak denetlemesini önerdi.

Anthropic, eylülde yayımladığı ölçüm verilerinde, Ağustos 2026 itibarıyla AI araştırma ve geliştirme çalışmalarının yüzde 26’sında Claude’un 'öncü' rol üstlendiğini açıkladı. Şirket, bu alanda Claude’un tamamen otonom çalıştığı bir örnek bulunmadığını da belirtti.

Şirket, dış değerlendirme kuruluşlarını bünyesine yerleştirerek güvenlik uygulamalarını denetlemeyi, olayları raporlamayı ve AI geliştirme hızıyla ilgili temel göstergeleri izlemeyi planladığını açıkladı. Dış değerlendirme, şirketlerin kendi belirlediği güvenlik standartlarının bağımsız kuruluşlar tarafından incelenmesine dayanıyor. Bu yöntemde denetimin sürekliliği ve bağımsızlığı öne çıkıyor.

Microsoft AI da 14'ünde 'Hümanist AI Davranış Kuralları' taslağını yayımladı. Taslakta AI sistemlerinin insanlara tabi olması, insanlarla uyumlu çalışması ve kontrol edilebilir durumda bulunması gerektiği yönündeki ilkeler yer aldı.

Ancak belge, kamuoyunun görüşünü almak üzere hazırlanmış bir taslak niteliğinde. Nihai düzenlemenin ne zaman yayımlanacağı, gerçek model eğitimlerinde ne zaman uygulanacağı ve ihlaller karşısında hangi yaptırımların uygulanacağı henüz belirlenmedi.

Microsoft Avrupa, Orta Doğu ve Afrika Başkanı Samer Abu-Ltaif, düzenlemenin sorumlu inovasyonun ön koşulu olduğunu söyledi. Ülkelerin farklı düzenlemeler uygulamasının mevzuat parçalanmasına yol açabileceğini belirten Abu-Ltaif, uluslararası iş birliğinin gerekliliğini vurguladı.

Geliştirme hızının yavaşlatılması çağrılarına karşı çıkanlar da oldu. Fransa Maliye Bakanı Roland Lescure, 16'sında yaptığı açıklamada ABD’nin önde gelen şirketlerinin geliştirme hızını azaltma çağrısının rekabet üstünlüklerini korumaya yönelik kendi çıkarlarıyla örtüşebileceğini savundu.

Lescure, Fransa ve Avrupa’nın AI kullanımını artırarak riskleri doğrudan yönetmesi gerektiğini söyledi. Geliştirme hızını yavaşlatmaya yönelik ortak standartların gerçekte öncü şirketlerle geriden gelenler arasındaki farkı büyütebileceği endişesi dile getirildi.

AI ajanlarının yetkisiz erişim olayları da güvenlik önlemleri tartışmasını büyüttü. Avustralya hükümeti 24'ünde, OpenAI tarafından eğitilen bir AI modelinin haziran ayında Medicare istatistik portalına yetkisiz eriştiğini açıkladı.

Portal, kişisel sağlık bilgileri yerine toplu istatistikler sunan ayrı bir sistem olarak tanımlandı. Avustralya hükümeti, kişisel verilere erişilmediğini ve sistemin tamamının ihlal edilmediğini belirtti.

Avustralya hükümetinin açıklamasına göre OpenAI olaydan ağustosta haberdar oldu ve 10 Eylül’de Avustralya hizmet makamlarına bildirim yaptı. Hükümet, olayın hukuka aykırı olup olmadığını ve mevcut yasa ile düzenleme çerçevesinin yeterliliğini incelemek üzere bir görev gücü kurdu. Portal verilerinin güvenli bir platforma taşınması veya portalın kapatılması planlanıyor.

Tartışmanın odağında AI araştırmalarını tamamen durdurmak değil, geliştirme hızının güvenlik doğrulaması ve denetim mekanizmalarının önüne geçmesini engellemenin mümkün olup olmadığı bulunuyor. Dış değerlendirmelerin ne ölçüde zorunlu tutulacağı ve ülkeler arasındaki düzenleme standartlarının nasıl koordine edileceği ise belirsizliğini koruyor.