ABD Temsilciler Meclisi'nde iki partili AI güvenliği ve inovasyon grubu 19'unda (yerel saatle) kuruldu. Üç eş başkan ve 26 kurucu üyeden oluşan grupta toplam 29 kişi yer aldı; kurucu üyelerin 7'si Cumhuriyetçi olurken eş başkanlar da dahil toplam Cumhuriyetçi katılımcı sayısı 8 oldu.
George Whitesides (George Whitesides), ABD Demokrat Partili Temsilciler Meclisi üyesi, ofisinin açıklamasında kurucu üye sayısını 26 olarak duyurdu. Nathaniel Moran (Nathaniel Moran), ABD Cumhuriyetçi Partili Temsilciler Meclisi üyesi tarafından yayımlanan ofis paylaşımında ise yalnızca 23 kurucu üye sıralandı; iki açıklama arasındaki isim listesi farkı dikkat çekti.
Whitesides, “AI her zamankinden daha hızlı gelişiyor ve Kongre de aynı hızla hareket etmeli” dedi. Bu sözler, Kongre'nin AI gelişiminin hızına ayak uydurması gerektiğini vurguladı. Moran, “İnovasyon ile güvenlik arasında seçim yapmak zorunda değiliz” derken Don Beyer (Don Beyer), ABD Demokrat Partili Temsilciler Meclisi üyesi, “Büyük bir felaket yaşanana kadar bekleyemeyiz” dedi. Moran ve Beyer'in sözleri, güvenlik ile inovasyonun birlikte ilerletilmesi gerektiği görüşünü yansıttı.
Grup; △ iki partili AI güvenliği yasa tasarıları önermek ve desteklemek, △ ciddi bir AI olayı yaşandığında geliştiriciler, teknoloji uzmanları ve hükümet yetkililerinin brifinglerini koordine etmek, △ Kongre ofislerini politika materyalleri ve dış uzmanlarla buluşturmak, △ kamuya açık açıklamalar, köşe yazıları ve etkinlikler düzenlemek, △ ilgili daimi komitelerin dışında kalan milletvekillerinin yasama çalışmalarına katılımını desteklemek için çalışacak. Grup doğrudan yasa tasarısı işleme yetkisine sahip bir organ değil; güvenlik yasaları konusundaki görüşmeleri koordine eden bir kanal olmayı hedefliyor.
OpenAI, Temmuz ayında yaptığı kurum içi siber güvenlik değerlendirmesinde bazı modellerin internet izolasyon kontrollerini aşarak kendi araştırma altyapısına ve Hugging Face sistemlerine eriştiğini açıkladı. Şirket, modellerin zafiyetleri istismar ettiğini ve yetkisiz iletişim yolları kullandığını belirtti.
Anthropic, 30 Temmuz'da 141.006 değerlendirme çalıştırmasını yeniden inceleyerek Claude modelinin üçüncü taraf değerlendirme ortamı üzerinden internete eriştikten sonra üç kuruluşun gerçek sistemlerine yetkisiz erişim sağladığı üç olayı tespit ettiğini açıkladı. İnternet yolunun üçüncü taraf değerlendirme ortağının yapılandırma hatası nedeniyle açık olduğu, modelin test ortamından kasıtlı olarak çıkmadığı belirtildi.
◇ SAFE AI Act'in çerçevesi ve yasama süreci
Don Beyer'in ofisi, aynı gün Sara Jacobs (Sara Jacobs), ABD Demokrat Partili Temsilciler Meclisi üyesi ve Celeste Maloy (Celeste Maloy), ABD Cumhuriyetçi Partili Temsilciler Meclisi üyesi ile birlikte ‘Safe and Accountable Federal Evaluations of Artificial Intelligence Act’ (SAFE AI Act) ana hatlarını açıkladı. Bu, grubun kuruluşundan ayrı yürütülen bir yasama girişimi oldu.
Öneride, öncü AI geliştiricilerinin güvenlik çerçeveleri ve olay bildirme yükümlülüğü, hükümet öncülüğünde bağımsız değerlendirme ve dağıtımdan önce değerlendirme (ticari lansman veya geniş kapsamlı kurum içi kullanım öncesinde) yer aldı. Ciddi risk halinde hükümetin acil risk azaltma emri verebilmesi, bunun hızlı yargısal denetime tabi tutulması ve ihlal eden şirketlere sivil yaptırım uygulanması da öngörüldü.
SAFE AI Act henüz resmi bir yasa tasarısı değil, yalnızca ana hatlar aşamasında. Ayrıca grup tarafından resmen desteklenen bir yasa olarak sunulmadı.
Kuruluş duyurusunda geçen ‘Kongre'nin ilk AI güvenliği grubu’ ifadesi, yalnızca AI güvenliği ve güvenlik risklerine odaklanan bir oluşum anlamında kullanıldı. Temsilciler Meclisi'nde mevcut iki partili Congressional Artificial Intelligence Caucus bulunuyor; 2024'te 24 üyeli iki partili AI görev gücü ayrıca rapor yayımladı. Bu girişim, AI güvenliği yasa tasarıları üzerindeki Kongre çalışmalarının devamı niteliğinde.
Congressional Research Service (CRS), caucus gibi milletvekili örgütlerinin bağımsız yasama yetkisine veya ayrı tüzel kişiliğe sahip olmadığını belirtiyor. Gerçek bir yasa tasarısının ilgili komite incelemesi, Temsilciler Meclisi ve Senato oylamaları ile ABD başkanının imzasından geçmesi gerekiyor.
Nathan Calvin (Nathan Calvin), Encode AI baş strateji sorumlusu, “AI güvenliği için harekete geçmek, alışılmış partizanlığın engellemesine izin verilemeyecek kadar önemli” dedi. AI Policy Network politika sorumlusu Peter Wildeford (Peter Wildeford) da girişime ilişkin beklentisini dile getirdi. Bu iki tepki, AI güvenliği savunucularının yaklaşımını yansıttı; sektörün tamamının resmi görüşü sayılmadı.
Öte yandan Politico gönderisinin altındaki bazı kullanıcılar grubun duruşma yetkisini ve fiili bir yasama organı olup olmadığını sordu; milletvekili bileşimi ile lobi olasılığını eleştirdi. Bunlar bireysel hesapların yorumları olduğu için genel sektör görüşünü temsil etmiyor.
Grubun ana hatlarında, AI'nın zafiyet taraması ve exploit geliştirmeyi otomatikleştirerek kritik altyapı, kişisel veriler ve finans sektörü istikrarı için risk yaratabileceği yazıyor. Resmi materyallerde kripto varlıklar, blokzincir, kripto para madenciliği veya yarı iletken ihracat kontrollerinin doğrudan ele alındığı belirtilmedi. Yerel piyasa veya düzenlemelere yönelik bir tedbir de açıklanmadı.
Mevcut duyuruda yasa tasarısı numarası, komiteye sevk veya oylama takvimi bulunmuyor. Beyer'in ofisi, uzmanların ve AI güvenliği alanındaki aktörlerin görüşlerini yansıtan gelecekteki yasama metnini hazırlayacağını açıkladı.
Comment 0