AI biyogüvenliğinde deney engelinin azaldığını gösteren kanıt aranıyor

Tehlikeli biyolojik bilgiler sunması, tek başına yapay zekânın biyogüvenlik krizi yarattığını göstermiyor. Beyaz Saray Ulusal Güvenlik Konseyi’nde küresel sağlık güvenliği ve biyolojik savunmadan sorumlu eski kıdemli direktör Raj Panjabi, risk sinyallerini önceden belirlenmiş müdahale adımlarıyla eşleştirecek ölçütlere ihtiyaç olduğunu savundu.

Raj Panjabi, 9’unda Fortune’da yayımlanan yazısında şirketlerin gönüllü güvenlik önlemlerinin, risk düzeylerine göre kimin hangi adımı atacağını belirlemekte yetersiz kalabileceğini belirtti. Riskin, yapay zekânın gerçek deneylerin önündeki engelleri azaltıp azaltmadığına bakılarak değerlendirilmesi gerektiğini ifade etti.

Panjabi üç gözetim sinyali önerdi: Biyoloji uzmanı olmayan bir kullanıcının yapay zekâyla, daha önce uzman değerlendirmesi gerektiren bir deney sorununu çözdüğünü gösteren kanıt; endişe verici yapay zekâ üretimi DNA dizilerinin bir sentez şirketine sipariş edildiğini veya otomatik laboratuvarda işlendiğini gösteren kayıtlar; tehlikeli biyolojik çalışmalar için gereken uygulamalı deneyimin yapay zekâ sayesinde belirgin biçimde azaldığını gösteren kanıt. Bunlar Panjabi’nin önerdiği izleme başlıkları; yaşanmış olaylara ilişkin iddialar değil.

Panjabi, her sinyale karşılık alınabilecek önlemleri de sıraladı: bağımsız değerlendiricilerce önceden yürütülen kırmızı takım testleri, biyolojik tasarım araçlarında filigran ve izleme özellikleri, DNA sentez şirketleri ile bulut laboratuvarlarında sipariş incelemesi. Kırmızı takım testi, bir sistemin açıklarını saldırgan bakış açısıyla değerlendirme sürecidir.

Bu öneriler, biyolojik tasarımın dijital bilgi düzeyinde kalıp kalmadığını ya da gerçek maddelere ve deneylere dönüşüp dönüşmediğini saptamayı amaçlıyor. Panjabi, yalnızca DNA dizisi tasarlamanın bir patojen üretmeye yetmediğini; sentezlenmiş DNA, ekipman ve laboratuvar gerektiğini açıkladı.

Panjabi, Fortune yazısında 2023’te Kamboçya’daki bir ailenin H5N1 enfeksiyonu sırasında, sürekli insandan insana bulaşmanın olup olmadığını müdahale ölçütü olarak kullandıklarını anlattı. Yakındaki acil servislerin gözetim verilerini geçmiş dönemlerle karşılaştırdıklarında beklenmedik bir hasta artışı görmedikleri için dönemin başkanına hemen rapor vermediğini yazdı. Bu, Panjabi’nin yazısındaki geriye dönük anlatımıdır.

Şirketlerin açıkladığı bilgilerde de olası risklerle kanıtların sınırları birlikte görülüyor. Anthropic, Eylül 2026 tarihli tehdit istihbaratı raporunda modellerinin biyolojik silah geliştirmek için kötüye kullanılabileceği beş senaryoya yer verdiğini ve ilgili hesapları engellediğini açıkladı. Şirket, bu vakaların gerçek bir silah geliştirme veya kullanımını kanıtlamadığını belirtti.

ABD’de gen sentezi siparişleri ve müşterilerin incelenmesini zorunlu kılacak bir yasa tasarısı da sunuldu. Senatör Tom Cotton, Senatör Amy Klobuchar ile birlikte 4 Şubat 2026’da “Biyogüvenliği Modernleştirme ve Yenilik Yasası”nı sundu. Tasarı, gen sentezi şirketlerinin siparişleri ve müşterileri incelemesini öngörüyor.

Yapay zekâ biyogüvenliği tartışmasının odağında, risk sinyallerinin hangi kanıtlarla doğrulanacağı ve doğrulama sonrasında kimin hangi adımı atacağının önceden belirlenmesi bulunuyor. Panjabi’nin önerdiği ölçütlerin politika ya da zorunlu düzenleme olarak kabul edilip edilmediği doğrulanmış değil.