OpenAI'dan kurumsal veriye özel güvenlik testi: Sohbet verisi saklanmıyor

OpenAI(OpenAI), kurumsal müşteri verilerini hiç saklamadan birden fazla konuşma boyunca kötüye kullanım sinyallerini tarayan yeni bir güvenlik sistemini bazı müşterileriyle test etmeye başladı. Yüksek performanslı yapay zeka modelleri arasındaki rekabet artık yalnızca performansla değil, kurumsal verinin nasıl korunduğuyla da şekilleniyor.

TechCrunch'ın aktardığına göre OpenAI, 'Private Safety Processing' adını verdiği sistemi bazı kurumsal ve API müşterilerine önceden tanıttı. Sistem, birden fazla konuşmadaki girdi ve çıktıyı otomatik olarak inceliyor ama müşteri verisini hiçbir şekilde depolamıyor.

Buradaki kritik nokta 'sıfır veri saklama' (zero data retention, ZDR) kapsamının genişlemesi. OpenAI şimdiye kadar API üzerinde kötüye kullanımı tek oturum bazında kontrol ediyordu. Yeni sistem ise tek bir sohbetle sınırlı kalmadan, birden çok oturuma yayılan davranış kalıplarını analiz ediyor.

OpenAI, kötü niyetli bir kullanıcının siber saldırı amaçlı zararlı yazılım talebini tespitten kaçmak için birden fazla sohbete böldüğü durumu örnek gösterdi. Private Safety Processing, böyle bir talep farklı oturumlara dağılmış olsa bile kötüye kullanım sinyallerini otomatik olarak yakalayacak şekilde tasarlandı.

Şirket, sistemin belirli bir risk sinyali tespit etmesi durumunda yalnızca dar kapsamlı ve önceden tanımlanmış bilgilerin şirkete iletildiğini açıkladı. Gerekirse müşteriden ek bağlam istenebiliyor, ancak müşteri sohbetlerinin bir insan tarafından doğrudan okunması söz konusu değil.

Sıfır veri saklama, müşterinin girdi ve çıktı verilerinin hizmet sunulduktan sonra şirket tarafından tutulmaması anlamına geliyor. Kurumsal yapay zeka alanında artık model performansı kadar verinin nerede kaldığı, insan incelemesine açık olup olmadığı ve denetim kayıtlarının nasıl yönetildiği de sözleşme şartı haline geliyor.

Bu test, Anthropic(Anthropic)'in yüksek performanslı modellerine yönelik veri saklama politikasıyla da paralel okunuyor. Anthropic, gizlilik açıklamasında Mitos serisi modelleri ve benzer performanstaki gelecekteki modelleri 'kapsanan model' olarak sınıflandırdığını, bu modellere ait istem ve çıktıları 30 gün boyunca saklayabileceğini belirtti.

Anthropic bu politikayı Temmuz'da duyurmuştu ve bazı kötüye kullanım biçimlerinin ancak birden fazla istek birlikte incelendiğinde ortaya çıkabildiğini vurguladı.

Şirket, otomatik güvenlik sisteminin zararlı olma ihtimali işaretlediği durumlarda, sınırlı sayıda yetkili incelemecinin kontrollü bir yöntemle içeriğe erişebildiğini açıkladı. Tüm erişimlerin değiştirilemez kayıtlara işlendiği de belirtildi.

İki şirket arasındaki bu fark; finans, sağlık, hukuk ve güvenlik alanında çalışan kurumlar için hassas bir konu. Bu tür şirketler, yapay zeka modeline girdikleri verinin şirket dışında ne kadar kaldığını ve güvenlik incelemesi sırasında kimin erişebildiğini yakından takip ediyor.

OpenAI da kurumsal veri koruma açıklamalarında, kuruluş verilerinin varsayılan olarak model eğitiminde kullanılmadığını belirtiyor. Uygun kuruluşların API üzerinden sıfır veri saklama politikasını seçebildiği de ayrıca ifade ediliyor.

Bu gelişmenin arka planında yapay zeka güvenliği rekabeti de var. Yüksek performanslı modellerin kod yazma, siber analiz ve uzun süreli görev yürütme becerisi arttıkça, kötüye kullanımı yalnızca tek bir sohbete bakarak fark etmek zorlaşıyor. TokenPost daha önce OpenAI ve Anthropic'in yüksek performanslı yapay zekaya erişimi sınırlı tuttuğu gelişmeleri aktarmıştı.

Bu haber, erişim kısıtlamalarının ardından müşteri verisinin nasıl saklandığının da kurumsal yapay zeka rekabetinde karşılaştırma kriteri haline geldiğini gösteriyor. Kurumlar genelde yapay zeka seçerken performans, maliyet, güvenlik kontrolleri ve veri saklama koşullarını birlikte değerlendiriyor.

OpenAI'ın yeni sistemi, bireysel ChatGPT kullanıcılarına değil, yalnızca bazı kurumsal ve API müşterilerine önceden tanıtıldı. Genel kullanıma açılma tarihi ve hangi modelleri kapsayacağı henüz açıklanmadı.