Back to top
  • 공유 Share
  • 인쇄 Print
  • 글자크기 Font size
URL copied.

Haftada binlerce ila on binlerce hesap hakkında işlem: OpenAI izinsiz model damıtımına karşı savunmasını açıkladı

OpenAI, bu yıl izinsiz model damıtımıyla bağlantılı olarak her hafta binlerce ila on binlerce hesap hakkında işlem yaptığını açıkladı. Gizli akıl yürütme verilerini çıkarmaya yönelik girişimlerde tek tek istekleri engellemenin yanı sıra bağlantılı hesap ağlarını da inceledi.

OpenAI, 20'sinde yayımladığı izinsiz damıtma faaliyetlerine karşı önlemler açıklamasında, bu yıl platformunda birden fazla izinsiz damıtma faaliyeti tespit ettiğini bildirdi. Hesaplara yönelik işlemlerin bu yaz belirgin biçimde hızlandığını belirtti.

Model damıtımı, bir yapay zekâ modelinin yanıtlarını veya kararlarını başka bir modeli eğitmek için kullanma yöntemi. OpenAI, kendi modelinin çıktılarını izinsiz kullanarak benzer işlevlere sahip başka bir model eğitilmesini izinsiz damıtma olarak tanımlıyor.

Şirket, özgün modelin güvenlik önlemleri aktarılmadan yalnızca işlevlerinin kopyalanabileceği uyarısında bulundu. Yazılım açıklarını bulma becerisinin koruma düzeyi daha düşük modellere aktarılması hâlinde saldırılarda kullanılabileceğini de belirtti.

OpenAI, akıl yürütme bilgilerinin öğrenmeye etkisini karşılaştırmak için aynı ön eğitim modelini iki gruba ayırdı. Bir gruba kullanıcıların görebildiği nihai yanıtları, akıl yürütme özetlerini ve araç kullanım kayıtlarını; diğer gruba ise akıl yürütme sürecinin tamamını verdi.

Gözetimli ince ayarın ardından, akıl yürütme sürecinin tamamıyla eğitilen model siber güvenlik testlerinde genel olarak daha yüksek performans gösterdi. Takviyeli öğrenme sonrasında da testlerde izin verilen en yüksek hesaplama kapasitesinde bu model öne çıktı. Hesaplama kapasitesi düşük olduğunda ise yalnızca özetlerle eğitilen model daha iyi performans sergiledi.

OpenAI, bu sonuçların gizli akıl yürütme verilerini korumanın siber güvenlik becerilerinin başka modellere aktarılmasını sınırlayabileceğini gösterdiğini bildirdi. Deney, aynı ön eğitim modelini temel alarak farklı akıl yürütme bilgilerini karşılaştıran şirket içi bir çalışmaydı.

Tek tek istekleri engelleyen savunma özellikleri ve akıl yürütme verilerini çıkarma testlerinin sonuçları, TokenPost'un daha önce yayımladığı haberle bağlantılı. Bu açıklamada OpenAI, şirket içi deneyin yanı sıra organize girişimlere karşı hesap düzeyinde uyguladığı işlemlerin ölçeğini de paylaştı.

OpenAI, organize faaliyetler tespit edildiğinde bağlantılı hesap ağlarını inceleyip ilgili hesaplara yönelik işlem yaptığını açıkladı. Şirket ayrıca ihlal göstergelerini diğer model şirketleriyle paylaşıyor.

OpenAI, hükümetlerin yapay zekâ yeteneklerini yasa dışı yollarla elde eden yabancı aktörleri tespit edip yaptırıma tabi tutmasını sağlayacak bir yasa tasarısını desteklediğini bildirdi. Şirket, Kongre'ye Chip Security Act, AI OVERWATCH Act ve MATCH Act'e yönelik desteğini de iletti.

Şirket, geliştirilmiş savunma önlemlerinin bir bölümünü mevcut GPT-6 Astra modeline de uyguladığını açıkladı.

<Copyright ⓒ TokenPost, unauthorized reproduction and redistribution prohibited>

Most Popular

Other related articles

Comment 0

Comment tips

Great article. Requesting a follow-up. Excellent analysis.

0/1000

Comment tips

Great article. Requesting a follow-up. Excellent analysis.
1