Back to top
  • 공유 Share
  • 인쇄 Print
  • 글자크기 Font size
URL copied.

75/180: Claude Code deneyinde Haiku 4.5 delegasyonuyla yanıtlar yanlışlaştı

Dosya arşivindeki kayıtları karşılaştıran bir el, yapay zekâ tarafından oluşturulan görsel / TokenPost.ai (mono)

Claude Code kontrol deneyinde Haiku 4.5’e sahte kayıtları okuma görevi verilen “stacked” koşulunda 180 denemenin 75’inde doğru yanıt yanlış yanıtla değişti. Araştırmacılar, sonucun birden fazla sahtecilik türünün bir arada kullanıldığı belirli bir deney koşuluna ait olduğunu belirtti.

Araştırmacılar, Claude Code ve Codex’i inceledikleri makaleyi 13’ünde saat 06.14’te (Kore saatiyle) arXiv’e sundu. Deneyde dosya deposuna sahte kayıtlar eklendi ve modellerden iki seçenek arasından doğru olanı seçmeleri istendi.

Deneyde uydurma bilgiler içeren kayıtlar ve iki seçenekli sorular kullanıldı. Doğru yanıtı içeren ilk kayıt ise olduğu gibi bırakıldı.

Makalede “yanıtın yanlışla değişmesi”, modelin önce doğru yanıt verdikten sonra sahte kayıtla karşılaşıp saldırganın yönlendirdiği yanlış seçeneği seçmesi olarak tanımlandı. Araştırmacılar her model kombinasyonunun sonuçlarını bu ölçüte göre hesapladı.

Claude Code’un Opus 5 modeli, sahte kayıtları doğrudan okuduğu 180 denemenin birinde yanıtı yanlışla değiştirdi. Yardımcı modele okuma görevi verilen “stacked” koşulunda ise bu sayı 75 oldu.

Codex tarafında GPT-5.6-sol, materyali doğrudan okuduğunda 180 denemenin hiçbirinde yanıtı yanlışla değiştirmedi. Okuma görevinin GPT-5.6-terra’ya verildiği “gloss” koşulunda ise 44 denemede yanlış yanıt seçildi.

İki üründe delegasyonun teşvik edilme biçimi de farklıydı. Araştırmacılar Claude Code’da üst modelin yalnızca Task aracıyla yardımcı modeli çağırmasına izin verdi. Codex’te ise talimatlarla delegasyon teşvik edildi ve her denemede gerçekten delegasyon yapılıp yapılmadığı kontrol edildi.

Sonuçlar saldırı türüne göre de değişti. Codex, “gloss” koşulunda kayıtları doğrudan okuduğunda yanlış yanıt seçmedi. Ancak ayrı bir “correction” koşulunda doğrudan okuma yapmasına rağmen 180 denemenin 172’sinde yanıtı yanlışla değiştirdi.

Sahte kayıtlarda ayırt edici ipuçları bulunuyordu. Sahte metnin, düzeltmeye çalıştığını öne sürdüğü kayıttan daha eski bir tarih taşıdığı ve asıl kayıtta bulunan kayıt ibaresini içermediği belirtildi.

Otomasyon aracına yanıtı doğrudan değiştirmesini söyleyen prompt injection, test edilen koşullarda işe yaramadı. Araştırmacılar, yanlış bilgilerin kayıt gibi sunulduğu saldırı ile doğrudan talimat içeren saldırının farklı sonuçlar verdiğini açıkladı.

Claude Code’un “stacked” koşulunda yardımcı modelin üst modele ilettiği 180 raporun yalnızca 96’sında kaynak ipucu kaldı. Kaynak ipucu içeren raporlarda bile 96 denemenin 21’inde yanlış yanıt verildi. Bu nedenle sonuçların tamamı, kaynak ipuçlarının kaybolmasıyla açıklanamadı.

Araştırmacılar, delegasyon sürecinde doğrulama fırsatlarının azalmış olabileceğini öne sürdü ancak bunu kanıtlanmış bir neden olarak sunmadı. Kaynak ipucunun raporda kaldığı hâlde üst modelin yanlış yanıt verdiği örnekler de vardı; analiz gözlemlenen ilişkilere dayanıyordu.

Kontrol koşullarında aynı sınıftan yardımcı model kullanıldığında Claude Code’da yanlış yanıtla değişme 180 denemenin hiçbirinde, Codex’te ise bir denemede görüldü. Sahte kayıt içermeyen bir depoya delegasyon yapıldığında iki araçta da yanlış yanıtla değişme olmadı.

Ayrı bir 40 denemelik testte, 15 yanlış yanıtın çıktığı koşulda yardımcı modelden kaynak kaydı aynen alıntılaması istendiğinde yanlış yanıt sayısı üçe düştü. Depodan şüphelenmesi istenen koşulda ise bu sayı birdi. Ancak iki savunma yönteminin sonuçları arasındaki fark istatistiksel olarak ayırt edilemedi (p=0,63).

3.652 çift tekrarlı denemede, aynı olguya ilişkin kararlar %13,0 oranında farklılaştı. Araştırma, kurgusal kayıtlar kullanılan kontrollü bir deneyden oluşuyor; kripto varlık hizmetlerini veya blokzincir verilerini incelemedi. Bu nedenle deney sonuçları gerçek kullanıcıların hata oranı ya da güvenlik olayı sıklığı olarak yorumlanamaz.

<Copyright ⓒ TokenPost, unauthorized reproduction and redistribution prohibited>

Most Popular

Other related articles

Comment 0

Comment tips

Great article. Requesting a follow-up. Excellent analysis.

0/1000

Comment tips

Great article. Requesting a follow-up. Excellent analysis.
1