FTX’in Avukatı Sullivan & Cromwell’den ‘AI Halüsinasyonu’ Skandalı: Mahkemeye Hatalı Dilekçe İçin Özür Mektubu

ABD’li dev hukuk bürosu Sullivan & Cromwell(Sullivan & Cromwell), yapay zekâ ‘halüsinasyonu’ nedeniyle hatalı alıntılar ve yanlış bilgiler içeren bir dilekçeyi mahkemeye sunduktan sonra federal yargıca resmî olarak özür mektubu gönderdi. Olay, özellikle ‘hukuk’ gibi hata toleransının çok düşük olduğu alanlarda ‘yapay zekâ ile metin hazırlarken denetim ve doğrulama süreçlerinin’ ne kadar kritik olduğunu yeniden gündeme taşıdı.

13’ünde (yerel saatle), Cointelegraph’e göre, Sullivan & Cromwell küresel yeniden yapılandırma ekibi eş başkanı Andrew Dietderich, New York Güney Bölgesi İflas Mahkemesi baş yargıcı Martin Glenn’e yazdığı mektupta hatanın sorumluluğunu üstlenerek “derin üzüntü duyduğunu” belirtti. Sorunlu belge, yaklaşık 9 gün önce sunulan bir acil başvuru dilekçesiydi ve içinde yapay zekâ tarafından üretilmiş yaklaşık ‘40 civarında hatalı alıntı’ yer aldığı ortaya çıktı.

Dietderich, büro içinde ‘AI kullanımına ilişkin alıntı ve kaynak kontrol prosedürleri’ bulunduğunu, ancak bu olayda söz konusu mekanizmanın gerektiği gibi işlemediğini aktardı. Yargıca gönderilen açıklamada, “AI’nın ürettiği hatalı alıntıları ve insan eliyle yapılan yazım–atfı hatalarının tamamını tespit edip ayıklayamadık” ifadesi kullanıldı. Büro içinde şu anda ‘iç soruşturma’ başlatılmış durumda; ayrıca eğitim politikalarının ve belge inceleme süreçlerinin nasıl sıkılaştırılacağı da değerlendiriliyor.

Bu olay, ‘yüksek doğruluk gerektiren uzmanlık alanlarında yapay zekâ kullanımının hâlâ önemli riskler barındırdığını’ gösteren son örnek olarak öne çıkıyor. Hukuk teknolojisi uzmanı Damien Charlotin’in yönettiği veri tabanında, dünya genelinde mahkemelere sunulan belgelerde tespit edilmiş ‘AI halüsinasyonu’ vakası sayısı 1.334’e ulaşmış durumda. Bu vakaların 900’den fazlasının ABD’de görülmesi, özellikle Amerikan hukuk piyasasında yapay zekâ araçlarına hızlı geçişin yarattığı denge sorununa işaret ediyor.

Charlotin, kayıtlı vakaların çoğunun ‘uydurulmuş içtihatlar’ ve ‘uydurma alıntılar’dan oluştuğunu vurguluyor. Sullivan & Cromwell ise gelir bazında ABD’nin en büyük hukuk bürolarından biri ve daha önce kripto para borsası FTX’in iflas sürecini yönetmesiyle gündeme gelmişti. ‘yorum: Kurumun büyüklüğü ve FTX dosyası gibi kritik bir davada üstlendiği rol, bu hatanın piyasada daha çok yankı bulmasına neden oluyor.’

Piyasa yorumcuları, yaşananları basit bir “AI kazası” olarak görmüyor. Aksine, ‘finans ve hukuk sektörlerinde yapay zekâ entegrasyonu hızlanırken, aynı hızda gelişmeyen denetim ve doğrulama çerçevelerinin ciddi itibar ve hukuk riskleri doğurabileceği’ yönünde güçlü bir uyarı olarak değerlendiriliyor. Bu nedenle birçok kurumun, benzer AI araçlarını kullanırken insan denetimini ve kaynak doğrulama süreçlerini yeniden tasarlaması bekleniyor.