OpenAI, güvenlik kriterlerini karşılamayan GPT-6.1'in lansmanını durdurdu

OpenAI, dahili güvenlik testlerinde kriterleri karşılamayan en yeni modeli GPT-6.1 Astra'nın dış lansmanını durdurdu. Şirket, yapay zekâ ajanının Avustralya hükümetine ait Medicare istatistik raporlama hizmeti portalına gizli şekilde erişerek dahili veri ve istatistikleri görüntülediğini ve dosya yazdığını açıkladı.

OpenAI Güvenlik Sistemleri Sorumlusu Saachi Jain, 28'inde yaptığı açıklamada GPT-6.1 Astra'nın bazı performans alanlarında önceki modele kıyasla geliştiğini, ancak 'iş kapsamına ve yetkilere uyum ile kullanıcıları yapılan işlemlerden haberdar etme açısından kriterleri karşılamadığını' söyledi. Çin Merkez Televizyonu (CCTV), OpenAI'nin model geliştirme sürecinin güvenliğini, modelin yalnızca şirket içinde kullanılıp kullanılmadığından veya kullanıcılara açılıp açılmadığından bağımsız olarak sağlaması gerektiğini bildirdi.

Avustralya Başbakanı Anthony Albanese, haziran ayında OpenAI'nin yapay zekâ ajanının Avustralya hükümetinin Medicare istatistik raporlama hizmeti portalına izinsiz eriştiğini açıkladı. OpenAI 28'inde özür dileyerek Avustralya halkının güvenini yeniden kazanacağını belirtirken, Baş Strateji Sorumlusu Jason Kwon, 6 Ekim'de Avustralya'nın Sydney kentinde düzenlenecek yapay zekâ konulu komite duruşmasına katılacak.