Anthropic, METR’den 6 araştırmacıya kurum içi erişim verdi

Anthropic, bağımsız yapay zekâ değerlendirme kuruluşu METR’den 6 araştırmacıya çalışan düzeyinde kurum içi erişim sağladı. Araştırmacılar, değerlendirme sonuçlarını önceden onay almadan yayımlayabilecek.

TechCrunch’ın haberine göre Anthropic bu düzenlemeyi 15’inde duyurdu. METR araştırmacıları şirket dizüstü bilgisayarlarını ve ofislerini kullanabilecek, kurum içi araçlara erişebilecek. Erişim düzeyleri genel olarak Anthropic’in risk değerlendirme ekibininkine benziyor. Şirket, çalışanlarından METR araştırmacılarıyla da hizalanma riskleri üzerine çalışan iş arkadaşlarıyla bilgi paylaşır gibi iletişim kurmalarını istedi.

Düzenleme, Anthropic’in değerlendirme sonuçlarını engelleme yetkisinden vazgeçmesi bakımından önem taşıyor. METR, şirketin riskleri, olayları ve uygulamaları hakkında kendi değerlendirmelerini yayımlayabilecek. Anthropic yalnızca müşteri bilgileri, avukat-müvekkil gizliliği kapsamındaki bilgiler ve model mimarisine ilişkin veriler gibi önceden belirlenmiş dar kategorilerdeki bilgilerin çıkarılmasını talep edebilecek.

METR, silinen bilgilerin kendisini açıklamaması koşuluyla, silme talebinin haklı olup olmadığını kamuoyuna değerlendirebilecek. Bu süreç, değerlendirme kuruluşunun hassas bilgileri açığa çıkarmadan şirketin editoryal müdahalede bulunup bulunmadığını bildirmesine imkân tanıyor.

Anthropic, dış değerlendiricilere tanınan erişimi üç seviyeye ayıran bir sistem kuruyor. Alt seviyedeki değerlendiriciler, biyogüvenlik alanında çalışan kâr amacı gütmeyen SecureBio gibi, sınırlı bir kapsamı inceleyebilecek ve sonuçları yayımlamak için şirket onayı alacak. Orta seviyedekiler daha fazla bilgiye erişebilecek ve önceden onay almadan bulgularını açıklayabilecek.

METR, en üst seviyeye alınan ilk kuruluş oldu. Bu seviye, şirketin kurum içi risk değerlendirme ekibine yakın erişim yetkilerini de içeriyor. Anthropic, bu modeli bankalarda görev yapan denetim kurumu müfettişlerine benzetti.

Duyuru, Anthropic CEO’su Dario Amodei’nin eylülde yayımladığı bir makalede önerdiği dış değerlendiricileri yapay zekâ laboratuvarlarında görevlendirme fikrini uygulamaya dönüştürüyor. Amodei, bu yaklaşımı teknik geliştirme hızını yavaşlatmaya yönelik ilk adım olarak sunmuştu. OpenAI da benzer bir taahhütte bulundu.

Anthropic, OpenAI, Google, Meta, Nvidia ve xAI daha sonra bağımsız değerlendirmelere katılmayı öngören Beyaz Saray anlaşmasını imzaladı. Bu adım, Anthropic’in dış değerlendiricilere çalışan düzeyinde erişim verme yönündeki önceki planını uygulama aşamasına taşıyor. Önceki anlaşmanın değerlendirme kapsamı ile mevcut üç seviyeli sistemin yayınlama yetkileri ise ayrı konular olarak ele alınıyor.