Back to top
  • 공유 Share
  • 인쇄 Print
  • 글자크기 Font size
URL copied.

IPO sonrası Anthropic AI geliştirme hızını güvenlik doğrulamasına göre belirleyecek; Amodei baskıya boyun eğmeyecek

Dario Amodei (AI illüstrasyonu) / TokenPost.ai

Anthropic, halka arzın (IPO) ardından da yapay zekâ (AI) modellerinin eğitim ve dağıtım hızını güvenlik doğrulamalarına göre belirleyeceğini açıkladı. Şirket, ticari ve siyasi baskılardan önce AI sistemlerinin insan kontrolü altında güvenli çalıştığını doğrulamak için gereken zamanı kullanacağını bildirdi.

Anthropic CEO'su Dario Amodei (Dario Amodei), 19'unda Nasdaq'ın açılış töreninde, “AI sistemlerinin güvenli olduğuna ve insan kontrolünde kalacağına ikna olana kadar gerektiği kadar zaman ayıracağız. Ticari ve siyasi baskılara boyun eğmeyeceğiz” dedi. TechCrunch'a göre bu açıklama, IPO sonrasında da model geliştirme hızının güvenlik ölçütlerine bağlı tutulacağı yönündeki tutumun tekrarı oldu.

Amodei, IPO'nun şirketin mali yapısını güçlendirdiğini ve doğru kararları alma kararlılığını artırdığını söyledi. Mali taban genişlese de güvenlik kararlarındaki ölçütlerin değişmeyeceğini belirtti.

Amodei, 12 Eylül'de yayımladığı yazıda AI model performansındaki iyileşme hızının yavaşlatılarak güvenlik önlemleri ve bağımsız doğrulamanın yetişmesi için zaman kazanılmasını önerdi. Geliştirme sürecine dış denetim getirilmesi için sektör genelinde ortak güvenlik standartları ve üçüncü taraf değerlendiricilerin sürekli katılımını savundu.

Bu hız ayarı AI geliştirmeyi durdurma çağrısı anlamına gelmiyor. Amaç, güvenlik önlemleriyle dış değerlendirmelerin model performansındaki artışı yakalaması için zaman kazanmak. Bağımsız değerlendiricilerin model geliştirme sürecine sürekli erişimi de öneriler arasında yer alıyor.

Amodei, güvenlik alanında 'yukarı yönlü rekabet' vurgusu yaptı. Anthropic belirli bir anda lider olup olmamasından bağımsız olarak tüm sektörün daha yüksek güvenlik standartlarını benimsemesini istediğini söyledi.

Amodei'ye göre yeterince güçlü AI ile insanların işbirliği, bir yüzyıllık bilimsel ve tıbbi ilerlemeyi 10 yıla sıkıştırabilir. Ancak mevcut sonuçların erken aşamada olduğunu, deneyler ve klinik çalışmalar için zamana ihtiyaç bulunduğunu belirtti.

Amodei, müşterilerin yapay zekâyı ekonomik büyümeyi hızlandırmak, yoksulluktan çıkmak, demokrasiyi ve özgür toplumları korumak ve günlük kamu hizmetlerini iyileştirmek için kullandığını söyledi. AI'ın bilim ve tıbbın yanı sıra ekonomiyle kamu alanlarına da katkı sağlayabileceğini ifade etti.

Bununla birlikte bireylerin veya devletlerin kötüye kullanımı, ekonomik çalkantı ve AI sistemlerinin kontrolünün kaybedilmesini gerçek riskler arasında sıraladı. Bu risklerin kaçınılmaz olmadığını, sonucun AI geliştirenlerin seçimlerine bağlı bulunduğunu söyledi.

Anthropic şu alanlarda çalışma yürüttüğünü açıkladı: △ biyolojik ve siber risklere karşı savunma △ hizalama eğitimi ve testleri △ modelin iç yapısını gözlemleyerek davranışını yönlendirmeye yarayan yorumlanabilirlik teknolojileri. Şirket, bu yöntemlerin AI davranışını anlamaya ve sistemleri insan kontrolü altında tutmaya yardımcı olduğunu belirtti.

AP'nin haberine göre IPO sonrasında Anthropic, hissedarların getiriyi artırma talepleriyle güvenlik ilkeleri arasında gerilimle karşı karşıya kaldı. Amodei, güvenlik ile AI geliştirme hızı arasındaki çatışmayı şirketin 'merkezî gerilimi' olarak tanımladı.

Anthropic'in IPO prospektüsünde, kamu yararı şirketi (PBC) olarak hissedar çıkarlarıyla kamu yararı hedefini birlikte gözeten bir yönetişim yapısı yer alıyor. Bu yapı, halka arz sonrasında hissedar talepleriyle kamu yararı amaçlarının birlikte ele alınmasını öngörüyor.

Uzun Vadeli Kamu Yararı Tröstü (LTBT), yönetim kurulu üyelerinin çoğunluğunu atama ve görevden alma yetkisine sahip. Kurucu ortakların oluşturduğu Founder LLC ise genel hissedar oy haklarının yüzde 50,1'ini kullanıyor.

Anthropic, bu yapının ileri AI'ın sorumlu geliştirilmesiyle insanlığın uzun vadeli çıkarlarını birlikte gözetmek için kurulduğunu belirtti. PBC, LTBT ve Founder LLC arasındaki yetki dağılımı, halka arz sonrasında da güvenlik ilkelerini yönetişimde koruma aracı olarak sunuluyor.

Amodei, halka arzın uzun vadeli hesaplama kapasitesi satın alma ve kiralama taahhütlerine karşı nakit tamponu sağladığını açıkladı. TokenPost daha önce IPO'nun bu taahhütlere karşı nakit tamponu olarak değerlendirildiğini bildirmişti. AI eğitim ve dağıtım hızına ilişkin ayrıntılar ile dış güvenlik değerlendirmelerinin sonuçları, şirketin ileride yayımlayacağı belgelerden takip edilecek.

<Copyright ⓒ TokenPost, unauthorized reproduction and redistribution prohibited>

Most Popular

Other related articles

Comment 0

Comment tips

Great article. Requesting a follow-up. Excellent analysis.

0/1000

Comment tips

Great article. Requesting a follow-up. Excellent analysis.
1