Anthropic araştırmacısı, yapay zekânın insanlığı yok edebileceği endişesiyle istifa etti

Anthropic araştırmacısı Jacob Coxon’un, yapay zekânın insanlığın yok oluşuna yol açabileceği endişesiyle şirketten ayrıldığı bildirildi. Crypto Briefing, Coxon’un Anthropic ve OpenAI’ın kendi kendini geliştiren süper zekâ sistemlerinin geliştirilmesini hızlandırarak insan güvenliğini tehlikeye attığını savunduğunu aktardı.

Coxon, X’te yaptığı paylaşımda yapay zekâ geliştiren kişilerin bu teknolojinin 2020’lerin sonuna kadar tüm insanlığı öldürebileceğine ciddi şekilde inandığını öne sürdü. WIRED ve Axios da Coxon’un istifası ile yapay zekâ güvenliği konusundaki endişeleri haberleştirdi. Anthropic’in hizalama araştırmaları sorumlusu Evan Hubinger ise yapay zekânın önümüzdeki 10 yıl içinde tüm insanları öldürme ihtimalini yüzde 10’dan fazla gördüğünü belirtti.

Crypto Briefing, Coxon’un istifasını ve ilgili paylaşımlarını dış gruplarla koordine ettiği yönündeki iddiayı reddettiğini bildirdi. Tartışma, yapay zekâ modelleri için kontrol ve güvenlik mekanizmalarının geliştirme hızına paralel biçimde oluşturulup oluşturulamayacağı konusundaki sektör tartışmasını genişletti.