Benioff: “Yapay zekâ, sosyal medyanın hatalarını tekrarlamamalı”

Salesforce($CRM) Üst Yöneticisi Marc Benioff, yapay zekâ sektörünün sosyal medyanın hatalarını tekrarlamaması ve güçlenen yapay zekâ modellerinin sorumlu biçimde geliştirilmesi gerektiğini söyledi.

Benioff, 15'inde San Francisco'da düzenlenen Salesforce'un yıllık Dreamforce etkinliğinde ve CNBC'ye verdiği röportajda yapay zekâ güvenliği ile şirketlerin toplumsal sorumluluğunu vurguladı.

Salesforce($CRM) Üst Yöneticisi Marc Benioff, “Sosyal medya nedeniyle birçok şirket ve kişi zarar gördü. Yapay zekâda bunun yaşanmamasını umuyorum” dedi. Benioff, geçmişte sosyal medya şirketlerinin toplumsal etkileri yeterince dikkate almamasını yapay zekâ sektörü için bir uyarı olarak gösterdi.

Benioff, yapay zekâ geliştirme çalışmalarının durdurulması veya yavaşlatılması gerektiğini savunmadı. Teknoloji geliştiren şirketlerin yapay zekânın yol açabileceği geniş kapsamlı sonuçları dikkate alması ve gerçek kullanım sırasında ortaya çıkan sorunların sorumluluğunu üstlenmesi gerektiğini belirtti.

Benioff, “Yapay zekânın bu sorunları sorumlu biçimde ele almasını ve etik davranmasını sağlamalıyız. Etiğin temelinde sorumluluk vardır” dedi. Yapay zekânın etkisi büyüdükçe şirketlerin yalnızca ürün performansını değil, topluluklar ve toplum üzerindeki sonuçları da değerlendirmesi gerektiğine işaret etti.

Benioff ayrıca “Bu teknoloji çok güçlü” diyerek şirketlerin topluluklara ve dünyaya yaklaşımında etik davranması gerektiğini söyledi. Ancak açıklamalarında belirli bir düzenleme önerisi veya sektör çapında ortak bir standart sunmadı.

Açıklamalar, yapay zekâ güvenliği tartışmalarının yoğunlaştığı bir dönemde geldi. Anthropic Üst Yöneticisi Dario Amodei, en gelişmiş yapay zekâ modellerinin geliştirilme hızının, güvenlik önlemlerinin yetişebilmesi için yavaşlatılması gerektiği yönünde bir öneride bulundu.

Amodei, Dreamforce sahnesine de çıktı. Benioff'un sorumluluk vurgusuna ilişkin olarak sektörün örnek olması ve kendisini sürekli geliştirmesi gerektiği yönünde konuştu.

Benioff, Amodei'nin hızın düşürülmesine yönelik görüşünü resmen desteklemedi ve belirli bir yapay zekâ şirketini eleştirmedi. İki yöneticinin açıklamaları, yapay zekâ geliştirme hızı ile güvenlik önlemlerinin oluşturulması arasında şirketlerin hangi sorumlulukları üstlenmesi gerektiğine dair tartışmanın sektör yönetimleri arasında da sürdüğünü gösterdi.

Salesforce'un yapay zekâ risklerine değinmesi, Anthropic ile iş birliğini genişlettiği bir döneme denk geldi. İki şirket, Anthropic'in Claude akıl yürütme özelliklerini Salesforce'un kurumsal verileri ve iş kurallarıyla birleştiren Claudeforce'u duyurdu.

Claudeforce, müşterilerin Salesforce'ta sakladığı verileri Claude'un kullanarak e-posta hazırlama ve kayıt güncelleme gibi görevleri yerine getirmesine yardımcı olan ortak bir hizmet. Kurumsal verilerin, iş akışlarının ve yetki sistemlerinin yapay zekâ kullanım ortamına bağlanması bu yapının temelini oluşturuyor.

Bu gelişme, Salesforce'un Dreamforce'ta kurumsal verileri ve iş akışlarını yapay zekâ ajanlarına bağlama stratejisini öne çıkarmasıyla da örtüşüyor. Salesforce, yapay zekâyı ayrı bir özellik olarak sunmak yerine CRM, veri ve iş yürütme sistemiyle bütünleştirme yönünde genişliyor.

Bu tür yapılarda model performansı kadar şirket içi verilere erişim yetkileri, iş kuralları ve sonuçları inceleyen kontrol mekanizmaları da önem taşıyor. Yapay zekâ şirket sistemlerinde gerçek görevler üstlendikçe hata veya kötüye kullanım durumlarında sorumluluğun kime ait olacağı da ele alınmalı.

Salesforce hisseleri 15'inde, önceki işlem günündeki yüzde 4,5'i aşan yükselişin bir bölümünü geri verdi. Hisse, haziran sonunda kaydedilen 52 haftanın en düşük seviyesi olan 146 doların yüzde 50'den fazla üzerinde bulunuyor. Ancak Benioff'un açıklamalarının hisse yönünü değiştirdiğini kesin olarak gösteren bir veri sunulmadı.

Benioff'un açıklamaları, yapay zekâ geliştirme hızına ilişkin tartışmada Salesforce'un teknoloji yayılımını durdurmak yerine sorumluluk ve etiği ürün işletiminin temel koşulları olarak gördüğünü ortaya koydu. Claudeforce'un açık betasının Eylül 2026'da kullanıma sunulması bekleniyor. Kurumsal veriler ve iş yetkileri yapay zekâya bağlanırken güvenlik ilkelerinin nasıl uygulanacağı izlenecek.