Sam Altman, insanlara ödül ölçütünü AI'nin belirlemesine karşı çıktı

OpenAI CEO’su Sam Altman, 4’ünde X’te “İnsanlar geleceği her zaman kontrol etmeli” diye yazdı. Bu söz, geleceğin kontrolünün süperzekâya devredilmemesi gerektiği yönündeki tutumunu ortaya koydu.

Altman, insanların “AI sistemlerinin ödüllendirmeye değer bulduğu işleri” yapmaya itilmemesi gerektiğini de yazdı. Böylece AI’nin insan davranışlarını değerlendirerek kaynak dağıttığı bir modele karşı çıktı.

Altman paylaşımında Dario Amodei’nin adını doğrudan anmadı. Ancak alıntıladığı ifade, Amodei’nin Ekim 2024’te yayımladığı yazıda yer alıyordu.

Anthropic CEO’su Dario Amodei, yazısında “Bütün bu çözümlerin çok sayıda potansiyel sorunu var” dedi. AI’nin kaynak dağıtımına ilişkin bu değerlendirme, kesinleşmiş bir politika ya da resmî öneri olarak sunulmadı.

Amodei, AI’nin neredeyse bütün işleri insanlardan daha iyi ve daha düşük maliyetle yaptığı bir senaryoyu ele aldı. Böyle bir durumda AI’nin ürettiği servetin kime ve hangi ölçütlere göre dağıtılacağı, insanların ekonomik açıdan nasıl yaşayacağı soruları gündeme geliyor.

Amodei, Ekim 2024’te yayımladığı ‘Machines of Loving Grace’ başlıklı denemesinde, kısa vadede insanların karşılaştırmalı üstünlüğü sürdüğü müddetçe AI’nin verimliliği artırabileceğini ve yeni işler yaratabileceğini öngördü.

Amodei aynı denemede, AI bir işin yüzde 90’ını daha iyi yapsa bile kalan yüzde 10’un insanın rolünü destekleyebileceğini belirtti. Maliyet veya kullanılan kaynaklar bakımından fark sürdüğü takdirde insanların ekonomik rolünün devam edebileceğini öngördü.

Amodei, Ekim 2024 tarihli denemesinde uzun vadede AI’nin çok çeşitli işleri düşük maliyetle yapması hâlinde mevcut ekonomik sistemin artık uygun olmayabileceğini yazdı. Böyle bir durumda toplumun ekonomiyi nasıl düzenleyeceğini kapsamlı biçimde tartışması gerektiğini belirtti.

Ele aldığı seçeneklerden biri, herkese gelir sağlayan temel gelir modeliydi. Ancak Amodei, temel gelirin tek başına çözümün yalnızca bir parçası olabileceğini savundu.

Bir diğer senaryo, AI sistemlerinin ürettiği servetin insanlara dağıtıldığı bir ekonomiydi. Bu modelde, AI’nin ödüllendirilmeye değer bulduğu insan davranışları kaynak dağıtımının ölçütü hâline geliyor. Bunun ön koşulu ise söz konusu yargının nihayetinde insan değerlerinden kaynaklanması.

Amodei, Ekim 2024’te yayımladığı ‘Machines of Loving Grace’ denemesinde insanların, geleneksel ekonomik modellerin öngörmediği biçimlerde ekonomik değer üretmeye devam edebileceğini de belirtti. Her çözümün tekrarlanan denemeler ve deneylerle değerlendirilmesi gerektiğini, sömürücü ya da distopik sonuçların da önlenmesi gerektiğini vurguladı.

Amodei ekonomik olarak geçinme meselesiyle yaşamın anlamını ayrı konular olarak ele aldı. İnsanların AI merkezli ekonomiye anlamlı katkı sunamayabileceğine ilişkin ekonomik sorunun, yaşamın anlamına dair sorudan daha zor olduğunu yazdı.

Amodei’ye göre AI’nin bir faaliyeti daha iyi yapması, o faaliyetin insanlar için anlamını ortadan kaldırmıyor. Yürüyüş yapmak, arkadaşlarla sohbet etmek gibi ekonomik değer üretmeyen faaliyetlerin ve insan ilişkilerinin de anlam sağlayabileceğini belirtti.

İki isim arasındaki görüş ayrılığı, AI’nin ürettiği servetin dağıtımına kimin karar vereceği konusunda belirginleşiyor. Amodei gelecekteki çeşitli ekonomik modelleri ve riskleri incelerken Altman, AI’nin insan davranışlarını değerlendirerek kaynakları dağıtması fikrine karşı çıktı. AI kullanımının yaygınlaşmasıyla insan yargısının rolünü ele alan TokenPost’un ilgili haberi de bu tartışmayla bağlantılı.