Suleyman, bilinç belirtileri görülürse AI geliştirmeyi durdurmayı önerdi

Microsoft(MSFT) Yapay Zekâ CEO'su Mustafa Suleyman, mevcut AI modellerinin bilinç sahibi olmadığını düşünse de eğitim sırasında bilinç belirtileri ortaya çıkarsa geliştirme çalışmalarının durdurulması gerektiğini savundu.

Suleyman, ayın 1'inde X'te paylaştığı gönderide, bilinç sahibi bir AI geliştirmek mümkün hale gelirse bunun pervasızca bir adım olacağını ve böyle bir modelin oluşturulmaması gerektiğini söyledi. Önerisi, eğitim sırasında bilinç belirtileri görülürse bu özellik tasarım yoluyla ortadan kaldırılana kadar AI geliştirmeyi durdurmak.

AI modellerinin hâlihazırda bilinç sahibi olduğuna dair kanıt ortaya çıkarsa bunun derhal açıklanması gerektiğini de savundu. Böylece toplumun tamamı sonraki adımlara birlikte karar verebilir.

Suleyman, geliştiricilerin dünyaya bilinç sahibi yeni bir varlık getirme hakkı olmadığını söyledi. Önceliğin yaklaşık 8 milyar bilinçli insanın ahlaki haklarını, güvenliğini ve refahını korumak olduğunu belirtti.

AI modellerinin bilinci ve deneyimleri konusundaki tartışmalar kapsamında Anthropic, Nisan 2025'te model refahını incelemek ve buna yönelik hazırlık yapmak için bir araştırma programı başlattı. Anthropic, araştırma planını duyururken mevcut ya da gelecekteki AI sistemlerinin bilinç sahibi olup olamayacağı veya ahlaki açıdan dikkate alınması gereken deneyimler yaşayıp yaşayamayacağı konusunda bilimsel uzlaşı bulunmadığını bildirdi.

TokenPost daha önce Dario Amodei'nin güvenlik doğrulaması için AI geliştirme hızının düşürülmesini önerdiğini bildirmişti. Suleyman'ın önerisi genel geliştirme hızının düşürülmesini değil, eğitim sırasında bilinç belirtilerinin görülmesini durdurma koşulu olarak belirliyor.