Okullar Google Arama’daki yapay zekâyı kapatabilsin: Markey yanıt istedi

ABD’li Senatör Ed Markey, okulların Google Arama’yı kullanmayı sürdürürken arama içindeki üretken yapay zekâ özelliklerini kapatabilmesi için Google’dan ayarlarını değiştirmesini istedi.

Markey, 9 Kasım’da Alphabet ve Google CEO’su Sundar Pichai’ye gönderdiği mektupta, “Okullar, önemli eğitim araçlarına erişimden vazgeçmeden öğrencilerin yapay zekâ sohbet botlarına erişimini engelleyebilme hakkına sahip olmalı” dedi. Markey, okulların yapay zekâ kullanımını sınırlamak için aramadan da vazgeçmek zorunda kalmaması gerektiğini savundu.

Markey, okul hesaplarında AI Overviews, Gemini ve Guided Learning özelliklerinin kapatılıp Google Arama’nın kullanılmaya devam edilip edilemeyeceğini sordu. Ayrıca yapay zekâ özelliklerini içermeyen arama sonuçlarının teknik olarak sunulup sunulamayacağını öğrenmek istedi.

Markey, Google’dan ilkokul ve ortaöğretim öğrencilerinin güvenliği, ruh sağlığı ve öğrenimi üzerindeki etkiler hakkında araştırma yapıp yapmadığına ilişkin belgeleri de talep etti. Arama dışındaki üretken yapay zekâ kullanımını kısıtlayan okul ve okul bölgelerinin sayısını sordu.

Tartışmanın arka planında Google’ın 3 Kasım’da duyurduğu okul hesabı ayarları değişikliği bulunuyor. Şirket, arama, Gemini, Gemini Notebook ve Google Classroom içindeki Gemini özelliklerini K-12 öğrenci hesaplarında varsayılan olarak kapatıp, okul yöneticilerinin bunları kendilerinin açmasını öngören bir düzenleme açıkladı.

Google, arama ile Gemini uygulamasının ayrı ayrı etkinleştirilebileceğini belirtti. Ancak okulların aramayı açık tutarken arama içine yerleştirilmiş yapay zekâ özelliklerini ayrıca kapatmasını sağlayan bir ayar sunulmuyor.

TokenPost daha önce okul hesaplarında arama ile Gemini uygulamasının ayrı ayrı ayarlanabildiğini, ancak arama içindeki yapay zekâ özelliklerinin kapatılamadığını bildirmişti. Markey’in mektubu, bu ayarın teknik olarak mümkün olup olmadığını ve öğrenciler üzerindeki etkileri değerlendiren verileri Google’dan resmen istemesiyle yeni bir gelişme getirdi.

Google, arama ve eğitim ürünlerinde Guided Learning özelliğini yaygınlaştırmayı planladığını da açıkladı. Bu özellik, yanıtı doğrudan vermek yerine öğrencilerin soruları adım adım takip ederek problem çözmesine yardımcı oluyor.

Google, 3 Kasım tarihli açıklamasında aramadaki Guided Learning özelliğini kasım sonuna doğru ABD’deki bazı okullarda denemeyi planladığını bildirdi. Şirket, eğitimcilerden geri bildirim topladıktan sonra özelliği başka okullara da açacağını söyledi.

Google, okul yöneticilerinin öğrenci hesaplarında hangi yapay zekâ ürünlerinin kullanılacağına karar vermesinin sınıftaki yapay zekâ kullanımını yönetmeye yardımcı olacağını savunuyor. Şirket, ayar değişikliğinin ayrıntılarını önümüzdeki birkaç ay içinde okullara ileteceğini belirtti.

Markey, mektubunda Google’ın eğitim teknolojileri pazarındaki konumunun konuyu daha önemli hâle getirdiğini yazdı. Okulların aramayı kullanmayı sürdürmek için arama içindeki yapay zekâyı da kabul etmek zorunda kalmasının tercih hakkını kısıtladığını savundu.

Çocuklara yönelik medya değerlendirme kuruluşu Common Sense Media, 15 Temmuz’da yayımladığı kendi değerlendirmesinde Google Arama’daki AI Overviews ve AI Mode özelliklerini çocuklar için “kabul edilemez risk” olarak sınıflandırdı. Kuruluş bünyesindeki Youth AI Safety Institute, sonuçları açıklarken arama yapay zekâsının kriz işaretlerini gözden kaçırdığı veya uygunsuz öneriler verdiği örnekleri bildirdi.

Common Sense Media değerlendirme ekibi, 11 ve 15 yaşındaki öğrenciler için yapılandırılmış SafeSearch hesaplarıyla 2.600’den fazla arama yaptı. Kuruluş, AI Mode’un test edilen 180 ödev sorusuna tamamlanmış yanıtlar verdiğini ve tarih sorularının 10’da 4’ünden fazlasında aynı arama tekrarlandığında yanıtların belirgin biçimde değiştiğini aktardı.

Değerlendirmede, arama yapay zekâsının intihar düşüncesi işaretlerini kaçırdığı, sanrı ve paranoyayı güçlendirdiği veya yeme bozukluğunu olumlayan yanıtlar verdiği örnekler de yer aldı. Common Sense Media, reşit olmayanların hesaplarında arama yapay zekâsının varsayılan olarak kapatılmasını ve özelliğin okullar ile aileler tarafından yönetilebilmesini önerdi.

Markey’in Google’dan yazılı yanıt istemek için belirlediği son tarih 30 Kasım.