Yapay zekanın mutlak doğruyu söylediği inancı çatırdıyor

Elon Musk’ın sahibi olduğu yapay zeka şirketi xAI tarafından geliştirilen ve X kullanıcılarının çeşitli görüşleri teyit etmek için sıklıkla kullandığı sohbet botu Grok, son günlerde verdiği küfür ve hakaret içerikli yanıtlarıyla dünyanın gündemine oturdu.

Grok'un yanlı ve hakaret içeren yanıtlarının ardından bazı kullanıcılar tarafından "mutlak doğru" olarak kabul edilen yapay zekaların güvenilirliği de yeniden gündeme geldi.

konuyla ilgili açıklamalarda bulunan İstinye Üniversitesi Yönetim Bilişim Sistemleri Bölüm Başkanı ve Yapay Zeka Politikaları Derneği (AIPA) Yönetim Kurulu Üyesi Doç. Dr. Şebnem Özdemir, ister yapay zeka tarafından verilsin, ister dijital dünyada yer alsın her bilginin teyide muhtaç olduğunu söyledi.

Özdemir, "İnsandan insana aktarılan bilgi bile teyide muhtaçken yapay zekaya körü körüne inanmak çok romantik bir yaklaşım. Çünkü bu makine de en nihayetinde bir başka kaynaktan besleniyor. Nasıl ki dijitalde bulunan bir bilgiye teyit etmeden inanmamak gerekiyorsa yapay zekanın da yanlış bilgilerden öğrenebileceğini unutmamak gerekir." şeklinde konuştu.

Özdemir, yapay zekaya insanların çok kısa sürede güven duyduğunu ve bunun yanlış olduğunu belirterek, "İnsanın manipülasyon yeteneği, insanın duyduğu şeyi farklı aktarma yeteneği ya da insanın kendi çıkarları doğrultusunda bir şeyi bambaşka bir hale getirerek aktarması çok bilindik bir süreç. İnsan bunu belli bir niyet ve belli bir amaç uğruna yapıyor. Yapay zeka bunu bir niyet ya da amaç uğruna yapıyor mu diye soracak olursak bunun cevabı hayır. En nihayetinde yapay zeka kendisine sağlanan kaynaklardan öğrenen bir makine." değerlendirmesinde bulundu.

Yapay zekanın tıpkı çocuklar gibi kendisine verileni öğrenen bir yapıda olduğuna değinen Özdemir, nereden ve nasıl beslendiği belli olmayan yapay zekalara güvenilemeyeceğinin altını çizdi.

Özdemir, "Yapay zeka yanlış veya yanlı eğitilmiş olabilir. Günün sonunda yapay zekâlar da itibar yok edici silahlar olarak veya toplumları manipüle etmek için kullanılabilirler." ifadelerini kullandı.

Özdemir, Grok'un hakaret içerikli cevapları sonrası yapay zekaların kontrolden çıkması endişelerine dair bilgi vererek, "Yapay zekayı kontrol etmek mümkün mü? Hayır değil. IQ seviyesi bu kadar hızlı ilerleyen bir şeyi kontrol edeceğimizi düşünmek çok doğru değil. Onu bir varlık olarak kabul etmeliyiz. Onunla bir uzlaşma, iletişim, ve yetişmesi için doğru bir yol bulmak zorundayız." dedi.

Yapay zekanın nasıl kontrolden çıktığına dair örnekler veren Özdemir, sözlerini şöyle sürdürdü:

"2016 yılında Microsoft'un meşhur Tay deneyi vardı. Tay aslında Grok'un ya da üretken yapay zekânın belki ilkel versiyonu olarak kabul edilebilir. Makine aslında ilk başlarda insanlığa karşı olumsuz düşüncelere sahip değilken 24 saat içerisinde kendisiyle sohbet eden Amerikalılardan kötülüğü, soykırımı ve ırkçılığı öğrendi.

Hatta 24 saat dolmadan attığı tweetler arasında 'Keşke siyahileri çocuklarıyla birlikte bir toplama kampına koysak da kurtulsak.' demeye başladı. Ya da o dönemki Amerika Meksika sorununa atıfta bulunacak şekilde Meksika'ya bir duvar örülmesi gerektiğini tavsiye etti. Bunu Tay kendi kendisine icat etmedi. Bunu insanlardan öğrendi. Yapay zekadan değil öncelikle ahlaklı davranmayan insandan korkmak gerekir."

Kaynak: AA