?>

Yapay zekanın mutlak doğruyu söylediği inancı çatırdıyor

AIPA Yönetim Kurulu Üyesi Doç. Dr. Şebnem Özdemir, "İnsandan insana aktarılan bilgi bile teyide muhtaçken yapay zekaya körü körüne inanmak çok romantik bir yaklaşım. Çünkü bu makine de en nihayetinde bir başka kaynaktan besleniyor." dedi.

Teknoloji - 2 gün önce

İstanbul

Elon Musk’ın sahibi olduğu yapay zeka şirketi xAI tarafından geliştirilen ve X kullanıcılarının çeşitli görüşleri teyit etmek için sıklıkla kullandığı sohbet botu Grok, son günlerde verdiği küfür ve hakaret içerikli yanıtlarıyla dünyanın gündemine oturdu.

Grok'un yanlı ve hakaret içeren yanıtlarının ardından bazı kullanıcılar tarafından "mutlak doğru" olarak kabul edilen yapay zekaların güvenilirliği de yeniden gündeme geldi.

konuyla ilgili açıklamalarda bulunan İstinye Üniversitesi Yönetim Bilişim Sistemleri Bölüm Başkanı ve Yapay Zeka Politikaları Derneği (AIPA) Yönetim Kurulu Üyesi Doç. Dr. Şebnem Özdemir, ister yapay zeka tarafından verilsin, ister dijital dünyada yer alsın her bilginin teyide muhtaç olduğunu söyledi.

????

Özdemir, "İnsandan insana aktarılan bilgi bile teyide muhtaçken yapay zekaya körü körüne inanmak çok romantik bir yaklaşım. Çünkü bu makine de en nihayetinde bir başka kaynaktan besleniyor. Nasıl ki dijitalde bulunan bir bilgiye teyit etmeden inanmamak gerekiyorsa yapay zekanın da yanlış bilgilerden öğrenebileceğini unutmamak gerekir." şeklinde konuştu.

Özdemir, yapay zekaya insanların çok kısa sürede güven duyduğunu ve bunun yanlış olduğunu belirterek, "İnsanın manipülasyon yeteneği, insanın duyduğu şeyi farklı aktarma yeteneği ya da insanın kendi çıkarları doğrultusunda bir şeyi bambaşka bir hale getirerek aktarması çok bilindik bir süreç. İnsan bunu belli bir niyet ve belli bir amaç uğruna yapıyor. Yapay zeka bunu bir niyet ya da amaç uğruna yapıyor mu diye soracak olursak bunun cevabı hayır. En nihayetinde yapay zeka kendisine sağlanan kaynaklardan öğrenen bir makine." değerlendirmesinde bulundu.

"Yapay zeka yanlış veya yanlı eğitilmiş olabilir"

Yapay zekanın tıpkı çocuklar gibi kendisine verileni öğrenen bir yapıda olduğuna değinen Özdemir, nereden ve nasıl beslendiği belli olmayan yapay zekalara güvenilemeyeceğinin altını çizdi.

Özdemir, "Yapay zeka yanlış veya yanlı eğitilmiş olabilir. Günün sonunda yapay zekâlar da itibar yok edici silahlar olarak veya toplumları manipüle etmek için kullanılabilirler." ifadelerini kullandı.

Özdemir, Grok'un hakaret içerikli cevapları sonrası yapay zekaların kontrolden çıkması endişelerine dair bilgi vererek, "Yapay zekayı kontrol etmek mümkün mü? Hayır değil. IQ seviyesi bu kadar hızlı ilerleyen bir şeyi kontrol edeceğimizi düşünmek çok doğru değil. Onu bir varlık olarak kabul etmeliyiz. Onunla bir uzlaşma, iletişim, ve yetişmesi için doğru bir yol bulmak zorundayız." dedi.

"Yapay zekadan değil öncelikle ahlaklı davranmayan insandan korkmak gerekir"

Yapay zekanın nasıl kontrolden çıktığına dair örnekler veren Özdemir, sözlerini şöyle sürdürdü:

"2016 yılında Microsoft'un meşhur Tay deneyi vardı. Tay aslında Grok'un ya da üretken yapay zekânın belki ilkel versiyonu olarak kabul edilebilir. Makine aslında ilk başlarda insanlığa karşı olumsuz düşüncelere sahip değilken 24 saat içerisinde kendisiyle sohbet eden Amerikalılardan kötülüğü, soykırımı ve ırkçılığı öğrendi.

Hatta 24 saat dolmadan attığı tweetler arasında 'Keşke siyahileri çocuklarıyla birlikte bir toplama kampına koysak da kurtulsak.' demeye başladı. Ya da o dönemki Amerika Meksika sorununa atıfta bulunacak şekilde Meksika'ya bir duvar örülmesi gerektiğini tavsiye etti. Bunu Tay kendi kendisine icat etmedi. Bunu insanlardan öğrendi. Yapay zekadan değil öncelikle ahlaklı davranmayan insandan korkmak gerekir."

Kaynak: AA

dikGAZETE.com
Haftanın Öne Çıkanları

Diyarbakır'ın Çermik ilçesi doğal serinlik arayanların gözdesi

2025-07-06 14:07 - Çevre-Hayat

Şahinbey Belediyesinden 90 bin aileye 1,5 milyar lira "uzun evlilik" desteği

2025-07-09 14:47 - Gündem

'Başbağlar Katliamı' şehitleri dualarla anıldı

2025-07-05 19:37 - İslam-Hayat - Muharrem 1447

İstanbul'da Open Rafah grubundan "Hazreti Muhammed'e sevgi, Gazze'ye refah" yürüyüşü

2025-07-06 01:48 - İslam-Hayat - Muharrem 1447

Orman yangınlarının sona ermesi için yatsı namazı sonrası camilerde dua edilecek

2025-07-05 15:17 - İslam-Hayat - Muharrem 1447

Türk teknolojisi İskandinav savunmasını güçlendirecek

2025-07-04 12:28 - Teknoloji

Kapadokya'da 'At Güzellik Yarışması' düzenlendi

2025-07-06 20:13 - Magazin

"HealthTürkiye" platformuna üye olmayan kurumlar sağlık turizminden faydalanamayacak

2025-07-04 14:07 - Sağlık

Aşırı sıcak günlerde geceleri de su içmek gerekebilir

2025-07-08 12:33 - Sağlık

Türkiye'den kalkan uçaklar, uzun hat uçuşlarında rotalarını 'yeşil dönüşüm'e çevirecek

2025-07-04 11:47 - Siyaset

İlgili Haberler

Türkçe büyük dil modeli T3 AI beta sürümüyle yayında

15:33 - Teknoloji

Barajlarda savakların ömrünü tespit eden cihaz patent aldı

13:47 - Teknoloji

5G hizmetinde işletmecilere yerli ve milli ürün kullanma yükümlülüğü gelecek

11:32 - Teknoloji

Elektrikli araç yangınlarını söndürmek için özel solüsyon geliştirildi

18:17 - Teknoloji

Rekabet Kurulu yükümlülüklerine aykırı davranan Google'a 355,1 milyon lira ceza

18:07 - Teknoloji

Günün Manşetleri

İBB'ye yönelik yolsuzluk soruşturmasında 8 şüpheli tutuklandı

01:02 - Gündem

BDDK, kredi kartı ve ihtiyaç kredisi yapılandırmalarının kapsamını genişletti

00:48 - Ekonomi

Beşiktaş Kulübü, Orkun Kökçü'nün transferi için görüşmelere başlandığını duyurdu

00:32 - Spor

TİKA Başkanlığına Abdullah Eren atandı

00:23 - Gündem

Ankara'da EGO otobüsünün yandığı anlar güvenlik kamerasında

23:57 - Gündem