?>

Yapay zekanın ayrımcılık yapmaması insanların ayrımcı olmamasına bağlı

Cerrahpaşa Tıp Fakültesi Temel Tıp Bilimleri Bölümü Öğretim Üyesi Prof. Dr. Murat Kirişci, algoritmaların tarafsız olduğu algısının yanlış olduğunu belirterek, "İnsan düzelmedikçe yapay zekadan daha iyi sonuçlar beklemek imkansızdır." dedi.

Teknoloji - 12 ay önce

İstanbul

"Yapay Zeka: Kişisel Veriler, Algoritmalar ve Tehditler" başlıklı dosya haberin altıncı bölümünde yapay zeka kullanılarak yapılan ayrımcılık örnekleri değerlendirildi.

Kullanıcıların yüzde 39'u yapay zekayla oluşturulmuş görselleri gerçek zannediyorYapay zekanın tavsiyeleri hastaları yanlış yönlendirebiliyorSes ve görüntü işleyen yapay zeka sistemleri mahremiyete yönelik büyük riskler taşıyorSosyal medya algoritmaları, popüler ayrımcı içeriklerin daha fazla yayılmasına kar amacıyla izin veriyor

Dijital çağın en büyük teknolojik icatlarından biri olan yapay zeka, getirdiği yeniliklerle beraber yarattığı sorunlarla da gündeme gelmeye devam ediyor. Yapay zeka sistemleri ile ilgili son dönemde en büyük sorunlardan biri olarak ise ırkçılık ve ayrımcılık ön plana çıkıyor.

Mevcut verilerde bulunan önyargı ve ayrımcılık gibi istenmeyen özellikleri de öğrenen yapay zeka ürünler, bu sebeple geçmişte pek çok skandala imza attı. 2016 yılında Microsoft tarafından geliştirilen ve X (eski adıyla Twitter) kullanıcılarla etkileşim halinde olması hedeflenen yapay zeka hesap "Tay", çok kısa bir süre içinde gerçek kullanıcıların tweetlerinden beslenerek ırkçı ve islamofobik tweetler atmaya başlamış ve bu sebeple Microsoft, Tay'ın tweetlerine müdahale etmek zorunda kalmıştı.

Yapay zeka uzmanı Prof. Dr. Murat Kirişci, AA muhabirine yaptığı açıklamada, algoritmaların verilerden öğrendiğine dikkati çekerek, "Bu kaynaklarda var olan yanlı, ayrımcı, ırkçı bilgiler de algoritmalar tarafından işlenmekte ve sonuçta araçlar ayrımcı, ırkçı kararlar almaya başlamaktadır." dedi.

Sorunun algoritmaları besleyen verilerde, dolayısıyla o verileri elde eden, üreten insanda olduğuna vurgu yapan Kirişci, "Irkçılık, eşitsizlik özünde verinin bir hatası değil, bizzat verinin bir özelliğidir. Veriyi üreten, algoritmaları yazan, araçları dizayn eden insanın tüm önyargıları, yanlılıkları ve zihnindeki olumsuzluklarıdır sorun olan." şeklinde konuştu.

Kirişci, ayrımcılık yapan algoritmaların hayatın her yerinde var olabileceğini belirterek, sözlerini şöyle sürdürdü:

"Irkçı algoritmalar bir iş yerinde, kişinin işe alınmasından, şirkette çalışırken birçok konuya etki edebilir. Mesela iş başvurularında erkekleri tercih eden algoritmalar mevcuttur. Koyu tenli kişilerde düzgün çalışmayan bir sosyal medya filtresinden veya nörolojik açıdan sıkıntılı öğrencilerin davranışlarını hesaba katmadan bu kişilere ayrımcı bir önyargı ile yaklaşan yapay zekalar çok sıklıkla karşılaşılan araçlardır. Bölgelerinde siyahi ya da farklı ırktan insanların oturmasını istemeyenlerin taleplerine göre üretilmiş algoritma, ırkçı, ayrımcı konut satışı-kiralaması yapmaktadır.

Yüz tanıma sistemlerinde siyahileri ya da ten rengi ortamdaki kişilerden farklı olanları suçlu görme eğiliminde olan algoritmalar birçok masum kişiyi hürriyetinden yoksun bırakmaktadır. Irkçı algoritmalar yüzünden sosyo-ekonomik geçmiş, eğitim ve yaşanılan bölgeye göre tanımlanan kişiler polis tarafından daha fazla gözlem altına tutulabilmektedir. Şiddet uygulayan kişi ya da grupları temize çıkartan ırkçı algoritmalar mevcuttur. Hakkını savunana toplumları (örneğin Filistin halkını) marjinalleştirip kötüleyerek yok olmalarını haklı sebeplere dayandıracak algoritmalar özellikle sosyal mecrada kullanılmaktadır."

"İnsan düzelmedikçe..."

İnsanların zihninde algoritmaların daha tarafsız olduğu yönünde bir algı olduğunu söyleyen Kirişci, insanların tüm önyargılarının algoritmalar vasıtasıyla o araçlara geçtiğini ve bu araçların zaman zaman daha ırkçı, daha taraflı ve ayrımcı olabildiğini söyledi. Kirişci, "İnsanlar arasında nasıl ki bir grup bir başka gruba göre orantısız davranışlar sergileyebiliyorsa yapay zeka araçlarının hepsi aynı şekilde önyargı ve ırkçı orantısızlıklar uygulamaktadır. Yapay zeka gelişip hayat içerisinde yaygınlaştıkça bu adaletsizlik ve ırkçılık da giderek hayatın içerisinde farklı yapay zeka araçlarıyla yürütülmektedir. Bu karmaşa içinde bir yapay zekanın daha adil olmasının tek yolu veri-bilgi aldığı insanoğlunun daha adil olmaya çalışmasıdır. İnsan düzelmedikçe yapay zekadan daha iyi sonuçlar beklemek imkansızdır." değerlendirmesinde bulundu.

Kaynak: AA

dikGAZETE.com
Haftanın Öne Çıkanları

Çevre, Şehircilik ve İklim Değişikliği Bakanı Kurum, Şanlıurfa'da deprem konutlarını inceledi

2024-07-19 22:27 - Siyaset

İzmir'de akıma kapılan 2 kişinin ölümüne ilişkin gözaltına alınan 3 kişi serbest bırakıldı

2024-07-20 16:17 - Gündem

Bakan Göktaş: 15 Temmuz gecesi, aziz milletimizin, darbe zihniyetine son verdiği gecedir

2024-07-15 18:02 - Gündem

Cumhurbaşkanı Erdoğan, Trump ile telefonda görüşerek geçmiş olsun dileklerini iletti

2024-07-18 17:27 - Siyaset

İzmir'de 2 kişinin elektrik akımına kapılarak öldüğü sokakta mazgallar kırmızıya boyandı

2024-07-17 15:58 - Gündem

Microsoft'tan teknik aksaklığa ilişkin açıklama: Sorunu hafifletici önlemler alınmaya devam edi

2024-07-19 11:57 - Teknoloji

Adana'da 4,1 büyüklüğünde deprem

2024-07-21 08:28 - Gündem

İsrail siyasetinden Tel Aviv'deki İHA saldırısı nedeniyle hükümete eleştiri

2024-07-19 14:07 - Dünya

Microsoft 365: Tüm uygulama ve hizmetler kurtarıldı

2024-07-19 20:13 - Teknoloji

ABD'de tutukevinde bulunan Timur Cihantimur'un saldırıya uğradığı belirtildi

2024-07-20 00:33 - Dünya

İlgili Haberler

Yapay zekanın mutlak doğruyu söylediği inancı çatırdıyor

11:48 - Teknoloji

Yapay zekada gizli profilleme, güvenlik ve mahremiyeti tehdit ediyor

11:42 - Teknoloji

Türk mühendisi savunmada ilke imza attı

11:38 - Teknoloji

TÜRKSAT'tan Suriye'ye uydu desteği

11:28 - Teknoloji

Teknoloji askerin 'omuzdaş'ı oldu

11:47 - Teknoloji

Günün Manşetleri

Şap hastalığının yeni serotipine karşı üretilen 6 milyon doz aşı sahaya sevk edildi

13:22 - Gündem

Almanya’da konut inşaat maliyeti enflasyondan daha hızlı artıyor

13:17 - Ekonomi

Genç MÜSİAD, ihracatı gençlerin ticaret yolculuğunu zenginleştirmek için fırsat olarak görüyor

13:12 - Ekonomi

Depremzede öğrencilere okul olan gemi olası afetler için hazır bekletilecek

13:08 - Gündem

OPEC: Petrol 2050'de küresel enerji karışımındaki liderliğini koruyacak

13:02 - Ekonomi