?>

Yapay zekanın ayrımcılık yapmaması insanların ayrımcı olmamasına bağlı

Cerrahpaşa Tıp Fakültesi Temel Tıp Bilimleri Bölümü Öğretim Üyesi Prof. Dr. Murat Kirişci, algoritmaların tarafsız olduğu algısının yanlış olduğunu belirterek, "İnsan düzelmedikçe yapay zekadan daha iyi sonuçlar beklemek imkansızdır." dedi.

Teknoloji - 12 ay önce

İstanbul

"Yapay Zeka: Kişisel Veriler, Algoritmalar ve Tehditler" başlıklı dosya haberin altıncı bölümünde yapay zeka kullanılarak yapılan ayrımcılık örnekleri değerlendirildi.

Kullanıcıların yüzde 39'u yapay zekayla oluşturulmuş görselleri gerçek zannediyorYapay zekanın tavsiyeleri hastaları yanlış yönlendirebiliyorSes ve görüntü işleyen yapay zeka sistemleri mahremiyete yönelik büyük riskler taşıyorSosyal medya algoritmaları, popüler ayrımcı içeriklerin daha fazla yayılmasına kar amacıyla izin veriyor

Dijital çağın en büyük teknolojik icatlarından biri olan yapay zeka, getirdiği yeniliklerle beraber yarattığı sorunlarla da gündeme gelmeye devam ediyor. Yapay zeka sistemleri ile ilgili son dönemde en büyük sorunlardan biri olarak ise ırkçılık ve ayrımcılık ön plana çıkıyor.

Mevcut verilerde bulunan önyargı ve ayrımcılık gibi istenmeyen özellikleri de öğrenen yapay zeka ürünler, bu sebeple geçmişte pek çok skandala imza attı. 2016 yılında Microsoft tarafından geliştirilen ve X (eski adıyla Twitter) kullanıcılarla etkileşim halinde olması hedeflenen yapay zeka hesap "Tay", çok kısa bir süre içinde gerçek kullanıcıların tweetlerinden beslenerek ırkçı ve islamofobik tweetler atmaya başlamış ve bu sebeple Microsoft, Tay'ın tweetlerine müdahale etmek zorunda kalmıştı.

Yapay zeka uzmanı Prof. Dr. Murat Kirişci, AA muhabirine yaptığı açıklamada, algoritmaların verilerden öğrendiğine dikkati çekerek, "Bu kaynaklarda var olan yanlı, ayrımcı, ırkçı bilgiler de algoritmalar tarafından işlenmekte ve sonuçta araçlar ayrımcı, ırkçı kararlar almaya başlamaktadır." dedi.

Sorunun algoritmaları besleyen verilerde, dolayısıyla o verileri elde eden, üreten insanda olduğuna vurgu yapan Kirişci, "Irkçılık, eşitsizlik özünde verinin bir hatası değil, bizzat verinin bir özelliğidir. Veriyi üreten, algoritmaları yazan, araçları dizayn eden insanın tüm önyargıları, yanlılıkları ve zihnindeki olumsuzluklarıdır sorun olan." şeklinde konuştu.

Kirişci, ayrımcılık yapan algoritmaların hayatın her yerinde var olabileceğini belirterek, sözlerini şöyle sürdürdü:

"Irkçı algoritmalar bir iş yerinde, kişinin işe alınmasından, şirkette çalışırken birçok konuya etki edebilir. Mesela iş başvurularında erkekleri tercih eden algoritmalar mevcuttur. Koyu tenli kişilerde düzgün çalışmayan bir sosyal medya filtresinden veya nörolojik açıdan sıkıntılı öğrencilerin davranışlarını hesaba katmadan bu kişilere ayrımcı bir önyargı ile yaklaşan yapay zekalar çok sıklıkla karşılaşılan araçlardır. Bölgelerinde siyahi ya da farklı ırktan insanların oturmasını istemeyenlerin taleplerine göre üretilmiş algoritma, ırkçı, ayrımcı konut satışı-kiralaması yapmaktadır.

Yüz tanıma sistemlerinde siyahileri ya da ten rengi ortamdaki kişilerden farklı olanları suçlu görme eğiliminde olan algoritmalar birçok masum kişiyi hürriyetinden yoksun bırakmaktadır. Irkçı algoritmalar yüzünden sosyo-ekonomik geçmiş, eğitim ve yaşanılan bölgeye göre tanımlanan kişiler polis tarafından daha fazla gözlem altına tutulabilmektedir. Şiddet uygulayan kişi ya da grupları temize çıkartan ırkçı algoritmalar mevcuttur. Hakkını savunana toplumları (örneğin Filistin halkını) marjinalleştirip kötüleyerek yok olmalarını haklı sebeplere dayandıracak algoritmalar özellikle sosyal mecrada kullanılmaktadır."

"İnsan düzelmedikçe..."

İnsanların zihninde algoritmaların daha tarafsız olduğu yönünde bir algı olduğunu söyleyen Kirişci, insanların tüm önyargılarının algoritmalar vasıtasıyla o araçlara geçtiğini ve bu araçların zaman zaman daha ırkçı, daha taraflı ve ayrımcı olabildiğini söyledi. Kirişci, "İnsanlar arasında nasıl ki bir grup bir başka gruba göre orantısız davranışlar sergileyebiliyorsa yapay zeka araçlarının hepsi aynı şekilde önyargı ve ırkçı orantısızlıklar uygulamaktadır. Yapay zeka gelişip hayat içerisinde yaygınlaştıkça bu adaletsizlik ve ırkçılık da giderek hayatın içerisinde farklı yapay zeka araçlarıyla yürütülmektedir. Bu karmaşa içinde bir yapay zekanın daha adil olmasının tek yolu veri-bilgi aldığı insanoğlunun daha adil olmaya çalışmasıdır. İnsan düzelmedikçe yapay zekadan daha iyi sonuçlar beklemek imkansızdır." değerlendirmesinde bulundu.

Kaynak: AA

dikGAZETE.com
Haftanın Öne Çıkanları

Çevre, Şehircilik ve İklim Değişikliği Bakanı Kurum, Şanlıurfa'da deprem konutlarını inceledi

2024-07-19 22:27 - Siyaset

Türk Silahlı Kuvvetlerine Somali'de yeni görev

2024-07-19 16:42 - Siyaset

Zelenskiy: Trump başkan olursa kendisiyle çalışacağız. Bundan korkmuyorum

2024-07-15 20:08 - Dünya

Küresel piyasalarda gözler ECB'ye çevrildi

2024-07-18 09:38 - Ekonomi

Türkiye Judo Milli Takımı Paris Olimpiyatları'nda 8'de 8 yapmak istiyor

2024-07-18 11:53 - Spor

Bosna Hersek'teki savaşta Sırpların öldürdüğü 4 Boşnak sivil daha toprağa verildi

2024-07-20 18:23 - Dünya

Berlin polisi Filistin destekçilerine sert müdahalede bulundu

2024-07-20 22:52 - Dünya

Hamas, Uluslararası Adalet Divanı'nın İsrail işgaline ilişkin danışma görüşünden memnun

2024-07-19 22:37 - Dünya

Temmuz ayına ilişkin 1 milyar 21 milyon lira SED ödemesi hesaplara yatırıldı

2024-07-19 10:37 - Ekonomi

İsrail saldırıları altındaki Gazze halkı, kıtlık ve yüksek fiyatlarla boğuşuyor

2024-07-16 15:18 - Dünya

İlgili Haberler

ASELSAN 50. Yıl Çocuk Şenliğinde Vanlı çocuklar teknolojiyle buluşuyor

22:17 - Teknoloji

Bilim insanları, şimdiye kadarki en büyük kara delik birleşimini tespit etti

17:33 - Teknoloji

Şartlar değişse de görüntü değişmeyecek

11:18 - Teknoloji

TEKNOFEST Jet Motor Tasarım Yarışması final sunumları TEI'de gerçekleştirildi

10:58 - Teknoloji

Türk Telekom fiber altyapısıyla bölge coğrafyanın dijitalleşmesine öncü oluyor

10:32 - Teknoloji

Günün Manşetleri

Dünyada yılın ilk yarısındaki elektrikli araç satışları 9,1 milyona ulaştı

07:18 - Ekonomi

İsrail'de koalisyon ortağı Agudat Israel Partisi üyeleri de hükümetten istifasını duyurdu

03:07 - Dünya

Bakan Kurum: Milletimiz, Türkiye'yi hain bir kalkışma ve işgal girişiminden kurtarmıştır

01:37 - Siyaset

Adalet Bakanı Tunç: 15 Temmuz'da son darbeyi vuracaklarını zannettiler, başaramadılar

00:33 - Siyaset

New York belediye başkanlığı ön seçimini kaybeden Cuomo, yarışı bağımsız aday olarak sürdürecek

00:28 - Dünya