?>

Yapay zeka, var olmayan verileri gerçekte varmışçasına aktararak 'halüsinasyon görüyor'

Yapay zeka destekli sohbet robotları, hatalı veya var olmayan bilgileri "gerçekte varmışçasına" sunarak bir nevi "halüsinasyon görüyor"

Analiz/Röportaj/Dizi/Rapor - 2 ay önce

Ankara

Gerçekte varmış gibi görünen ancak var olmayan algısal yanılsamalar halüsinasyon olarak biliniyor.

ChatGPT, DeepSeek ve Gemini gibi büyük dil modellerinin (LLM), kullanıcılara hatalı, çarpık veya asılsız çıktılar sunması, akıllara "Yapay zeka halüsinasyon görebilir mi?" sorusunu getiriyor.

Öğrenme, sorun çözme ve karar verme gibi insan zekasına özgü bazı işlevleri yerine getirebilen yapay zeka, bilinç yetisine sahip olmasa da bir insan gibi "halüsinasyon görebiliyor."

Daima "tarafsız ve doğru" bilgi aktardığı düşünülen yapay zekanın gerçek dışı ve hatalı verileri "gerçekte varmış gibi" üretmesi, güvenilirliğine ve şeffaflığına ilişkin endişeleri bir kez daha gün yüzüne çıkarıyor.

Yapay zeka destekli sohbet robotlarının, girilen komuttaki bağlama uygun akıcı yanıtlar sunması yapay zekanın "yanılmaz" olduğu algısı yaratsa da bir insan gibi "halüsinasyon görmesi" ciddi sonuçlara sebebiyet verebiliyor.

Uzmanlara göre, yapay zekanın girilen komutlara uygun yanıt üretmeyi hedeflerken yanlış ya da gerçek dışı bilgi aktarması, kullanıcıya her şekilde yarar sağlamayı amaçlamasından kaynaklanıyor.

Rochester Üniversitesi Bilgisayar Bilimleri Bölümünden Profesör Ehsan Hoque "yapay zekada halüsinasyon" kavramına, Washington Üniversitesi Dilbilimi Bölümünden Profesör Emily Bender de yapay zeka destekli sohbet robotlarının güvenilirliğine ilişkin açıklamalarda bulundu.

Yapay zeka kullanıcılara "dalkavukluk" yapıyor...

Profesör Hoque, yapay zekanın doğası gereği kullanıcı niyetini yansıtma eğiliminde olduğunu söyleyerek "Bir yanlışı 'doğrulaması' istendiğinde, birçok model yardımcı oluyormuş gibi görünmek için halüsinasyon görüyor." dedi.

Hoque, girilen komutlara uygun cevaplar vermeyi hedefleyen yapay zekanın, kullanıcılara her şekilde yarar sağlamayı amaçladığı için bir nevi "dalkavukluk" yaptığını söyledi.

Yapay zeka modellerinin gerçekleri doğrulayarak değil, potansiyel kelime kalıplarını tahmin ederek bir metin oluşturduğuna işaret eden Hoque, verilerin eksik ya da muğlak olması durumunda yapay zekanın akıcı ancak yanlış bir metin üretebileceğini kaydetti.

Hoque, halüsinasyonların kasıtlı meydana gelmediğini ancak üretildiği ülkeye göre değer bazlı bazı yargıların "bilerek sisteme kodlanabileceğini" aktararak, mevcut teknolojilerin halüsinasyon sorununu kökünden çözecek bir kapasitesinin henüz olmadığını belirtti.

Yapay zeka, nöropsikiyatrik bir hastalığa benziyor...

Uzmanlar, yapay zekanın var olmayan bir bilgiyi karşı tarafa "doğruymuş gibi" yansıtmasını, nöropsikiyatrik bir hastalık olan "konfabulasyon" (masallama) rahatsızlığına da benzetiyor.

Gerçek dışı veya hayali bir olayı ya da anıyı istemsiz ve akıcı bir şekilde "masal gibi" anlatma anlamına gelen konfabulasyon, komutlara uygun yanıt vermeyi hedefleyen sohbet robotlarının yanlış veya gerçek dışı bilgileri akıcı bir dille ürettiği durumlarda gözlemlenebiliyor.

Konfabulasyon ile mücadele eden hastalarda aslında uydurulmuş olayların ve anıların akıcı bir dille karşı aktarılması ilk başta karşı tarafa "gerçekmiş" gibi yansısa da anlatılan durumların esasında var olamayan ya da çarpık bilgilerden oluştuğu dikkati çekiyor.

Bu durumun özellikle kasıtlı olarak yapılmadığına işaret eden uzmanlar, yapay zekanın "halüsinasyon görmesini" bu hastalığa benzetiyor.

Yapay zekanın mahkeme dosyaları ya da tıbbi kayıtlar gibi resmi belgelerde kullanılması ihtimali göz önünde bulundurulduğunda bu durumun ciddi sonuçlar doğurabileceğine işaret ediliyor.

Yapay zekaya "mutlak güven duyulmamalı"

Yapay zeka destekli sohbet robotlarının güvenilirliğine değinen Washington Üniversitesi Dilbilimi Bölümü Profesörü Bender, yapay zekaya bu kadar çok güven beslenmesinde pazarlama stratejilerinin rolü olduğunu söyleyerek "otomasyon önyargısı" kavramına işaret etti.

Bender, "Yapay zeka tasarımlarındaki hiçbir şey, halüsinasyon problemini çözüme kavuşturmuyor." değerlendirmesinde bulunarak "bu sistemlere mutlak güven duyulmaması" gerektiğinin de altını çizdi.

Kişilerin otomatik bir sistemden gelen bir bilgiye hata oranına bakılmaksızın "aşırı güven duyma eğilimi göstermesi" anlamına gelen bu terim, yapay zeka destekli sohbet robotlarının ürettiği çıktıların "hatasız" olduğu algısıyla örtüşüyor.

Kaynak: AA

.

dikGAZETE.com

Haftanın Öne Çıkanları

Ukrayna Başsavcılığı, ülkede savaş nedeniyle 631 çocuğun öldüğünü açıkladı

2025-06-04 14:18 - Dünya

Fenerbahçe'de en fazla süreyi Fred aldı

2025-06-02 11:23 - Spor

Konya'nın "Orman Dede"si son yolculuğuna uğurlandı

2025-05-30 18:27 - Çevre-Hayat

Anadolu Efes, Mersin Spor'u yendi

2025-06-01 20:25 - Spor

Bakan Işıkhan'dan 'İŞKUR Bana Uygun İşler' sistemine ilişkin açıklama

2025-06-01 10:53 - Siyaset

Göztepe, Süper Lig'de en golcü sezonlarından birini geçirdi

2025-06-01 11:37 - Spor

19 il için "sarı" meteorolojik uyarı

2025-05-30 17:13 - Gündem

Fenerbahçe, sezonu yarın taraftarı önünde oynayacağı Konyaspor maçıyla kapatacak

2025-05-30 14:02 - Spor

MÜSDAV 'Aile Umresi' projesi başlattı

2025-06-02 16:38 - İslam-Hayat - Safer 1447

İsrail'in Gazze'ye saldırılarında 11 Filistinli canından oldu

2025-05-31 04:56 - Dünya

İlgili Haberler

Afrikalı kadınlar ırkçılık ve ayrımcılıkla karşı karşıya

12:12 - Analiz/Röportaj/Dizi/Rapor

10 soruda 'Gayrimenkul Sertifikası' ile borsadan ev alma süreci

17:57 - Analiz/Röportaj/Dizi/Rapor

Gazze 'açlıktan' ölüyor

12:43 - Analiz/Röportaj/Dizi/Rapor

Berlin'de polis tarafından eylemlerde gözaltına alınan Filistin destekçileri: Gözümüzü korkutamayacaklar!

11:22 - Analiz/Röportaj/Dizi/Rapor

Suriye'de ruhani liderlikten dış destekli 'otonomi' liderliğine: Hikmet el-Hecri

16:42 - Analiz/Röportaj/Dizi/Rapor

Günün Manşetleri

Organize suç örgütüne yönelik operasyonlarda 21 şüpheli tutuklandı

08:13 - Gündem

Özgürlük Filosu'nun Gazze'ye yardım için yola çıkan Hanzala gemisi üzerinde dronlar görüldü

02:07 - Dünya

Adalet Bakanı Tunç: Son 15 gün içerisinde çıkan yangınlarla ilgili 17 kişi tutuklu

01:58 - Gündem

CNN: ABD yönetimi, Hamas'ın Gazze'de yardım malzemelerini çaldığına dair kanıt bulamadı

00:58 - Dünya

İtalya'nın Sicilya Adası orman yangınlarıyla mücadele ediyor

00:42 - Dünya