Yapay Zeka Halüsinasyonu (Hallucination) Neden Oluşur?

Yapay zeka halüsinasyonu neden oluşur sorusu her yapay zeka kullanıcısının yanıtını bilmesi gereken bir nokta. Çünkü zaman zaman kendi işlerimizde kullandığımız yapay zekanın verdiği hatalı bilgiler çok ciddi problemlere neden olabiliyor. Bir yapay zeka uygulamasının ya da robotunun hatalı bilgi sunması verilerin yanlış çıkmasına, projelerin hatalı ilerlemesine ve dahası insanları yanlış bilgilendirmeye kadar gidebiliyor. Peki hayatınıza bu kadar hızlı bir şekilde giren yapay zeka sistemlerinin zaman zaman hatalı bilgi veriyor olmasının nedenleri ne olabilir?

Büyük dil modelleri dünyayı ve kendi internet evrenlerini insanlar gibi bir mantık çerçevesinde değerlendirmeye almaz. Onlar düşünmek ya da duygularla hareket etmek yerine milyarlarca bilgi arasından istatiksel olasılıkları hesaplayarak bilgi derler. Çok zaman derledikleri bilgiler nokta atışı, kapsamlı ve doğru bilgilerdir. Fakat yapay zeka sistemleri de zaman zaman yapay zeka halüsinasyonu dediğimiz duruma kapılabilirler. Yapay zeka sistemleri ve büyük dil modellerinin çeşitli durumlarda neden hatalı bilgiler verdiğini yazımızın devamında okuyabilirsiniz.

Yapay Zeka Halüsinasyonu Ne Demek?

Dijital dünyanın en önemli gelişmelerinden biri olan yapay zekalar son yıllarda çeşitli amaçlar için insanların yaşantısında geniş yer tutuyor. Çok geniş kitleler tarafından tercih edilen yapay zeka sistemleri gerek bilgi edinmek gerekse psikolojik destek aramak için kullanılıyor. Fakat birçok olumlu özellikleri olan yapay zeka sistemlerinin de birtakım dezavantajları yok değil. En temeli de hatalı bilgiler vermesidir. Bu da beraberinde yapay zeka halüsinasyonu ne demek sorusunu ortaya çıkarıyor.

Yapay zeka halüsinasyonu büyük dil modelleri (LLM) tarafından doğru olmayan ya da mantıksız olan bilgilerin ikna edici bir şekilde karşı tarafa üreterek vermesidir. Bu konuda genelde Chatgpt gibi yapay zeka uygulamaları aslında hayal görmez. Bilinçli olarak yanlış bilgi de vermez. Yalnızca elinde bulunan matematiksel verilere göre hareket eder. Bilgiler yetersiz ya da güncel ise yapay zeka sisteminin sizlere vereceği bilgi elindeki verilere dayanılarak sunulan en mantıklı bilgilerdir.

Yapay Zeka Halüsinasyon Türleri Neler?

Yapay zeka sistemleri tarafından üretilen her bilgiyi kayıtsız şartsız doğru olarak kabul etmek günümüz için pek de mantıklı olmayabilir. Bunun nedeni bilinçli olmasa dahi yapay zeka sistemlerinin de hatalı bilgiler sunabilmesidir. Teknoloji dünyasında buna yapay zeka halüsinasyonu adı veriliyor. Zaman zaman yapay zekaya sorulan sorular hatalı cevaplarla karşılaşabiliyor. Fakat yapay zeka modellerinde halüsinasyon adını verdiğimiz durum tek tipte ortaya çıkmıyor. Bu durum birden fazla şekilde ortaya çıkıyor. Yapay zeka halüsinasyon türleri şu şekilde anlatılabilir:

Olmayan kaynakları göstermesi en çok karşılaşılan halüsinasyon türlerindendir. Yapay zeka burada akademik kaynakları, kitapları ya da yazarları uydurabilir.

Olgusal hatalar da farklı türde halüsinasyondur. Yani tarihlerde, kişilerde ya da istatiksel verilerde birtakım hatalar yapabilir.

Basit ya da karmaşık matematiksel işlemlerde hatalı sonuçlar üretebilir. Bunu da sizin karşınızda doğru gibi savunabilir.

Kullanıcılar tarafından verilen promtların tamamen dışında çok alakasız ya da tutarsız hikayeler uydurabilir.

Var olmayan fonksiyonlar, API gibi konularda önerilerde bulunabilir. Her ne kadar kod sözdizimi olarak doğru işlem yapsa da bunlar çalışmayabilir.

Büyük Dil Modellerinin Yanlış Bilgi Üretme Nedenleri

Chatgpt gibi yapay zeka uygulamaları tarafından yanlış bilgi üretime aslında sistemin çalışma prensibi ile ilgili bir konudur. Aynı zamanda yapay zeka eğitimi ve gelişim süreci de bilgi verme şekillerini etkiler. Yapay zeka halüsinasyonu adı verilen hatalı ve asılsız bilgilerin ortaya çıkma nedenleri şu şekilde sıralanabilir:

Yapay zeka modellerinin verdiği bilgi kalitesi tamamen eğitildikleri verilerin kalitesine bağlıdır. Eğitim verilerindeki eksiklikler ya da hatalar onların yanlış öğrenmesine neden olur.

Bilgiler arasında boşluklar olması, güncelleme yapılmaması ve çok az araştırma yapılan ya da bilgi bulunan alanlarda bu problem görülebilir.

Büyük dil modelleri insanlar kitaplardan ya da kaynaklardan okuyarak öğrenmezler. Onlar tamamen olasılık tabanlı olarak çalışırlar. Yani onların çalışma mantığına göre bir kelimeden sonra gelebilecek en doğru kelimeyi tahmin etmeye çalışırlar. Yani mantığa değil istatistiğe göre hareket ederler.

Yapay zeka eğitimi sırasında çok fazla ezberleme yaptığında güncel bilgiler karşısında esnek davranamayabilir.

Yapay zeka dil modelleri tamamen kullanıcıyı memnun etme, onları yanıtsız bırakmamaya odaklanır. Bu nedenle “bilmiyorum” demek yerine sınırlı verilerle zorlama bir cevap verir.

Kullanıcının verdiği komutun kalitesi de önemli bir detaydır. Kullanıcı sorguyu hatalı yazdığında alacağı cevap da tamamen hatalı olacaktır.

Yapay Zekalarda Halüsinasyonu Tetikleyen Faktörler

Yapay zeka halüsinasyonu için birtakım faktörlerin tetikleyici olduğu söylenebilir. Yapay zeka eğitimi sürecinde verilen bilgilerin yetersiz olması bu durumu tetikleyen en temel unsurlardan biridir. Veri setinde çok az yer alan konularda genelde tahmin yürütemez ve bu kısımları da hatalı bilgilerle doldurur.

Bilgiyi kalıp olarak öğrenmesi ve aşırı öğrenme gibi durumlar karşısında dil modeli genişleme gösteremeyebilir. Öğrendiği bilgilere çok sıkı bir şekilde bağlıdır. Gerçekte var olmayan bilgileri de size var gibi sunabilir. Yapay zeka halüsinasyonu tetikleyici unsurlarından birisi de uzun sohbetler yapılmasıdır. Kullanıcı çok fazla soru sorarak sohbeti uzattığında ilk promtun sınırları dışına çıkabiliyor.

Promt Kalitesi Halüsinasyona Neden Olur mu?

Promt kalitesi yapay zeka halüsinasyonu üzerinde doğrudan etkili olan faktörlerden biridir. Yapay zekaya sorulan sorular önyargılı bir yönlendirmeye neden olabiliyor. Gerçekleşmemiş bir olayı eğer gerçek bir durum gibi sorarsanız muhtemelen buna göre bir cevap uyduracaktır. Bunların yanında aşırı belirsiz ve net olmayan komutlar vermek konunun sapmasına neden olabilir. Tek promt içerisinde aynı anda birçok görevi yüklemek de yapay zeka halüsinasyonu oluşması nedenleri arasındadır.

---

Özet

Halüsinasyon, modelin olmayan bir bilgiyi kendinden emin şekilde uydurmasıdır. Sebebi kötü niyet değil istatistiksel tahmin doğası; çözümü ise doğrulama ve kaynağa bağlama.

Sen ne düşünüyorsun? Bir AI çıktısını yayınlamadan önce doğruluğunu nasıl kontrol ediyorsun?

İlgili Yazılar

• Yapay Zeka Neden Bazen Yanlış Cevap Verir?
• Büyük Dil Modelleri Bilgiyi Gerçekten Öğreniyor mu?