Bir yapay zekâ modelinden belirli bir konuda araştırma hazırlamasını istediğinizi düşünün. Model, yazar adları, yayın tarihleri ve makale başlıkları içeren düzenli bir metin oluşturabilir. Ancak kaynakları kontrol ettiğinizde bazı çalışmaların hiç yayımlanmadığını fark edebilirsiniz.

Benzer bir durum belge özetlerinde de yaşanabilir. Model, metnin ana fikrini doğru aktarırken belgede bulunmayan bir rakam veya açıklama ekleyebilir. Yanıtın büyük bölümü doğru olduğu için araya giren hatayı fark etmek zorlaşabilir.

Yapay zekâ halüsinasyonu, özellikle bilgiye dayalı işlerde bu nedenle önemlidir. Sorun yalnızca bütünüyle yanlış bir yanıt üretilmesi değildir; doğru ve yanlış ayrıntılar aynı metinde bulunabilir.

AI Hallucination Nedir?

AI Hallucination, üretken yapay zekânın makul görünen ancak olgusal açıdan yanlış veya dayanağı bulunmayan içerik üretmesini ifade eder.

Kavram yalnızca metin üretimiyle sınırlı değildir. Örneğin görsel yorumlayan bir sistem, görüntüde bulunmayan bir nesneden söz edebilir.

“Halüsinasyon” burada teknik bir benzetmedir. Modelin insanlardaki gibi algı yaşadığı veya bilinçli biçimde yalan söylediği anlamına gelmez.

Araştırmalarda tanımlar ve sınıflandırmalar farklılaşabilir. Özellikle iki boyut önemlidir: Yanıtın gerçek dünyadaki bilgilerle uyumu ve kullanıcı tarafından verilen kaynaklara sadakati. Bir sistem bu boyutlardan birinde başarılıyken diğerinde hata yapabilir. 

Yapay Zekâ Modelleri Neden Yanlış Bilgi Üretebilir?

Büyük dil modelleri, metin üretirken bağlamdan yararlanarak sonraki tokenların olasılıklarını hesaplar. Token, bir kelime, kelime parçası veya başka bir metin birimi olabilir.

Bu süreç, her cümlenin bağımsız bir doğrulama sisteminden geçirildiği anlamına gelmez. Model dilsel olarak uygun bir devam üretirken gerçekte yanlış bir ilişki kurabilir.

Ancak sorunu yalnızca “kelime tahmini” ifadesiyle açıklamak yetersizdir. Eğitim verilerinin niteliği, öğrenilen örüntüler, kullanıcı sorusu, sunulan belgeler ve kullanılan araçlar da sonucu etkiler.

Eksik veya çelişkili bilgi, modelin farklı ayrıntıları yanlış birleştirmesine yol açabilir. Belirsiz sorular, yanlış kişi veya olayın esas alınmasına neden olabilir. Güncel bilgi eksikliği, geçmişte doğru olan bir durumun hâlâ geçerliymiş gibi sunulmasına sebep olabilir.

Uzun görevlerde ise erken bir hata sonraki açıklamalara taşınabilir. Model, hatalı bir varsayımı temel alarak kendi içinde tutarlı görünen bir metin oluşturabilir.

Yapay Zekâ Halüsinasyonuna Hangi Örnekler Verilebilir?

Olgusal Hatalar

Bir kişinin doğum tarihi, bir ürünün özelliği veya bir olayın gerçekleştiği yer yanlış aktarılabilir.

Örneğin model, aynı isimdeki iki kişinin bilgilerini birleştirebilir. Ortaya çıkan biyografi akıcı görünse de farklı kişilere ait ayrıntılar içerir.

Uydurma Kaynaklar

Gerçekte bulunmayan makale, kitap, internet adresi veya DOI numarası üretilebilir.

Daha zor fark edilen durumda kaynak gerçekten vardır; fakat belirtilen yazar, tarih veya başlık yanlıştır. Kaynağın varlığı, verilen bütün bibliyografik bilgilerin doğru olduğunu göstermez.

Kaynakla Desteklenmeyen Atıflar

Model gerçek bir kaynağı gösterebilir, ancak kaynak yazılan iddiayı desteklemeyebilir.

Örneğin yalnızca sınırlı bir deneyden söz eden araştırma, bütün kullanıcılar için kesin sonuç kanıtlıyormuş gibi aktarılabilir. Burada bağlantının çalışması yeterli değildir; içerik ile iddia karşılaştırılmalıdır.

Belgeye Sadakat Hataları

Özetlenen belgede olmayan bir neden, sayı veya karar yanıta eklenebilir.

Bir toplantı notunda “konu değerlendirilecek” denirken modelin “karar onaylandı” yazması buna örnektir. Bu hata, gerçek dünyaya ilişkin bilgiden çok verilen metnin yanlış temsil edilmesiyle ilgilidir.

Yazılımda Var Olmayan Özellikler

Kod üreten bir model, kullanılan kütüphanede bulunmayan bir fonksiyon veya parametre önerebilir.

Öneri, kütüphanenin adlandırma biçimine benzediği için inandırıcı görünebilir. Ancak ilgili sürümün dokümantasyonu ve kodun çalıştırılmasıyla kontrol edilmesi gerekir.

Her Yanlış Yanıt Halüsinasyon mu?

Her hatayı aynı başlık altında toplamak, sorunun nedenini anlamayı zorlaştırabilir.

Bir hesaplamada toplama işleminin yanlış yapılması aritmetik hata olabilir. Kullanıcının istediği tablo biçiminin uygulanmaması talimat takibi hatasıdır. Eski bir bilginin aktarılması ise güncellik sorunuyla ilişkili olabilir.

Bu hatalar halüsinasyonla birlikte görülebilir, ancak aynı mekanizmadan kaynaklanmaları gerekmez.

Benzer şekilde, yanlış bilgi ile halüsinasyon arasında “biri kaynaktan gelir, diğeri model tarafından üretilir” şeklinde kesin bir ayrım yapmak doğru değildir. Yanlış bilgi model çıktısında, eğitim verisinde veya getirilen belgede bulunabilir.

Uygulama açısından önemli olan, hatanın nerede oluştuğunu belirlemektir. Yanlış kaynağı değiştirmek ile modelin kaynak dışı ayrıntı eklemesini önlemek farklı müdahaleler gerektirir.

Bir Örnek: Satış Raporundaki Desteksiz Açıklama

Bir işletmenin satış tablosunda yalnızca aylık gelir ve ürün adedi bulunduğunu düşünelim. Kullanıcı modelden satışlardaki değişimi açıklamasını istesin.

Model, tablodan düşüş oranını hesaplayabilir. Ancak ek veri bulunmadığı hâlde “satışlar rakip mağazanın kampanyası nedeniyle azaldı” derse desteklenmeyen bir neden üretmiş olur.

Bu açıklama kulağa makul gelebilir. Yine de tabloda rakip kampanyalarıyla ilgili bilgi yoktur.

Daha uygun bir yanıt, satış düşüşünü verilerle ortaya koymalı ve nedenini belirlemek için hangi ek bilgilere ihtiyaç bulunduğunu açıklamalıdır. Stok durumu, fiyat değişiklikleri veya kampanya kayıtları araştırılabilecek başlıklardır.

Olası bir açıklama ile kanıtlanmış nedenin ayrılması, raporların güvenilirliği açısından önemlidir.

RAG Halüsinasyonu Azaltabilir mi?

RAG, yanıt üretimi sırasında harici kaynaklardan getirilen bilgilerin kullanılmasını sağlar. Böylece model, yalnızca eğitim sırasında öğrendiği bilgilerle sınırlı kalmaz.

Özgün RAG araştırması, bilgi ağırlıklı görevlerde dış kaynaklarla desteklenen üretimin yararlarını göstermiştir. Ancak kaynak getirmek, bütün iddiaların doğru aktarılmasını kendiliğinden sağlamaz. 

Yanlış belge getirilebilir, ilgili bölüm atlanabilir veya kaynak güncelliğini yitirmiş olabilir. Model doğru belgeyi görmesine rağmen içeriği yanlış yorumlayabilir.

Bu nedenle “RAG doğrulanmış bilgi kullanır” ifadesi koşulsuz bir özellik gibi düşünülmemelidir. Kaynakların güvenilirliği ve getirilen içeriğin soruya uygunluğu ayrıca değerlendirilmelidir.

GraphRAG veya Agentic RAG gibi yaklaşımlar da araştırma sürecini geliştirebilir; fakat adlarında bu yöntemlerin bulunması doğruluk garantisi oluşturmaz.

Modelin Kendi Yanıtını Kontrol Etmesi Yeterli mi?

Modelden cevabını yeniden incelemesini istemek bazı hataların bulunmasına yardımcı olabilir. Ancak aynı sistem aynı yanlış varsayımı koruyarak cevabını tekrar onaylayabilir.

Bu nedenle “Emin misin?” sorusuna verilen olumlu yanıt, bağımsız doğrulama sayılmaz.

Chain-of-Verification araştırması, önce bir taslak oluşturup ardından doğrulama sorularını ayrı biçimde ele alan bir yaklaşımın incelenen görevlerde halüsinasyonu azaltabildiğini göstermiştir. Bu bulgu, her görevde hatasız sonuç elde edildiği anlamına gelmez. 

Kontrolün değeri, kullanılan kanıta bağlıdır. Hesaplamada hesaplama aracı, yazılımda test sonucu, kaynak iddiasında özgün yayın gibi dış dayanaklar daha somut bir değerlendirme sağlar.

Yanlış Bilgiler Nasıl Kontrol Edilebilir?

Bir yanıtı bütünüyle doğru veya yanlış kabul etmek yerine önemli iddiaları ayrı ayrı incelemek daha açıklayıcıdır.

FActScore araştırması da uzun metinleri küçük olgusal iddialara ayırarak bunların güvenilir kaynaklarla desteklenme oranını değerlendiren bir yaklaşım sunar. Böylece aynı metinde doğru ve desteksiz bilgilerin birlikte bulunması dikkate alınır. 

Pratik kontrolde şu sıra kullanılabilir:

1. İddiaları ayırın: Tarih, sayı, isim ve neden-sonuç ifadelerini belirleyin.
2. Kaynağın varlığını kontrol edin: Makale, belge veya kayıt gerçekten mevcut mu?
3. İddiayla eşleştirin: Kaynak, yazılan cümleyi gerçekten destekliyor mu?
4. Kapsamı inceleyin: Sonuç hangi dönem, grup veya koşullar için geçerli?
5. Belirsizliği koruyun: Kanıt yetersizse kesinlik ifade etmeyin.

Birbirini kopyalayan çok sayıda sayfa, bağımsız doğrulama sağlamayabilir. Mümkün olduğunda özgün kayda ulaşmak önemlidir.

Kullanıcılar Riski Nasıl Azaltabilir?

Sorunun kapsamını açık belirtmek ve gerekli belgeleri sunmak, yanlış yorumlama ihtimalini azaltabilir.

Örneğin “Bu şirketi anlat” yerine hangi şirketin, hangi dönemin ve hangi bilgi türünün istendiği belirtilebilir. Belge özetlerinde yalnızca verilen metne dayanılması ve bulunmayan bilgilerin açıkça söylenmesi istenebilir.

Sayısal sonuçlar hesaplama araçlarıyla, kod önerileri testlerle ve kaynak bilgileri özgün yayınlarla kontrol edilebilir.

Ancak iyi yazılmış bir komut da kusursuzluk sağlamaz. Kontrol düzeyi, hatanın olası etkisine göre belirlenmelidir. Bir taslak fikir ile önemli bir karara dayanak olacak rapor aynı doğrulama ihtiyacına sahip değildir.

Yaratıcı Yazım Halüsinasyon Sayılır mı?

Kullanıcı kurgu istediğinde hayali karakterler ve olaylar üretilmesi görevin doğal parçasıdır. Bir roman sahnesindeki uydurma şehir, gerçek bilgi olarak sunulmadığı sürece aynı türde bir doğruluk sorunu oluşturmaz.

Sorun, üretilen ayrıntının gerçekmiş gibi aktarılmasıyla ortaya çıkar. Tarihî bir kişi hakkında kurgu yazılırken hayali bir sözün doğrulanmış alıntı olarak sunulması buna örnektir.

Bu nedenle yaratıcılığı “halüsinasyonun avantajı” olarak tanımlamak yerine, kurgu üretimi ile olgusal bilgi sunumunu ayırmak daha doğrudur.

Sık Sorulan Sorular

Yapay zekâ kendinden emin konuşuyorsa bilgi doğru mudur?

Hayır. Anlatımın kesinliği, bilginin doğruluğunu kanıtlamaz.

İnternete erişen modeller de halüsinasyon üretir mi?

Evet. Yanlış kaynak seçebilir, içeriği hatalı yorumlayabilir veya kaynağın desteklemediği ayrıntılar ekleyebilir.

Daha büyük model sorunu tamamen çözer mi?

Böyle bir garanti yoktur. Başarı, modelin yanında göreve, verilere ve değerlendirme yöntemine bağlıdır.

Halüsinasyon tamamen önlenebilir mi?

Genel amaçlı kullanımın bütün koşulları için sıfır hata garantisi verilemez. Belirli görevlerde sınırlı çıktılar, uygun araçlar ve doğrulama kontrolleriyle risk azaltılabilir.

Modelden “bilmiyorsan söyle” demesini istemek yeterli mi?

Yararlı bir yönlendirmedir; ancak tek başına yeterli değildir. Önemli iddialar ayrıca kontrol edilmelidir.

Kaynaklar

A Survey on Hallucination in Large Language Models: Principles, Taxonomy, Challenges, and Open Questions, FActScore: Fine-grained Atomic Evaluation of Factual Precision in Long Form Text Generation, Chain-of-Verification Reduces Hallucination in Large Language Models, Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks.

Editör Notu

Bu içerik, kamuya açık teknoloji, yapay zekâ ve dijital dönüşüm kaynaklarından yararlanılarak hazırlanmış bir araştırma ve değerlendirme yazısıdır. İçerikte yer alan görüşler editoryal yorum niteliğindedir. Yapay zekâ çıktılarının doğruluğu; kullanılan modele, kaynaklara ve görevin niteliğine bağlıdır. Önemli kararları etkileyen bilgilerin özgün kaynaklar ve uygun doğrulama yöntemleriyle kontrol edilmesi önerilir.