Halüsinasyon
Halüsinasyon, bir dil modelinin gerçekte var olmayan ya da yanlış bir bilgiyi doğruymuş gibi, kendinden emin bir dille üretmesidir. Uydurma kaynaklar, yanlış rakamlar ve olmayan ürün özellikleri tipik örneklerdir. Modele doğrulanmış kaynak vermek, kaynak göstermesini istemek ve kritik çıktıları insan onayından geçirmek riski azaltır.
- Alan
- Otomasyon ve AI
- Diğer adları
- hallucination, yapay zeka uydurması
- İngilizcesi
- Hallucination
- Daha fazlası · Hizmet
- Yapay zeka müşteri asistanı
Neden önemli
Halüsinasyon, yapay zekanın yanlış cevabı da doğru gibi, akıcı biçimde yazması demektir, bu yüzden fark edilmesi zordur. Müşteriye giden bir hatalı fiyat, olmayan bir kampanya ya da uydurma bir kaynak itibar ve hukuk sorunu yaratabilir. Kritik çıktılar mutlaka kontrol edilmelidir.
Örnek
Bir firmanın sohbet asistanı müşteriye “bu ürüne 2 yıl garanti veriyoruz” dedi, oysa garanti 1 yıldı. Müşteri bunu şikayet etti. Asistana yalnızca garanti belgesinden cevap vermesi söylendi ve garanti soruları insan onayına bağlandı.
Benzer terimler
- İnsan onayıİnsan onayı, otomatik bir sürecin belirli bir adımında kararın ya da son kontrolün bir insana bırakılmasıdır.
- RAGRAG, bir dil modelinin cevap yazmadan önce işletmenin kendi belgelerinden ilgili bölümleri bulup bağlam olarak aldığı yöntemdir.
- APIAPI, bir yazılımın başka yazılımlara sunduğu, hangi isteklere hangi biçimde cevap vereceğini tanımlayan arayüzdür.
- EntegrasyonEntegrasyon, iki ya da daha fazla yazılımın veriyi insan eliyle taşımaya gerek kalmadan birbirine aktaracak biçimde bağlanmasıdır.
- Hata iş akışıHata iş akışı, başka bir iş akışı başarısız olduğunda devreye giren ayrı akıştır.
- İş akışıİş akışı, bir işin baştan sona hangi adımlardan geçtiğini ve her adımda hangi verinin nereye gittiğini tanımlayan sıradır.
Tanımlar genel bilgi içindir. Bir tanımı eksik ya da yanlış bulduysanız yazın, bir iş günü içinde dönelim. Bize yazın
Yazılarımız
Otomasyon ve AI üzerine yazdıklarımızdan; terimin işte nasıl karşınıza çıktığını anlatır.
- İş için prompt nasıl yazılır: 5 parça, örnek ve kontrolRol ve bağlamdan örneğe beş parça, toplantı notları üzerinde önce ve sonra, cevabı kontrol etme, herkese açık araca yapıştırılmayacaklar ve ekibin ortak prompt kütüphanesi.
- RAG nedir? Şirket belgeleriyle cevap veren yapay zekaDil modeline cevap yazmadan önce kendi belgelerinizde arama yaptırmak: sistemin parçaları, ters giden yerler, sabit soru setiyle test ve kişisel veri noktaları.
- KKTC’de e-Fatura: kimler geçmeli, nasıl başvurulurGelir ve Vergi Dairesi’nin sayfalarında ve yayımladığı Tüzük metninde ne yazıyor: kâğıt fatura ile e-Fatura yan yana duruyor, zorunluluk kimi kapsıyor, başvuru hangi adımlarla yapılıyor, internetten satış yapan işletme neyi bağlamalı.
- Müşteri verisi nasıl temizlenir: CRM’e aktarmadan önceKopya almak, tek satır ve sabit sütunlar, tek biçim, tekrarlar, boş değerler, kaynak ve izin, yirmi satırlık deneme ve listeyi temiz tutan kurallar.