Hallucination to zjawisko występujące w systemach sztucznej inteligencji, w których modele generatywne tworzą treści niezgodne z rzeczywistością. Modele te czasami łączą fragmenty danych w sposób, który wygląda logicznie, lecz jest faktycznie nieprawdziwy. Takie błędy mogą wprowadzać w błąd użytkowników i obniżać wiarygodność systemów AI.
Przyczyny hallucination wynikają głównie z ograniczeń danych treningowych oraz złożoności języka naturalnego. Modele AI uczą się na podstawie dostępnych informacji, ale mogą też „wyobrażać” sobie brakujące dane. W rezultacie generują odpowiedzi, które nie mają solidnych podstaw w rzeczywistości.
Rozwiązanie problemu hallucination wymaga ciągłego doskonalenia algorytmów oraz poprawy jakości danych treningowych. Badacze pracują nad metodami weryfikacji generowanych treści i nad wprowadzeniem mechanizmów kontroli jakości. W przyszłości zaawansowane techniki uczenia maszynowego mogą znacząco zredukować to zjawisko, zwiększając wiarygodność modeli AI.