Halucinacija je netačan ili izmišljen sadržaj koji jezički model generiše: tekst koji je besmislen ili ne odgovara izvoru na koji bi se trebao oslanjati. Ji i saradnici razlikuju dvije vrste. Unutrašnja halucinacija proturječi izvoru: ilustracije radi, sažetak članka navede pogrešan datum. Vanjska halucinacija sadrži tvrdnju koju izvor ne može ni potvrditi ni opovrgnuti. Kalai i saradnici iz OpenAI-ja opisuju halucinacije kao uvjerljive, a netačne tvrdnje koje model daje umjesto da prizna nesigurnost. U nerecenziranom radu tvrde da treniranje (training) i ocjenjivanje modela nagrađuju pogađanje više nego priznavanje nesigurnosti. Riječ je posuđena iz psihologije, ali s ljudskom halucinacijom pojava ima malo zajedničkog.
Izvori: