Veliki jezički model (large language model, LLM) je računarski model koji je iz ogromnih količina teksta naučio da obrađuje i generiše jezik. Nastaje predtreniranjem (pre-training) modela transformer arhitekture na velikim zbirkama tekstova. Ne postoji dogovorena granica od koje se model smatra velikim. Pregled Zhaoa i saradnika navodi da s veličinom modela raste i njegov kapacitet. Isti pregled opisuje sposobnosti kojih kod malih modela nema, npr. rješavanje novog zadatka samo na osnovu primjera navedenih u promptu (uputi ili upitu koji unosite modelu). Istraživači sa Stanforda upozoravaju da utisak naglog pojavljivanja takvih sposobnosti može dijelom biti posljedica načina na koji se one mjere.
Izvori: