Agent je sistem u kojem veliki jezički model (large language model, LLM) samostalno obavlja zadatak, koristeći alate. Jedinstvena definicija ne postoji, a Anthropic i OpenAI naglašavaju različite stvari. Anthropic ističe da model sam usmjerava korake i bira alate. Po tome agenta razlikuje od toka rada (workflow), u kojem programski kod unaprijed određuje redoslijed koraka. OpenAI agente opisuje kao sisteme koji samostalno obavljaju zadatke u ime korisnika, a sastoje se od modela, alata i instrukcija za ponašanje. Po OpenAI-ju, jednostavan chatbot nije agent jer ne upravlja izvršavanjem zadatka. Anthropic upozorava da samostalnost ima cijenu: agent radi sporije i košta više, a greške se mogu nagomilavati iz koraka u korak.
Izvori: