Orkestracija je usklađivanje rada jezičkih modela i alata u jednom sistemu: ko radi koji dio zadatka, kojim redom i kako se rezultati spajaju. Izraz nema ustaljeno značenje. Anthropic ga koristi za tokove rada (workflow), u kojima programski kod unaprijed određuje putanju. Isti izvor opisuje i obrazac u kojem centralni model, orkestrator, dijeli zadatak na dijelove, prosljeđuje ih drugim modelima i spaja njihove rezultate. OpenAI orkestraciju dijeli na sisteme s jednim agentom koji radi u petlji i sisteme s više agenata, uz preporuku da se počne jednostavno. Pojam nema veze s orkestracijom softverske infrastrukture u sistemima poput Kubernetesa.
Izvori: