Zaštitna ograničenja (guardrails) su provjere ulaza u jezički model i izlaza iz njega koje rade dok se aplikacija izvršava, izvan samog modela. Po tome se razlikuju od ponašanja koje model nauči tokom treniranja. Rebedea i saradnici navode šta takve provjere mogu: blokirati štetne teme, držati razgovor na unaprijed zadanom toku i nametnuti stil odgovora. U biblioteci OpenAI Agents SDK ulazna ograničenja provjeravaju korisnikov zahtjev, a izlazna odgovor agenta. Ako provjera ne prođe, izvršavanje se zaustavlja. Zaštitna ograničenja smanjuju rizik, ali ga ne uklanjaju.
Izvori: