Ljudski nadzor (human-in-the-loop) je način rada u kojem čovjek odobrava ili odbija osjetljive radnje AI agenta prije nego što se izvrše. U biblioteci OpenAI Agents SDK agent zastane prije osjetljivog pozivanja alata, a nastavlja tek kad osoba odluči. Treba ga razlikovati od obaveze ljudskog nadzora (human oversight) iz člana 14 Akta o umjetnoj inteligenciji (AI Act), Uredba (EU) 2024/1689. Visokorizični AI sistemi moraju omogućiti ljudima djelotvoran nadzor, uključujući poništavanje izlaza i zaustavljanje sistema, prema rokovima Akta. BiH nije članica EU, ali Akt obuhvata i pružaoce i subjekte koji uvode sistem izvan EU kad se njihovi sistemi ili izlazi koriste u Uniji.
Izvori: