Ochranná pravidla pro AI systém

AI system guardrails

Ochranná pravidla vymezují, jaké vstupy, výstupy a akce jsou pro AI systém přijatelné.

Kontroly mohou filtrovat požadavky, omezit přístup k nástrojům nebo ověřovat odpovědi před předáním uživateli. Je třeba je testovat i proti obcházení a falešným poplachům, protože samostatná kontrolní vrstva neodstraní všechna rizika.