Bezpečnostní mantinely AI

AI Guardrails

Bezpečnostní mantinely AI jsou pravidla a technické kontroly, které omezují nežádoucí vstupy, výstupy nebo činnost systému.

Mohou zahrnovat filtrování, oprávnění nástrojů, limity obsahu i lidské schválení. Jejich účinnost se ověřuje testováním a průběžným sledováním, protože žádný jednotlivý filtr nepokrývá všechny hrozby.