Kritický systém využívající umělou inteligenci

Critical AI system

Kritický systém AI může při chybě nebo zneužití významně ohrozit bezpečnost, práva lidí nebo dostupnost důležitých služeb.

Posouzení kritičnosti zohledňuje účel, rozsah použití, míru autonomie a možné následky chybných výstupů. Provoz vyžaduje odpovídající dohled, testování, řízení změn a plán reakce na incident. Označení kritický má vést ke konkrétním kontrolám, ne být pouze obecnou vlastností v evidenci.