Bezpečnost AI

AI safety

Bezpečnost AI se zabývá tím, jak předcházet škodlivému, nečekanému nebo nekontrolovatelnému chování systémů umělé inteligence.

Zahrnuje testování, omezení oprávnění, ochranu dat, dohled i postupy pro incidenty. Samotná bezpečnostní kontrola modelu nenahrazuje řízení rizik celého produktu.