Jailbreak

Jailbreak je pokus přimět model, aby obešel bezpečnostní omezení nebo vykonal jinak zakázanou instrukci.

Útok může využívat formulaci zadání, vložený text nebo kombinaci několika kroků. Obrana musí testovat model i aplikaci, která mu předává nedůvěryhodný obsah.