AI gateway

AI gateway je centrální vrstva, která sjednocuje přístup aplikací k jednomu nebo více modelům AI.

Může směrovat požadavky, spravovat limity, zaznamenávat využití a uplatňovat bezpečnostní pravidla. Umožňuje měnit poskytovatele bez úprav každé aplikace.