Red Hat AI Inference Server umożliwia działanie generatywnej sztucznej inteligencji w dowolnym modelu i dowolnym akceleratorze w chmurze hybrydowej
Dzięki modelowi vLLM oraz technologiom Neural Magic, Red Hat AI Inference Server zapewnia szybsze, wydajniejsze i bardziej opłacalne mechanizmy wnioskowania