Инференс на vllm

#1
by MGruzd - opened

Есть ли возможность инференсить эту модель на vllm? Если да, поделитесь пожалуйста примером кода.

Sign up or log in to comment