GitHub / France-Travail / vllm-ft
A high-throughput and memory-efficient inference and serving engine for LLMs
JSON API: https://ecosystem.code.gouv.fr/api/v1/hosts/GitHub/repositories/France-Travail%2Fvllm-ft
étoiles: 3
forks: 0
issues ouvertes: 0
licence: apache-2.0
langage: Python
taille: 46,1 Mo
dépendances analysées: En attente
date de création: il y a 2 mois
date de mise à jour: il y a 4 jours
enregistré: il y a 4 jours
dernière synchronisation: il y a 2 jours
Funding Links https://github.com/sponsors/vllm-project, https://opencollective.com/vllm
Readme
Loading...