Ce que vous pouvez faire
Service d’inférence rapide pour grands modèles
Documentation officielle ↗Programmation · LINGXIFIELD SIAI
vLLM
Service d’inférence rapide pour grands modèles
Site officiel ↗Choisissez selon le résultat à produire, pas selon la liste des fonctions
Service d’inférence rapide pour grands modèles
Service d’inférence rapide pour grands modèles
Pour qui ProgrammationDocumentation officielle ↗
Fonctions réelles et limites
Modèles
Serving compatible large language models
Documentation officielle ↗Gratuit
Gratuit sur votre appareil ; matériel requis
Documentation officielle ↗Démarrer en trois étapes
- 1Ouvrez le site officiel de vLLM et vérifiez les offres
- 2Testez une tâche précise avec un petit échantillon
- 3Vérifiez le résultat, le coût réel et les droits avant de publier
Entreprise
- Entreprise
- vLLM projectSource officielle ↗
- Auteurs initiaux
- Woosuk Kwon and original paper contributorsSource officielle ↗
- Entité juridique
- —
- Cotation
- Sans objet
- Fondation
- 2023Source officielle ↗
- Points forts
- Service d’inférence rapide pour grands modèlesSource officielle ↗
Questions associées
Gratuit
Gratuit sur votre appareil ; matériel requis
Source officielle ↗Prix
Logiciel local gratuit ; cloud séparé
Source officielle ↗Régions
Logiciel local ; règles cloud et modèles distinctes
Source officielle ↗Paiement
Aucun paiement logiciel pour la version libre ou auto-hébergée · Hébergement cloud, calcul et API de modèles facturés séparément
Source officielle ↗Modèles
Serving compatible large language models
Source officielle ↗Usage commercial
Licence logicielle vérifiée ; modèles distincts.
Source officielle ↗