Qué puedes hacer
Servicio de inferencia rápida de LLM
Documentación oficial ↗Programación · LINGXIFIELD SIAI
vLLM
Servicio de inferencia rápida de LLM
Sitio oficial ↗Elige por el resultado que necesitas, no por la lista de funciones
Servicio de inferencia rápida de LLM
Servicio de inferencia rápida de LLM
Ideal para ProgramaciónDocumentación oficial ↗
Funciones reales y límites
Modelos
Serving compatible large language models
Documentación oficial ↗Gratis
Gratis en tu equipo; requiere hardware
Documentación oficial ↗Empieza en tres pasos
- 1Abre el sitio oficial de vLLM y revisa el plan
- 2Prueba una tarea concreta con tus propios materiales
- 3Comprueba resultado, coste real y derechos de uso antes de publicar
Empresa
- Empresa
- vLLM projectFuente oficial ↗
- Autores iniciales
- Woosuk Kwon and original paper contributorsFuente oficial ↗
- Entidad jurídica
- —
- Cotización
- No aplica
- Fundación
- 2023Fuente oficial ↗
- Ventajas
- Servicio de inferencia rápida de LLMFuente oficial ↗
Preguntas relacionadas
Gratis
Gratis en tu equipo; requiere hardware
Fuente oficial ↗Precio
Software local gratis; nube aparte
Fuente oficial ↗Regiones
Uso local; reglas de nube y modelos por separado
Fuente oficial ↗Pago
Sin pago de software para la versión autoalojada/de código abierto · El alojamiento, el cómputo y las API de modelos se cobran por separado
Fuente oficial ↗Modelos
Serving compatible large language models
Fuente oficial ↗Uso comercial
Licencia de software documentada; modelos aparte.
Fuente oficial ↗