Das ist möglich
Sprachmodelle lokal auf CPU und GPU ausführen
Offizielle Dokumentation ↗Lokale Modelle · LINGXIFIELD SIAI
llama.cpp
Sprachmodelle lokal auf CPU und GPU ausführen
Offizielle Website ↗Wählen Sie nach dem Ergebnis, nicht nach der längsten Funktionsliste
Sprachmodelle lokal auf CPU und GPU ausführen
Sprachmodelle lokal auf CPU und GPU ausführen
Für wen geeignet Lokale ModelleOffizielle Dokumentation ↗
Konkrete Funktionen und Grenzen
Modelle
GGUF-compatible local models
Offizielle Dokumentation ↗Kostenlos
Auf eigener Hardware gratis
Offizielle Dokumentation ↗In drei Schritten starten
- 1Offizielle llama.cpp-Website öffnen und Tarif prüfen
- 2Eine konkrete Aufgabe mit eigenen Testdaten ausprobieren
- 3Ergebnis, tatsächliche Kosten und Nutzungsrechte vor Veröffentlichung prüfen
Unternehmen
- Unternehmen
- ggml-orgOffizielle Quelle ↗
- Projekturheber
- Georgi GerganovOffizielle Quelle ↗
- Rechtsträger
- —
- Börse
- Nicht zutreffend
- Gründung
- 2023Offizielle Quelle ↗
- Stärken
- Sprachmodelle lokal auf CPU und GPU ausführenOffizielle Quelle ↗
Verwandte Fragen
Kostenlos
Auf eigener Hardware gratis
Offizielle Quelle ↗Preis
Lokal kostenlos; Cloud separat
Offizielle Quelle ↗Regionen
Lokale Nutzung; Cloud- und Modellregeln separat
Offizielle Quelle ↗Zahlung
Keine Softwaregebühr für selbst gehostete Open-Source-Versionen · Cloud-Hosting, Rechenleistung und Modell-APIs werden separat berechnet
Offizielle Quelle ↗Modelle
GGUF-compatible local models
Offizielle Quelle ↗Gewerbliche Nutzung
Softwarelizenz geprüft; Modelle separat.
Offizielle Quelle ↗