Das Modell läuft auf deinem eigenen Rechner und wird über einen lokalen Endpunkt bereitgestellt. Dein PHP-/Node-/Python-Projekt ruft es wie eine Cloud-API auf – nur dass die Daten niemals dein Gerät verlassen.
Wähle ein Modell in ServBay aus und lade es herunter. Unterstützt das Fortsetzen abgebrochener Downloads, Unterbrechungen sind kein Problem.
Sobald das erste Modell bereit ist, wird es über einen lokalen Endpunkt zentral bereitgestellt – ganz ohne Konfiguration.
Richten Sie Ihr Projekt auf den lokalen Endpunkt aus und rufen Sie Embedding und Vervollständigung genauso auf wie eine Cloud-API.
Eine standardisierte Schnittstelle – zum Wechseln des Modells muss nur ein Name geändert werden.
Open-Source-Modelle aus der Ollama-Modellbibliothek, mit nur einem Klick herunterladen und sofort verwenden.
…und weitere Modelle in der Ollama-Bibliothek
Alle Open-Source-Modelle in der Ollama-Bibliothek, von Llama und Qwen bis hin zu DeepSeek und Mistral, können mit nur einem Klick heruntergeladen und ausgeführt werden.
Ja. Über einen lokalen Endpunkt können deine PHP-/Node-/Python-Projekte direkt Embedding und Completion aufrufen.
Nein. Das Modell und alle Aufrufe laufen vollständig auf deinem eigenen Gerät, Daten verlassen dein Gerät nicht.