OLLAMA
KI & Infrastruktur
Ollama — einfache lokale Modellverwaltung und API für Experimente und Labor.
Schnell zum Ausprobieren; produktive Last oft über vLLM, llama.cpp oder vergleichbare Serving-Stacks.
Schnell zum Ausprobieren; produktive Last oft über vLLM, llama.cpp oder vergleichbare Serving-Stacks.
Praxis
Anwendungsbeispiele
- Modell-Smoke-Test neues GGUF/Modell schnell lokal prüfen
- Demo für Stakeholder ohne produktiven Serving-Aufwand
- Prompt-Iteration Templates und Systemprompts ausprobieren
Stack
Werkzeuge
- Lokale Modellverwaltung
- REST-API
- Modelfiles für eigene Varianten
Zu diesem Tag sind derzeit keine veröffentlichten Leistungen oder Projekte verknüpft.