Ollama
Standardweg für Local AI.
- Personal sucht zuerst
http://127.0.0.1:11434, danach LM Studio (:1234), LocalAI und vLLM. Eine eigene URL geht im Wizard und unter Einstellungen → Lokale KI. - Workspace-Dev nutzt den Host; Prod kann den
ollama-Service in Compose verwenden. GET /api/ollama/modelsbleibt 200, auch wenn nichts erreichbar ist (reachable/probed).
Personal kann Modelle aus der Ollama-Library in der App laden (POST /api/ollama/pull) — im Wizard, unter Einstellungen → Lokale KI und im Modell-Dropdown (LLM / Agent Loop: Modell hinzufügen). Das ist derselbe Vorgang wie ollama pull, ohne Terminal. Alternativ weiter ollama pull …. Danach erscheinen sie im Modellwähler. Welches Modell Uella im Chat nutzt, setzt du im Wizard oder unter Einstellungen → Funktionen → Chat.
Sobald lokale KI (Ollama) erreichbar ist, lädt der Personal-Wizard das Vorwissen-Embedding (bge-m3, überschreibbar mit OLLAMA_EMBED_MODEL) still mit — Status «Vorwissen», nicht als zweite Chat-Modell-Frage. Ohne dieses Modell scheitern Vorwissen-Upload und Memory. Bei LM Studio o. Ä. erscheint der Hinweis, das Embedding dort zu laden.
Löschen: POST /api/ollama/delete mit Bestätigung. Personal jeder auf dem eigenen Rechner. Workspace nur Admin/Owner, gilt für alle Nutzer. Cloud ohne erreichbares Ollama hat keinen Pull/Delete.
Siehe Inference Provider.