Mitarbeitende möchten KI für alltägliche Aufgaben nutzen, während Unternehmen den Umgang mit internen Informationen kontrollieren müssen. Open WebUI richtet sich an Teams, die Fragen in einer vertrauten Browserumgebung stellen möchten, ohne sensible Inhalte unbedacht an externe Dienste zu senden.
Ein eigener KI-Chatserver kann dabei helfen, die Nutzung an den Bedarf und die vorhandene Umgebung anzupassen. Selbsthosting allein garantiert jedoch weder Datenschutz noch Rechtskonformität. Entscheidend bleiben die gewählten Modelle, Zugriffsregeln und Datenflüsse.
Das Wichtigste auf einen Blick
- Open WebUI bietet eine Browseroberfläche für verschiedene KI-Modelle.
- Ollama kann lokale Modelle bereitstellen.
- OpenAI-kompatible APIs ermöglichen weitere Modellquellen.
- Ein Docker-Volume hält Anwendungsdaten beim Entfernen des Containers fest.
- Selbsthosting ersetzt keine Prüfung von Zugriffen und Datenflüssen.
Damit Sie den passenden Einsatz einschätzen, klären wir zuerst, was Open WebUI ist und welche Rolle es im eigenen KI-System übernimmt.
Was ist Open WebUI und was kann es?
Open WebUI ist eine selbst gehostete, browserbasierte Weboberfläche für KI-Modelle. Das Frontend ist die Bedienoberfläche, über die Nutzer im Browser mit einem dahinterliegenden Dienst interagieren.
Die Oberfläche steuert Anfragen, trainiert aber selbst kein Sprachmodell. Ein Modellserver nimmt die Anfrage an und liefert die Antwort des Sprachmodells zurück.
Open WebUI bietet die Bedienung, nicht das Sprachmodell. Die Modellquelle bestimmt, welche Antworten verfügbar sind.
Die Weboberfläche als Frontend für KI-Modelle
Open WebUI zeigt Chats und Funktionen im Browser an. Die Anwendung verwaltet die Kommunikation zwischen Nutzern und angebundenen Diensten.
Ursprünglich hieß die Anwendung Ollama WebUI. Mit der Ausrichtung auf verschiedene Modellquellen erhielt sie den Namen Open WebUI.
Die Oberfläche kann mehrere Funktionen bündeln, etwa Chatverläufe, Prompts und eine Modellauswahl. Welche davon sichtbar sind, hängt von der eingerichteten Version ab.
Lokale Modelle und externe Dienste anbinden
Ollama ist eine Möglichkeit, lokale Modelle auf eigener Hardware bereitzustellen. Open WebUI kann diese Modelle über den Modellserver ansprechen.
Weitere Quellen lassen sich über eine OpenAI-kompatible API anbinden. Diese Schnittstelle erlaubt Anwendungen, Anfragen in einem verbreiteten Format an passende Dienste zu senden.
Der Modellserver, das Sprachmodell und die Oberfläche sind getrennte Teile. Das erleichtert den Wechsel der Quelle, ändert aber nicht automatisch, wohin Daten fließen.
Von dieser Funktionsweise führt der nächste Schritt zur Frage, welche Betriebsart zur eigenen Infrastruktur passt.
Welche Betriebsart passt zu Ihrer Umgebung?
Ein lokal gebündeltes Setup verbindet Open WebUI direkt mit Ollama auf einem Server. Eine getrennte Modellinstanz braucht dagegen eine erreichbare Netzwerkverbindung und passende Adresse.
Die Adresse muss aus Sicht des Open-WebUI-Containers erreichbar sein. Die passende Betriebsart hängt von Ihrer Umgebung, dem Netzwerk und der gewünschten Trennung ab.
Ollama und Open WebUI auf einem Server
Ollama kann nativ auf demselben Ubuntu-Server laufen, während Open WebUI als Docker-Container startet. Mit dem Host-Netzwerk erreicht die Oberfläche Ollama über die lokale Adresse.
Der Host-Netzwerkbetrieb hebt die Netzwerkisolation des Containers auf. Das vereinfacht manche Verbindungen, gibt dem Container aber mehr Zugriff auf das Netzwerk des Servers.
Beide Anwendungen in Docker oder mit getrennten Servern
Im gemeinsamen Docker-Netzwerk sprechen sich die Container über ihre Dienstnamen an. Eine typische interne Adresse für Ollama lautet http://ollama:11434.
Bei einem entfernten Ollama-Server müssen Netzwerkzugriff und erreichbare API-Adresse stimmen. Eine Firewall oder ein Routingfehler kann die Verbindung trotz laufender Dienste verhindern.
| Aufbau | Ollama-Adresse für Open WebUI | Netzwerkverbindung | Passend, wenn |
|---|---|---|---|
| Ollama nativ plus Open WebUI im Host-Netzwerk | http://127.0.0.1:11434 | Gleicher Server | Ein einfacher Einzelserver genügt |
| Beide Anwendungen im gemeinsamen Docker-Netzwerk | http://ollama:11434 | Gemeinsames Docker-Netzwerk | Container getrennt verwaltet werden |
| Open WebUI mit entferntem Ollama-Server | Erreichbare Serveradresse | Netzwerkzugriff zwischen Servern | Modellserver zentral bereitsteht |
Der Ausdruck „Open WebUI local“ meint meist den lokalen Modellbetrieb. Er schließt nicht automatisch jeden Datenfluss oder jede externe Verbindung aus.
Für die Schritt-für-Schritt-Anleitung dient ein Ubuntu-Server mit lokalem Ollama als klar begrenzte Beispielumgebung. Als Nächstes prüfen Sie dafür die Voraussetzungen.
Welche Voraussetzungen brauchen Sie für die Installation?
Die Beispielinstallation setzt eine bereits laufende Ollama-Instanz auf Ubuntu Server 24.04 LTS voraus. Prüfen Sie vor dem Start, ob Docker, ein Modell und freie Ressourcen vorhanden sind.
Mindestens 8 GB RAM sind eine grobe Untergrenze; für größere Modelle empfehlen sich 16 GB. Planen Sie mindestens 50 GB freien Speicherplatz für Modelle ein.
Diese Werte sind Orientierungswerte, keine Zusage für eine bestimmte Antwortgeschwindigkeit. Der tatsächliche Bedarf hängt vom Modell und der Nutzung ab.
- Ubuntu-Version: Prüfen Sie, ob Ubuntu Server 24.04 LTS läuft.
- sudo-Zugang: Ihr Benutzer benötigt Rechte für administrative Befehle.
- Docker: Kontrollieren Sie die installierte Docker-Version.
- Ollama und Modell: Der Dienst muss laufen und mindestens ein Modell enthalten.
- Port und Speicher: TCP-Port 8080 muss frei sein; planen Sie mindestens 50 GB ein.
Den Dienststatus prüfen Sie mit sudo systemctl status ollama. Die Modellliste liefert curl http://127.0.0.1:11434/api/tags.
Docker prüfen Sie mit sudo docker version. Fehlt ein Modell, können Sie zum Beispiel ollama pull gemma3:4b ausführen.
Bevor Sie den Open-WebUI-Container starten, muss die Modell-API antworten und ein Modell anzeigen.
Open WebUI mit Docker installieren
Starten Sie den Container mit diesem vollständigen Befehl. Er nutzt das Host-Netzwerk und bindet die lokale Ollama-API an:
sudo docker run -d --network=host -v open-webui:/app/backend/data -e OLLAMA_BASE_URL=http://127.0.0.1:11434 --name open-webui --restart always ghcr.io/open-webui/open-webui:main
Das Docker-Volume open-webui bewahrt Anwendungsdaten unter /app/backend/data auf. Die Option –network=host erlaubt die Verbindung zur Ollama-Adresse des Servers.
Host-Netzwerkbetrieb bietet weniger Isolation als ein eigenes Docker-Netzwerk. Verwenden Sie ihn nur, wenn diese Vereinfachung zu Ihrer Umgebung passt.
Prüfen Sie den Start in dieser Reihenfolge:
- Starten Sie den Docker-Befehl auf dem Ubuntu-Server.
- Kontrollieren Sie den Container mit
sudo docker ps. - Lesen Sie bei Problemen die Ausgabe von
sudo docker logs open-webui. - Rufen Sie die Weboberfläche über Port 8080 im Browser auf.
- Wählen Sie nach einem erfolgreichen Test einen festen Image-Tag für den produktiven Betrieb.
Der Tag main bezeichnet die laufende Hauptversion und kann sich ändern. Ein neuer Start kann deshalb eine andere Version laden.
Wenn der Container läuft, öffnen Sie die Adresse im Browser und prüfen anschließend die Verbindung zu einem Modell.
Wie melden Sie sich an und prüfen die Verbindung?
Öffnen Sie im Browser die Adresse http://<IP-DES-SERVERS>:8080. Beim ersten Besuch legen Sie ein Benutzerkonto an.
Das erste Konto einer neuen Installation erhält Administratorrechte. Legen Sie diesen Zugang sicher an und lassen Sie die Oberfläche nicht offen zugänglich.
Prüfen Sie danach die Verbindung mit drei einfachen Tests:
- Öffnen Sie die Serveradresse und legen Sie das erste Konto an.
- Wählen Sie
gemma3:4bin der Modellauswahl. - Senden Sie die Frage: „Erkläre den Unterschied zwischen RAID 5 und RAID 6.“
Eine passende Antwort bestätigt, dass Open WebUI Ollama erreicht und das Modell eine Anfrage verarbeitet. Die Antwortqualität hängt vom Modell ab.
Falls keine Modelle erscheinen, öffnen Sie Admin Panel > Settings > Connections und prüfen Sie die Verbindung.
Auch curl http://127.0.0.1:11434/api/tags zeigt, ob die lokale Ollama-API Modelle meldet. Eine leere Liste weist auf ein fehlendes Modell hin.
Nach einer erfolgreichen Testantwort können Sie weitere Modelle auswählen und zusätzliche Quellen anbinden.
Welche Modelle und Dienste lassen sich verbinden?
Open WebUI stellt die Oberfläche bereit, während der Modellzugriff von der eingerichteten Quelle abhängt. Sie können lokale Ollama-Modelle oder externe Dienste verwenden.
Für jede Verbindung müssen Adresse, Zugangsdaten und verfügbares Modell zusammenpassen. Prüfen Sie diese Angaben in den Verbindungseinstellungen.
Lokale Ollama-Modelle auswählen
Bei open webui ollama geht es meist um diese Verbindung zu lokalen Modellen. Wählen Sie ein installiertes Modell in der Oberfläche aus.
Der Modellserver muss laufen und aus Sicht von Open WebUI erreichbar sein. In einem gemeinsamen Docker-Netzwerk zählt die interne Adresse, nicht zwingend die Adresse des Hosts.
OpenAI-kompatible APIs und Anbieter nutzen
Open WebUI kann OpenAI-kompatible APIs anbinden. Beispiele für Modell- oder API-Quellen sind LM Studio, GroqCloud, OpenRouter und Anthropic.
Eine passende API-Adresse und nötige Zugangsdaten sind für die Verbindung erforderlich. Die angebotenen Modelle hängen vom jeweiligen Dienst ab.
| Variante | Wo das Modell läuft | Was für die Verbindung nötig ist | Worauf bei Daten zu achten ist |
|---|---|---|---|
| Ollama lokal | Eigener Server | Erreichbare Ollama-API | Lokaler Betrieb schließt andere Datenflüsse nicht aus |
| OpenAI-kompatible API | Beim jeweiligen Anbieter | Endpunkt und Zugangsdaten | Prüfen Sie die Weitergabe an den Dienst |
| Gemischter Betrieb | Lokal und bei Anbietern | Getrennte Verbindungen je Quelle | Jede Quelle hat eigene Datenwege |
Die Suchbegriffe „Open WebUI Anthropic“ und „Open WebUI DeepSeek“ meinen keine automatische Anbindung. Der jeweilige Dienst ist nur nutzbar, wenn eine passende, erreichbare Verbindung und ein verfügbares Modell eingerichtet sind.
Kontrollieren Sie den Namen, den Endpunkt und die Zugangsdaten in den Verbindungseinstellungen. So vermeiden Sie Annahmen über eine Funktion oder ein bestimmtes Modell-Tag.
Von der Modellwahl führt der nächste Schritt zu Dokumenten, Webinhalten und weiteren Arbeitsschritten.
Welche Funktionen helfen bei Dokumenten und Arbeitsabläufen?
Ein allgemeines Sprachmodell kann eine Frage zu Ihrem internen Handbuch ohne bereitgestellte Inhalte nicht verlässlich beantworten. Open WebUI kann Dokumente für solche Anfragen verfügbar machen.
RAG bedeutet, dass passende Textstellen aus bereitgestellten Dokumenten abgerufen werden. Das Modell kann diese Stellen bei seiner Antwort berücksichtigen.
RAG verändert nicht automatisch das Training des Modells. Dokumente bereitzustellen oder Prompts anzupassen ist etwas anderes, als ein Modell neu zu trainieren.
Dokumente mit RAG für Antworten heranziehen
Je nach Einrichtung können Sie Dokumente hochladen oder eine lokale Wissenssammlung nutzen. Das System sucht passende Textstellen und gibt sie dem Modell für eine Antwort mit.
Das Ergebnis hängt auch von der Lesbarkeit der Dateien ab. Ungeklärte Tabellen, Spalten oder Formatierungen können dazu führen, dass wichtige Inhalte fehlen.
Der Suchbegriff „Open WebUI train model“ kann daher irreführen. Dokumente für RAG bereitzustellen ändert nicht die trainierten Gewichte des Sprachmodells.
Websuche, Prompts und weitere Werkzeuge einsetzen
Eine Websuche kann aktuelle Inhalte in einen Arbeitsablauf einbeziehen, sofern sie eingerichtet ist. Auch Prompts und Tools können wiederkehrende Aufgaben unterstützen.
Optionale Bildgenerierungsdienste sind eine weitere Möglichkeit. Ihre Verfügbarkeit hängt von der Konfiguration und den angebundenen Diensten ab.
„Open WebUI Memory“ kann gespeicherte Chatverläufe meinen. Eine gesonderte Erinnerungsfunktion kann von Version und Einstellungen abhängen.
Prüfen Sie daher, welche Inhalte wirklich gespeichert werden und wie eine Funktion arbeitet. Der Name allein sagt nicht, ob das Modell Informationen dauerhaft behält.
Von zusätzlichen Funktionen führt der Blick zu den Regeln, die beim Zugriff mehrerer Personen gelten.
Wie sichern Sie den Zugriff für mehrere Benutzer ab?
Ein ungeschützter Port 8080 kann die Weboberfläche aus dem Internet erreichbar machen. Das öffnet einen Zugang, den Sie möglicherweise nur für das interne Netz vorgesehen haben.
Begrenzen Sie den Zugriff auf die nötigen Netze und Konten. Benutzerkonten und Selbsthosting allein schützen weder vor Fehlkonfiguration noch garantieren sie DSGVO-Konformität.
Eine Sicherheitscheckliste hilft, die wichtigsten Punkte im Betrieb zu prüfen:
- Begrenzen Sie den Zugriff auf das erforderliche Netzwerk.
- Nutzen Sie für externen Zugriff ein VPN oder einen HTTPS-Reverse-Proxy.
- Erlauben Sie WebSocket-Verbindungen am Reverse Proxy.
- Richten Sie starke Konten und passende Rollen ein.
- Prüfen Sie die Datenflüsse lokaler und externer Modellquellen.
Für ein internes Subnetz kann UFW Port 8080 zum Beispiel so begrenzen: sudo ufw allow from 192.168.1.0/24 to any port 8080 proto tcp.
Ein Reverse Proxy muss WebSockets unterstützen, damit die Verbindung für die Oberfläche funktioniert. HTTPS schützt die Verbindung zwischen Browser und Proxy.
Auch bei einer lokalen Modellquelle sollten Sie prüfen, welche Daten externe Dienste erhalten. Eine angebundene API kann Anfragen an einen anderen Betreiber senden.
Von den Zugriffsregeln führt die nächste Frage dazu, wo Konten, Einstellungen und Chatverläufe tatsächlich liegen.
Wo speichert Open WebUI Daten und wie sichern Sie sie?
Ein Container ist nicht dasselbe wie ein dauerhaftes Volume. Im Beispiel speichert das Docker-Volume open-webui Anwendungsdaten unter /app/backend/data.
Beim Entfernen des Containers bleibt das Volume erhalten. Löschen Sie das Volume, gehen die dort gespeicherten Konten, Einstellungen und Chatverläufe verloren.
Benutzerkonten, Einstellungen und Chatverläufe
Das Volume bewahrt die dauerhaften Daten der Beispielinstallation. Dazu gehören Benutzerkonten, Einstellungen und Chatverläufe, die Sie für den weiteren Betrieb benötigen.
Bei Ollama in einem eigenen Container können Modell-Dateien in einem getrennten Volume liegen, etwa in ollama_data. Das Löschen des Open-WebUI-Volumes löscht solche Modell-Dateien nicht automatisch.
| Datenart | Speicherort im Beispiel | Folge beim Löschen des Volumes |
|---|---|---|
| Open-WebUI-Konten und Einstellungen | Volume open-webui | Konten und Einstellungen gehen verloren |
| Chatverläufe | Volume open-webui | Gespeicherte Chats gehen verloren |
| Ollama-Modelldateien im Containerbetrieb | Eigenes Volume, etwa ollama_data | Modelle gehen beim Löschen dieses Volumes verloren |
Docker-Volume sichern und PostgreSQL-Fragen klären
Der Ausdruck „Open WebUI database“ meint die Speicherung der Anwendungsdaten. Im gezeigten Aufbau nutzt Open WebUI dafür das Docker-Volume.
Die Bezeichnung „Open WebUI Postgres“ verweist auf PostgreSQL als mögliche Datenbankfrage. Dieser Beispielaufbau belegt keine PostgreSQL-Konfiguration.
Prüfen Sie vor einem externen Datenbankbetrieb die Unterstützung und Anforderungen der konkret eingesetzten Version. Sichern Sie das Volume regelmäßig und testen Sie, ob sich die Sicherung wiederherstellen lässt.
Von der Datensicherung führt der nächste Schritt zur Pflege des laufenden Containers.
Was tun, wenn Open WebUI nicht richtig funktioniert?
Wenn der Browser die Serveradresse nicht erreicht, prüfen Sie zuerst Containerstatus, Logs und Portbelegung. Ein sofortiger Neustart kann die Ursache verdecken.
Gehen Sie bei Netzwerkproblemen vom Container zum Port. So sehen Sie, an welcher Stelle die Verbindung abbricht.
Weboberfläche nicht erreichbar oder Container startet nicht
Prüfen Sie den Container mit sudo docker ps -a --filter name=open-webui. Die Ausgabe zeigt auch, ob der Container beendet wurde.
Lesen Sie danach sudo docker logs open-webui. Prüfen Sie mit sudo ss -tulpn | grep 8080, ob ein anderer Dienst den Port belegt.
Wenn der Container läuft und der Port frei ist, prüfen Sie die Serveradresse und den Netzwerkweg vom Browser. Ein falscher Hostname oder eine Firewall kann den Zugriff ebenfalls verhindern.
Keine Modelle sichtbar oder Seite nach Update fehlerhaft
Fehlen Modelle, prüfen Sie zuerst ollama list und curl http://127.0.0.1:11434/api/tags. Beide Befehle zeigen, ob Ollama Modelle kennt und seine lokale API antwortet.
Kontrollieren Sie danach die Verbindungsadresse in den Einstellungen. Erst wenn diese Prüfungen abgeschlossen sind, starten Sie Ollama oder Open WebUI neu.
Bei Darstellungsfehlern nach einem Update öffnen Sie ein privates Browserfenster. Löschen Sie bei Bedarf Cache und Website-Daten, bevor Sie andere Ursachen suchen.
Von der Fehlerbehebung führt der nächste Schritt zur planmäßigen Aktualisierung und zum sicheren Entfernen der Installation.
Wie aktualisieren oder entfernen Sie den Container?
Ein Container lässt sich ersetzen, ohne die darin nicht gespeicherten Anwendungsdaten zu löschen. Diese Daten bleiben im Docker-Volume open-webui.
Das Entfernen des Containers löscht nicht automatisch das Volume. Ein fest gepinnter Versions-Tag gibt Ihnen mehr Kontrolle als der veränderliche Tag main.
Open WebUI kontrolliert aktualisieren
Für ein Update mit dem Tag main laden Sie das neue Image und starten den Container erneut. Nutzen Sie dabei dieselben Parameter wie zuvor.
- Laden Sie das Image mit
sudo docker pull ghcr.io/open-webui/open-webui:mainherunter. - Stoppen Sie den bisherigen Container mit
sudo docker stop open-webui. - Entfernen Sie den alten Container mit
sudo docker rm open-webui. - Starten Sie ihn mit denselben Parametern und dem neuen Image erneut.
Das Volume bleibt bei diesen Schritten erhalten. Für produktiven Betrieb gibt ein fester Versions-Tag mehr Kontrolle über den Zeitpunkt eines Versionswechsels.
Container entfernen und Daten bewusst löschen
Das Entfernen des Containers löscht die Anwendungsdaten nicht, solange das Volume bestehen bleibt. Sie können die Anwendung später mit demselben Volume erneut starten.
Wenn Sie auch Konten, Einstellungen und Chatverläufe löschen möchten, verwenden Sie sudo docker volume rm open-webui. Dieser Schritt ist endgültig.
Prüfen Sie vor dem Löschen, dass ein nötiges Backup vorhanden und wiederherstellbar ist. Löschen Sie das Volume nicht, wenn gespeicherte Chats oder Einstellungen noch gebraucht werden.
Aktualisieren Sie, wenn die Installation weiter genutzt werden soll. Entfernen Sie Container und Volume nur, wenn auch die gespeicherten Daten nicht mehr gebraucht werden.
Fazit
Ein eigener KI-Chatserver lässt sich mit überschaubarem Einstieg einrichten. Die Verantwortung für Betrieb und Daten bleibt jedoch beim Betreiber.
Open WebUI bietet eine kontrollierbare Oberfläche für lokale oder angebundene Modelle. Sichere Nutzung hängt von bewusst gewähltem Hosting, Zugriffsschutz und geprüften Datenflüssen ab.
Starten Sie mit einem Modell und einer kleinen Benutzergruppe. Prüfen Sie auch, ob Ihre Backup-Routine Daten tatsächlich wiederherstellen kann.
Testen Sie zuerst die gewählte Beispielumgebung mit einem Testkonto und nicht sensiblen Anfragen.
