Open WebUI ermöglicht einen eigenen KI-Chatserver

Open WebUI

Mitarbeitende möchten KI für alltägliche Aufgaben nutzen, während Unternehmen den Umgang mit internen Informationen kontrollieren müssen. Open WebUI richtet sich an Teams, die Fragen in einer vertrauten Browserumgebung stellen möchten, ohne sensible Inhalte unbedacht an externe Dienste zu senden.

Ein eigener KI-Chatserver kann dabei helfen, die Nutzung an den Bedarf und die vorhandene Umgebung anzupassen. Selbsthosting allein garantiert jedoch weder Datenschutz noch Rechtskonformität. Entscheidend bleiben die gewählten Modelle, Zugriffsregeln und Datenflüsse.

Das Wichtigste auf einen Blick

  • Open WebUI bietet eine Browseroberfläche für verschiedene KI-Modelle.
  • Ollama kann lokale Modelle bereitstellen.
  • OpenAI-kompatible APIs ermöglichen weitere Modellquellen.
  • Ein Docker-Volume hält Anwendungsdaten beim Entfernen des Containers fest.
  • Selbsthosting ersetzt keine Prüfung von Zugriffen und Datenflüssen.

Damit Sie den passenden Einsatz einschätzen, klären wir zuerst, was Open WebUI ist und welche Rolle es im eigenen KI-System übernimmt.

Was ist Open WebUI und was kann es?

Open WebUI ist eine selbst gehostete, browserbasierte Weboberfläche für KI-Modelle. Das Frontend ist die Bedienoberfläche, über die Nutzer im Browser mit einem dahinterliegenden Dienst interagieren.

Die Oberfläche steuert Anfragen, trainiert aber selbst kein Sprachmodell. Ein Modellserver nimmt die Anfrage an und liefert die Antwort des Sprachmodells zurück.

Open WebUI bietet die Bedienung, nicht das Sprachmodell. Die Modellquelle bestimmt, welche Antworten verfügbar sind.

Die Weboberfläche als Frontend für KI-Modelle

Open WebUI zeigt Chats und Funktionen im Browser an. Die Anwendung verwaltet die Kommunikation zwischen Nutzern und angebundenen Diensten.

Ursprünglich hieß die Anwendung Ollama WebUI. Mit der Ausrichtung auf verschiedene Modellquellen erhielt sie den Namen Open WebUI.

Die Oberfläche kann mehrere Funktionen bündeln, etwa Chatverläufe, Prompts und eine Modellauswahl. Welche davon sichtbar sind, hängt von der eingerichteten Version ab.

Lokale Modelle und externe Dienste anbinden

Ollama ist eine Möglichkeit, lokale Modelle auf eigener Hardware bereitzustellen. Open WebUI kann diese Modelle über den Modellserver ansprechen.

Weitere Quellen lassen sich über eine OpenAI-kompatible API anbinden. Diese Schnittstelle erlaubt Anwendungen, Anfragen in einem verbreiteten Format an passende Dienste zu senden.

Der Modellserver, das Sprachmodell und die Oberfläche sind getrennte Teile. Das erleichtert den Wechsel der Quelle, ändert aber nicht automatisch, wohin Daten fließen.

Von dieser Funktionsweise führt der nächste Schritt zur Frage, welche Betriebsart zur eigenen Infrastruktur passt.

Welche Betriebsart passt zu Ihrer Umgebung?

Ein lokal gebündeltes Setup verbindet Open WebUI direkt mit Ollama auf einem Server. Eine getrennte Modellinstanz braucht dagegen eine erreichbare Netzwerkverbindung und passende Adresse.

Die Adresse muss aus Sicht des Open-WebUI-Containers erreichbar sein. Die passende Betriebsart hängt von Ihrer Umgebung, dem Netzwerk und der gewünschten Trennung ab.

Ollama und Open WebUI auf einem Server

Ollama kann nativ auf demselben Ubuntu-Server laufen, während Open WebUI als Docker-Container startet. Mit dem Host-Netzwerk erreicht die Oberfläche Ollama über die lokale Adresse.

Der Host-Netzwerkbetrieb hebt die Netzwerkisolation des Containers auf. Das vereinfacht manche Verbindungen, gibt dem Container aber mehr Zugriff auf das Netzwerk des Servers.

Beide Anwendungen in Docker oder mit getrennten Servern

Im gemeinsamen Docker-Netzwerk sprechen sich die Container über ihre Dienstnamen an. Eine typische interne Adresse für Ollama lautet http://ollama:11434.

Bei einem entfernten Ollama-Server müssen Netzwerkzugriff und erreichbare API-Adresse stimmen. Eine Firewall oder ein Routingfehler kann die Verbindung trotz laufender Dienste verhindern.

Aufbau Ollama-Adresse für Open WebUI Netzwerkverbindung Passend, wenn
Ollama nativ plus Open WebUI im Host-Netzwerk http://127.0.0.1:11434 Gleicher Server Ein einfacher Einzelserver genügt
Beide Anwendungen im gemeinsamen Docker-Netzwerk http://ollama:11434 Gemeinsames Docker-Netzwerk Container getrennt verwaltet werden
Open WebUI mit entferntem Ollama-Server Erreichbare Serveradresse Netzwerkzugriff zwischen Servern Modellserver zentral bereitsteht

Der Ausdruck „Open WebUI local“ meint meist den lokalen Modellbetrieb. Er schließt nicht automatisch jeden Datenfluss oder jede externe Verbindung aus.

Für die Schritt-für-Schritt-Anleitung dient ein Ubuntu-Server mit lokalem Ollama als klar begrenzte Beispielumgebung. Als Nächstes prüfen Sie dafür die Voraussetzungen.

Welche Voraussetzungen brauchen Sie für die Installation?

Die Beispielinstallation setzt eine bereits laufende Ollama-Instanz auf Ubuntu Server 24.04 LTS voraus. Prüfen Sie vor dem Start, ob Docker, ein Modell und freie Ressourcen vorhanden sind.

Mindestens 8 GB RAM sind eine grobe Untergrenze; für größere Modelle empfehlen sich 16 GB. Planen Sie mindestens 50 GB freien Speicherplatz für Modelle ein.

Diese Werte sind Orientierungswerte, keine Zusage für eine bestimmte Antwortgeschwindigkeit. Der tatsächliche Bedarf hängt vom Modell und der Nutzung ab.

  • Ubuntu-Version: Prüfen Sie, ob Ubuntu Server 24.04 LTS läuft.
  • sudo-Zugang: Ihr Benutzer benötigt Rechte für administrative Befehle.
  • Docker: Kontrollieren Sie die installierte Docker-Version.
  • Ollama und Modell: Der Dienst muss laufen und mindestens ein Modell enthalten.
  • Port und Speicher: TCP-Port 8080 muss frei sein; planen Sie mindestens 50 GB ein.

Den Dienststatus prüfen Sie mit sudo systemctl status ollama. Die Modellliste liefert curl http://127.0.0.1:11434/api/tags.

Docker prüfen Sie mit sudo docker version. Fehlt ein Modell, können Sie zum Beispiel ollama pull gemma3:4b ausführen.

Bevor Sie den Open-WebUI-Container starten, muss die Modell-API antworten und ein Modell anzeigen.

Open WebUI mit Docker installieren

Starten Sie den Container mit diesem vollständigen Befehl. Er nutzt das Host-Netzwerk und bindet die lokale Ollama-API an:

sudo docker run -d --network=host -v open-webui:/app/backend/data -e OLLAMA_BASE_URL=http://127.0.0.1:11434 --name open-webui --restart always ghcr.io/open-webui/open-webui:main

Das Docker-Volume open-webui bewahrt Anwendungsdaten unter /app/backend/data auf. Die Option –network=host erlaubt die Verbindung zur Ollama-Adresse des Servers.

Host-Netzwerkbetrieb bietet weniger Isolation als ein eigenes Docker-Netzwerk. Verwenden Sie ihn nur, wenn diese Vereinfachung zu Ihrer Umgebung passt.

Prüfen Sie den Start in dieser Reihenfolge:

  1. Starten Sie den Docker-Befehl auf dem Ubuntu-Server.
  2. Kontrollieren Sie den Container mit sudo docker ps.
  3. Lesen Sie bei Problemen die Ausgabe von sudo docker logs open-webui.
  4. Rufen Sie die Weboberfläche über Port 8080 im Browser auf.
  5. Wählen Sie nach einem erfolgreichen Test einen festen Image-Tag für den produktiven Betrieb.

Der Tag main bezeichnet die laufende Hauptversion und kann sich ändern. Ein neuer Start kann deshalb eine andere Version laden.

Wenn der Container läuft, öffnen Sie die Adresse im Browser und prüfen anschließend die Verbindung zu einem Modell.

Wie melden Sie sich an und prüfen die Verbindung?

Öffnen Sie im Browser die Adresse http://<IP-DES-SERVERS>:8080. Beim ersten Besuch legen Sie ein Benutzerkonto an.

Das erste Konto einer neuen Installation erhält Administratorrechte. Legen Sie diesen Zugang sicher an und lassen Sie die Oberfläche nicht offen zugänglich.

Prüfen Sie danach die Verbindung mit drei einfachen Tests:

  1. Öffnen Sie die Serveradresse und legen Sie das erste Konto an.
  2. Wählen Sie gemma3:4b in der Modellauswahl.
  3. Senden Sie die Frage: „Erkläre den Unterschied zwischen RAID 5 und RAID 6.“

Eine passende Antwort bestätigt, dass Open WebUI Ollama erreicht und das Modell eine Anfrage verarbeitet. Die Antwortqualität hängt vom Modell ab.

Falls keine Modelle erscheinen, öffnen Sie Admin Panel > Settings > Connections und prüfen Sie die Verbindung.

Auch curl http://127.0.0.1:11434/api/tags zeigt, ob die lokale Ollama-API Modelle meldet. Eine leere Liste weist auf ein fehlendes Modell hin.

Nach einer erfolgreichen Testantwort können Sie weitere Modelle auswählen und zusätzliche Quellen anbinden.

Welche Modelle und Dienste lassen sich verbinden?

Open WebUI stellt die Oberfläche bereit, während der Modellzugriff von der eingerichteten Quelle abhängt. Sie können lokale Ollama-Modelle oder externe Dienste verwenden.

Für jede Verbindung müssen Adresse, Zugangsdaten und verfügbares Modell zusammenpassen. Prüfen Sie diese Angaben in den Verbindungseinstellungen.

Lokale Ollama-Modelle auswählen

Bei open webui ollama geht es meist um diese Verbindung zu lokalen Modellen. Wählen Sie ein installiertes Modell in der Oberfläche aus.

Der Modellserver muss laufen und aus Sicht von Open WebUI erreichbar sein. In einem gemeinsamen Docker-Netzwerk zählt die interne Adresse, nicht zwingend die Adresse des Hosts.

OpenAI-kompatible APIs und Anbieter nutzen

Open WebUI kann OpenAI-kompatible APIs anbinden. Beispiele für Modell- oder API-Quellen sind LM Studio, GroqCloud, OpenRouter und Anthropic.

Eine passende API-Adresse und nötige Zugangsdaten sind für die Verbindung erforderlich. Die angebotenen Modelle hängen vom jeweiligen Dienst ab.

Variante Wo das Modell läuft Was für die Verbindung nötig ist Worauf bei Daten zu achten ist
Ollama lokal Eigener Server Erreichbare Ollama-API Lokaler Betrieb schließt andere Datenflüsse nicht aus
OpenAI-kompatible API Beim jeweiligen Anbieter Endpunkt und Zugangsdaten Prüfen Sie die Weitergabe an den Dienst
Gemischter Betrieb Lokal und bei Anbietern Getrennte Verbindungen je Quelle Jede Quelle hat eigene Datenwege

Die Suchbegriffe „Open WebUI Anthropic“ und „Open WebUI DeepSeek“ meinen keine automatische Anbindung. Der jeweilige Dienst ist nur nutzbar, wenn eine passende, erreichbare Verbindung und ein verfügbares Modell eingerichtet sind.

Kontrollieren Sie den Namen, den Endpunkt und die Zugangsdaten in den Verbindungseinstellungen. So vermeiden Sie Annahmen über eine Funktion oder ein bestimmtes Modell-Tag.

Von der Modellwahl führt der nächste Schritt zu Dokumenten, Webinhalten und weiteren Arbeitsschritten.

Welche Funktionen helfen bei Dokumenten und Arbeitsabläufen?

Ein allgemeines Sprachmodell kann eine Frage zu Ihrem internen Handbuch ohne bereitgestellte Inhalte nicht verlässlich beantworten. Open WebUI kann Dokumente für solche Anfragen verfügbar machen.

RAG bedeutet, dass passende Textstellen aus bereitgestellten Dokumenten abgerufen werden. Das Modell kann diese Stellen bei seiner Antwort berücksichtigen.

RAG verändert nicht automatisch das Training des Modells. Dokumente bereitzustellen oder Prompts anzupassen ist etwas anderes, als ein Modell neu zu trainieren.

Dokumente mit RAG für Antworten heranziehen

Je nach Einrichtung können Sie Dokumente hochladen oder eine lokale Wissenssammlung nutzen. Das System sucht passende Textstellen und gibt sie dem Modell für eine Antwort mit.

Das Ergebnis hängt auch von der Lesbarkeit der Dateien ab. Ungeklärte Tabellen, Spalten oder Formatierungen können dazu führen, dass wichtige Inhalte fehlen.

Der Suchbegriff „Open WebUI train model“ kann daher irreführen. Dokumente für RAG bereitzustellen ändert nicht die trainierten Gewichte des Sprachmodells.

Websuche, Prompts und weitere Werkzeuge einsetzen

Eine Websuche kann aktuelle Inhalte in einen Arbeitsablauf einbeziehen, sofern sie eingerichtet ist. Auch Prompts und Tools können wiederkehrende Aufgaben unterstützen.

Optionale Bildgenerierungsdienste sind eine weitere Möglichkeit. Ihre Verfügbarkeit hängt von der Konfiguration und den angebundenen Diensten ab.

„Open WebUI Memory“ kann gespeicherte Chatverläufe meinen. Eine gesonderte Erinnerungsfunktion kann von Version und Einstellungen abhängen.

Prüfen Sie daher, welche Inhalte wirklich gespeichert werden und wie eine Funktion arbeitet. Der Name allein sagt nicht, ob das Modell Informationen dauerhaft behält.

Von zusätzlichen Funktionen führt der Blick zu den Regeln, die beim Zugriff mehrerer Personen gelten.

Wie sichern Sie den Zugriff für mehrere Benutzer ab?

Ein ungeschützter Port 8080 kann die Weboberfläche aus dem Internet erreichbar machen. Das öffnet einen Zugang, den Sie möglicherweise nur für das interne Netz vorgesehen haben.

Begrenzen Sie den Zugriff auf die nötigen Netze und Konten. Benutzerkonten und Selbsthosting allein schützen weder vor Fehlkonfiguration noch garantieren sie DSGVO-Konformität.

Eine Sicherheitscheckliste hilft, die wichtigsten Punkte im Betrieb zu prüfen:

  • Begrenzen Sie den Zugriff auf das erforderliche Netzwerk.
  • Nutzen Sie für externen Zugriff ein VPN oder einen HTTPS-Reverse-Proxy.
  • Erlauben Sie WebSocket-Verbindungen am Reverse Proxy.
  • Richten Sie starke Konten und passende Rollen ein.
  • Prüfen Sie die Datenflüsse lokaler und externer Modellquellen.

Für ein internes Subnetz kann UFW Port 8080 zum Beispiel so begrenzen: sudo ufw allow from 192.168.1.0/24 to any port 8080 proto tcp.

Ein Reverse Proxy muss WebSockets unterstützen, damit die Verbindung für die Oberfläche funktioniert. HTTPS schützt die Verbindung zwischen Browser und Proxy.

Auch bei einer lokalen Modellquelle sollten Sie prüfen, welche Daten externe Dienste erhalten. Eine angebundene API kann Anfragen an einen anderen Betreiber senden.

Von den Zugriffsregeln führt die nächste Frage dazu, wo Konten, Einstellungen und Chatverläufe tatsächlich liegen.

Wo speichert Open WebUI Daten und wie sichern Sie sie?

Ein Container ist nicht dasselbe wie ein dauerhaftes Volume. Im Beispiel speichert das Docker-Volume open-webui Anwendungsdaten unter /app/backend/data.

Beim Entfernen des Containers bleibt das Volume erhalten. Löschen Sie das Volume, gehen die dort gespeicherten Konten, Einstellungen und Chatverläufe verloren.

Benutzerkonten, Einstellungen und Chatverläufe

Das Volume bewahrt die dauerhaften Daten der Beispielinstallation. Dazu gehören Benutzerkonten, Einstellungen und Chatverläufe, die Sie für den weiteren Betrieb benötigen.

Bei Ollama in einem eigenen Container können Modell-Dateien in einem getrennten Volume liegen, etwa in ollama_data. Das Löschen des Open-WebUI-Volumes löscht solche Modell-Dateien nicht automatisch.

Datenart Speicherort im Beispiel Folge beim Löschen des Volumes
Open-WebUI-Konten und Einstellungen Volume open-webui Konten und Einstellungen gehen verloren
Chatverläufe Volume open-webui Gespeicherte Chats gehen verloren
Ollama-Modelldateien im Containerbetrieb Eigenes Volume, etwa ollama_data Modelle gehen beim Löschen dieses Volumes verloren

Docker-Volume sichern und PostgreSQL-Fragen klären

Der Ausdruck „Open WebUI database“ meint die Speicherung der Anwendungsdaten. Im gezeigten Aufbau nutzt Open WebUI dafür das Docker-Volume.

Die Bezeichnung „Open WebUI Postgres“ verweist auf PostgreSQL als mögliche Datenbankfrage. Dieser Beispielaufbau belegt keine PostgreSQL-Konfiguration.

Prüfen Sie vor einem externen Datenbankbetrieb die Unterstützung und Anforderungen der konkret eingesetzten Version. Sichern Sie das Volume regelmäßig und testen Sie, ob sich die Sicherung wiederherstellen lässt.

Von der Datensicherung führt der nächste Schritt zur Pflege des laufenden Containers.

Was tun, wenn Open WebUI nicht richtig funktioniert?

Wenn der Browser die Serveradresse nicht erreicht, prüfen Sie zuerst Containerstatus, Logs und Portbelegung. Ein sofortiger Neustart kann die Ursache verdecken.

Gehen Sie bei Netzwerkproblemen vom Container zum Port. So sehen Sie, an welcher Stelle die Verbindung abbricht.

Weboberfläche nicht erreichbar oder Container startet nicht

Prüfen Sie den Container mit sudo docker ps -a --filter name=open-webui. Die Ausgabe zeigt auch, ob der Container beendet wurde.

Lesen Sie danach sudo docker logs open-webui. Prüfen Sie mit sudo ss -tulpn | grep 8080, ob ein anderer Dienst den Port belegt.

Wenn der Container läuft und der Port frei ist, prüfen Sie die Serveradresse und den Netzwerkweg vom Browser. Ein falscher Hostname oder eine Firewall kann den Zugriff ebenfalls verhindern.

Keine Modelle sichtbar oder Seite nach Update fehlerhaft

Fehlen Modelle, prüfen Sie zuerst ollama list und curl http://127.0.0.1:11434/api/tags. Beide Befehle zeigen, ob Ollama Modelle kennt und seine lokale API antwortet.

Kontrollieren Sie danach die Verbindungsadresse in den Einstellungen. Erst wenn diese Prüfungen abgeschlossen sind, starten Sie Ollama oder Open WebUI neu.

Bei Darstellungsfehlern nach einem Update öffnen Sie ein privates Browserfenster. Löschen Sie bei Bedarf Cache und Website-Daten, bevor Sie andere Ursachen suchen.

Von der Fehlerbehebung führt der nächste Schritt zur planmäßigen Aktualisierung und zum sicheren Entfernen der Installation.

Wie aktualisieren oder entfernen Sie den Container?

Ein Container lässt sich ersetzen, ohne die darin nicht gespeicherten Anwendungsdaten zu löschen. Diese Daten bleiben im Docker-Volume open-webui.

Das Entfernen des Containers löscht nicht automatisch das Volume. Ein fest gepinnter Versions-Tag gibt Ihnen mehr Kontrolle als der veränderliche Tag main.

Open WebUI kontrolliert aktualisieren

Für ein Update mit dem Tag main laden Sie das neue Image und starten den Container erneut. Nutzen Sie dabei dieselben Parameter wie zuvor.

  1. Laden Sie das Image mit sudo docker pull ghcr.io/open-webui/open-webui:main herunter.
  2. Stoppen Sie den bisherigen Container mit sudo docker stop open-webui.
  3. Entfernen Sie den alten Container mit sudo docker rm open-webui.
  4. Starten Sie ihn mit denselben Parametern und dem neuen Image erneut.

Das Volume bleibt bei diesen Schritten erhalten. Für produktiven Betrieb gibt ein fester Versions-Tag mehr Kontrolle über den Zeitpunkt eines Versionswechsels.

Container entfernen und Daten bewusst löschen

Das Entfernen des Containers löscht die Anwendungsdaten nicht, solange das Volume bestehen bleibt. Sie können die Anwendung später mit demselben Volume erneut starten.

Wenn Sie auch Konten, Einstellungen und Chatverläufe löschen möchten, verwenden Sie sudo docker volume rm open-webui. Dieser Schritt ist endgültig.

Prüfen Sie vor dem Löschen, dass ein nötiges Backup vorhanden und wiederherstellbar ist. Löschen Sie das Volume nicht, wenn gespeicherte Chats oder Einstellungen noch gebraucht werden.

Aktualisieren Sie, wenn die Installation weiter genutzt werden soll. Entfernen Sie Container und Volume nur, wenn auch die gespeicherten Daten nicht mehr gebraucht werden.

Fazit

Ein eigener KI-Chatserver lässt sich mit überschaubarem Einstieg einrichten. Die Verantwortung für Betrieb und Daten bleibt jedoch beim Betreiber.

Open WebUI bietet eine kontrollierbare Oberfläche für lokale oder angebundene Modelle. Sichere Nutzung hängt von bewusst gewähltem Hosting, Zugriffsschutz und geprüften Datenflüssen ab.

Starten Sie mit einem Modell und einer kleinen Benutzergruppe. Prüfen Sie auch, ob Ihre Backup-Routine Daten tatsächlich wiederherstellen kann.

Testen Sie zuerst die gewählte Beispielumgebung mit einem Testkonto und nicht sensiblen Anfragen.

FAQ

Kann ich Open WebUI ohne Ollama nutzen?

Ja, Open WebUI kann auch andere erreichbare Modellquellen und OpenAI-kompatible APIs nutzen. Dafür brauchen Sie einen passenden Endpunkt und, falls nötig, Zugangsdaten. Die Oberfläche stellt selbst kein Modell bereit. Prüfen Sie deshalb, ob der gewählte Dienst ein nutzbares Modell anbietet und ob der Server die API-Adresse erreichen kann.

Braucht Open WebUI zwingend eine GPU?

Nein, eine GPU ist optional. Ein Modell kann auch auf der CPU laufen, doch die Antwortgeschwindigkeit hängt von Modell und verfügbarer Hardware ab. Größere Modelle brauchen mehr Arbeitsspeicher und können langsamer reagieren. Testen Sie ein Modell, das zu den Ressourcen Ihres Servers passt, bevor mehrere Personen darauf zugreifen.

Wie viel RAM und Speicherplatz sollte ich einplanen?

Planen Sie mindestens 8 GB RAM als grobe Untergrenze ein, 16 GB für größere Modelle und mindestens 50 GB freien Speicherplatz. Diese Werte sind Richtlinien, keine Garantie für eine bestimmte Geschwindigkeit oder Kapazität. Der Bedarf hängt vom Modell, der Nutzung und davon ab, wie viele Dateien und weitere Modelle Sie speichern möchten.

Bleiben meine Chats erhalten, wenn ich den Docker-Container lösche?

Ja, Chats bleiben erhalten, solange das Docker-Volume open-webui bestehen bleibt. Open WebUI speichert dort auch Konten und Einstellungen. Das Entfernen des Containers allein löscht diese Daten nicht. Wenn Sie zusätzlich das Volume löschen, gehen Chats, Konten und Einstellungen endgültig verloren. Sichern Sie benötigte Daten vorher.

Ist Open WebUI automatisch DSGVO-konform, wenn es lokal läuft?

Nein, lokaler Betrieb allein macht Open WebUI nicht automatisch DSGVO-konform. Prüfen Sie, welche Daten gespeichert werden, wer Zugriff hat und ob Anfragen an externe Modellanbieter fließen. Auch Rollen, technische Einstellungen und interne Regeln spielen eine Rolle. Selbsthosting ist eine Betriebsart, keine automatische Garantie für Datenschutz oder Rechtskonformität.

Kann ich mit Open WebUI eigene Dokumente zum Trainieren eines Modells verwenden?

Dokumente für RAG bereitzustellen ist nicht dasselbe wie ein Modell zu trainieren. RAG ruft passende Textstellen ab und lässt das Modell diese Inhalte bei einer Antwort berücksichtigen. Dadurch ändert sich das Training des Modells nicht. Die Qualität hängt davon ab, ob das System die Dokumente richtig liest und relevante Stellen findet.

Ähnliche Beiträge