Jan AI ist eine Desktop-App, mit der du Sprachmodelle lokal oder über angebundene Cloud-Dienste nutzen kannst. Ein lokal ausgeführtes Sprachmodell ist ein Sprachmodell, dessen Anfragen direkt auf deinem eigenen Gerät verarbeitet werden.
Die Open-Source-App gibt dir die Wahl, welche Modelle du für deine Chats einsetzt. Das ist hilfreich, wenn du deine Daten lieber auf dem eigenen Rechner behältst oder unabhängig von einem einzelnen Anbieter arbeiten möchtest.
Einige Funktionen brauchen trotzdem eine Internetverbindung. Ob ein Chat offline läuft, hängt vom gewählten Modell und den eingeschalteten Funktionen ab. So kannst du die Nutzung an deine Bedürfnisse anpassen.
Der passende Einstieg hängt davon ab, welches Betriebssystem du nutzt und welches Modell zu deinem Rechner passt. Beide Fragen entscheiden, wie gut die App in deinen Alltag passt.
Wichtige Punkte
- Jan AI ist eine Open-Source-Desktop-App.
- Du kannst lokale Modelle oder Cloud-Dienste nutzen.
- Ein lokaler Chat kann deine Daten auf dem Gerät belassen.
- Online-Funktionen brauchen eine Internetverbindung.
- Modellwahl und Betriebssystem bestimmen den praktischen Einstieg.
Was kann Jan AI auf deinem Rechner?
Jan kann lokale Modelle wie Llama, Gemma, Qwen und GPT-oss nutzen. Du wählst selbst, ob du ein Modell aus dem Hub verwendest oder eine Datei importierst.
Die App ist open source und steht unter der Apache-2.0-Lizenz. Lokale Modelle aus Hugging Face lassen sich im GGUF-Format importieren und anschließend in den Einstellungen einrichten.
Du kannst ein Modell aus dem Hub wählen oder eine passende GGUF-Datei selbst einbinden.
Modelle aus dem Hub oder von Hugging Face
Der Hub bietet Modelle, die du direkt in der Anwendung laden kannst. Für eigene Dateien unterstützt die App den Import von Modellen aus Hugging Face im GGUF-Format.
Die Modellfamilien Llama, Gemma, Qwen und GPT-oss decken unterschiedliche Aufgaben ab. Welche Datei für dich passt, richtet sich nach dem gewünschten Einsatz und den Ressourcen deines Rechners.
Die Homebrew Computer Company entwickelt die Desktop-App. Das kleine Start-up hat seinen Hauptsitz in Singapur. Die Lizenz der App sagt nichts über die Lizenz eines einzelnen Modells aus.
Download und Mindestanforderungen
Für „Jan AI Download“ findest du Pakete für Windows, macOS und Linux. Die aufgeführten Downloads enthalten kein Android-Paket; „Jan AI Android“ ist daher keine der genannten Installationsoptionen.
- Windows: jan.exe
- macOS: jan.dmg
- Linux: jan.deb
- Linux: jan.AppImage
- Linux Arm64: Installationsanleitung
Auf macOS brauchst du Version 13.6 oder neuer. Als Orientierungswerte nennt Jan 8 GB RAM für 3B-Modelle, 16 GB für 7B-Modelle und 32 GB für 13B-Modelle.
Das sind keine pauschalen Mindestwerte für alle Modelle. Der Bedarf hängt vom Modell und seiner Größe ab. „Jan yapay zeka“ ist eine türkische Bezeichnung für Jan als KI-Anwendung.
Nach der Installation zählt nicht nur, welches Modell du starten kannst. Entscheidend ist auch, wo die Verarbeitung deines Chats stattfindet.
Wie privat und offline ist der Chat?
Offline bleibt ein Chat nur, wenn du ein heruntergeladenes lokales Modell nutzt und keine Online-Funktion aktivierst. Die Bedingung ist klar: Websuche, Webabruf und Cloud-Modelle brauchen eine Verbindung.
Ein lokaler Chat kann nach dem Modelldownload vollständig offline laufen, sofern Online-Funktionen ausgeschaltet sind. Die folgende Übersicht zeigt, wohin deine Daten bei den drei Nutzungswegen gehen.
| Nutzungsweg | Wo verarbeitet? | Verbindung nötig? | Wofür geeignet? |
|---|---|---|---|
| Lokales Modell | Auf deinem Gerät | Für den Chat nach dem Download nicht nötig, sofern Online-Funktionen ausgeschaltet sind | Private Gespräche ohne Cloud-Anbieter |
| Cloud-Anbieter | Beim jeweiligen Anbieter | Internetverbindung und API-Schlüssel nötig | Zugriff auf angebundene Cloud-Modelle |
| Lokale API | Jan auf dem eigenen Rechner | Lokale Verbindung zu localhost:1337 | Anbindung anderer Anwendungen |
Der Ausdruck „runs 100 offline“ beschreibt eine Nutzung, die vollständig ohne Netz auskommt. „Runs 100“ oder „100 offline“ gilt aber nicht automatisch für jeden Chat.
Wähle ein lokales Modell, wenn deine Gespräche den Rechner nicht verlassen sollen. Eine Alternative mit Cloud-Anbietern kann andere Modelle bereitstellen, überträgt Anfragen aber an den jeweiligen Dienst.
Damit ist auch die praktische Grenze klar: Webfunktionen und externe Modelle benötigen Internet. Für andere Anwendungen gibt es zusätzlich eine lokale Verbindung zu Jan.
Wie verbindest du lokale Chats mit anderen Tools?
Du kannst ein lokales Modell über Jans Schnittstelle in einer anderen Anwendung nutzen. Das spart einen Umweg, wenn ein Tool bereits mit einer OpenAI-kompatiblen API arbeiten kann.
Jan stellt dafür eine lokale API unter localhost:1337 bereit. Andere Anwendungen können so auf Modelle zugreifen, die Jan auf deinem Rechner ausführt.
Die lokale API verbindet Jan mit anderen Anwendungen, ohne den Modellaufruf an einen Cloud-Anbieter zu senden.
Was ermöglicht die lokale API?
Die API nutzt ein Format, das mit OpenAI kompatibel ist. Du kannst sie in den Einstellungen aktivieren und die Verbindung in einer passenden Anwendung einrichten.
So lassen sich lokale Modelle für unterschiedliche Aufgaben verwenden, etwa für einen eigenen assistant oder für ein Tool, das Text verarbeitet. Die lokale Schnittstelle bleibt auf deinem Rechner verfügbar.
Andere Anwendungen benötigen passende Zugangsdaten und eine Verbindung zu localhost:1337. Welche Einstellungen nötig sind, hängt vom jeweiligen Programm ab.
Wie helfen MCP und Websuche?
MCP ergänzt die App um agentische Funktionen. Damit kann ein assistant Werkzeuge nutzen, um mehrstufige Aufgaben zu bearbeiten.
Zu den integrierten tools gehören Websuche und Webabruf. Sie liefern Online-Inhalte in einen Chat, benötigen dafür aber eine Internetverbindung.
Jan verwaltet Einstellungen und Zugangsdaten backendseitig. Die App unterstützt den Schlüsselbund des Betriebssystems, damit sensible Angaben dort geschützt liegen können.
Wenn du mehrere providers verbindest, unterstützt Jan die Rotation von API-Schlüsseln. Das hilft, mehrere Anbieter in einer App zu verwalten, ohne jeden Schlüssel ständig von Hand zu wechseln.
Die MCP- und API-Funktionen erweitern mögliche assistants und tasks. Welche Werkzeuge verfügbar sind, hängt davon ab, welche Anbindungen du eingerichtet hast.
Lässt sich Jan AI mit Docker betreiben?
Jan ist als Desktop-App konzipiert, nicht als fertiger Docker-Server. In den Installationsangaben wird kein Docker-Serverpaket beschrieben.
„Jan AI mit Docker“ ist daher kein offiziell dokumentierter Installationsweg. Wenn du einen Serverbetrieb brauchst, solltest du prüfen, ob eine Desktop-App zu deinem Einsatz passt.
Für einen Rechner mit lokalem Chat reicht die Desktop-App oft aus. Ein dauerhafter server oder ein Mehrbenutzerbetrieb kann einen anderen Betriebsweg erfordern.
Entscheide zuerst, ob du einen schlanken lokalen Desktop-Chat oder einen anderen Betriebsweg brauchst. Die passende Wahl richtet sich danach, wie deine Anwendungen und Aufgaben zusammenarbeiten sollen.
Fazit
Jan AI passt besonders gut, wenn du eine quelloffene Desktop-App mit lokalen Modellen und optionalen Cloud-Diensten suchst. Lokale Chats geben dir mehr Kontrolle über den Ort der Verarbeitung.
Webwerkzeuge und Cloud-Modelle laufen nicht offline. Wähle als nächsten Schritt das Paket für dein Betriebssystem auf jan.ai oder bei den GitHub Releases.
Starte dann ein passendes lokales Modell und prüfe, wie es auf deinem Rechner läuft. Wähle dein Betriebssystem und probiere ein Modell aus, das zu deinen Aufgaben passt.
