🤖
AI Tools/Local AI Assistant

Local AI Assistant

Offline AI chatbot in your browser — download once, chat offline

100% LOCALOffline capableVoice I/OLocal toolsNo server
My Capabilities (please read first)
Can do reliably

Calculator / Reminders / Timer / Clock / Unit Converter

Can do (generative)

Chat / Writing / Translation / Summarize / Code

Can attempt, not guaranteed

Latest news / Precise data / Medical / Legal / Financial

Cannot do at all

Web search / Send emails / Control device / Generate images

Local AI EngineNOT DOWNLOADED
Data Source & Legal Disclaimer
Effective: 2026
Sources: Browser-side processing (no external API)

This tool runs 100% in your browser. All computation happens locally on your device — your input is never uploaded to any server. Results are for reference only.

See all data sources & update policy →
So funktioniert esPage 2

How the local assistant decides what to do — illustrated

Before any response, your message passes through a capability classifier. Requests that map to a built-in local tool (calculator, reminders, timer, clock, unit converter) are answered deterministically — exact results, no model needed. Everything else is routed to a small language model that runs in your browser via WebLLM (Llama-3.2 / Phi-3.5). A secondary semantic check flags requests that need real-time or professional data as "accuracy not guaranteed", keeping the assistant honest about its limits.

Your message → classifier → local tool or local LLM
Your request"calculate 12*7" · "write a poem"Capability classifierrules + small-model semantic checkLocal toolscalc · timerreminders · units— exact answersLocal LLMWebLLM streamingchat · writing— generativeOut of scopeweb search · emaildevice control— clear refusalNeeds real-time or professional data? Flagged as "accuracy not guaranteed"

Each request is classified before it is answered: deterministic local tools handle exact tasks, the on-device LLM handles generative ones, and out-of-scope requests get a clear refusal with a suggestion.

Three requests, three correct routes — Lena's morning

Lena opens the assistant before her shift. She needs a quick calculation, a short welcome note, and a reality check on today's weather — three very different routing decisions.

  1. Local tool:"calculate 12*7" → classified TOOL → instantly returns 84 with no model download
  2. Local LLM:"write a 3-line welcome note for my website" → GEN_RELIABLE → Llama-3.2 streams a draft
  3. Flagged:"what is the weather today?" → semantic check flags real-time need → answered with an accuracy disclaimer
  4. Refused:"send an email to my boss" → UNSUPPORTED → polite refusal with a suggestion to use a dedicated tool
FAQ & DetailsPage 3

A fully offline AI assistant that runs in your browser. Everything runs locally; nothing is uploaded.

FreeToolHub Local AI Assistant is a free browser-based tool — a fully offline AI assistant that runs in your browser. No signup, no upload; everything runs locally in your browser.

Über dieses Tool

Was ist dieses Tool?

Ein vollständig offline laufender KI-Assistent, der in Ihrem Browser läuft. Modell einmal herunterladen, dann chatten ohne Internet. Enthält Taschenrechner, Erinnerungen, Timer, Einheitenkonverter. Spracheingabe/-ausgabe unterstützt. Keine Anmeldung, 100 % privat.

Offline capableVoice I/OLocal toolsNo server

Was ist der Lokale KI-Assistent?

Der Lokale KI-Assistent ist ein Chatbot, der vollständig in Ihrem Browser-Tab lebt. Erbaut auf WebLLM, lädt er ein Open-Weight-Modell herunter — Llama-3.2-1B, Llama-3.2-3B oder Phi-3.5-mini, etwa 0,8 GB bis 2 GB — und führt dann Inferenz auf Ihrer GPU über WebGPU aus, sodass Gespräche ohne Serverbeteiligung fortgesetzt werden. Im Gegensatz zu generischen Chatbots kombiniert er das Modell mit deterministischen lokalen Tools: einen Taschenrechner, Erinnerungen, einen Timer, der auch nach dem Schließen der Seite echte Benachrichtigungen auslöst, eine Uhr und einen Einheitenkonverter. Jede Antwort ist mit einem Fähigkeitsgrenzsystem markiert, das klar angibt, ob sie von einem exakten lokalen Tool, von der KI stammt oder über das hinausgeht, wofür der Assistent zuverlässig arbeiten kann. Spracheingabe und gesprochene Antworten werden unterstützt.

Wer sollte dieses Tool verwenden?

Datenschutzbewusste Nutzer, die nicht möchten, dass ihre Fragen auf einem fremden Server protokolliert werden, sind die Kernzielgruppe. Anwälte, Berater, Therapeuten und jeder, der mit vertraulichen Entwürfen arbeitet, können Brainstorming, Zusammenfassungen und Textumschreibungen durchführen, wissend, dass nichts das Gerät verlässt. Reisende und Pendler nutzen es offline — sobald das Modell zwischengespeichert ist, unterbricht der Flugzeugmodus es nicht. Entwickler und Studenten experimentieren mit lokalen Sprachmodellen, um deren Geschwindigkeit und Grenzen zu verstehen, bevor sie GPU-Budgets anderswo einsetzen. Menschen, die schnelle Hilfsmittel benötigen, wie 'setze einen 10-Minuten-Timer' oder 'konvertiere 5 Meilen in Kilometer', erhalten exakte Antworten von den integrierten Tools, ohne die KI überhaupt zu laden.

Wie funktioniert es?

(1) Wählen Sie ein Modell und klicken Sie auf Load Model. Llama-3.2-1B (~0,8 GB) ist am schnellsten, Llama-3.2-3B (~2 GB) ist der ausgewogene Standard, und Phi-3.5-mini (~2 GB) tauscht Geschwindigkeit gegen Reasoning ein. Der Download erfolgt einmal, dann wird das Modell im Browser-Speicher für Offline-Sitzungen zwischengespeichert. (2) Chatten Sie durch Tippen oder Antippen des Mikrofons für Spracheingabe; ein Umschalter liest Antworten vor. (3) Verwenden Sie einfache Phrasen, um exakte lokale Tools auszulösen: 'berechne 12*7', 'wie spät ist es', 'erinnere mich, Mama anzurufen' oder 'stelle einen 10-Minuten-Timer' — diese funktionieren sogar, bevor das Modell geladen ist. (4) Lesen Sie die farbige Markierung auf jeder Antwort: Local Tool bedeutet eine exakte Antwort, AI Generated kennzeichnet Modell-Ausgabe, und unsichere oder nicht unterstützte Anfragen werden ehrlich gekennzeichnet.

Was kann es wirklich offline?

Die lokalen Tools sind jederzeit vollständig zuverlässig: arithmetische Ausdrücke, das aktuelle Datum und die Uhrzeit, im Browser gespeicherte Erinnerungen, Hintergrund-Timer mit Systembenachrichtigungen und Einheitenkonversionen geben alle exakte Antworten zurück. Das Sprachmodell bewältigt alles Konversationale — Entwerfen, Umschreiben, Zusammenfassen, Konzepte erklären, Übersetzen, Brainstorming — mit dem Vorbehalt, dass ein 1-3 Milliarden Parameter-Modell kein Frontier-Modell ist: erwarten Sie prägnante, manchmal oberflächliche Antworten anstatt enzyklopädischer Abhandlungen. Es kann nicht im Web browsen, Live-Preise oder Nachrichten abrufen oder andere Software steuern, und seine Anweisungen sagen ihm, Unsicherheit zuzugeben, anstatt Fakten zu erfinden. Diese Ehrlichkeit ist der Punkt des Designs: Sie wissen immer, welche Art von Antwort Sie gerade erhalten haben.

Häufige Fragen

Benötigt es eine Internetverbindung?

Nur für den ersten Modell-Download — danach ist das Modell im Browser zwischengespeichert und jede Konversation läuft vollständig offline. Das macht es auf Flügen, in luftgetrennten Umgebungen oder überall dort verwendbar, wo die Verbindung unzuverlässig ist. Überprüfen Sie den Modellstatus-Indikator: er zeigt an, ob das Modell zwischengespeichert ist, gerade heruntergeladen wird oder eine Verbindung erfordert.

Welches Modell soll ich wählen?

Kleinere Modelle (1B-Klasse) antworten sofort und laufen auf bescheidener Hardware — gut für schnelle Fragen, Entwürfe und Brainstorming. Größere Modelle schlussfolgern besser und schreiben besser, laden aber langsamer und benötigen mehr Speicher. Wenn Ihr Gerät WebGPU unterstützt, sind größere Modelle viel besser verwendbar. Die Auswahl wird gespeichert, sodass Sie einmal wählen und Ihren bevorzugten Standard über Sitzungen hinweg beibehalten.

Warum ist die erste Antwort langsam?

Die erste Ausführung lädt die Modellgewichte (hundert Megabytes bis wenige Gigabytes) und kompiliert sie für Ihre Hardware — diese einmaligen Kosten dauern bei langsamen Verbindungen Minuten. Nachfolgende Lesevorgänge lesen aus dem lokalen Cache in Sekunden, und einzelne Antworten laufen dann bei Gesprächsgeschwindigkeit. Der Fortschrittsindikator zeigt Download- und Kompilierungsstufen an, sodass Sie wissen, dass es funktioniert, nicht stecken geblieben ist.

Ist meine Konversation privat?

Ja — Prompts und Antworten verlassen niemals Ihr Gerät: Inferenz läuft lokal mit WebGPU oder WebAssembly, und der Verlauf bleibt im Browser-Speicher. Kein Server sieht Ihre Nachrichten, kein Konto wird benötigt, und das Löschen von Site-Daten entfernt alle Spuren. Für sensibles Material ist das der wesentliche Unterschied zu Cloud-Chatbots: der Assistent ist fähig, ohne dass Ihr Text jemals übertragen wird.

Funktioniert der KI-Assistent ohne Internetverbindung?

Ja. Nach dem anfänglichen Modell-Download (0,8-2 GB je nach Modellwahl) läuft alle Inferenz lokal in Ihrem Browser über WebLLM und WebGPU. Für Gespräche ist kein Internet erforderlich. Ihr Chat-Verlauf verlässt niemals Ihr Gerät — keine API-Aufrufe, keine Telemetrie, keine Cloud-Abhängigkeit. Ideal für luftgetrennte Umgebungen und datensensitive Nutzung.

Welche Modelle sind verfügbar und wie groß sind sie?

Drei Optionen: Llama-3.2-1B (der schnellste, ~0,8 GB Download, gut für einfache Q&A), Llama-3.2-3B (empfohlener Ausgleich, ~2 GB, bewältigt komplexes Reasoning) und Phi-3.5-mini (~2 GB, stark bei Code und Mathematik). Alle laufen auf einer modernen GPU mit 10-30 Tokens/Sekunde. Modelle werden nach dem ersten Download für sofortiges nachfolgendes Laden zwischengespeichert.

Wie vergleicht es sich mit ChatGPT oder Claude?

Es läuft lokal 1B-3B Parameter-Modelle gegenüber 100B+ Parameter-Cloud-Modellen, daher kann es deren Reasoning-Tiefe oder Wissensbreite nicht erreichen. Der Kompromiss ist absolute Privatsphäre: Ihre Gespräche sind physisch nicht in der Lage, Ihr Gerät zu verlassen. Am besten geeignet für Entwürfe, Brainstorming, Berechnungen und Aufgaben, bei denen die Datenempfindlichkeit das Bedürfnis nach Frontier-Modell-Fähigkeit überwiegt.

Does the AI assistant work without an internet connection?

Yes. After the initial model download (0.8-2GB depending on model choice), all inference runs locally in your browser via WebLLM and WebGPU. No internet is needed for conversations. Your chat history never leaves your device—no API calls, no telemetry, no cloud dependency. Ideal for air-gapped environments and privacy-sensitive use.

Which models are available and what are their sizes?

Three options: Llama-3.2-1B (fastest, ~0.8GB download, good for simple Q&A), Llama-3.2-3B (recommended balance, ~2GB, handles complex reasoning), and Phi-3.5-mini (~2GB, strong at code and math). All run at 10-30 tokens/second on a modern GPU. Models are cached after first download for instant subsequent loading.

How does it compare to ChatGPT or Claude?

It runs 1B-3B parameter models locally versus 100B+ parameter cloud models, so it cannot match their reasoning depth or knowledge breadth. The trade-off is absolute privacy: your conversations are physically incapable of leaving your device. Best suited for drafting, brainstorming, calculations, and tasks where data sensitivity outweighs the need for frontier-model capability.

Verwandte Tools

Teilen:𝕏inf⬆
Joke of the Day
Oct 22

What do you call a really smart cookie?

Free core, no account

Keep the Free Edition Free

No signups, no data sold. Every tool is free to use — the free tier allows 5 downloads or saves per day, and the optional Pro plan ($7/mo, $59/yr) adds unlimited downloads, batch processing, white-label exports and an ad-free experience.

☕Support me on Ko-fi— support the free tier

100% of proceeds go towards hosting & building more free tools.