Mit Ihren Notizen chatten per lokaler KI (privat, offline)

Sie haben jahrelange Notizen: Besprechungsprotokolle, halb fertige Ideen, Entscheidungen, Recherchen, einen Obsidian-Vault oder einen Ordner voller Markdown. Und Sie finden nichts darin. Volltextsuche funktioniert nur, wenn Sie sich an das exakte Wort erinnern, das Sie benutzt haben. Was Sie eigentlich wollen, ist eine Frage zu stellen und eine Antwort zu bekommen, die aus Ihren eigenen Texten stammt. Das können Sie tun, privat, ohne eine einzige Notiz auf irgendjemandes Server hochzuladen. Das ist die schlichte Anleitung dazu.

Die wichtigsten Erkenntnisse

Mit Ihren Notizen zu chatten bedeutet, Fragen in natürlicher Sprache zu stellen und Antworten zu erhalten, die in Ihren eigenen Dokumenten verankert sind, statt mit einer Stichwortsuche zu jagen.
Sie können das komplett lokal tun: lokale Embeddings und ein lokales oder verbundenes Modell, sodass Ihre Notizen niemals Ihren Rechner verlassen.
Die Kernbestandteile sind ein Ort, an dem Ihre Notizen leben, ein Embedding-Modell, das sie nach Bedeutung durchsuchbar macht, und ein KI-Werkzeug, das sie abfragen kann.
Ollama mit einem Modell wie nomic-embed-text liefert Ihnen private, lokale Embeddings, und MCP ist der saubere Weg, Ihre Notizen für Ihre KI-Werkzeuge bereitzustellen.
Der schwierige Teil ist nicht die erste Einrichtung. Es ist, den Index aktuell zu halten, während sich Ihre Notizen ändern, und genau daran verrotten die meisten Eigenbau-Setups still und leise.

---

Was "mit den Notizen chatten" tatsächlich bedeutet

Volltextsuche gleicht Wörter ab. Wenn Sie "Runway" geschrieben haben und später nach "Cash" suchen, bekommen Sie nichts, obwohl Sie dasselbe gemeint haben. Mit Ihren Notizen zu chatten arbeitet stattdessen mit Bedeutung. Sie fragen in einfacher Sprache: "Was habe ich im Frühjahr zur Preisgestaltung entschieden?", und das System findet die relevanten Notizen nach Bedeutung, übergibt sie einer KI, und die KI antwortet anhand dessen, was Sie tatsächlich geschrieben haben.

Der Mechanismus dahinter heißt Retrieval-Augmented Generation, kurz RAG. Ihre Notizen werden in Embeddings umgewandelt (numerische Repräsentationen von Bedeutung) und so gespeichert, dass sie nach Ähnlichkeit durchsucht werden können. Wenn Sie eine Frage stellen, wird auch Ihre Frage eingebettet, die nächstgelegenen Notizen werden herausgezogen, und die KI antwortet auf deren Basis. Die KI erfindet nichts aus Allgemeinwissen, sie ist in Ihren Dokumenten verankert. Wenn Sie den tieferen Vergleich dieses Ansatzes mit dem Trainieren eines Modells auf Ihren Daten wollen, lesen Sie RAG vs. Fine-Tuning für Ihre eigenen Daten.

Das wichtige Versprechen: Nichts davon erfordert, dass Sie Ihre Notizen in einen Cloud-Dienst hochladen. Jeder Schritt kann auf Ihrem eigenen Rechner laufen.

Warum lokal, und warum das hier eine Rolle spielt

Ihre Notizen sind die persönlichsten Daten, die Sie besitzen. Sie enthalten halb ausgereifte Meinungen, private Entscheidungen, Kundendetails, Gehaltszahlen, Dinge, die Sie niemals veröffentlichen würden. All das in einen Drittanbieterdienst zu leiten, damit es indexiert und möglicherweise zur Verbesserung des Modells von jemandem verwendet wird, ist genau der falsche Schritt für genau diese Daten.

Local-First löst das an der Wurzel. Wenn die Embeddings lokal berechnet werden und der Index auf Ihrer Festplatte liegt, verlassen Ihre Notizen den Rechner nie. Sie können sogar offline arbeiten. Der Datenschutz ist keine Richtlinie, der Sie vertrauen müssen, sondern eine Eigenschaft davon, wo die Daten physisch liegen. Bei persönlichen Notizen ist das der Unterschied zwischen einem Werkzeug, in das Sie Ihr echtes Denken stecken können, und einem, um das Sie herum Selbstzensur betreiben.

Es gibt auch einen Qualitätsaspekt. Weil Sie sich keine Sorgen darüber machen müssen, was Sie senden, können Sie das System auf alles richten, den unaufgeräumten Vault, das private Tagebuch, die rohen Besprechungsmitschriften, und Antworten erhalten, die im Gesamtbild verankert sind, statt in der bereinigten Teilmenge, die Sie hochzuladen bereit waren.

Die Bausteine, die Sie brauchen

Lokal mit Ihren Notizen zu chatten läuft auf drei Teile hinaus.

Ein Ort, an dem Ihre Notizen leben. Ein Ordner mit Markdown-Dateien, ein Obsidian-Vault, exportierte PDFs, was auch immer Sie bereits führen. Sie müssen nichts umorganisieren. Das System liest, was da ist.

Ein lokales Embedding-Modell. Es verwandelt Ihre Notizen auf Ihrem Rechner in nach Bedeutung durchsuchbare Vektoren. Die gängige, kostenlose Wahl ist Ollama mit einem Embedding-Modell wie nomic-embed-text. Ollama führt das Modell lokal aus; nomic-embed-text ist ein kleines, leistungsfähiges Embedding-Modell, das keine GPU braucht, um nützlich zu sein. Die Embeddings liegen in einem lokalen Index.

Ein KI-Werkzeug, das ihn abfragen kann. Etwas, das Ihre Frage nimmt, die richtigen Notizen abruft und antwortet. Das kann ein lokales Chat-Modell sein (ebenfalls über Ollama, für einen komplett offline arbeitenden Stack) oder ein Werkzeug, das Sie ohnehin nutzen, wie Claude, das über eine definierte Schnittstelle mit Ihren Notizen verbunden ist, statt per Copy-and-paste.

Diese Schnittstelle ist es wert, benannt zu werden, denn sie ist der saubere Weg, das Ganze zu verdrahten. MCP (das Model Context Protocol) ist ein offener Standard, der es einem KI-Werkzeug erlaubt, eine externe Quelle über einen definierten Satz von Tools abzufragen. Statt Notizen in einen Chat zu kopieren, ruft Ihre KI Tools wie "durchsuche meine Notizen" oder "erinnere dich, was ich über X weiß" auf und bekommt verankerte Ergebnisse zurück. Das macht aus "mit meinen Notizen chatten" von einer Copy-and-paste-Plackerei etwas, das Ihre KI einfach tun kann.

Der Eigenbau-Weg, ehrlich betrachtet

Sie können das selbst zusammenbauen, und es lohnt sich, die Form zu verstehen, selbst wenn Sie es nicht tun.

Installieren Sie Ollama und laden Sie ein Embedding-Modell: ollama pull nomic-embed-text.
Schreiben Sie ein Skript, das Ihren Notizordner durchläuft, jede Notiz in Abschnitte zerlegt, jeden Abschnitt mit dem lokalen Modell einbettet und die Vektoren in einer lokalen Vektordatenbank speichert.
Betten Sie zur Abfragezeit Ihre Frage ein, ziehen Sie die nächstgelegenen Abschnitte heraus und übergeben Sie diese zusammen mit Ihrer Frage an ein Modell (lokal über Ollama oder ein verbundenes), um die Antwort zu erhalten.
Stellen Sie das optional als MCP-Server bereit, damit Ihre bestehenden KI-Werkzeuge es direkt abfragen können.

Das funktioniert, und für einen statischen Satz von Dokumenten ist es wirklich in Ordnung. Es ist ein gutes Wochenendprojekt und ein solider Weg, um zu verstehen, was unter der Haube passiert.

Der Teil, den die Tutorials überspringen: es aktuell halten

Hier fallen Eigenbau-Setups still und leise auseinander, und genau das ist der Grund, warum das schwieriger ist, als es aussieht.

Ihre Notizen sind nicht statisch. Sie schreiben täglich neue. Sie bearbeiten alte. Sie treffen eine Entscheidung und nehmen sie dann zurück. Ein einmaliges Indexierungsskript erfasst eine Momentaufnahme, und schon am Tag danach driftet der Index bereits weg. Um ihn nützlich zu halten, müssen Sie geänderte Dateien neu einbetten, Löschungen behandeln und, noch schwieriger, mit der Tatsache umgehen, dass sich Ihre Notizen im Lauf der Zeit widersprechen. Sie haben Ihren alten Preis im März und Ihren neuen Preis im Juni geschrieben. Naiver Abruf wird die März-Notiz bereitwillig hervorbringen, und die KI wird mit einer Zahl antworten, die seit Monaten falsch ist.

Die eigentliche Arbeit ist also nicht der erste Index. Es ist die Pflege: den Index synchron zu halten, während sich Dateien ändern, und Aktualität so zu handhaben, dass neuere Fakten über die gewinnen, die sie ersetzen. Das ist der langweilige, wenig glamouröse Teil, den kein Tutorial zu Ende bringt, und genau deshalb enden so viele persönliche RAG-Projekte als veralteter Index, dem niemand vertraut. Ein Werkzeug, das mit Ihren Notizen chattet, ist nur so gut wie die Aktualität und der Abgleich seiner zugrunde liegenden Quelle.

Ohne die Babysitter-Arbeit

Wenn Sie das private, lokale Ergebnis wollen, ohne die Pipeline selbst zu pflegen, ist Locul genau dafür gebaut. Es baut aus dem, was Sie ohnehin produzieren (lokales Markdown und PDFs, Diktate, Ihr Notion-Cache, Ihr LinkedIn-Profil), auf Ihrem eigenen Rechner einen durchsuchbaren Second Brain.

Zwei getrennte Dinge erledigen hier die Arbeit, und es hilft, sie auseinanderzuhalten. Erstens treiben lokale Embeddings (Ollama mit nomic-embed-text) die Suche an: Sie verwandeln Ihre Notizen in Vektoren, sodass Sie sie nach Bedeutung finden können, und sie laufen auf Ihrem Rechner, sodass standardmäßig nichts Ihre Festplatte verlässt. Zweitens hält eine Memory-Schicht die Fakten aktuell: Locul destilliert Notizen zu Memories mit einer Art und einer Konfidenz, und wenn sich ein Fakt ändert, wird die alte Version als überholt markiert und die neue wird aktiv, sodass der Abruf die aktuelle Wahrheit hervorbringt statt des März-Preises. Embeddings machen Ihre Notizen auffindbar; die Memory-Schicht stellt sicher, dass das, was Sie finden, noch stimmt. Und es stellt Ihren Wissensspeicher Ihren KI-Werkzeugen über MCP bereit, mit Tools wie search_notes, recall_memories und ask_notes, sodass Claude Desktop oder Claude Code direkt mit Ihren Notizen chatten können.

Der Unterschied zu einem Wochenendskript ist genau der Teil, den die Tutorials überspringen: Es hält sich selbst aktuell und abgeglichen, passiv, sodass das, womit Sie chatten, nicht verrottet. Wenn Ihre Notizen heute in Obsidian oder Notion leben, müssen Sie sie nicht verschieben; genau das ist der Punkt: Ihre Daten dürfen bleiben, wo sie sind. Um weiter beim Verdrahten von KI in ein bestehendes Notizsystem zu gehen, lesen Sie wie Sie KI zu Ihren Notizen hinzufügen.

Häufig gestellte Fragen

Wie chatte ich mit meinen eigenen Notizen per KI?

Verwandeln Sie Ihre Notizen in Embeddings, damit sie nach Bedeutung durchsucht werden können, und verbinden Sie dann eine KI, die die relevanten Notizen abruft und aus ihnen antwortet. Sie können die Embeddings lokal mit Ollama und einem Modell wie nomic-embed-text ausführen und Ihre KI über MCP verbinden, sodass sie Ihre Notizen abfragt, statt dass Sie sie einfügen.

Kann ich offline mit meinen Notizen chatten und sie privat halten?

Ja. Wenn die Embeddings lokal berechnet werden und der Index auf Ihrem Rechner liegt, und Sie ein lokales Modell für den Chat nutzen, läuft die gesamte Schleife offline und Ihre Notizen verlassen Ihre Festplatte nie. Local-First ist der verlässliche Weg, private Notizen privat zu halten, denn der Datenschutz kommt daher, wo die Daten liegen, nicht aus einer Richtlinie.

Kann ich mit meinen Obsidian-Notizen chatten, ohne sie zu verschieben?

Ja. Weil ein Obsidian-Vault einfach Markdown-Dateien auf der Festplatte sind, kann ein lokales System sie dort lesen, wo sie liegen. Sie müssen Ihren Vault nicht in eine neue App migrieren. Ein gutes Setup richtet sich auf Ihre bestehenden Notizen und lässt sie an Ort und Stelle.

Wofür sind Ollama und nomic-embed-text da?

Ollama führt KI-Modelle lokal auf Ihrem Rechner aus. nomic-embed-text ist ein kleines, leistungsfähiges Embedding-Modell, das Ihre Notizen in Vektoren verwandelt, damit sie nach Bedeutung durchsucht werden können, ohne GPU oder Cloud-Dienst. Zusammen liefern sie Ihnen private, lokale Embeddings, die Abruf-Hälfte davon, mit Ihren Notizen zu chatten.

Warum wird mein Notizen-Chat-Setup mit der Zeit schlechter?

Weil sich Ihre Notizen ändern und der Index nicht mithält. Ein einmaliges Indexierungsskript erfasst eine Momentaufnahme und driftet dann weg, während Sie hinzufügen, bearbeiten und sich selbst widersprechen. Ohne fortlaufende Synchronisation und Aktualitätsbehandlung bringt der Abruf veraltete oder überholte Notizen hervor, und die KI antwortet mit Fakten, die nicht mehr stimmen. Die Quelle aktuell zu halten ist die eigentliche Arbeit.

Gibt es eine kostenlose Möglichkeit, lokal mit meinen Notizen zu chatten?

Ja. Die Eigenbau-Werkzeuge (Ollama, nomic-embed-text, MCP) sind kostenlos, und Locul hat einen echten kostenlosen Tarif: 500 Memories nur auf lokaler KI, ohne Kreditkarte. Das reicht, um es auf Ihre Notizen zu richten und anzufangen, privat auf Ihrem eigenen Rechner mit ihnen zu chatten, und Sie wechseln erst zu einem kostenpflichtigen Tarif, wenn Sie mehr Memories oder die cloud-verbundenen Quellen wollen.

---

Mit den eigenen Notizen zu chatten, privat und lokal, ist sehr gut machbar, und die kostenlosen Werkzeuge (Ollama, nomic-embed-text, MCP) bringen Sie zur ersten Version. Der Haken ist, die Quelle aktuell zu halten, und daran verrotten Eigenbau-Setups. Locul ist ein Second Brain, der sich aus dem aufbaut, was Sie ohnehin schreiben, und sich auf Ihrem Rechner selbst aktuell hält, und ihn dann über MCP Ihrer KI bereitstellt, sodass Sie einfach fragen können. Laden Sie ihn herunter und sprechen Sie mit Ihren Notizen.

Weiterlesen: RAG vs. Fine-Tuning für Ihre eigenen Daten und was ein KI-Second-Brain ist.

So chatten Sie mit Ihren eigenen Notizen per lokaler KI