WITTMER AIINDEPENDENT SOFTWARE COMPANY
Academy/KI-Systeme selbst aufbauen

Lektion 14 · KI-Systeme selbst aufbauen

Abschlussprojekt: Frag meine Dokumente

Du baust eine kleine lokale Dokumentensuche mit Embeddings und einer ausdrücklich ungeprüften Modellantwort.

Etwa 60 MinutenKostenlosErstfassung · 11.09.2026

Lernziel

Du baust eine kleine lokale Dokumentensuche mit Embeddings und einer ausdrücklich ungeprüften Modellantwort.

Voraussetzungen

Ollama eingerichtet; Python 3.10 oder neuer; die Lektionen zu RAG und Embeddings. Betriebssystem: Windows, macOS oder Linux.

So funktioniert es

Du baust jetzt ein kleines echtes RAG-System. Es liest ausschließlich die mitgelieferten fiktiven Textdateien. Es erzeugt Embeddings über deine lokale Ollama-Instanz, sucht passende Abschnitte und fordert eine Antwort mit Quellenkennungen an. Die Antwort bleibt als ungeprüft gekennzeichnet, bis du sie mit den ausgegebenen Fundstellen verglichen hast.

Die Umsetzung verwendet nur die Python-Standardbibliothek. Es ist keine Paketinstallation mit pip nötig. Der kleine Vektorindex wird bei jedem Start im Arbeitsspeicher aufgebaut. PDF-Verarbeitung, Benutzerkonten, Zugriffsrechte und große Datenbestände gehören nicht zu diesem Lernprojekt.

  1. Lade das Projekt-ZIP aus dem folgenden Download und entpacke es in einen neuen Ordner. Darin müssen rag.py und der Unterordner dokumente liegen.
  2. Prüfe Python: Windows py --version, macOS/Linux python3 --version. Falls Python fehlt, installiere eine passende Version von der offiziellen Python-Seite und öffne ein neues Terminal.
  3. Starte Ollama und lade die beiden unten benannten Modelle. Die Modelle müssen vollständig verfügbar sein, bevor du ohne Internet übst.
  4. Öffne das Terminal im entpackten Projektordner. Führe unter Windows py rag.py oder unter macOS/Linux python3 rag.py aus.
  5. Frage zuerst: „Wann öffnet die Lernwerkstatt?“ Vergleiche die ausgegebenen Fundstellen und die Antwort.
  6. Frage danach: „Wer leitet die Lernwerkstatt?“ Diese Information fehlt. Eine erfundene Person ist ein Fehler, auch wenn ein Quellenverweis danebensteht.

Projekt mit Übungsdateien herunterladen

Ressourcen und Kosten: Es gelten die Hardwarehinweise der lokalen KI-Lektion. Zusätzlich wird nomic-embed-text:latest geladen. Keine bezahlte API und kein Konto sind notwendig. Modelldownloads, Rechner und Strom können Kosten verursachen. Das Beispiel sendet Daten ausschließlich an 127.0.0.1:11434 und öffnet keinen eigenen Server.

Woran du den Erfolg erkennst

Das Programm zeigt Dateiname, Abschnitt und Text der Fundstellen. Danach erscheint eine gesondert gekennzeichnete Modellantwort. Erst dein Vergleich bestätigt deren Aussagen. Für fehlende Angaben erwartest du eine Ablehnung oder Unsicherheitskennzeichnung. Ein kleines Modell kann diese Regel trotzdem verletzen.

Für die Suche verwendet das Programm die vom Embedding-Modell vorgesehenen Präfixe search_document: und search_query:. Nomic Embed Text v1.5 ist vor allem für englische Texte dokumentiert. Die wenigen deutschen Übungsfragen sind ein begrenzter Testfall, keine Zusage allgemeiner deutscher Suchqualität. Teste deinen eigenen Dokumentbestand gesondert. Modell-Tags wie latest können sich ändern; notiere deshalb Version und Modelldigest bei deinen Versuchen.

Wie eine RAG-Antwort entsteht
  1. 01Dokumente

    In Abschnitte teilen und durchsuchbar machen.

  2. 02Suche

    Passende Abschnitte zur Frage auswählen.

  3. 03Antwort

    Gefundene Texte als Kontext mitgeben.

  4. 04Prüfung

    Aussagen mit den Originalstellen vergleichen.

Vereinfachtes Lernmodell. Die Schritte erklären den Zusammenhang; sie zeigen keine gemessene Produktleistung.

Konkretes Beispiel

Frage: „Wie lange kann ich ein Gerät ausleihen?“ Beleg in ausleihe.txt: sieben Tage. Akzeptiere nur eine Antwort, die diese Dauer korrekt wiedergibt und keine automatische Verlängerung verspricht.

ollama pull llama3.2:latest
ollama pull nomic-embed-text:latest
# Windows, im entpackten Projektordner:
py rag.py
# macOS / Linux, im entpackten Projektordner:
python3 rag.py

Deine Übung

Führe die fünf Fragen aus prueffragen.txt aus. Notiere pro Frage: passende Fundstelle gefunden, Antwort belegt, fehlende Information erkannt. Ändere dann in deiner Übungskopie sieben auf fünf Tage, starte das Programm neu und prüfe die Änderung.

Selbsttest

Das Programm druckt eine Antwort mit [1]. Ist sie damit geprüft?

Lösung mit Erklärung

Nein. Der Inhalt muss zur tatsächlich ausgegebenen Fundstelle passen.

Der Quellenverweis kann falsch verwendet werden. Die Belegprüfung ist ein eigener Schritt, den dieses Lernsystem nicht zuverlässig automatisiert.

Häufige Fehler

  • Das ZIP nicht entpacken.
  • Ollama oder ein benötigtes Modell nicht starten beziehungsweise laden.
  • Eine Modellantwort mit Quellenkennung für verifiziert halten.
  • Echte private Dokumente für die erste Übung verwenden.

Nächster Lernschritt

Qualität prüfen und Fehler eingrenzen →

Quellen

Offizielle Dokumentation und Originalveröffentlichungen; abgerufen am 11. September 2026. Eigene Beispiele und Übungen stammen von Wittmer AI. Externe Seiten können sich ändern.

Dein Lernfortschritt

Optional, nur in diesem Browser. Kein Konto, keine Übertragung. Bei gelöschten Browserdaten geht der Fortschritt verloren.