Wittmer AI Academy: Frag meine Dokumente

Kostenloses Lernprojekt mit ausschließlich fiktiven Dokumenten.
Python 3.10+, lokale Ollama-Installation und Modelle llama3.2:latest sowie nomic-embed-text:latest.
Keine pip-Abhängigkeiten. Windows: py rag.py. macOS/Linux: python3 rag.py.
Start im entpackten Ordner; dokumente muss neben rag.py liegen.
Bei fehlenden Modellen: ollama pull llama3.2:latest und ollama pull nomic-embed-text:latest.
Modell- und Hardwarebedingungen bitte anhand der offiziellen Dokumentation prüfen.
Das Programm nutzt nur http://127.0.0.1:11434. Kein Cloud-Fallback.
Enter ohne Frage beendet das Programm. Ctrl+C bricht ab.
Dateien maximal 50 KB, Absätze maximal 3.000 Zeichen, maximal 40 Absätze.
Vektorindex nur im RAM; bei Neustart werden Dokumente neu eingelesen.
Jede Modellantwort bleibt ungeprüft. Quellenvergleich und Fehlertests sind erforderlich.
Die Promptvorgabe ist kein vollständiger Schutz vor Prompt Injection. Nur die Übungsdateien verwenden.
Ausführliche Anleitung: https://wittmerai.com/academy/technik/frag-meine-dokumente/
Quellen: https://docs.ollama.com/api/embed und https://docs.ollama.com/api/chat
