LightRAG ist ein Retrieval-Augmented-Generation-System (RAG), das von HKUDS (Hong Kong University Data Science) entwickelt wurde und auf der EMNLP 2025, einer bedeutenden Konferenz für Computerlinguistik, vorgestellt wird. Mit 22k GitHub-Stars und unter MIT-Lizenz zielt das Projekt darauf ab, Wissensextraktion und intelligente Abfragen durch einen innovativen Ansatz zu vereinfachen und zu beschleunigen, der Wissensgraphen und Vektordatenbanken kombiniert.

Dual-Level-Retrieval-Architektur

Die zentrale Innovation von LightRAG liegt in seinem „Dual-Level-Retrieval“-System, das zwei komplementäre Ansätze vereint: Wissensgraphen zur Erfassung struktureller Beziehungen zwischen Entitäten und Vektordatenbanken für die semantische Suche. Diese Hybridisierung bietet sechs verschiedene Abfragemodi (local, global, hybrid, naive, mix, bypass), die die Retrieval-Strategie an Kontext und spezifische Anforderungen anpassen.

Multimodale Unterstützung und mehrere Formate

Die kürzliche Integration mit RAG-Anything erweitert die Fähigkeiten zur Dokumentenverarbeitung erheblich. Das System verarbeitet nun nahtlos Text, Bilder, Tabellen und Gleichungen aus verschiedenen Formaten (PDF, DOC, PPT, CSV). Dieser multimodale Ansatz macht LightRAG zu einer vollständigen Lösung für die Wissensextraktion aus heterogenen Unternehmensdokumenten.

Speicherflexibilität und Skalierbarkeit

LightRAG unterstützt eine modulare vierstufige Speicherarchitektur: KV-Speicher für LLM-Caching und Textabschnitte (JSON, PostgreSQL, Redis, MongoDB), Vektorspeicher für Embeddings (NanoVectorDB, Milvus, Chroma, Faiss, Qdrant, PostgreSQL, MongoDB), Graphspeicher für den Entitäten-Beziehungs-Graphen (NetworkX, Neo4J, PostgreSQL, AGE) sowie Dokumentenstatus-Speicher zur Verarbeitungsverfolgung. Diese Flexibilität ermöglicht die Wahl des optimalen Backends je nach Leistungs- und Infrastrukturanforderungen. Für den performanten Produktionseinsatz wird Neo4J als Graphdatenbank empfohlen.

LLM-Anforderungen und Empfehlungen

Die empfohlenen Spezifikationen spiegeln die Komplexität des Systems wider: ein LLM mit mindestens 32 Milliarden Parametern und einer Kontextlänge von 32 KB (64 KB bevorzugt), um die Entitäten-Beziehungs-Extraktion zu optimieren. Verbreitete mehrsprachige Embedding-Modelle wie BAAI/bge-m3 und text-embedding-3-large werden vorgeschlagen. Das System unterstützt OpenAI (GPT-4o, GPT-4o-mini), Ollama für lokale Modelle sowie Hugging Face.

Erweiterte Konfiguration und Anpassung

LightRAG stellt mehr als 25 Initialisierungsparameter bereit, die eine granulare Steuerung ermöglichen: Chunk-Größe (Standard 1200 Token), Schleifen zur Entitätsextraktion (Standard 1), Batch-Größe für Embeddings (Standard 32), LLM-Cache-Parameter sowie Token-Budgets für Entitäten, Beziehungen und Gesamtkontext. Diese Konfigurierbarkeit ermöglicht eine Feinabstimmung des Verhältnisses zwischen Leistung und Kosten.

Erweiterte Funktionen und Verwaltung

Das System bietet ausgereifte Fähigkeiten: Löschen von Dokumenten anhand der ID, Löschen von Entitäten anhand des Namens (unter Beibehaltung der Konsistenz von Graph und Vektorspeicher), Unterstützung von Zitaten zur Quellenzuordnung, Streaming-Antworten, Verfolgung des Gesprächsverlaufs sowie Einfügen benutzerdefinierter Wissensgraphen. Die asynchrone Architektur (asyncio) gewährleistet Leistung und Skalierbarkeit.

Bereitstellung und Community

Flexible Installation über PyPI (pip install "lightrag-hku[api]"), aus dem Quellcode oder via Docker Compose mit vorkonfigurierten Umgebungsdateien. Die aktive Community pflegt Discord, WeChat, umfassende Dokumentation, Beispiele und Tutorial-Videos. Jüngste Aktualisierungen (PostgreSQL-Unterstützung, Zitate, Löschfunktionen, Neo4J) zeugen von aktiver Entwicklung.