Der fünfte Teil unserer Serie über moderne Retrieval-Augmented Generation (RAG)-Systeme.
Im vorherigen Beitrag habe ich erklärt, warum die Vektorsuche allein nicht ausreicht. Sie kann semantisch verwandte Dokumente finden, könnte aber wichtige technische Details wie Alarmcodes, Teilenummern oder Software-Versionen verwischen.
Deshalb verwenden viele praktische RAG-Systeme Hybridsuche. Hybridsuche kombiniert zwei verschiedene Retrieval-Methoden.
Die Keyword-Suche findet exakte Begriffe. Die Vektorsuche findet semantische Ähnlichkeit. Das ist eine starke Kombination für RAG-Systeme, da echte Nutzerfragen oft beides benötigen.
Zum Beispiel:
The machine stops with servo alarm F217 after the gripper module was replaced. Die Keyword-Suche hilft dabei, exakte Bezeichner wie:
F217 zu erhalten. Die Vektorsuche hilft dabei, verwandte Formulierungen zu finden wie:
handling unit replacement
servo recalibration
end position adjustment Aber wenn wir zwei Ergebnislisten haben, müssen wir diese zusammenführen.
Das ist nicht so einfach, wie es klingt.
Keyword-Suche und Vektorsuche erzeugen unterschiedliche Arten von Scores. BM25 kann eine Art von Score erzeugen. Die Kosinus-Ähnlichkeit eine andere.
Diese Scores sind nicht direkt vergleichbar. Ein BM25-Score von 12 bedeutet nicht dasselbe wie ein Vektorähnlichkeits-Score von 0,82.
Wenn wir die Ergebnisse naiv zusammenführen, könnte eine Methode die andere dominieren. Genau hier wird Reciprocal Rank Fusion nützlich.
RRF kümmert sich nicht um die ursprünglichen Scores. Es interessiert sich nur für die Ränge.
Wenn ein Dokument in einer Rangliste weit oben erscheint, erhält es einen Boost. Wenn es in mehreren Ranglisten weit oben erscheint, erhält es einen noch besseren Score.
Die Idee ist einfach. Ein Dokument, das sowohl in der Keyword-Suche als auch in der Vektorsuche gut rankt, ist wahrscheinlich wichtig.
Stellen Sie sich zum Beispiel vor, die Keyword-Suche liefert Dokument A, B, C und die Vektorsuche liefert Dokument C, A, D.
RRF kombiniert diese Rankings, indem es schaut, wo jedes Dokument erschien.
Dokument A rankt in beiden Listen gut und erhält daher einen starken kombinierten Score.
Dokument C rankt in der Vektorsuche an erster Stelle und in der Keyword-Suche an dritter Stelle, erhält also ebenfalls einen guten Score.
Dokument D erscheint nur in der Vektorsuche und auf einem niedrigeren Rang, erhält daher einen schwächeren Score.
Der Vorteil von RRF ist seine Robustheit.
Es muss BM25-Scores und Vektorscores nicht auf dieselbe Skala normalisieren. Es verwendet einfach die Rangpositionen.
Das macht es zu einer praktischen und einfachen Methode, um mehrere Retrieval-Methoden zu kombinieren.
In modernen RAG-Systemen sieht ein typischer Ablauf so aus:
User query
→ keyword search
→ vector search
→ RRF merge
→ candidate documents Das gibt uns bereits eine viel bessere Retrieval-Pipeline als die Vektorsuche allein.
Aber wir haben noch eine Einschränkung. RRF liest die Anfrage und das Dokument nicht tiefgehend zusammen. Es weiß nur, wo ein Dokument in den vorherigen Rankings erschienen ist.
Es fragt nicht:
Does this document actually answer the question? Deshalb fügen viele Systeme nach der Hybridsuche noch einen weiteren Schritt hinzu.
Reranking.
Zusammenfassend: Die Hybridsuche liefert uns eine deutlich bessere Kandidatenliste als Keyword-Suche oder Vektorsuche allein. RRF ist eine einfache und robuste Methode, um verschiedene Rankings zusammenzuführen, ohne inkompatible Scores direkt zu vergleichen.
Aber es gibt noch eine wichtige Einschränkung. RRF liest die Anfrage und das Dokument nicht tiefgehend zusammen. Im nächsten Beitrag werde ich Reranking erklären und zeigen, warum Cross-Encoder oft eingesetzt werden, um die Retrieval-Precision zu verbessern.
