Was ist Retrieval Augmented Generation (RAG)?

Generative KI basiert auf Large Language Models (LLMs), also großen Sprachmodellen, die komplizierte Fragen beantworten, originelle Inhalte erstellen und vieles mehr leisten können. Viele Unternehmen begegnen bei LLMs jedoch einer zentralen Herausforderung: Datenbeschränkungen. Hier kommt die Retrieval Augmented Generation (RAG) ins Spiel.

RAG ermöglicht es, Unternehmensdaten mit LLMs zu verknüpfen und so KI-Potenziale für Unternehmen mit vertrauenswürdigeren, relevanteren und schnelleren Ergebnissen zu nutzen. Hat etwa ein Unternehmen mittels RAG eine Verbindung zu seinen internen Daten hergestellt, können autonome KI-Agenten Kundenservice-Antworten liefern, die frühere Fragen berücksichtigen, oder Marketing-Kurzinfos auf der Grundlage aktueller Markenrichtlinien erstellen.

Im Folgenden sehen wir uns an, was RAG ist, welche Vorteile es Ihrem Unternehmen bieten kann, wie es funktioniert und wie Sie damit loslegen können.

Unsere Themen:

• Was ist Retrieval Augmented Generation (RAG)?
• Was sind die Vorteile von RAG?
• Wie funktioniert RAG?
• Welche verschiedenen Arten von RAG gibt es?
• Was ist ein LLM-Agent mit RAG-Architektur?
• Wie kann RAG Ihren Teams helfen?
• Beispiele für RAG nach Branchen
• Erste Schritte mit RAG

Retrieval Augmented Generation (RAG) ist eine Technik, die bessere generative KI-Ergebnisse liefert, indem sie Unternehmen ermöglicht, automatisch die aktuellsten und relevantesten unternehmensinternen Daten für ein bestehendes LLM bereitzustellen.

Ein Modell der künstlichen Intelligenz (KI) ist nur so gut wie der Korpus, anhand dessen es trainiert wird. Um sein ganzes Potenzial zu entfalten, braucht es keine generischen Informationen, sondern den richtigen Kontext und Unmengen von Fakten. Ein LLM von der Stange ist nicht immer auf dem neuesten Stand, hat keinen verlässlichen Zugang zu Ihren Daten und keinen Einblick in Ihre Kundenbeziehungen. RAG schafft hier Abhilfe.

Mit RAG können Unternehmen dafür sorgen, dass KI-Modellen die aktuellsten internen Informationen zur Verfügung stehen. Dazu gehören nicht nur strukturierte Daten, etwa aus Tabellenkalkulationen oder Datenbanken. Abgerufen werden vielmehr alle verfügbaren Daten, einschließlich unstrukturierter Daten: E-Mails, PDFs, Chat-Protokolle, Social-Media-Posts und andere Arten von Informationen. Das Ergebnis ist ein optimierter KI-Output.

Retrieval Augmented Generation (RAG) ist ein kostengünstiger Ansatz, der Mitarbeiter:innen und Kund:innen qualitativ hochwertigere Erlebnisse bietet und so Ihre KI-Strategie verbessert. RAG-Modelle bieten zahlreiche geschäftliche Vorteile, darunter:

• Aktualität und Relevanz: Mittels RAG können LLMs die unternehmensinterne Daten auf dem neuesten Stand abrufen und passendere Antworten generieren. Da nur aktuelle Daten abgerufen werden und das Modell aus früheren Interaktionen lernt, verbessert sich oft die Qualität.
• Mehr Vertrauen: Eine wesentliche Herausforderung bei vielen Standard-LLMs sind Halluzinationen, also ungenaue oder schlicht falsche Resultate. Ein RAG-basiertes LLM, das die internen Informationen eines Unternehmens an ein vorhandenes Modell weiterleitet, generiert Antworten auf der Basis geprüfter, aktueller Unternehmensdaten, wodurch das Halluzinationsrisiko sinkt.
• Mehr Kontrolle: LLMs von der Stange werden in der Regel mit einem riesigen, unübersichtlichen Satz von Datenquellen trainiert. Mit einem RAG-basierten LLM haben Sie mehr Kontrolle, da allgemeine Daten mit Informationen aus handverlesenen Quellen angereichert werden.
• Erweiterte Suche: Unternehmen haben heutzutage mit einer Flut von Insights, Interaktionen und Informationen aus vielen verschiedenen Quellen zu kämpfen. Ein RAG-Modell verbessert die Suchfunktionalität, da es die Vorteile von KI auf Unternehmensdaten überträgt.

Retrieval Augmented Generation nutzt die semantische Suche, um relevante Informationen aus beliebigen Datenquellen abzurufen. Dies kann beispielsweise die interne Customer Data Platform eines Unternehmens sein, die Informationen enthält, die nicht Teil des Trainingskorpus des LLM waren. Anhand der abgerufenen Informationen werden dann generative KI-Antworten bereitgestellt, die die Knowledge Base des Unternehmens einbeziehen – das Ergebnis wird mitunter als „grundierte KI-Generierung“ bezeichnet. Grundierte KI-Generierung kann dazu beitragen, dass Sie bessere KI-Antworten erhalten.

Hier die wichtigsten Elemente von Retrieval Augmented Generation:

• Vorverarbeitung und Indexierung: Die RAG-KI hebt zunächst den unstrukturierten Datenschatz eines Unternehmens – Notizen von Kund:innen, E-Mails, PDFs, Chatprotokolle usw. – und verknüpft diese Daten miteinander („Vorverarbeitung und Indexierung“).
• Retriever und Abruf: Anschließend nutzt RAG hochperformante semantische Suchwerkzeuge („Retriever“), um die unternehmensinternen Daten zu durchforsten und alle Informationen abzurufen, die für eine bestimmte Abfrage benötigt werden.
• Grundierte KI-Generierung und -Erweiterung: Zuletzt generiert das RAG-LLM anhand der abgerufenen Informationen eine möglichst relevant Antwort und gibt sie aus („grundierte KI-Generierung und -Erweiterung“).

Retrieval Augmented Generation umfasst mehrere Ansätze zum Organisieren, Verbinden und Abrufen von Daten, die oft eng miteinander zusammenhängen. Hier einige Beispiele:

• Vektorbasierte RAG: RAG lässt sich mit einer sogenannten Vektordatenbank kombinieren, um Informationen in einem KI-kompatiblen numerischen Format zu speichern.
• Wissensgraphen: Bei Wissensgraphen werden Daten um Knoten und Beziehungen herum organisiert, sodass eine RAG-basierte KI auf ähnliche Weise wie Menschen Verbindungen herstellen kann.
• Ensemble RAG: Mehr als ein Retriever wird gleichzeitig ausgeführt und die Ergebnisse werden dann kombiniert. So kann ein Modell die Schwächen eines anderen Modells ausgleichen und Antworten lassen sich gegenprüfen.

Ein LLM-Agent mit RAG-Architektur basiert auf der Retrieval-Augmented-Generation-Technik und einem Large Language Model. Bei dem Agenten handelt es sich um einen autonomen Agenten, der auch als KI-Agent bezeichnet wird.

KI-Agenten sind eine fortschrittliche Form der KI, die selbstständig Aufgaben ausführen und dabei dazulernen kann. Sie werden mit einem Agent Builder erstellt und basieren auf maschinellem Lernen und natürlicher Sprachverarbeitung (NLP). Ein Agent, der auf LLMs und einer RAG-Architektur basiert, kann unternehmensspezifische, nuancierte und kontextbezogene Interaktionen durchführen. Durch kontinuierliche Lernfortschritte liefert er mit der Zeit immer bessere Ergebnisse.

RAG kann LLMs mit einer cloudbasierten Daten-Engine, einem CRM-System (Customer Relationship Management) und Conversational AI zusammenführen und so die Effizienz und den Erfolg Ihres gesamten Unternehmens steigern. Mit dieser Kombination können Sie eine Reihe leistungsstarker KI-Agenten erstellen, die jeweils auf die Anforderungen Ihrer Unternehmensabteilungen zugeschnitten sind. Die Agenten sind dabei mehr als bloße Chatbots: Sie dienen als hochperformante digitale Assistenten, die in Arbeitsabläufe integriert sind, ständig neue Informationen verarbeiten und kontinuierlich dazulernen.

Wie das in der Praxis aussieht, zeigen diese Beispiele:

• Service: Ein Service-KI-Agent ermöglicht es Ihnen, auf der Basis Ihrer CRM-Plattform schnelleren, effizienteren und nützlicheren Kundenservice bereitzustellen. Mithilfe der per RAG abgerufenen Daten kann der KI-Agent personalisierte Interaktionen durchführen, proaktiv bedarfsgerechten Support leisten und den Service kanalübergreifend verwalten.
• Vertrieb: Mit einem Vertriebs-KI-Agenten, der in Ihr CRM-System integriert ist, können Sie das Wachstum der Pipeline und den Umsatz beschleunigen. Der KI-Agent kann alle möglichen Aufgaben übernehmen: vom autonomen Nurturing eingehender Leads bis hin zum Coaching von Mitarbeiter:innen mit dem Ziel, die Produktivität und die Fähigkeiten des Vertriebsteams zu steigern.
• Marketing: Eine Plattform mit einem Marketing-KI-Agenten ermöglicht es, Kundeninteraktionen zu vertiefen und die Teamproduktivität zu steigern. Mit einem KI-Agenten können Marketingexpert:innen personalisierte Inhalte und Angebote für verschiedene Touchpoints generieren, intelligentere Kampagnen für den gesamten Customer Lifecycle bereitstellen und eigenständig Optimierungen basierend auf den neuesten Kampagnen-KPIs vornehmen.
• Commerce: Ein in eine zentrale Plattform integrierter Commerce-KI-Agent kann zur Umsatzsteigerung beitragen, indem er anhand einheitlicher Kundendaten personalisierte Einkaufserlebnisse bietet, relevante Inhalte bereitstellt und Bestellungen optimiert. Es kann auch im Backend bei Aufgaben wie der Optimierung von Lagerbeständen und der Erstellung von Produkt- und Dienstleistungsbeschreibungen helfen.

Von RAG können Unternehmen verschiedenster Branchen und Größen profitieren. Ob bei kleinen Unternehmen, Start-ups oder darüber hinaus – die Kombination aus KI und internen Kundendaten kann für bessere Erfahrungen sorgen und sowohl Mitarbeiter:innen als auch Kund:innen unterstützen.

Ein KI-Agent für einen Finanzdienstleister könnte beispielsweise auf Kundeninformationen zurückgreifen, um relevante Insights für Vertreter:innen zu gewinnen und individuelle Empfehlungen passend zu den finanziellen Zielen einer bestimmten Person liefern. Ein KI-Agent im Gesundheitswesen wiederum könnte Fragen von Patient:innen beantworten und ihnen so helfen, die beste medizinische Versorgung für ihre Bedürfnisse zu finden.

In der Fertigung könnte ein autonomer Agent zur Überwachung von Anlagen und zur Optimierung von Produktionsprozessen eingesetzt werden. Und in der Automobilindustrie wären für einen RAG-basierten KI-Agenten alle möglichen Aufgaben denkbar: von der Erstellung von Werbeaktionen basierend auf Echtzeit-Lagerbeständen bis hin zur proaktiven Erkennung von Problemen bei der Fahrzeugwartung.

Mit der richtigen Technologie muss der Einstieg in Retrieval Augmented Generation (RAG) nicht kostspielig oder umständlich sein.

Als Grundlage empfiehlt sich eine einheitliche Plattform mit einer leistungsstarken Daten-Engine, die verschiedenste Quellen und Dateitypen verarbeiten kann. Sie sollte auch mit allen Daten verbunden sein, z. B. mit einer Vektordatenbank, damit Retriever optimal eingesetzt werden können. Und schließlich sollte die Plattform über einen modernen Agent Builder verfügen – wie es bei Agentforce der Fall ist –, mit dem Sie autonome KI-Agenten zur Unterstützung Ihrer Belegschaft und Kundschaft erstellen und anpassen können.

Halten Sie sich beim Einstieg in RAG vor Augen, dass der Erfolg letztlich von der Qualität des gewählten LLM abhängt. Für die optimale RAG-LLM-Kombination sollten Sie ein qualitativ hochwertiges Modell mit zuverlässigen, präzisen und originalgetreuen kontextbezogenen Generierungsfunktionen verwenden. Denken Sie daran, dass der Mensch nach wie vor die entscheidende Rolle spielt. Je besser die Anfrage, desto besser ist auch die Antwort – schulen Sie also Ihre Teams darin, wie man eine gute Eingabeaufforderung schreibt.

Letztlich dreht sich bei Retrieval Augmented Generation alles um den ROI Ihrer KI-Investition. Durch das Verknüpfen Ihrer Daten mit generativer KI optimieren Sie Ihre KI-Agenten und sorgen für individuellere, relevantere und schnellere Antworten und Ausführungen.

Zum Beispiel nutzt Agentforce – die Agenten-Ebene der Salesforce-Plattform – RAG-Technologie, um Unternehmen dabei zu helfen, schneller mehr Aufgaben zu erledigen. Das Kernstück von Agentforce ist die Atlas Reasoning Engine: Sie analysiert mithilfe von RAG Informationen und bestimmt, wie sich Anfragen oder Aufgaben am besten erledigen lassen.

LLM-Agenten mit einer RAG-Architektur bieten potenzielle Vorteile für Ihr gesamtes Unternehmen. Damit ist es möglich, Kundenbeziehungen zu stärken, Abläufe zu optimieren, die Marketing- und Vertriebsleistung zu verbessern und effizientes Wachstum zu erzielen.