Was wünschen sich Nutzer:innen im Mittelstand von RAG-basierten Chatbots? Mittelstand-Digital Zentrum Fokus Mensch

In unseren Praxisprojekten mit ARKADIA Management Consultants und Privatbüro Plus konnten wir viele spannende Erkenntnisse über die Nutzung von RAG-basierten Chatbots sammeln, die wir hier in einem kurzen Post vorstellen möchten. RAG, oder Retrieval Augmented Generation, ist eine Methode, die einfache Nutzeranfragen an ein Sprachmodell durch zusätzliche Ressourcen erweitert. Das Sprachmodell leitet dann seine Antworten aus diesen Ressourcen ab. Damit können bspw. Fragen zu spezifischen Unternehmensinhalten mithilfe des Sprachmodells und zugehörigen Unternehmensdokumenten beantwortet werden.

In unseren Praxisprojekten nutzen wir RAG in erster Linie dazu, um textuelle Unternehmensdaten durch Mitarbeitende erfragbar zu machen. So können Mitarbeitende Fragen an Unternehmensdokumente stehen, und durch ein Sprachmodell kurze und schnelle Antworten erhalten.

Basierend auf Interviews und Nutzerstudien für ARKADIA und Privatbüro Plus, lässt sich eine Reihe von Schlüsselerkenntnissen für die Nutzung in KMU ableiten:

Informationsgewinnung: Die hauptsächliche Anwendung, die RAG KMUs bietet, besteht darin, Informationen aus einer Vielzahl von Dokumenten herauszufiltern und diese in kurzer Textform wiederzugeben. Unsere Nutzerstudien zeigen, dass die meisten Anwendungsfälle aus der Anfrage großer Dokumentenmengen bestehen, um rasch und effizient verborgene Informationen und ihre Quellen herauszufinden.
Datenselektion: Obwohl eine große Datenbasis gefragt ist, wünschen sich die Nutzer:innen, dass sie die Datenbasis je nach Anforderung eingrenzen und bestimmte Dokumente für die Suche selektieren können.
Quellenangaben: Bei der Anfrage von Dokumenten möchten Nutzer:innen Angaben dazu, aus welchen Quellen die Antworten des Sprachmodells generiert werden.
Ordnerarchitekturen und Sprachmodelle: Außer der Befähigung durch RAG-Sprachmodelle, Dokumente bezüglich Inhalte zu befragen, wollen Nutzer:innen eine Ordnerstruktur vorfinden, in der sie Ordner erstellen, löschen und organisieren können.

Wir freuen uns darauf, in den nächsten Wochen weitere Details und Einblicke in unsere Praxisprojekte zu geben. Bei Interesse an einem Praxisprojekt, wenden Sie sich gerne an die unten genannten Ansprechpartner.

21.02.24