Hintergrund & Zielsetzung des Projekts
Die DekaBank ist aktives Mitglied des KI Park e.V. und setzt auf den offenen Austausch mit anderen Mitgliedern, um innovative KI-Lösungen in ihre Arbeitsprozesse zu integrieren. Ein Beispiel ist die Kreditanalyse, bei dem Analyst:innen Finanz- und Unternehmensdaten aus Geschäftsberichten extrahieren und strukturieren. Dieser Prozess erfolgt zu einem signifikanten Teil manuell – ein zeitintensiver Prozess, der hohe Expertise und Erfahrung erfordert.
Zwischen Juli und August 2024 fanden mehrere Workshops und Arbeitstreffen mit YukkaLab, Datanizing, Agents.inc und ML6 statt. Ziel war es, erste Schritte zur Unterstützung und Automatisierung der Analyseschritte mithilfe von KI zu erarbeiten und somit den manuellen Aufwand möglichst weit zu reduzieren, während die Kontrolle über das Ergebnis der Analyse bei den Expert:innen verbleiben sollte. Die Unternehmen brachten wertvolle Fachkenntnisse zu KI-gestützten Analyseverfahren ein und unterstützten die Expert:innen der Deka dabei, ihre eigene KI-Lösung gezielt weiterzuentwickeln.
Entwicklung eines spezialisierten RAG Systems
Die DekaBank setzt auf ein System auf Basis von OpenAI-Modellen. Das System verwendet Retrieval-Augmented-Generation (RAG) und setzt Agenten ein, die bestimmte Aufgaben, wie beispielsweise das Anreichern bestimmter Texte mit Referenzen, erfüllen.
Eine besondere Herausforderung bestand darin, das Wissen der Analyst:innen in optimierte Prompt-Strategien zu überführen. Die zentrale Frage lautete: Wie lassen sich die komplexen Anforderungen der Analyst:innen so in die KI einbinden, dass sie präzise Antworten liefert? Die Deka hat ihre Analystinnen und Analysten entsprechend geschult, sodass die fachlichen Expertinnen und Experten in der Lage waren, ihr Fachwissen in effiziente Prompt-Strategien zu übersetzen.
Die Deka führte interne Trainings zu folgenden Themen durch:
- Effektives Prompting: Optimale Formulierung von KI-Abfragen.
- RAG verstehen: Einbindung und Nutzung externer und interner Daten.
- Qualitätskontrolle: Bewertung und Optimierung der KI-generierten Inhalte.
Fachleute spielen eine entscheidende Rolle bei der Einschätzung der Qualität der Ergebnisse. Um die KI langfristig zu optimieren, empfiehlt sich die Entwicklung standardisierter Leistungskennzahlen.
Wichtige Learnings aus der Entwicklung
- Expert:innen frühzeitig einbinden: Die besten Ergebnisse entstehen durch direkte Anwendung und kontinuierliches Feedback.
- Transparenz beim Prompting: Analyst:innen benötigen nicht nur den Input und Output, sondern auch Einsicht in den zugrunde liegenden Kontext.
- Die Lerninhalte verinnerlichen: Mehrfache Schulungen fördern das Verständnis
- Chunking-Strategie optimieren: Tests ergaben, dass längere Textabschnitte zuverlässigere Ergebnisse liefern als kürzere.
- Automatisierte Quellenangaben verbessern die Nachvollziehbarkeit: Ein gezieltes Prompting („Bitte die Quellen nochmals in den Text integrieren“) erhöhte die Transparenz der KI-generierten Berichte.
- Strukturierte Evaluation: Regelmäßiges Feedback hilft, die Modellqualität langfristig zu optimieren.
Perspektiven aus dem Ökosystem
Um die Weiterentwicklung von DekaGPT optimal zu gestalten, wurden externe Expert:innen aus dem KI Park-Netzwerk eingebunden. Sie brachten wertvolle Verbesserungsvorschläge ein, um die KI-gestützte Analyse effizienter und praxisnaher zu gestalten.
AGENTS.Inc zeigte, wie Multi-Agentensysteme zur KI-gestützten Risikobewertung eingesetzt werden können. Durch eine robuste Pipeline lassen sich Risiken in Finanzberichten automatisiert identifizieren und analysieren. Dies reduziert den manuellen Prüfaufwand erheblich und ermöglicht fundiertere, datengetriebene Entscheidungen. Finanzinstitute profitieren von einer effizienteren Risikominimierung und strategischen Planung.
Datanizing hebt hervor, dass eine standardisierte Bewertung von KI-Modellen essenziell ist. Messbare Leistungskennzahlen erleichtern das Fine-Tuning und ermöglichen einen gezielten Wechsel auf alternative Modelle, falls erforderlich. Ohne klare Metriken bleibt die Optimierung von KI-Lösungen ein schwer messbarer Prozess.
YukkaLab betont die zunehmende Bedeutung von Echtzeit-Daten für die Weiterentwicklung von KI-gestützten Analysen. Die Integration von Echtzeit-Daten könnte den Mehrwert der bestehenden KI-Anwendungen erheblich steigern, indem interne Unternehmensdaten mit aktuellen Nachrichten kombiniert werden. Dadurch lassen sich Marktveränderungen zeitnah erfassen und in die Analyseprozesse integrieren, was die Reaktionsfähigkeit und Präzision der Credit Research-Modelle weiter verbessert.
ML6 hob besonders die Relevanz von selbstgehosteten LLMs hervor, um Datenhoheit und Compliance-Anforderungen in hochregulierten Bereichen sicherzustellen. Die Nutzung von Retrieval-Augmented Generation (RAG) ermöglicht eine noch effizientere Informationsverarbeitung, indem spezialisierte Retrieval-Mechanismen mit OpenAI-basierten LLMs kombiniert werden. Durch den Einsatz von selbstgehosteten Modellen behalten Unternehmen die volle Kontrolle über ihre sensiblen Finanzdaten und können Compliance-Vorgaben optimal einhalten.
Fazit: Wissensaustausch als Schlüssel zur erfolgreichen KI-Integration
Der Austausch mit den Mitgliedern des KI Park-Netzwerks ermöglichte es der DekaBank, wertvolle Erkenntnisse für ihre KI-Strategie zu gewinnen. Die Entwicklung von DekaGPT mit RAG zeigt, wie Unternehmen KI sinnvoll in ihre Prozesse integrieren können.
Das Fachwissen der Expert:innen in KI-Anwendungen zu transferieren und sie darin zu befähigen, ist ein entscheidender Erfolgsfaktor. Der offene Wissensaustausch im KI Park schafft einen Mehrwert für alle Beteiligten und zeigt, wie innovative Technologien durch Zusammenarbeit schneller vorangetrieben werden können.
