Souveräne Multi-Tenant GenAI-Plattform für skalierbare E-Learning-Inhaltsgenerierung
Wichtige Herausforderungen
Collow musste eine skalierbare Multi-Tenant GenAI-Plattform aufbauen und dabei eine strikte Datenisolation und Sicherheit über die gemeinsame Infrastruktur hinweg gewährleisten. Die Integration verschiedener Wissensquellen wie S3, Google Drive, SharePoint und Confluence erhöhte die Komplexität bei der Erfassung und Synchronisierung. Zudem stellte die Erfüllung von Unternehmensanforderungen hinsichtlich Datenresidenz, Governance und Prüfbarkeit, bei gleichzeitiger Aufrechterhaltung einer hohen Leistung für die Echtzeit-Inhaltsgenerierung, eine erhebliche architektonische Herausforderung dar.
Wichtige Ergebnisse
Nach einer gemeinsamen Zusammenarbeit im Rahmen des AWS Business Outcome Xcelerator (BOX)-Programms hat Collow erfolgreich eine souveränitätsfähige, Multi-Tenant RAG-basierte Plattform gestartet, die eine sichere, skalierbare E-Learning-Inhaltsgenerierung ermöglicht. Die Lösung reduzierte den manuellen Aufwand für die Inhaltserstellung um 60–70 %, verbesserte die Effizienz der Inhaltsabfrage um das Fünffache und unterstützt über 10.000 Anfragen pro Tag mit geringer Latenz. Mit starker Datenisolation, EU-basierter Datenresidenz und nahtlosen Integrationen ist die Plattform nun bereit für den Einsatz in Unternehmen und regulierten Märkten.
Übersicht
Collow.ai iist ein KI-gestütztes E-Learning-Unternehmen, das Organisationen dabei unterstützt, ihr vorhandenes Wissen (Folien, PDFs, Dokumentationen) in skalierbare, interaktive digitale Schulungen und Akademien umzuwandeln, wodurch der Aufwand für die manuelle Kurserstellung durch die Automatisierung von Inhaltserstellung, Übersetzung und Personalisierung reduziert wird.
Um ihre Digital-Learning-Produkte zu verbessern und Kunden vereinfachte Prozesse zu bieten, wollte Collow mehr Automatisierungs- und GenAI-Funktionen in ihr Lern-Setup integrieren, mit dem Hauptziel, eine Multi-Tenant SaaS-Plattform bereitzustellen, die es Unternehmen ermöglicht, hochgradig angepasste E-Learning-Kurse mittels Retrieval-Augmented Generation (RAG) zu erstellen, wobei die Wissensbasis und der Vektorspeicher jedes Kunden auf einer gemeinsamen Infrastruktur isoliert bleiben.
Das Ergebnis ist der CollowCreator RAG, ideal für Unternehmen, die internes Wissen sicher in personalisierte Lerninhalte umwandeln möchten, und dabei Folgendes ermöglichen:
- Schulungsinhalte direkt aus internem Unternehmenswissen generieren
- Volle Kontrolle darüber behalten, auf welche Daten die KI zugreifen kann
- Nahtlose Integration mit SharePoint, Google Workspace und Confluence
- Effiziente Skalierung zur Bewältigung großer Wissensdatenbanken und häufiger Inhaltsaktualisierungen
Herausforderungen
Collow musste Skalierbarkeit mit strenger Datenkontrolle in Einklang bringen, insbesondere in einer gemeinsam genutzten Multi-Tenant-Umgebung. Die zentrale Herausforderung bestand darin, mehreren Organisationen den Betrieb auf derselben Infrastruktur zu ermöglichen, ohne die Datenisolation oder Sicherheitsgrenzen zu gefährden.
Die Plattform musste diverse Wissensquellen wie S3, Google Drive, SharePoint und Confluence konsistent und skalierbar unterstützen, was die Komplexität bei der Aufnahme und Synchronisierung erhöhte. Datenresidenz und die Verhinderung, dass Daten während der Aufnahme und LLM-Verarbeitung kontrollierte Grenzen verlassen, waren entscheidend, insbesondere angesichts der Erwartungen von Unternehmen und Regulierungsbehörden.
Aus Governance-Sicht fügte die Aufrechterhaltung der End-to-End-Prüfbarkeit und Nachvollziehbarkeit über verteilte Komponenten hinweg eine weitere Komplexitätsebene hinzu, wobei die Lösung gleichzeitig betrieblich effizient und im Einklang mit den Erwartungen an digitale Souveränität und Compliance gehalten werden musste.
Darüber hinaus musste das System hohe Volumen an Aufnahme- und Verarbeitungs-Workloads bewältigen und gleichzeitig nahezu Echtzeit-Abfrageantworten liefern, um Endnutzern eine reibungslose Erfahrung bei der Erstellung von Bildungsinhalten zu ermöglichen.
Lösung
Collow und Ankercloud gingen eine Partnerschaft im Rahmen des AWS Business Outcome Xcelerator (BOX)-Programms ein, das darauf ausgelegt ist, den Prozess von Design, Entwicklung und Markteinführung neuer Lösungen mit einem strukturierten, in Phasen unterteilten Ansatz zu beschleunigen.
Die Plattform wurde als modulare, ereignisgesteuerte RAG-Architektur konzipiert, die auf AWS Managed Services basiert und eine skalierbare und sichere Inhaltserstellung unter Beibehaltung einer strikten Tenant-Isolation ermöglicht.
Im Kern dient Amazon S3 als primäre Wissensbasis, die mandantenspezifische Dokumente speichert, während OpenSearch Serverless die Vektorspeicherung mit logischer Trennung durch mandantenspezifische Indizes übernimmt. Amazon Bedrock treibt sowohl die Embedding-Generierung als auch die LLM-basierte Inhaltserstellung an, und AWS Lambda orchestriert die Workflows für Aufnahme, Löschung und Inferenz. Für Workloads, die die Lambda-Grenzen überschreiten, wie z. B. groß angelegte Onboardings und externe Integrationen, wird Amazon ECS eingesetzt, wobei EventBridge die geplante Synchronisierung verwaltet.
Die Ingestions-Pipeline unterstützt sowohl Echtzeit- als auch geplante Workflows. Dokumente, die in S3 hochgeladen werden, werden automatisch in Embeddings verarbeitet und indiziert, während externe Quellen wie Google Drive, SharePoint und Confluence über ECS-basiertes Onboarding und periodische Synchronisierungsmechanismen integriert werden. Dies stellt sicher, dass alle Wissensquellen konsistent aktualisiert werden, ohne die Kern-Pipeline zu beeinträchtigen.
Wenn ein Benutzer eine Anfrage stellt, generiert das System dynamisch kontextbezogene Suchanfragen mithilfe von Bedrock, ruft die relevantesten Inhalte aus OpenSearch ab und nutzt dann die Fähigkeiten von LLMs, um strukturierte E-Learning-Ausgaben wie Kursmodule, Lektionen und Zusammenfassungen zu erstellen.
Die Architektur ist auf Skalierbarkeit ausgelegt und unterstützt etwa 10–50 Mandanten auf einer gemeinsamen Infrastruktur, wobei jeder Mandant bis zu 50.000–200.000 Dokumente verwalten kann. Das System kann über 10.000 Anfragen pro Tag verarbeiten, mit durchschnittlichen Antwortzeiten zwischen 2–5 Sekunden, ermöglicht durch serverloses Auto-Scaling und optimierte Abrufmechanismen.
Die Plattform ermöglicht es mehreren Kunden, auf einer gemeinsamen AWS-Infrastruktur zu arbeiten, wobei eine strikte Isolation ihrer Daten, Wissensdatenbanken und Zugriffsgrenzen gewährleistet ist. Sie integriert Amazon S3, OpenSearch Serverless, AWS Lambda, Amazon Bedrock und ECS, um skalierbare Datenerfassung, intelligente Abrufe und automatisierte Inhaltserstellung zu ermöglichen.
Die Lösung wird in einer einzigen AWS-Region (EU-West-1 – Irland) bereitgestellt, um die Erwartungen an die Datenresidenz zu erfüllen und sicherzustellen, dass alle Kundendaten, Verarbeitungen und KI-Interaktionen innerhalb der definierten geografischen Grenzen verbleiben.
Angesichts des Unternehmens- und Multi-Mandanten-Charakters der Plattform ist die Architektur nach starken Prinzipien der digitalen Souveränität konzipiert, die standardmäßig Datenkontrolle, Prüfbarkeit und Compliance gewährleisten.
Architekturdiagramm
.png)
Geschäftsergebnis
Mit der neuen RAG-basierten CollowCreator Plattform kann Collow seinen Kunden ein fortschrittliches System bieten, um Wissen in neue digitale Lernlösungen umzuwandeln und personalisierte Lernerfahrungen effizient bereitzustellen. Genauer gesagt hat die Plattform geschäftliche Auswirkungen in vielen Bereichen:
Betriebliche Auswirkungen
- Reduzierter manueller Aufwand bei der Inhaltserstellung um 60–70% durch automatisierte Erfassung und Strukturierung
- Nahezu Echtzeit-Verfügbarkeit von Inhalten für S3-basierte Erfassung
- Unterstützung des Onboardings neuer Mandanten ohne Infrastrukturänderungen
- Verbesserte Effizienz beim Abruf von Inhalten um das 3- bis 5-fache im Vergleich zu manuellen Suchabläufen
Auswirkungen auf Sicherheit und Souveränität
- Strikte Datenisolation auf Mandantenebene über gemeinsame Infrastruktur
- Datenresidenz im EU-Raum, im Einklang mit den regulatorischen Erwartungen
- Vollständige Auditierbarkeit durch zentralisierte Protokollierung und nachverfolgbare Workflows
- Standardisierte Architektur, die die Compliance-Validierung und Governance vereinfacht
Strategische Auswirkungen
- Collow kann nun eine souveränitätsfähige GenAI SaaS-Plattform anbieten
- Die Lösung ist bereit für die Bereitstellung in regulierte Märkte (EU, Unternehmen, öffentlicher Sektor)
- Unterstützte Integration mit mehreren Enterprise-Content-Systemen ohne Neugestaltung
- Eine skalierbare Grundlage für weitere Entwicklungen wie Multi-Region-Bereitstellungen
Notfallwiederherstellung und Ausfallsicherheit
Die aktuelle Architektur ist für hohe Verfügbarkeit ausgelegt und nutzt verwaltete und serverlose Dienste:
- Kerndienste (S3, OpenSearch Serverless, Lambda, Bedrock) bieten integrierte Dauerhaftigkeit und Fehlertoleranz
- Ereignisgesteuerte Pipelines gewährleisten automatische Wiederherstellung bei vorübergehenden Ausfällen
- ECS-basierte Ingestionsaufgaben können ohne Datenverlust erneut versucht oder ausgelöst werden
Geplante Erweiterungen
- Regionsübergreifende Replikation für S3 und OpenSearch zur Unterstützung von regionsübergreifendem Failover
- Backup- und Wiederherstellungsstrategien für Mandantenindizes und Metadaten
- Definierte RTO/RPO-Ziele, abgestimmt auf die Geschäftsanforderungen
- Automatisierte Wiederherstellungs-Workflows mittels Infrastructure-as-Code
