Kontextueller agentischer Workflow und AWS Marketplace-Listung im Rahmen des BOX-Programms

Das Hauptziel war es, mehrere technische und funktionale Hürden zu überwinden:

• Datenfragmentierung: Die Herausforderung, disparate Datenquellen in einer einzigen
  intelligenten Metadatenschicht auf AWS zu vereinen, ohne Kundendaten zu kopieren oder eine weitere
  Dateninsel zu schaffen.
• Komplexe Asset-Suche: Implementierung einer semantischen Suchplattform, die es Benutzern ermöglicht,
  zentral durch verschiedene Medienformate zu navigieren.
• ‍Multimodale Aufnahme: Erstellung einer generischen agentenbasierten Pipeline, die in der Lage ist, diverse Formate wie Text, Bilder und komplexe 3D-Modelle zu erfassen und zu
  verarbeiten.

Ankercloud entwickelte einen kontextuellen agentenbasierten Workflow unter Verwendung des AWS Strands Frameworks.

Zu den Schlüsselkomponenten gehören:

• Agentenbasierte Intelligenz: Ein einziger Reasoning-Agent, der mit dem AWS Strands Framework entwickelt wurde, kann die Werkzeugauswahl, die Argumentation und die Zusammenfassung von Antworten innerhalb eines einheitlichen Workflows übernehmen. Der Agent arbeitet in einem iterativen Zyklus von Plan → Aktion → Gedanke, wodurch er komplexe Benutzeranfragen zerlegen, die relevantesten Tools auswählen, Zwischenergebnisse bewerten und seine Argumentation verfeinern kann, bevor er eine endgültige Antwort generiert. Er ist in der Lage, Benutzeranfragen neu zu formulieren, um das semantische Verständnis zu verbessern und eine hochpräzise Abfrage aus multimodalen Indizes, die Dokumente und 3D-Modelle enthalten, zu gewährleisten. Um die relevantesten digitalen Assets zu finden, kann der Agent die Benutzerabsicht analysieren, optimierte Suchanfragen generieren, Kontext aus der Wissensquelle abrufen und Ergebnisse basierend auf Relevanz, Vertrauen und Geschäftskontext ranken. Dieser Ansatz verbessert die Abrufgenauigkeit, reduziert Suchmehrdeutigkeiten und liefert den Endbenutzern präzisere und kontextuell relevantere Asset-Empfehlungen.
• Benutzerdefinierte Tools: Es wurden zwei benutzerdefinierte Tools zum Abrufen von Textblöcken und S3-URIs von 3D-Modellen (.glb-Dateien) aus einer Amazon OpenSearch Vektordatenbank entwickelt.
• Skalierbare Architektur: Die Infrastruktur basiert auf AWS und nutzt Lambda-Funktionen (bereitgestellt über Docker-Container aus ECR), Amazon API Gateway und Amazon Bedrock für den API-gesteuerten Modellzugriff.
• Infrastructure as Code (IaC): Terraform wurde eingesetzt, um die Bereitstellung des Lambda-Dienstes und des API Gateways zu automatisieren, wodurch eine reproduzierbare und skalierbare Umgebung gewährleistet wird.
• Monitoring: Amazon CloudWatch wurde integriert, um detaillierte Protokolle und Dashboards zur Überwachung der Integrität und Leistung des agentenbasierten Workflows bereitzustellen.

Architekturdiagramm

Architekturbeschreibung 

• API-Management: Amazon API Gateway fungiert als primäre Schnittstelle, die verschiedene Client-Anwendungen mit den agentenbasierten Backend-Prozessen verbindet.
• Serverlose Ausführung: AWS Lambda orchestriert unter Verwendung von containerisierten Images aus Amazon ECR die interne Logik und den Workflow des Agenten.
• Container-Registry: Amazon ECR dient als zentrales Repository für Docker-Images, die von Lambda- und Fargate-Rechenumgebungen benötigt werden.
• Vektorspeicher: Eine Amazon OpenSearch-Sammlung verwaltet multimodale Embeddings, was die effiziente Speicherung und den Abruf von Text- und 3D-Modelldaten ermöglicht.
• Operative Einblicke: Amazon CloudWatch bietet robuste Protokollierungsfunktionen zur Unterstützung von Systemprüfung, Leistungsanalyse und Zustandsüberwachung.
• Grundlagenmodelle: Amazon Bedrock bietet sicheren, API-gesteuerten Zugriff auf große Sprachmodelle, die innerhalb der agentenbasierten Architektur genutzt werden.

Erweiterte semantische Entdeckung: Das System liefert erfolgreich detaillierten Kontext zu gescannten Objekten und identifiziert neue Beziehungen zwischen Assets, wie z.B. Verbindungen zwischen Charakteren.

Betriebliche Skalierbarkeit: Eine funktionierende AWS-Infrastruktur wurde bereitgestellt, die mit dem Benutzerwachstum skaliert und für zukünftige AWS-Dienstintegrationen leicht erweiterbar bleibt.

‍Umfassende Benutzererfahrung: Die Plattform ermöglicht es Benutzern, umfassende Antworten zu erhalten, die sowohl textuelle Informationen als auch direkte S3-URI-Referenzen zu Quelldateien wie PDFs und 3D-Modellen enthalten.

‍Erfolg nach der Bereitstellung: Nach Abschluss dieser Arbeitslast wurde die Lösung erfolgreich einer Foundational Technical Review (FTR) unterzogen und das Produkt offiziell im AWS Marketplace gelistet.

Marketplace-Listung im Rahmen des BOX-Programms

Aus geschäftlicher Sicht bedeutet die Listung des Produkts im AWS Marketplace als verwaltete SaaS-Lösung die Anpassung der Servicebereitstellungs-, Preisgestaltungs- und Abrechnungsprozesse an die AWS-Standards, um die Beschaffung für Kunden zu vereinfachen. Zusätzlich entwickelte Ankercloud eine Integrationskomponente, die PG dabei unterstützte, das Onboarding ihrer Mandanten zu automatisieren und nahtlos zu gestalten.

Zu den geschäftsorientierten Schritten und Überlegungen gehören:

• Einführung eines Managed-Service-Modells: Das Produkt wird als vollständig gehostete SaaS-Anwendung positioniert, bei der der Anbieter die gesamte Infrastruktur verwaltet, was bedeutet, dass der Kunde keine Ressourcen in seinem eigenen Konto verwalten muss.

• Auswahl eines strategischen Preismodells: Es wurde ein „Contract with Usage-Based“-Modell gewählt, um Kunden eine planbare monatliche Grundgebühr zu bieten und gleichzeitig Fairness durch Pay-as-you-go-Abrechnung für zusätzlichen Verbrauch zu gewährleisten.

• Etablierung marktgerechter Stufen: Drei Stufen – Basic, Growth und Enterprise – wurden geschaffen, um unterschiedliche Kundengrößen zu bedienen, von der ersten Evaluierung bis zur hochvolumigen Produktion.

• Definition transparenter Nutzungseinheiten: Die Abrechnung wurde an logische, „kundenverständliche“ Einheiten gekoppelt, wie API-Anfragen und gespeicherte Daten, anstatt an technische Infrastrukturmetriken, um Transparenz zu gewährleisten und Abrechnungsstreitigkeiten zu reduzieren.

• Optimierung der Beschaffung: Durch die Integration in den AWS Marketplace nutzt das Produkt die AWS-eigene Beschaffung, wodurch Kunden einfach abonnieren und über ihre bestehende AWS-Rechnung bezahlen können.

Die von Ankercloud während des Prozesses entwickelte Integrationskomponente unterstützte Perception

Grid auf folgende Weisen:

a) Aufbau einer ereignisgesteuerten AWS Marketplace-Integration & sicherer Webhook

Orchestrierung

b) Automatisiertes Mandanten-Lebenszyklus-Management & Dynamische Berechtigungsdurchsetzung

• Auslagerung der Finanzoperationen: Der Anbieter nutzt AWS, um die aufwendigen Aufgaben der Rechnungsstellung, des Zahlungseinzugs und der Auszahlungen zu übernehmen, wodurch die Notwendigkeit einer separaten Abrechnungsbeziehung mit jedem Kunden entfällt.

• Sicherstellung von Prüfbarkeit und Fairness: Das Unternehmen verpflichtete sich, interne Nutzungsaufzeichnungen zu führen, um eine genaue Abrechnung zu unterstützen, potenzielle Streitigkeiten beizulegen und Kunden einen klaren Prüfpfad zu bieten.

• Priorisierung von Sicherheit als Geschäftswert: Das Angebot betont, dass Kundendaten logisch isoliert und niemals den Marktplatzsystemen zugänglich gemacht werden, wodurch ein hoher Standard an Sicherheit und Vertrauen gewahrt bleibt.