Der Vertrauenstest: Warum Qualität die neue Grenze in der KI ist

Wenn wir über Qualität in der KI sprechen, messen wir nicht nur die Genauigkeit; wir messen Vertrauen. Ein KI-Modell mit 99 % Genauigkeit ist nutzlos oder schlimmer noch, gefährlich, wenn seine Entscheidungen voreingenommen, nicht konform oder nicht erklärbar sind.

Für Unternehmen, die KI in kritischen Bereichen einsetzen (von der Qualitätskontrolle in der Fertigung bis zur Finanzrisikobewertung), ist ein strenges Qualitätsmanagementsystem unerlässlich. Dieser Prozess muss den gesamten Lebenszyklus abdecken, um sicherzustellen, dass die KI fair, sicher und zuverlässig funktioniert – ein Konzept, das oft als Responsible AI.

Wir unterteilen den KI-Qualitätslebenszyklus in fünf wesentliche Phasen und stellen so sicher, dass Qualität in jede Entscheidung einfließt.

Das 5-Phasen-Framework für den KI-Qualitätslebenszyklus

Die Qualitätssicherung für KI-Systeme muss lange vor dem Bau des Modells beginnen und lange nach der Bereitstellung fortgesetzt werden:

1. Data Governance & Datenbereitschaft

Das Modell ist nur so gut wie die Daten, mit denen es trainiert wird. Wir konzentrieren uns auf die Validierung vor dem Training:

• Datenherkunft & -etikettierung: Durchsetzung nachvollziehbarer Protokolle und Dataset-Versionierung.
• Bias-Erkennung: Vorabprüfungen des Modells auf Daten-Bias und Rauschen, um die Repräsentativität über Demografien oder Zeitsegmente hinweg sicherzustellen.
• Sicherer Zugriff: Sicherstellung der Anonymisierung und strenger Zugriffskontrollen von Anfang an.

2. Modellentwicklung & Validierung

Robuster Modellaufbau:

• Mehrfach-Split-Validierung: Einsatz domänenübergreifender Validierungsmethoden, nicht nur zufälliger Aufteilungen, um die zuverlässige Leistung des Modells in verschiedenen realen Szenarien zu gewährleisten.
• Stresstests: Rigorose Tests mit adversariellen und außerhalb der Verteilung liegenden Eingaben zur Bewertung der Robustheit.
• Bewertung jenseits der Genauigkeit: Fokus auf ausgewogene Fairness- und Robustheitsmetriken, nicht nur auf hohe Genauigkeitswerte.

3. Erklärbarkeit & Dokumentation

Was man nicht erklären kann, dem kann man nicht vertrauen. Wir legen Wert auf Transparenz:

• Interpretierbare Techniken: Anwendung von Methoden wie SHAP und LIME, um zu verstehen wie das Modell seine Entscheidung getroffen hat.
• Modellkarten: Erstellung umfassender Dokumentation, die Ziele, beabsichtigte Benutzer und, entscheidend, Modellbeschränkungen beschreibt.
• Nachvollziehbare Protokolle: Führen klarer Protokolle für Eingabemerkmale und versionierte Trainingsartefakte zur Prüfbarkeit.

4. Risikosicherung & Kontrollen für verantwortungsvolle KI

Das ist das proaktive Sicherheitsnetz:

• Gefahrenbewertung: Formale Bewertung des Missbrauchsrisikos (absichtlich und unabsichtlich).
• Leitplanken-Richtlinien: Definition von nicht verhandelbaren Leitplanken für inakzeptable Anwendungsfälle.
• Human-in-the-Loop (HITL): Implementierung notwendiger Freigabestufen für sicherheitskritische oder risikoreiche Ergebnisse.

5. Bereitstellung, Überwachung & Kontinuierliche Verbesserung

Qualität erfordert ständige Wachsamkeit:

• Kontinuierliche Überwachung: Echtzeit-Tracking von Genauigkeit, Modelldrift, Latenz und Halluzinationsraten im Produktivbetrieb.
• Sichere Rollouts: Einsatz von Canary Releases und Shadow Testing vor der vollständigen Produktivbereitstellung.
• Reproduzierbarkeit: Implementierung kontrollierter Retraining-Pipelines, um Konsistenz und die kontinuierliche Durchsetzung der Compliance zu gewährleisten.

Cloud: Das Rückgrat skalierbarer, hochwertiger KI

Der Versuch, dieses Maß an Governance und Überwachung ohne Hyperscale-Infrastruktur zu erreichen, ist unmöglich. Cloud-Plattformen wie AWS und Google Cloud (GCP) sind nicht nur Hosting-Anbieter; sie sind Engines zur Durchsetzung der Compliance.

Cloud-Funktionen für das Qualitätsmanagement:

• ML-Ops-Pipelines: Automatisierte, reproduzierbare Pipelines (unter Verwendung von Diensten wie SageMaker oder Vertex AI) gewährleisten konsistentes Retraining und kontinuierliche Verbesserung.
• Zentralisierte Rechenleistung: Hochleistungsrechenleistung und Data Lakes ermöglichen schnelles Modell-Testing und Qualitätsanalysen für globale Teams und diverse Datensätze.
• Auditierbarkeit & Compliance: Tools wie AWS CloudTrail / GCP Cloud Logging bieten unveränderliche Audit-Trails, während Sicherheitskontrollen (AWS KMS / GCP KMS, IAM) sicherstellen, dass private und regulierte Workloads geschützt sind.

Dies stellt sicher, dass die Qualität der KI-Outputs durch Governance gestützt wird, die alles umfasst von Softwarebereitstellung bis hin zu IoT in der Fertigung und Kundeninteraktionen.

Ankercloud: Ihr Partner für Qualität verantwortungsvoller KI

Qualität und verantwortungsvolle KI sind zwei Seiten derselben Medaille. Ein Modell mit hoher Genauigkeit, aber voreingenommenen Ergebnissen ist ein Fehlschlag. Wir sind darauf spezialisiert, Cloud-native Tools einzusetzen, um diese Prinzipien durchzusetzen:

• Minderung von Verzerrungen: Durch den Einsatz von Tools wie AWS SageMaker Clarify und GCP Vertex Explainable AI zur kontinuierlichen Überwachung von Fairness und Erklärbarkeit.
• Kontinuierliche Governance: Integration von Cloud-Sicherheitsdiensten für die kontinuierliche Durchsetzung der Compliance in Ihrem gesamten MLOps-Workflow.

Bereit, über die grundlegende Genauigkeit hinauszugehen und KI zu entwickeln, die hochwertig, verantwortungsvoll und vertrauenswürdig ist?

Werden Sie Partner von Ankercloud, um kontinuierliche, global skalierbare Qualität zu erreichen.

Heute werden wir einen vollständig automatisierten Sprachbot aufbauen oder einen Callcenter-Flow einrichten, der Ihnen Echtzeit-Konversationen ermöglicht, indem wir die in der Amazon Konsole verfügbaren Dienste Amazon Connect, Lex V2, DynamoDB, S3 und Lambda Function nutzen. Der Sprachbot ist auf Deutsch erstellt, und unten ist der gesamte Ablauf dargestellt, der in diesem Blogbeitrag beschrieben wird.

Vorteile der Nutzung von Lex-Bot

• Lex ermöglicht jedem Entwickler, schnell konversationelle Chatbots zu erstellen.

• Es ist keine tiefgehende Deep-Learning-Expertise erforderlich – um einen Bot zu erstellen, geben Sie einfach den grundlegenden Konversationsfluss in der Amazon Lex Konsole an. Der ASR-Teil (Automatic Speech Recognition) wird intern von Lex übernommen, sodass wir uns darum keine Sorgen machen müssen. Sie integrieren nahtlos Lambda-Funktionen, DynamoDB, Cognito und andere AWS-Dienste.

• Im Vergleich zu anderen Diensten ist Amazon Lex kostengünstig.

Architekturdiagramm

Architektur

Innerhalb der AWS-Umgebung, Amazon Connect ist ein nützliches Tool zur Einrichtung eines Callcenters. Es erleichtert Kundengespräche und schafft einen reibungslosen Ablauf, der mit einem auf Deutsch trainierten Lex v2 Bot kombiniert wird. Dieser Bot ist darauf ausgelegt, eine Reihe von Kundeninteraktionen zu verwalten und dabei wichtige Daten über Slots (bestimmte Datenpunkte, die der Bot benötigt) und Intents (Aktionen, die der Bot ausführen könnte) zu sammeln. Der Lex-Bot wird dann an eine Lambda-Funktion angehängt, die ausgelöst wird, wenn der Kunde mit einem Produktnamen antwortet. Andernfalls verbindet sie den Kunden direkt mit einem menschlichen Agenten für weitere Anfragen. 

Die Lambda-Funktion ermittelt zunächst den Produktnamen aus der Kundeneingabe und vergleicht ihn dann mit der Produktliste, die wir im S3-Bucket haben. Dort sind Details wie Preis, Gewicht, Größe usw. aus einer Excel-Tabelle (Excel-Tabelle) hinterlegt, die derzeit nur zwei Produkte enthält, nämlich Samsung Galaxy S24 und Apple iPhone 15, mit deren Preisen, Gewichten und Größen. Die Eingabe des Kunden wird mithilfe des Fuzzy-Matching-Algorithmus mit dem ähnlichsten Produktnamen in der Excel-Tabelle abgeglichen.

Der Schwellenwert für diesen Produktabgleich ist auf 60 oder mehr festgelegt und kann je nach Bedarf angepasst werden. Nur wenn der Kunde bestellen möchte, beginnt der Bot mit der Erfassung von Kundendaten wie Name und weiteren Details. Der Bot verfügt über einen Bestätigungsblock, der dem Kunden mitteilt, was er aus der Kundeneingabe verstanden hat (wie eine Überprüfung). Wenn der Kunde dies nicht bestätigt, fragt er erneut nach diesem spezifischen Intent. Bei Bedarf können wir die Wiederholungslogik hinzufügen. Hier ist eine maximale Wiederholungsanzahl von 3 für alle Kundendaten festgelegt, um sicherzustellen, dass der Bot die richtigen Daten von den Kunden abruft, während er von Sprache in Text (ASR) transkribiert. 

Nachdem die Daten vom Kunden abgerufen wurden, können wir vor dem Speichern überprüfen, ob die gesammelten Daten gültig sind, indem wir sie an das Mixtral 8x7B Instruct v0.1 Modell übergeben. Ich verwende dieses Modell, da meine Konversation auf Deutsch stattfindet und das Mistral-Modell in Deutsch und anderen Sprachen trainiert wurde, was die Verarbeitung für mich erleichtert. Dieses Modell wird über den Amazon Bedrock-Dienst aufgerufen. Wir rufen dieses Modell in der Lambda-Funktion auf, die eine Prompt-Vorlage enthält, die eine Reihe von Anweisungen beschreibt. Zum Beispiel gebe ich hier Anweisungen wie „extrahieren Sie einfach den Produktnamen aus der Eingabe des Anrufers“. Nachdem die Antwort vom LLM erhalten wurde, wird die Ausgabe dann zusammen mit den Originaldaten und den Anrufaufzeichnungssegmenten aus dem S3-Bucket als Session-Attribute im untenstehenden Code-Snippet gespeichert.

def update_custom_attribute(event, field_name, field_value):

    session_state = event['sessionState']

    if 'sessionAttributes' not in session_state:

        session_state['sessionAttributes'] = {}

    if 'userInfo' not in session_state['sessionAttributes']:

        user_info = {}

    else:

        user_info = json.loads(session_state['sessionAttributes']['userInfo'])

updated_session_state = update_custom_attribute(event, 'name', name_value)

return {

            "sessionState": {

                "dialogAction": {

                    "type": "ElicitSlot",

                    "slotToElicit": "country"

                },

                "intent": {

                    "name": "CountryName",

                    "state": "InProgress",

                    "slots": {}

                },

                "sessionAttributes": updated_session_state['sessionAttributes']

            },

            "messages": [

                {

                    "contentType": "PlainText",

                    "content": "Wie lautet der Name Ihres Landes?"

                }

            ]

        }

Schließlich werden die Aufzeichnungen in der DynamoDB gespeichert, wobei die Zeit als Primärschlüssel dient, damit jeder Datensatz eindeutig ist.

AMAZON CONNECT

So sieht die Benutzeroberfläche von Amazon Connect aus. Sie können eine neue Instanz erstellen, indem Sie auf die Schaltfläche „Instanz hinzufügen“ klicken. Sie können den Namen der URL-Connect-Instanz angeben. Nachdem Sie die Instanz erstellt haben, klicken Sie auf die Notfall-Anmelde-/Zugriffs-URL (melden Sie sich mit dem Benutzerkonto an, das Sie bei der Erstellung der Instanz erstellt haben).

Die Abbildung unten zeigt die Erstellung von gebührenfreien Nummern, wo Sie das Telefon-Symbol auswählen, die Telefonnummer auswählen und auf „Nummer beantragen“ klicken. Wählen Sie dann die Stimme für den Voicebot und das Land aus, für das Sie die Nummer erstellen möchten, und klicken Sie auf die Schaltfläche „Speichern“. Beachten Sie, dass Sie beim Beantragen einer Nummer für einige Länder Nachweise einreichen müssen. Beachten Sie dieses Dokument [1] . 

Erstellen Sie als Nächstes die Arbeitszeiten über den Flow-Pfeil in der Konsole. Ich habe eine Zeit von 9:00 Uhr bis 17:00 Uhr festgelegt, damit ich den Anruf an einen menschlichen Agenten weiterleiten kann, falls der Anrufer Fragen hat. Wenn Sie jedoch möchten, dass Ihr Voicebot rund um die Uhr verfügbar ist, ändern Sie die Verfügbarkeit oder erstellen Sie neue Betriebszeiten.

Erstellen Sie als Nächstes eine Warteschlange und fügen Sie die Betriebszeiten in die Warteschlange ein. Das war's, wir sind fast fertig mit der Einrichtung einiger Dinge in Amazon Connect. Schauen wir uns nun die Flows an und sehen, wie unser kompletter Flow aussieht.

Das obige Diagramm zeigt den Amazon Connect Flow, wobei der Block „Stimme einstellen“ verwendet wird, um eine bestimmte Stimme festzulegen. Der Block „Protokollierungsverhalten festlegen“ und „Aufzeichnungs- und Analyse-Verhalten festlegen“ werden verwendet, um das Gespräch nach der Verbindung mit dem Agenten aufzuzeichnen. „Aufforderung abspielen“ wird verwendet, um eine einfache Aufforderung zu beantworten, die besagt, dass der Anruf aufgezeichnet wird. Der Block „Kontaktattribute festlegen“ enthält zwei Sitzungsattribute: eines, um sich auf die Stimme des Benutzers statt auf Hintergrundgeräusche zu konzentrieren, und ein weiteres, um nicht dazwischenzufahren, wenn der Bot antwortet. Nach dem Hinzufügen dieser beiden Sitzungsattribute in den Connect Flow kann der Anruf den Flow passieren, selbst wenn ein gewisses Maß an Hintergrundgeräuschen vorhanden ist. Der Block „Kundeneingabe abrufen“ wird verwendet, um den Anruf mit dem Lex-Bot zu verbinden. Wenn der Kunde mit dem Agenten verbunden werden möchte, stellt die Einstellung der Arbeitswarteschlange sicher, dass die Verbindung zum Agenten hergestellt wird. Schließlich wird der Anruf mit dem Block „Verbindung trennen“ beendet.

AMAZON LEX

Als Nächstes können wir einen Bot von Grund auf neu erstellen, indem wir auf das Symbol „Bot erstellen“ in der Lex-Konsole klicken. Sie können den Namen des Bots mit den erforderlichen IAM-Berechtigungen angeben und „Nein“ für den Kinderschutz auswählen. Im nächsten Schritt wählen Sie die Sprache aus, in der Ihr Bot trainiert werden soll, und wählen die Stimme aus. Der Intent-Klassifizierungswert liegt zwischen 0 und 1. Dies ähnelt einem Schwellenwert, bei dem der Bot den Grund des Kunden/Benutzers klassifizieren kann. Wenn ich beispielsweise mehrere Intents habe, verbindet er sich basierend auf dem Wert mit dem wahrscheinlichsten Intent. Sie können auch mehrere Sprachen hinzufügen, um Ihren 

Bot zu trainieren.

Sie können einen Intent erstellen, um den Grund des Kunden/Anrufers für den Anruf zu erfahren, z. B. „Ein Mobiltelefon bestellen“. In unserem Fall erwarten wir einen Produktnamen vom Kunden, wie Samsung Galaxy oder Apple iPhone. Die Beispieläußerungen werden verwendet, um das Gespräch mit dem Bot ganz am Anfang des Gesprächs zu initiieren. Zum Beispiel können wir „Hallo“, „Ich möchte bestellen“ usw. sagen, um den Intent auszulösen, von dem Sie erwarten, dass Ihr Bot basierend auf dem Kundenwunsch antwortet. Wenn Sie mehrere Intents wie Begrüßungen, Bestellung, Adresse haben, verbinden Sie diese Intents nacheinander in einem Flow mithilfe des „Gehe zu Intent“-Blocks.

Slots werden verwendet, um den Intent zu erfüllen. Zum Beispiel muss der Bot hier wissen, welches Produkt der Kunde bestellen möchte, um diesen Begrüßungs-Intent abzuschließen. Ebenso können Sie Slots in einem einzelnen Intent erstellen oder separate Slots in jedem Intent erstellen und diese im Flow verbinden. Der Bestätigungsblock wird verwendet, um die Benutzereingabe, wie den Produktnamen, basierend auf der Antwort des Kunden erneut zu überprüfen (sagt der Kunde „Ja“, geht es zum nächsten Schritt; sagt er „Nein“, geht es zum vorherigen Zustand zurück und fragt erneut).

Sie können die Genauigkeit des Lex-Bots verbessern, indem Sie die Spracherkennung (ASR) dessen, was der Kunde sagt, verbessern. Dies geschieht durch das Erstellen eines benutzerdefinierten Slot-Typs und das Trainieren des Bots mit einigen Beispielen dessen, was der Kunde sagen könnte. In unserem Fall könnte der Kunde beispielsweise Produktnamen wie iPhone, Apple iPhone, iPhone 15 usw. nennen. Fügen Sie daher einige Werte in die Slot-Äußerungen ein, was die Spracherkennung verbessern kann. Sie können mehrere benutzerdefinierte Slot-Typen erstellen, z. B. Produktname, Kundenname, Adresse usw.

Sie können auf die Option „Visual Builder“ klicken, um Ihren Flow im Lex V2 Bot anzuzeigen. Lassen Sie uns besprechen, was jeder Block tut, und wir können diese Blöcke einfach per Drag & Drop ziehen, um den Flow zu erstellen. Lambda-Blöcke oder Code-Hook-Blöcke werden im Flow verwendet, wenn Ihr Bot Informationen von verschiedenen Diensten abrufen soll (S3, was in einer Lambda-Funktion geschieht). Zum Beispiel sind meine Produktdetails wie Preis, Größe, Gewicht alle in einem S3-Bucket gespeichert, um die Daten abzurufen, und wir verwenden auch Fuzzy-Logik, um die am besten passende Antwort zu finden. Wir können nur eine Lambda-Funktion pro Bot aufrufen, daher haben wir die Logik hinzugefügt, die die Kundeneingabe zur Überprüfung an das Mistral 8X7 Modell weiterleitet und die endgültige Ausgabe mit dem Audio-Ordner in der DynamoDB speichert.

Lambda-Funktion

Diese Lambda-Funktion wird verwendet, um die Produktinformationen abzurufen, nachdem die Eingabe des Kunden erfasst wurde. Wenn der Kunde beispielsweise „Apple iPhone“ sagt, ruft die Lambda-Funktion die Details aus dem S3-Bucket ab und gleicht diese mithilfe der Fuzzy-Logik ab, wobei wir einen Schwellenwert von 80 oder mehr festgelegt haben. Wenn der Score der Benutzereingabe den Schwellenwert erreicht, werden die Produktdetails zurückgegeben und zum nächsten Intent übergegangen. Der Bot erwartet eine Antwort innerhalb von 3-4 Sekunden, nachdem er die Benutzerabsicht abgefragt hat. Wird keine Antwort empfangen (wenn der Anrufer stumm ist oder nichts gesagt hat), hat der Bot ursprünglich den leeren String als Antwort interpretiert und direkt eine Verbindung zum Agenten hergestellt. Wir haben jedoch eine Logik implementiert, um den Ablauf fortzusetzen, indem bei einer leeren Eingabe erneut nach der Eingabe gefragt wird. In der nächsten Sitzung sehen wir uns an, wie Daten in einer DynamoDB-Tabelle gespeichert werden. Beachten Sie die untenstehenden Referenzen.

Beispielanrufe

Nachdem die Begrüßung empfangen wurde, werden die Informationen zu den verfügbaren Produkten mitgeteilt und es wird gefragt, nach welchem Produkt gesucht wird.

Nach Erhalt des Produktnamens erklärt der Bot die Produkte und fragt nach einer Bestellbestätigung. Wenn ja, beginnt er mit der Erfassung der Anruferdaten. Wenn nein oder wenn keine Produkte den Anforderungen des Anrufers entsprechen, wird eine Verbindung zum menschlichen Agenten hergestellt, um weitere Informationen zu erhalten.

Auf dem obigen Bild werden Details wie Name und Länderinformationen des Anrufers erfasst.

Anschließend werden der Stadtname und der Straßenname des Anrufers erfasst.

Zuletzt werden die Postleitzahl/PLZ erfasst und eine Dankesnachricht mit einer Bestellbestätigung von Lex gesendet. Diese Bilder beschreiben den vollständigen Ablauf, wie Amazon Lex auf den Kunden reagiert. Es wurde eine Wiederholungslogik von maximal 3 Versuchen integriert, bei der der Bot den Kunden erneut fragt, wenn er die Kundenabsicht nicht verstehen kann. Der Bot wurde darauf trainiert, eine Verbindung zu einem menschlichen Agenten herzustellen, wenn er nicht antworten kann oder wenn der Kunde direkt angibt, mit einem Agenten sprechen zu wollen. Nach Erreichen des Fallbacks für die E-Mail-Adressen-Absicht wird eine Dankesnachricht ausgegeben und eine Verbindung zum Agenten hergestellt, falls der Kunde Fragen hat.

Referenzen

Regionale Anforderungen für die Bestellung und Portierung von Telefonnummern – Amazon Connect

Flow-Block: Kundeneingabe erfassen – Amazon Connect

Timeouts für die Erfassung von Benutzereingaben konfigurieren – Amazon Lex

Understanding Generative AI

Generative AI is a revolutionary branch of artificial intelligence that has the capability to create new content, whether it be conversations, stories, images, videos, or music. At its core, generative AI relies on machine learning models known as foundation models (FMs). These models are trained on extensive datasets and have the capacity to perform a wide range of tasks due to their large number of parameters. This makes them distinct from traditional machine learning models, which are typically designed for specific tasks such as sentiment analysis, image classification, or trend forecasting. Foundation models offer the flexibility to be adapted for various tasks without the need for extensive labeled data and training.

Key Factors Behind the Success of Foundation Models

There are three main reasons why foundation models have been so successful:

1. Transformer Architecture: The transformer architecture is a type of neural network that is not only efficient and scalable but also capable of modeling complex dependencies between input and output data. This architecture has been pivotal in the development of powerful generative AI models.

2. In-Context Learning: This innovative training paradigm allows pre-trained models to learn new tasks with minimal instruction or examples, bypassing the need for extensive labeled data. As a result, these models can be deployed quickly and effectively in a wide range of applications.

3. Emergent Behaviors at Scale: As models grow in size and are trained on larger datasets, they begin to exhibit new capabilities that were not present in smaller models. These emergent behaviors highlight the potential of foundation models to tackle increasingly complex tasks.

Accelerating Generative AI on AWS

AWS is committed to helping customers harness the power of generative AI by addressing four key considerations for building and deploying applications at scale:

1. Ease of Development: AWS provides tools and frameworks that simplify the process of building generative AI applications. This includes offering a variety of foundation models that can be tailored to specific use cases.

2. Data Differentiation: Customizing foundation models with your own data ensures that they are tailored to your organization's unique needs. AWS ensures that this customization happens in a secure and private environment, leveraging your data as a key differentiator.

3. Productivity Enhancement: AWS offers a suite of generative AI-powered applications and services designed to enhance employee productivity and streamline workflows.

4. Performance and Cost Efficiency: AWS provides a high-performance, cost-effective infrastructure specifically designed for machine learning and generative AI workloads. With over a decade of experience in creating purpose-built silicon, AWS delivers the optimal environment for running, building, and customizing foundation models.

AWS Tools and Services for Generative AI

To support your AI journey, AWS offers a range of tools and services:

1. Amazon Bedrock: Simplifies the process of building and scaling generative AI applications using foundation models. 

2. AWS Trainium and AWS Inferentia: Purpose-built accelerators designed to enhance the performance of generative AI workloads.

3. AWS HealthScribe: A HIPAA-eligible service that generates clinical notes automatically.

4. Amazon SageMaker JumpStart: A machine learning hub offering foundation models, pre-built algorithms, and ML solutions that can be deployed with ease.

5. Generative BI Capabilities in Amazon QuickSight: Enables business users to extract insights, collaborate, and visualize data using FM-powered features.

6. Amazon CodeWhisperer: An AI coding companion that helps developers build applications faster and more securely.

By leveraging these tools and services, AWS empowers organizations to accelerate their AI initiatives and unlock the full potential of generative AI.

Some examples of how Ankercloud leverages AWS Gen AI solutions

1. Ankercloud has leveraged Amazon Bedrock and Amazon SageMaker which powers VisionForge which is a  tool to create designs tailored to user’s vision, democratizing creative modeling for everyone. VisionForge was used by our client ‘Arrivae’ a leading interior design organization, where we helped them with a  15% improvement in interior design image recommendations, aligning with user prompts and enhancing the quality of suggested designs. Additionally, the segmentation model's accuracy improvement to 65% allowed for a 10% better personalization of specific objects, significantly enhancing the user experience and satisfaction. Read more

2. Another example of using Amazon SageMaker, Ankercloud worked with  ‘Minalyze’ who are  the world's leading manufacturer of XRF core scanning devices and software for geological data display. We were able to create a ready to use and preconfigured Amazon Sagemaker process for Image object classification and OCR analysis Models along with ML- Ops pipeline. This helped Increase the speed and accuracy of object classification and OCR which leads to increased operational efficiency. Read more

3. Ankercloud has helped Federmeister, a facade building company, address their slow quote generation process by deploying an AI and ML solution leveraging Amazon SageMaker that automatically detects, classifies, and measures facade elements from uploaded images, cutting down the processing time from two weeks to just 8 hours. The system, trained on extensive datasets, achieves about 80% accuracy in identifying facade components. This significant upgrade not only reduced manual labor but also enhanced the company's ability to handle workload fluctuations, greatly improving operational efficiency and responsiveness. Read more

Ankercloud is an Advanced Tier AWS Service Partner, which enables us to harness the power of AWS's extensive cloud infrastructure and services to help businesses transform and scale their operations efficiently. Learn more here