So gewähren Sie Nur-Lese-Zugriff auf Ihr AWS-Konto

Immer mehr IT-Unternehmen setzen von Anfang an auf das Software-as-a-Service (SaaS)-Geschäftsmodell, sind dazu übergegangen oder evaluieren es als effektiven Weg, ihre Dienstleistungen an Kunden zu liefern. SaaS in der Cloud ist die perfekte Lösung, um alle verfügbaren modernen Tools und automatisierten Prozesse zu nutzen, aber wie viel wissen Sie über den optimalen Weg, diese Produkte auf AWS zu entwickeln?

Das Problem

Nehmen wir an, Ihr Unternehmen ist daran interessiert, ein SaaS-Produkt auf AWS zu verwalten, aber Sie sind unsicher, wie Sie das Problem angehen oder wie Sie mit der Implementierung einer neuen Funktion beginnen sollen, die in das Angebot integriert werden muss. Egal ob Sie:

• Über die Einführung eines SaaS-Modells nachdenken
• Planen, viele neue Kunden aufzunehmen
• Bereits SaaS nutzen, auf AWS oder einer anderen Plattform
• An neuen lizenzbasierten Lösungen arbeiten
• Ihr gesamtes Setup oder einen bestimmten Teil davon modernisieren möchten
• Daran interessiert sind, Ihre DevOps-Pipeline zu verbessern

… sind wir bei Ankercloud der Meinung, dass Sie stark profitieren könnten vom AWS SaaS Discovery Program.

Die Lösung

Als SaaS-zertifizierter Partner und dank der engen Zusammenarbeit mit AWS begleitet Ankercloud Sie auf einer Entdeckungs- reise mit dem Ziel, Ihnen umfassende Beratung für SaaS-bezogene Innovationen zu bieten, maßgeschneidert auf Ihre Bedürfnisse. Darum geht es beim SaaS Discovery Program: eine gemeinsame Zeitspanne von 2–4 Wochen, beginnend mit technischen Deep-Dive-Workshops, um Ihren spezifischen Ausgangspunkt und Ihre Anforderungen abzustimmen, bis hin zu AWS-Architekturdesign, Modernisierungsdiskussionen, TCO-Berechnung, Erläuterung von Best Practices und vielem mehr – immer passend zu Ihrem Geschäftsfall.

Aber das ist noch nicht alles: Abhängig von Ihrem Wachstumspotenzial können wir Ihnen das SaaS Discovery Program anbieten kostenlos für Sie (d.h. 100 % Rabatt/Finanzierung).

Potenzialreiche Anwendungsfälle

Der Fokus des SaaS Discovery Programms liegt stets darauf, Ihre Bedürfnisse zu berücksichtigen und sich auf die Verbesserung Ihrer Schwachstellen zu konzentrieren. Abhängig von Ihren Eingaben können Beispiele für gängige Anwendungsfälle sein:

• Dekomposition von SaaS-Designs
• Authentifizierung und Zugriffsverwaltung
• CI/CD-Pipelines
• Datenbank-Mandantenfähigkeit und Mandantenisolation
• Sicherheit und Zuverlässigkeit
• SaaS DevOps
• Agilität und Betrieb

Diese Liste ist jedoch nicht vollständig, und wir bei Ankercloud sind stets offen dafür, mehr über Ihre spezifischen Herausforderungen zu erfahren und zu verstehen, wie wir Sie unterstützen können. Und hier ist unsere Herausforderung an Sie: Bringen Sie uns Ihr kritischstes SaaS-bezogenes Problem, wir besprechen es gerne und bringen unser gesamtes tiefgreifendes technisches Wissen ein, um gemeinsam eine Lösung zu entwickeln.

Wie sieht es mit dem Ergebnis aus?

Dieses Programm soll Flexibilität und Transparenz während des gesamten Planungs- und Discovery-Prozesses bieten. Daher besteht nach Abschluss des Programms keine Verpflichtung, die Implementierung der entwickelten Lösung auf AWS fortzusetzen: Es wird keinerlei Verpflichtung impliziert, wie der Name Entdeckung andeutet.

Mehrere Dokumente und Ergebnisse werden Ihnen dennoch bei der Entscheidungsfindung helfen, indem sie volle Transparenz über die geplante Lösung bieten. Am Ende des Programms wird Ankercloud Ihnen tatsächlich einen detaillierten technischen Bericht mit einem Architekturdiagramm, eine vollständige Analyse der AWS-Kosten innerhalb eines Zeitraums von 18 Monaten und einen vollständigen Vorschlag für die weitere Zusammenarbeit bei der Implementierung unterbreiten, um uns die Möglichkeit zu geben, bei Bedarf weitere praktische Unterstützung zu leisten.

Klingt interessant? Sind Sie bereit, neue SaaS-Lösungen und Best Practices zu entdecken?

Zögern Sie nicht, kontaktieren Sie uns unter: cloudengagement@ankercloud.com

Wir begleiten Sie gerne durch die einzelnen Schritte und prüfen Ihre Berechtigung für das SaaS Discovery Program.

‍

Was ist Kubeflow?

Das Kubeflow-Projekt zielt darauf ab, die Bereitstellung von Machine-Learning-(ML)-Workflows auf Kubernetes zu vereinfachen, portabler und skalierbarer zu machen. Unser Ziel ist es, die Bereitstellung erstklassiger Open-Source-ML-Systeme auf einer Vielzahl von Infrastrukturen zu vereinfachen, anstatt andere Dienste zu replizieren. Führen Sie Kubeflow überall dort aus, wo Kubernetes installiert und konfiguriert ist.

Warum wird Kubeflow benötigt?

Der Bedarf an Kubeflow ergibt sich aus den Herausforderungen beim Aufbau, der Bereitstellung und der Verwaltung von Machine-Learning-Workflows in großem Maßstab. Durch die Bereitstellung einer skalierbaren, portablen, reproduzierbaren, kollaborativen und automatisierten Plattform ermöglicht Kubeflow Unternehmen, ihre Machine-Learning-Initiativen zu beschleunigen und ihre Geschäftsergebnisse zu verbessern.

Hier sind einige der Hauptgründe, warum Kubeflow benötigt wird:

Skalierbarkeit: Machine-Learning-Workflows können ressourcenintensiv sein und erfordern eine Skalierung nach oben oder unten, je nach Größe der Daten und Komplexität des Modells. Kubeflow ermöglicht es Ihnen, Ihre Machine-Learning-Workflows je nach Bedarf zu skalieren, indem es die Skalierbarkeit und Flexibilität von Kubernetes nutzt.

Portabilität: Machine-Learning-Modelle müssen oft in mehreren Umgebungen bereitgestellt werden, z. B. in der Entwicklung, im Staging und in der Produktion. Kubeflow bietet eine portable und konsistente Möglichkeit, Machine-Learning-Workflows über verschiedene Umgebungen hinweg zu erstellen, bereitzustellen und zu verwalten.

Reproduzierbarkeit: Reproduzierbarkeit ist ein entscheidender Aspekt des maschinellen Lernens, da sie es ermöglicht, Ergebnisse zu reproduzieren und Probleme zu debuggen. Kubeflow bietet eine Möglichkeit, Machine-Learning-Workflows mithilfe von Containerisierung und Versionskontrolle zu reproduzieren.

Zusammenarbeit: Machine-Learning-Workflows erfordern oft die Zusammenarbeit mehrerer Teams, darunter Data Scientists, Entwickler und DevOps-Ingenieure. Kubeflow bietet eine kollaborative Plattform, auf der Teams gemeinsam Machine-Learning-Workflows erstellen und bereitstellen können.

Automatisierung: Machine-Learning-Workflows umfassen mehrere Schritte, darunter Datenvorverarbeitung, Modelltraining und Modellbereitstellung. Kubeflow bietet eine Möglichkeit, diese Schritte zu automatisieren, indem Pipelines definiert werden, die automatisch oder manuell ausgeführt werden können.

Architekturdiagramm:

Was leistet Kubeflow?

Kubeflow bietet eine Reihe von Tools und Frameworks zur Unterstützung des gesamten ML-Workflows, von der Datenvorbereitung über das Modelltraining bis hin zur Bereitstellung und Überwachung. Hier sind einige der Schlüsselkomponenten von Kubeflow:

Jupyter Notebooks: Kubeflow enthält einen Jupyter Notebook-Server, der es Benutzern ermöglicht, Python-Code interaktiv auszuführen und Daten in Echtzeit zu visualisieren.

TensorFlow: Kubeflow enthält TensorFlow, eine beliebte Open-Source-ML-Bibliothek, die zum Trainieren und Bereitstellen von ML-Modellen verwendet werden kann.

TensorFlow Extended (TFX): TFX ist eine End-to-End-ML-Plattform zum Erstellen und Bereitstellen von ML-Pipelines für die Produktion. Kubeflow lässt sich in TFX integrieren, um eine optimierte Verwaltung von ML-Pipelines zu ermöglichen.

Katib: Kubeflow enthält Katib, ein Framework für Hyperparameter-Optimierung und automatisiertes maschinelles Lernen (AutoML).

Kubeflow Pipelines: Kubeflow Pipelines ist ein Tool zum Erstellen und Bereitstellen von ML-Pipelines. Es ermöglicht Benutzern, komplexe Workflows zu definieren, die auf einem Kubernetes-Cluster ausgeführt werden können.

Was ist Amazon SageMaker?

Amazon SageMaker ist ein vollständig verwalteter Machine-Learning-Dienst, der Datenwissenschaftlern und Entwicklern ermöglicht, Machine-Learning-Modelle in großem Maßstab zu erstellen, zu trainieren und bereitzustellen. Kubeflow hingegen ist eine Open-Source-Machine-Learning-Plattform, die ein Framework für die Ausführung von Machine-Learning-Workflows auf Kubernetes bietet.

Die Verwendung von Amazon SageMaker mit Kubeflow kann den Machine-Learning-Workflow optimieren, indem eine einheitliche Plattform für Modellentwicklung, Training und Bereitstellung bereitgestellt wird. Hier sind die wichtigsten Schritte zur Verwendung von Amazon SageMaker mit Kubeflow:

Richten Sie einen Kubeflow-Cluster auf Amazon EKS oder anderen Kubernetes-Plattformen ein.

● Installieren Sie den Amazon SageMaker Operator in Ihrem Kubeflow-Cluster. Der Operator stellt eine Custom Resource Definition (CRD) bereit, die es Ihnen ermöglicht, SageMaker-Ressourcen in Ihrer Kubeflow-Umgebung zu erstellen und zu verwalten.

● Verwenden Sie die SageMaker CRD, um SageMaker-Ressourcen wie Trainingsaufträge, Modell-Endpunkte und Batch-Transformationsaufträge in Ihrem Kubeflow-Cluster zu erstellen.

● Führen Sie Ihren Machine-Learning-Workflow mit Kubeflow-Pipelines aus, die SageMaker-Trainingsaufträge und andere Komponenten des Workflows orchestrieren können.

● Überwachen und verwalten Sie Ihren Machine-Learning-Workflow mit der webbasierten Benutzeroberfläche oder den Befehlszeilentools von Kubeflow.

● Durch die Integration von Amazon SageMaker mit Kubeflow können Sie die leistungsstarken Funktionen von SageMaker für das Modelltraining und die Bereitstellung nutzen und gleichzeitig von der flexiblen und skalierbaren Machine-Learning-Plattform von Kubeflow profitieren.

Amazon SageMaker Komponenten für Kubeflow Pipelines:

Komponente 1: Hyperparameter-Optimierungsauftrag

Die erste Komponente führt einen Amazon SageMaker Hyperparameter-Optimierungsauftrag aus, um die folgenden Hyperparameter zu optimieren:

· Lernrate — [0.0001, 0.1] logarithmische Skala

· Optimierer — [sgd, adam]

· Batch-Größe – [32, 128, 256]

· Modelltyp — [resnet, benutzerdefiniertes Modell]

Komponente 2: Auswahl der besten Hyperparameter

Während der Hyperparametersuche im vorherigen Schritt werden Modelle nur für 10 Epochen trainiert, um gut funktionierende Hyperparameter zu ermitteln. Im zweiten Schritt werden die besten Hyperparameter übernommen und die Epochen auf 80 aktualisiert, um den besten Hyperparametern die Möglichkeit zu geben, im nächsten Schritt eine höhere Genauigkeit zu erzielen.

Komponente 3: Trainingsauftrag mit den besten Hyperparametern

Die dritte Komponente führt einen Amazon SageMaker Trainingsauftrag unter Verwendung der besten Hyperparameter und für eine höhere Anzahl von Epochen aus.

Komponente 4: Erstellung eines Modells für die Bereitstellung

Die vierte Komponente erstellt ein Amazon SageMaker Modellartefakt.

Komponente 5: Bereitstellung des Inferenz-Endpunkts

Die letzte Komponente stellt ein Modell mit Amazon SageMaker Deployment bereit.

Fazit:

Kubeflow ist eine Open-Source-Plattform, die eine Reihe von Tools und Frameworks bereitstellt, um die Ausführung von ML-Workloads auf Kubernetes zu erleichtern. Mit Kubeflow können Sie ML-Modelle einfach und im großen Maßstab erstellen und bereitstellen, wobei Sie gleichzeitig von der Skalierbarkeit, Flexibilität und Reproduzierbarkeit von Kubernetes profitieren.

‍

EINFÜHRUNG IN DORA-METRIKEN:

Dieser Blogbeitrag erklärt die Funktionen von DevOps Research and Assessment, um die Liefer- und Betriebsleistung für eine bessere Unternehmensleistung zu verstehen.

DORA – DORA (DevOps Research and Assessment) -Metriken helfen uns, die DevOps-Leistung zu messen, um festzustellen, ob es sich um Low- oder Elite-Performer handelt. Die vier verwendeten Metriken sind die Bereitstellungshäufigkeit (DF), die Durchlaufzeit für Änderungen (LT), die mittlere Wiederherstellungszeit (MTTR) und die Änderungsfehlerrate (CFR).

Die vier wesentlichen DORA-Metriken:

1. Bereitstellungshäufigkeit
2. Durchlaufzeit für Änderungen
3. Mittlere Wiederherstellungszeit
4. Änderungsfehlerrate

Bereitstellungshäufigkeit :

Die Bereitstellungshäufigkeit misst, wie oft Änderungen in einer bestimmten Zielumgebung bereitgestellt werden. Zusammen mit der Durchlaufzeit für Änderungen ist die Bereitstellungshäufigkeit ein Maß für die Geschwindigkeit.

Die Bereitstellungshäufigkeit liefert uns auch Aufschlüsselungen nach Batch-Größe,

die es Ihnen ermöglichen, die Codeänderungen nach kleinen, mittleren, großen und gigantischen Batch-Größen zu filtern.

1. Klein – normalerweise 1 Pull-Request, 1–10 Commits und einige hundert Zeilen Code geändert
2. Mittel – normalerweise 1–2 Pull-Requests, 10–30 Commits und viele hundert Zeilen Code geändert
3. Groß – normalerweise 2–4 Pull-Requests, 20–40 Commits und viele hundert Zeilen Code geändert
4. Gigantisch – normalerweise 4 oder mehr Pull-Requests oder 30 oder mehr Commits oder viele tausend Zeilen Code geändert.

Durchlaufzeit für Änderungen:

Die Durchlaufzeit für Änderungen misst die Zeit, die eine Änderung vom Beginn der Codierung bis zur Bereitstellung in der Zielumgebung benötigt. Wie die Bereitstellungshäufigkeit ist die Durchlaufzeit für Änderungen ein Maß für die Geschwindigkeit (während die Änderungsfehlerrate und MTTR Maße für Qualität oder Stabilität sind).

Zusätzlich zur Durchlaufzeit für Änderungen lieferte uns Sleuth eine detaillierte Aufschlüsselung, wie viel Zeit Ihre Teams durchschnittlich aufwenden.

• Codierung — die Zeit, die vom ersten Commit (oder dem ersten Übergang eines Tickets in den Status „in Bearbeitung“) bis zum Öffnen eines Pull-Requests vergeht
• Review-Verzögerungszeit — die Zeit, die zwischen dem Öffnen eines Pull-Requests und der ersten Überprüfung vergeht
• Review-Zeit — die Zeit, die von der ersten Überprüfung bis zur Zusammenführung des Pull-Requests vergeht
• Deployment — die Zeit, die von der Zusammenführung des Pull-Requests bis zum Deployment vergeht

Mittlere Wiederherstellungszeit:

Die Änderungsfehlerrate misst den Prozentsatz der bereitgestellten Änderungen, die dazu führen, dass ihre Zielumgebungen in einem Fehlerzustand enden. Zusammen mit der MTTR ist die Änderungsfehlerrate ein Maß für die Qualität oder Stabilität Ihrer Softwarebereitstellungsfähigkeit.

Änderungsfehlerrate

Misst die Qualität und Stabilität, während die Bereitstellungshäufigkeit und die Durchlaufzeit für Änderungen nicht die Qualität der Software, sondern lediglich die Geschwindigkeit der Bereitstellung angeben.

Hier ist eine Tabelle, die zeigt, wie DORA-Metriken berechnet werden, abhängig von der erfolgten Bereitstellung, der Codierungs- und Überprüfungszeit, der Zeit, die zur Wiederherstellung nach einem Vorfall oder Ausfall benötigt wird, und der Fehlerrate, die aufgrund der Bereitstellungen aufgetreten ist.

Neben den vier DORA-Metriken gibt es eine fünfte, die Zuverlässigkeit, die am wichtigsten ist, wenn es um die operative Leistung geht und die DevOps- und SRE-Teams zusammenbringt, um uns eine bessere Infrastruktur und Software zu ermöglichen. Die Zuverlässigkeitsmetrik ist eine hervorragende Möglichkeit, die gesamte Softwarebereitstellungsleistung eines Teams zu demonstrieren.

Werden Sie zur Elite:

Laut dem neuesten State of DevOps Bericht haben Elite-Performer kürzlich zugenommen und machen nun 20 % der Umfrageteilnehmer aus. High Performer machen 23 % aus, Medium Performer 44 % und Low Performer nur 12 %.

FAZIT:

DORA-Metriken sind eine hervorragende Möglichkeit, die Leistung Ihrer Softwareentwicklungs- und Bereitstellungspraktiken zu messen. DORA-Metriken können Unternehmen dabei helfen, die Softwarebereitstellung und -stabilität im Hinblick auf die Verbesserung eines Teams zu messen, was auch die Schwierigkeiten verringert und eine schnellere, qualitativ hochwertigere Softwarebereitstellung ermöglicht.

‍