Serverless ML: Effizientes und kostengünstiges ML Deployment auf AWS

Nicht für alle Anwendungsfälle sind der Overhead für MLOps-Frameworks oder selbst betriebene Kubernetes-Cluster gerechtfertigt. Gerade in der Bereitstellung von Modellen in Proof of Concepts oder in Projekten mit einer geringen Anzahl von End-Usern bieten sich kostengünstige technische Lösungen an – wie das Deployment auf AWS Lambda als Serverless-Technologie.

In diesem Vortrag wird eine kosteneffiziente, End-2-End-ML-Produktionisierung auf dem AWS Stack aus der Praxis vorgestellt. Die folgenden Themengebiete des ML-Produktionisierungsprozesses werden mit Beispielimplementierung vorgestellt: Version Control, Testing, Dependency Management, Static Code Analysis, CI/CD, IaaC, Authentication/SSO und Monitoring.

Vorkenntnisse

• Praktische Kenntnisse im Training von Machine-Learning-Modellen (z.B. Arbeit als Data Scientist)

Lernziele

• Gute Übersicht über verschiedene Schritte des ML-Produktionisierungsprozesses
  
• Übersicht über essentielle Cloud Services auf AWS (Cloudformation, S3, Lambda, ECR)
  
• Übersicht über grundlegende (static) Python-Code-Analyzer
  
• Einbindung in CI/CD (Azure DevOps)
  
• Einschätzung wann Serverless eine gute Option sein kann