Entwicklung und Optimierung von LLM-Anwendungen

Ziele

In dieser 3-tägigen Schulung "Entwicklung und Optimierung von LLM-Anwendungen" lernen Sie, wie moderne LLM-basierte Anwendungen entworfen, implementiert und optimiert werden. Sie erhalten eine fundierte Einführung in Architekturprinzipien, Design Patterns und Best Practices für die Entwicklung leistungsfähiger KI-Anwendungen. Zudem evaluieren Sie verschiedene Technologie-Stacks und LLM-Frameworks und verstehen die Anforderungen an Infrastruktur und Skalierung. Ein besonderer Fokus liegt auf der praktischen Umsetzung: Sie entwickeln Retrieval-Augmented Generation (RAG)-Systeme, integrieren Monitoring- und Observability-Tools und optimieren Modelle durch Fine-Tuning-Ansätze. Darüber hinaus lernen Sie, KI-Anwendungen sicher und DSGVO-konform zu gestalten sowie Multi-Agent-Systeme und komplexe Workflows zu orchestrieren. Im abschließenden Praxisprojekt wenden Sie das erlernte Wissen an, indem Sie eine End-to-End-Anwendung entwickeln, testen und deployen. Nach der Schulung sind Sie in der Lage, performante und sichere LLM-Anwendungen zu implementieren, diese in bestehende Dateninfrastrukturen zu integrieren und den gesamten Entwicklungszyklus professionell zu steuern.

Zielgruppe

• Software-Entwickler
• Backend-Entwickler
• Alle, die sich mit Entwicklung von LLM-Anwendungen auseinandersetzen wollen

Voraussetzungen

• Erfahrungen in der Software-Entwicklung
• Software-Entwicklungs-Setup
• Cloud Account

Agenda

LLM-Anwendungsentwicklung: Fundamentals

• Architekturprinzipien für LLM-basierte Anwendungen
• Design Patterns und Best Practices
• Unterschiede zwischen Assistants/Agents und reinen LLM-Implementierungen
• Performance, Skalierung und Kostenkontrolle

Technology Stack Selection

• Frontend-Technologien für KI-Anwendungen
• Backend-Architekturen und Frameworks
• Evaluation gängiger LLM-Frameworks (LangChain, LlamaIndex etc.)
• Infrastructure Requirements und Cloud-Dienste

RAG-Systeme (Retrieval Augmented Generation)

• Architektur und Komponenten von RAG-Systemen
• Vektorendatenbanken und Embedding-Modelle
• Implementierung von Retrieval-Mechanismen
• Praktische Übungen zur RAG-Integration

LLMOps in der Praxis

• Monitoring und Observability
• Logging und Tracing von LLM-Interaktionen
• A/B Testing und Experimentierung
• Integration von Monitoring-Tools (Datadog etc.)

Fine-Tuning und Modellanpassung

• Methoden des Model Fine-Tunings
• Datenaufbereitung und Training
• Evaluation und Qualitätssicherung
• Cost-Benefit-Analyse verschiedener Tuning-Ansätze

Datenprodukte und Integration

• Integration mit Data Warehouses (Snowflake)
• ETL-Prozesse für KI-Anwendungen
• Datenqualität und Governance
• Praktischer Workshop: Datenpipeline-Entwicklung

Security und Compliance

• Sicherheitskonzepte für KI-Anwendungen
• Datenschutz und DSGVO-Konformität
• Authentication und Authorization
• Secure Prompt Engineering

Advanced Development Patterns

• Implementierung von Multi-Agent-Systemen
• Orchestrierung komplexer Workflows
• Fehlerbehandlung und Resilienz
• Performance-Optimierung

Praktisches Projekt

• Entwicklung einer End-to-End-Anwendung
• Integration aller gelernten Komponenten
• Code Review und Best Practices
• Deployment und Testing