Ollama und LM Studio - die DSGVO-konformen Alternativen zu ChatGPT
Classroom Schulung | Deutsch | Anspruch
Schulungsdauer: 2 Tage
Ziele
In dieser 2-tägigen Schulung "Ollama und LM Studio - die DSGVO-konformen Alternativen zu ChatGPT" lernen Sie, wie Sie ChatGPT und OpenSource KI-Modelle wie LMStudio, Ollama und Llama sicher und DSGVO-konform im Unternehmensumfeld einsetzen. Sie erfahren, wie Sie mit sensiblen Daten umgehen, Urheberrecht und Copyright beachten und OpenSource-Chatbots auf Ihrem lokalen PC bereitstellen.
Der Kurs umfasst die Erweiterung und das Finetuning von Modellen sowie die sichere Bereitstellung im Unternehmensnetzwerk mit internen Servern, Guidelines und Best Practices. Sie lernen, wie Sie Update- und Sicherungsprozesse effizient gestalten und Ihre Modelle versionieren.
Abschließend vergleichen wir diese Tools mit kommerziellen Alternativen und zeigen Einsatzmöglichkeiten in der Azure-Cloud. In einem interaktiven Praxisteil bearbeiten Sie konkrete Business-Anwendungsfälle.
Zielgruppe
- IT-Projektleiter
- System-Administratoren
- Programmierer
Voraussetzungen
- Grundlegendes Verständnis der DSGVO
- Erfahrung im Umgang mit KI-Tools sind hilfreich
- Vertrautheit mit der Nutzung von Computer-Systemen, Serversoftware und grundlegenden IT-Prozessen wird vorausgesetzt.
- Interesse an OpenSource-Technologien
- Verständnis für den Umgang mit sensiblen Daten
Agenda
DSGVO-Probleme mit ChatGPT
- Was im Unternehmensumfeld zu beachten ist
- Urheberrecht und Copyright
- Umgang mit sensiblen Daten
Vorstellung LM Studio, Ollama und Llama-Model
- Was ist LM Studio, was ist Ollama?
- Bereitstellen eines OpenSource-Chatbots auf dem lokalen PC
- Erweiterung des trainierten Wissens um Embeddings
- Finetuning eines Models für besondere Use Cases
Bereitstellung des Tools im Unternehmensnetzwerk
- Sichere Bereitstellung mit Hilfe eines internen Servers
- Guidelines und Best-Practices
- Umgang mit Userinput und Nutzerdaten
Update- und Sicherungsprozess
- Vorgehensweisen und Best-Practices
- Iterative Erweiterung von Offline-Wissen
- Austausch der dahinter liegenden KI-Modelle
- Sicherung und Versionierung der eigenen Modelle
Beleuchtung der Vor- und Nachteile (Vergleich zu anderen Tools)
- Gegenüberstellung zu kommerziellen Alternativen
- Möglichkeiten in der Azure-Cloud
Bearbeitung diverser Anwendungsfälle
- Interaktiver Praxisteil für Business-Anwendungsfälle
Ziele
In dieser 2-tägigen Schulung "Ollama und LM Studio - die DSGVO-konformen Alternativen zu ChatGPT" lernen Sie, wie Sie ChatGPT und OpenSource KI-Modelle wie LMStudio, Ollama und Llama sicher und DSGVO-konform im Unternehmensumfeld einsetzen. Sie erfahren, wie Sie mit sensiblen Daten umgehen, Urheberrecht und Copyright beachten und OpenSource-Chatbots auf Ihrem lokalen PC bereitstellen.
Der Kurs umfasst die Erweiterung und das Finetuning von Modellen sowie die sichere Bereitstellung im Unternehmensnetzwerk mit internen Servern, Guidelines und Best Practices. Sie lernen, wie Sie Update- und Sicherungsprozesse effizient gestalten und Ihre Modelle versionieren.
Abschließend vergleichen wir diese Tools mit kommerziellen Alternativen und zeigen Einsatzmöglichkeiten in der Azure-Cloud. In einem interaktiven Praxisteil bearbeiten Sie konkrete Business-Anwendungsfälle.
Zielgruppe
- IT-Projektleiter
- System-Administratoren
- Programmierer
Voraussetzungen
- Grundlegendes Verständnis der DSGVO
- Erfahrung im Umgang mit KI-Tools sind hilfreich
- Vertrautheit mit der Nutzung von Computer-Systemen, Serversoftware und grundlegenden IT-Prozessen wird vorausgesetzt.
- Interesse an OpenSource-Technologien
- Verständnis für den Umgang mit sensiblen Daten
Agenda
DSGVO-Probleme mit ChatGPT
- Was im Unternehmensumfeld zu beachten ist
- Urheberrecht und Copyright
- Umgang mit sensiblen Daten
Vorstellung LM Studio, Ollama und Llama-Model
- Was ist LM Studio, was ist Ollama?
- Bereitstellen eines OpenSource-Chatbots auf dem lokalen PC
- Erweiterung des trainierten Wissens um Embeddings
- Finetuning eines Models für besondere Use Cases
Bereitstellung des Tools im Unternehmensnetzwerk
- Sichere Bereitstellung mit Hilfe eines internen Servers
- Guidelines und Best-Practices
- Umgang mit Userinput und Nutzerdaten
Update- und Sicherungsprozess
- Vorgehensweisen und Best-Practices
- Iterative Erweiterung von Offline-Wissen
- Austausch der dahinter liegenden KI-Modelle
- Sicherung und Versionierung der eigenen Modelle
Beleuchtung der Vor- und Nachteile (Vergleich zu anderen Tools)
- Gegenüberstellung zu kommerziellen Alternativen
- Möglichkeiten in der Azure-Cloud
Bearbeitung diverser Anwendungsfälle
- Interaktiver Praxisteil für Business-Anwendungsfälle
