Lokale KI
Beschreibung
Die Veranstaltung ist hybrid. MS-TEAMS(R) - Einwahldaten nach Anmeldung
Datenschutzanforderungen und die Absicherung eigener Unternehmensdaten – gerade in sensiblen Bereichen wie Forschung und Entwicklung – sprechen dafür, den Einsatz lokaler KI-Systeme ernsthaft zu prüfen. Lokale Modelle liegen oft nur in überschaubarem Abstand hinter aktuellen großen Cloud-Modellen, sofern nicht ein möglichst umfassendes Weltwissen entscheidend ist.
Im ersten Teil einer neuen Reihe zur lokalen KI verschaffen wir uns daher zunächst einen Überblick über den Stand der Modelle, geeignete Hardware und typische Anwendungsbeispiele aus den Bereichen Text, Bild, Video und Agentensysteme.
Anschließend entscheiden wir, welche Themen vertieft werden sollen – etwa in Form eines eigenen Workshops zu „ComfyUI“.
Auf Einladung der Firma Vogler Industrielackierung treffen wir uns am Dienstag, 5. Mai, 17.00 Uhr Lüdenscheid. Alternativ kann man online teilnehmen.
Dies ist eine Gemeinschaftsveranstaltung mit dem ERFA-KI der Wirtschaftsjunioren. Anmeldung erfolgt über die WJ:
Agenda
1. Lokale KI vs. VPS
2. Passende Hardware
- Apple mit MLX
- DGX Spark mit Cuda
- Gaming PC mit GPU und Cuda
- Nvidia Jetson Orin
3. Subsysteme, u.a.
- WLS
- Docker
- Node
- Git
4. Modellauswahl
- LLMFit
- Huggingface
- Ollama
- Openrouter
5. Tools, u.a.
- ComfyUI für Bilder, Videos
- AnythingLLM für Texte, RAG
- LMStudio für Texte, RAG
- Ollama
- LLM / Automation mit n8n
- OpenCode
- Vortragende
-
Reinhold Berlin