Dein erstes AI & Automation Lab
Ziel: In ca. 60 Minuten baust du dir auf deinem Laptop ein eigenes AI-Chat-System und eine Automationsplattform — alles lokal, ohne Cloud, ohne Accounts.
Was du am Ende hast:
- Ein lokales Large Language Model (LLM), das du im Browser befragen kannst
- Eine Automationsplattform (n8n), die das LLM automatisiert nutzen kann
- Grundverständnis für Docker, LLMs und Workflow-Automation
Teil 0 — Benutzer einrichten (5 Min.)
Bevor es losgeht, legen wir einen eigenen Benutzer an, mit dem du die gesamte Installation durchführst. Melde dich dazu zunächst als Root oder mit einem bestehenden Administrator-Account an.
Schritt 1: Benutzer "praktikant" anlegen
sudo adduser praktikant
adduserSchritt 2: Sudo-Rechte vergeben
sudo usermod -aG sudo praktikant
usermod -aG sudopraktikantsudosudoSchritt 3: Zum neuen Benutzer wechseln
su - praktikant
su --praktikantAb jetzt arbeitest du als Benutzer praktikant weiter.
Teil 1 — Docker installieren (10 Min.)
Docker ist wie eine "App-Box": Du lädst fertige Software-Pakete (Container) herunter und startest sie, ohne irgendetwas kompliziert installieren zu müssen. Stell dir vor, du bekommst eine komplett eingerichtete virtuelle Maschine — aber viel kleiner und schneller.
Schritt 1: Terminal öffnen
Klicke unten in der Taskleiste auf das Terminal-Symbol oder drücke Ctrl + Alt + T.
Das Terminal ist deine "Kommandozeile". Hier tippst du Befehle ein, die der Computer direkt ausführt — ohne grafische Oberfläche. Das klingt erstmal ungewohnt, aber du wirst sehen: Für viele Aufgaben ist es schneller als Klicken.
Schritt 2: System aktualisieren und curl installieren
sudo apt update && sudo apt upgrade -y
sudo apt install -y curl ca-certificates
Was passiert hier im Detail:
sudoaptupdate&&upgrade -y-ycurlca-certificatesSchritt 3: Docker über das offizielle Repository installieren
Wir installieren Docker nicht über apt install docker.io, sondern über das offizielle Docker-Repository. So bekommst du die aktuellste Version — inklusive des modernen docker compose (ohne Bindestrich).
3a: Dockers GPG-Schlüssel hinzufügen
sudo install -m 0755 -d /etc/apt/keyrings
curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo tee /etc/apt/keyrings/docker.asc > /dev/null
sudo chmod a+r /etc/apt/keyrings/docker.asc
curl -fsSL-f-s-S-Ltee> /dev/null3b: Docker-Repository hinzufügen
echo \
"deb [arch=$(dpkg --print-architecture) signed-by=/etc/apt/keyrings/docker.asc] https://download.docker.com/linux/ubuntu \
$(. /etc/os-release && echo "$VERSION_CODENAME") stable" | \
sudo tee /etc/apt/sources.list.d/docker.list > /dev/null
apt$(dpkg --print-architecture)amd64arm64$(. /etc/os-release && echo "$VERSION_CODENAME")noble3c: Docker installieren
sudo apt update
sudo apt install -y docker-ce docker-ce-cli containerd.io docker-buildx-plugin docker-compose-plugin
docker-cedocker-ce-clicontainerd.iodocker-buildx-plugindocker-compose-plugindocker composedocker-composeSchritt 4: Docker ohne sudo nutzbar machen
sudo usermod -aG docker $USER
usermod-aG docker-a-Gdockersudo$USER$USERDamit die Änderung sofort wirkt, ohne dich ab- und wieder anmelden zu müssen:
newgrp docker
newgrp dockerdockerSchritt 5: Testen ob Docker läuft
docker run hello-world
docker runhello-worldWenn du eine Nachricht siehst, die mit "Hello from Docker!" beginnt — perfekt, Docker funktioniert!
Docker Compose Version prüfen:
docker compose version
Du solltest eine aktuelle Version sehen (z.B. v2.x.x).
Teil 2 — Alles starten mit Docker Compose (10 Min.)
Statt jeden Dienst einzeln zu starten, beschreiben wir alles in einer einzigen Datei. Docker Compose liest diese Datei und startet alle Services automatisch — mit den richtigen Einstellungen, Verbindungen und Abhängigkeiten.
Schritt 1: Projektordner anlegen
mkdir ~/ai-lab && cd ~/ai-lab
mkdir— steht für "make directory" und erstellt einen neuen Ordner.~/ai-lab— die Tilde~ist eine Abkürzung für dein Home-Verzeichnis (z.B./home/praktikant). Der Ordner heißt alsoai-labund liegt direkt in deinem Benutzerordner.cd— steht für "change directory" und wechselt in den angegebenen Ordner. Danach bist du "drin" und alle weiteren Befehle beziehen sich auf diesen Ordner.
Schritt 2: Docker-Compose-Datei erstellen
nano docker-compose.yml
nano— ein einfacher Texteditor im Terminal. Er öffnet sich direkt im selben Fenster. Bedienung: Tippen zum Schreiben,Ctrl + Ozum Speichern,Ctrl + Xzum Schließen.docker-compose.yml— der Dateiname, den Docker Compose automatisch sucht..yml(auch.yaml) ist ein Dateiformat für strukturierte Konfigurationen — ähnlich wie eine Einkaufsliste mit Einrückungen statt Klammern.
Füge folgenden Inhalt ein (mit Rechtsklick → Einfügen):
services:
# "services" ist der Hauptblock — hier werden alle Container definiert,
# die zusammen gestartet werden sollen.
# (Hinweis: "version:" wird seit Docker Compose v2 nicht mehr benötigt.)
# =====================================================
# OLLAMA — Das KI-Gehirn: führt das LLM lokal aus
# =====================================================
ollama:
image: ollama/ollama
# Welches Docker-Image benutzt wird. Docker lädt es automatisch
# von Docker Hub herunter (wie ein App Store für Container).
container_name: ollama
# Ein fester Name für den Container, damit wir ihn leicht
# finden und ansprechen können (z.B. in anderen Containern).
ports:
- "11434:11434"
# Port-Weiterleitung: Der Container lauscht intern auf Port 11434.
# Wir leiten ihn auf den gleichen Port deines Laptops weiter.
# Format: "Laptop-Port:Container-Port"
# Du könntest also auch "9999:11434" schreiben — dann wäre
# Ollama auf deinem Laptop unter Port 9999 erreichbar.
volumes:
- ollama_data:/root/.ollama
# Ein Volume ist wie ein USB-Stick für den Container:
# Daten bleiben erhalten, auch wenn der Container neu gestartet wird.
# Hier werden die heruntergeladenen KI-Modelle gespeichert.
# Ohne Volume wären die Modelle nach jedem Neustart weg!
restart: unless-stopped
# Startet den Container automatisch neu, falls er abstürzt —
# außer du stoppst ihn bewusst mit "docker compose down".
# =====================================================
# OPEN WEBUI — Die Chat-Oberfläche (sieht aus wie ChatGPT)
# =====================================================
open-webui:
image: ghcr.io/open-webui/open-webui:main
# Dieses Image kommt von GitHub Container Registry (ghcr.io)
# statt Docker Hub — einfach ein anderer "App Store".
# ":main" bedeutet: die neueste Version vom Hauptzweig.
container_name: open-webui
ports:
- "3000:8080"
# Der Container läuft intern auf Port 8080, aber wir leiten
# auf Port 3000 weiter. Im Browser also: localhost:3000
environment:
- OLLAMA_BASE_URL=http://ollama:11434
# Eine Umgebungsvariable — wie eine Einstellung für den Container.
# Hier sagen wir Open WebUI, wo es Ollama findet.
# "ollama" funktioniert als Hostname, weil Docker Compose
# alle Services automatisch in ein gemeinsames Netzwerk steckt.
# Die Container können sich gegenseitig über ihre Service-Namen
# ansprechen — als wären es Computernamen im selben Netzwerk.
depends_on:
- ollama
# Startreihenfolge: Open WebUI erst starten, nachdem
# der Ollama-Container gestartet wurde.
volumes:
- webui_data:/app/backend/data
restart: unless-stopped
# =====================================================
# N8N — Automationsplattform: Workflows per Drag & Drop
# =====================================================
n8n:
image: docker.n8n.io/n8nio/n8n
# Das offizielle n8n-Image aus der eigenen n8n-Registry.
# n8n hat seine Images von Docker Hub auf eine eigene
# Registry (docker.n8n.io) umgezogen — das ist die
# aktuelle und empfohlene Quelle.
container_name: n8n
ports:
- "5678:5678"
# n8n läuft auf Port 5678 — das ist der Standard-Port.
volumes:
- n8n_data:/home/node/.n8n
# Hier speichert n8n deine erstellten Workflows,
# Zugangsdaten (Credentials) und Ausführungsprotokolle.
environment:
- GENERIC_TIMEZONE=Europe/Berlin
# Setzt die Zeitzone. Wichtig für zeitgesteuerte
# Workflows (z.B. "Jeden Morgen um 9 Uhr ausführen"),
# damit die richtige Uhrzeit verwendet wird.
- N8N_SECURE_COOKIE=false
# Deaktiviert HTTPS-Pflicht für Cookies. Nötig, weil wir
# lokal über http:// (nicht https://) arbeiten.
# In einer Produktivumgebung sollte das auf true stehen
# und HTTPS konfiguriert sein.
- N8N_RUNNERS_ENABLED=true
# Aktiviert den neuen Task-Runner von n8n. Dieser führt
# JavaScript/Python-Code in Nodes sicher in einem
# separaten Prozess aus — sicherer und stabiler als
# die alte Methode.
- WEBHOOK_URL=http://ip-des-containers:5678/
restart: unless-stopped
# =====================================================
# VOLUMES — Persistente Speicherbereiche
# =====================================================
volumes:
ollama_data:
webui_data:
n8n_data:
# Hier werden die Volumes "registriert". Docker erstellt dafür
# automatisch Speicherbereiche auf deiner Festplatte.
# Solange du diese Volumes nicht löschst, bleiben alle deine
# Modelle, Chat-Verläufe und Workflows erhalten — auch wenn
# du die Container stoppst und neu startest.
Speichern mit Ctrl + O, Enter, dann schließen mit Ctrl + X.
Schritt 3: Alles starten
docker compose up -d
docker compose up— liest diedocker-compose.ymlim aktuellen Ordner, lädt alle nötigen Images herunter und startet die Container.-d— steht für "detached" (losgelöst). Die Container laufen im Hintergrund, sodass du das Terminal weiter nutzen kannst. Ohne-dwürden die Logs direkt im Terminal angezeigt und du könntest nichts anderes mehr tippen.
Docker lädt jetzt die Container herunter. Das dauert beim ersten Mal einige Minuten — hol dir einen Kaffee ☕
Schritt 4: Prüfen ob alles läuft
docker ps
docker ps— zeigt alle aktuell laufenden Container an.pssteht für "process status". Du siehst eine Tabelle mit Container-Namen, Status, Ports und Laufzeit.
Du solltest drei Container sehen: ollama, open-webui und n8n.
Teil 3 — Dein erstes LLM laden und chatten (10 Min.)
Schritt 1: Ein KI-Modell herunterladen
docker exec ollama ollama pull phi3:mini
docker exec— führt einen Befehl innerhalb eines laufenden Containers aus, ohne ihn neu zu starten. Stell dir vor, du rufst in die Box hinein: "Hey, mach mal das!"ollama(erster) — der Name des Containers, in dem der Befehl ausgeführt werden soll.ollama pull phi3:mini(zweiter Teil) — der Befehl, der im Container läuft.ollama pulllädt ein KI-Modell herunter, ähnlich wieapt installSoftware installiert.phi3:mini— das Modell "Phi-3" von Microsoft in der kleinen Variante (ca. 2 GB). Es ist schnell genug für ältere Laptops und trotzdem erstaunlich schlau.
Hintergrund: Ein LLM (Large Language Model) ist das Herzstück hinter ChatGPT & Co. Es ist eine riesige Datei mit "gelerntem Wissen", die Text versteht und Text erzeugt. Du lädst dir hier eines direkt auf deinen Laptop — kein Internet nötig zum Chatten, keine Daten verlassen deinen Rechner.
Schritt 2: Chat-Oberfläche öffnen
Öffne im Browser: http://localhost:3000
Was ist
localhost? Das ist die Adresse deines eigenen Computers.localhost:3000bedeutet: "Verbinde dich mit dem Dienst auf meinem eigenen Rechner, der auf Port 3000 lauscht." Dort wartet Open WebUI.
- Erstelle einen lokalen Account (bleibt alles nur auf deinem Rechner)
- Wähle oben das Modell phi3:mini aus
- Stell eine Frage!
💡 Probier mal diese Prompts:
Erkläre mir Docker in 3 Sätzen, als wäre ich 10 Jahre alt.Was ist der Unterschied zwischen einer VM und einem Container?Schreibe mir ein kurzes Python-Skript, das "Hallo Welt" ausgibt.
🎉 Glückwunsch! Du hast gerade dein eigenes, privates ChatGPT aufgebaut.
Teil 4 — Dein erster Automations-Workflow in n8n (20 Min.)
Jetzt verbinden wir das LLM mit einer Automation. n8n ist eine visuelle Plattform, in der du per Drag & Drop "Nodes" (Bausteine) zu einem Workflow verbindest — wie eine Kette, durch die Daten fließen.
Schritt 1: n8n öffnen
Öffne im Browser: http://localhost:5678
Beim ersten Mal: Erstelle einen lokalen Account (nur auf deinem Rechner).
Die n8n-Oberfläche ist auf Englisch — n8n unterstützt offiziell nur Englisch. In dieser Anleitung verwenden wir daher durchgehend die englischen Bezeichnungen.
Schritt 2: Ollama als Credential einrichten
Bevor wir einen Workflow bauen, sagen wir n8n einmal, wo unser Ollama-Server läuft. Das muss nur einmal gemacht werden — danach können alle Workflows darauf zugreifen.
- Klicke links unten auf "Settings" (das Zahnrad-Symbol)
- Gehe zu "Credentials"
- Klicke auf "Add Credential"
- Suche nach "Ollama" → auswählen
- Im Feld Base URL trägst du ein:
http://ollama:11434 - Klicke auf "Save"
Was sind Credentials? Das sind gespeicherte Zugangsdaten, mit denen n8n sich bei externen Diensten anmeldet. Bei Ollama brauchen wir kein Passwort oder API-Key — nur die Adresse, unter der Ollama erreichbar ist. Wir nutzen
ollamastattlocalhost, weil sich die Docker-Container über ihre Service-Namen ansprechen (das Docker-Compose-Netzwerk macht das möglich).
Schritt 3: Neuen Workflow erstellen
Klicke oben rechts auf "Create new workflow".
Schritt 4: Workflow zusammenbauen
Wir bauen einen Chat-Workflow: Du schreibst eine Nachricht → das LLM antwortet dir — direkt in n8n als Chat-Oberfläche.
Node 1: Chat Trigger
- Klicke auf das + in der Mitte
- Suche "Chat Trigger" → auswählen
Die Standardeinstellungen kannst du so lassen. Der Chat Trigger öffnet ein Chat-Fenster direkt in n8n, über das du mit dem LLM sprechen kannst.
Was ist ein Chat Trigger? Jeder Workflow braucht einen Auslöser — das Ereignis, das die Kette startet. Der "Chat Trigger" startet den Workflow jedes Mal, wenn du eine Nachricht im Chat-Fenster abschickst. Du bekommst eine richtige Chat-Oberfläche, ähnlich wie bei ChatGPT.
Node 2: AI Agent
- Klicke auf das + rechts vom Chat Trigger
- Suche "AI Agent" → auswählen
Die Standardeinstellungen passen für unseren Zweck. Optional kannst du im Feld System Message eine Rollenbeschreibung eintragen, z.B.:
Du bist ein hilfreicher Assistent. Antworte immer auf Deutsch.
Was ist ein AI Agent? Der AI Agent ist n8n's zentraler Baustein für KI-Workflows. Er nimmt die Nachricht vom Chat Trigger entgegen, leitet sie an das Sprachmodell weiter und gibt die Antwort zurück. Ein Agent kann auch "nachdenken" und Werkzeuge (Tools) nutzen — z.B. im Internet suchen oder Berechnungen durchführen. Für den Anfang nutzen wir ihn ohne Tools als reinen Chat-Assistenten.
Node 3: Ollama Chat Model (Sub-Node)
Jetzt verbinden wir den AI Agent mit unserem lokalen LLM:
- Klicke auf den AI Agent Node, um ihn zu öffnen
- Du siehst unten am Node einen Connector-Punkt mit der Beschriftung "Model" — klicke auf das + daneben
- Suche "Ollama Chat Model" → auswählen
- Im Feld Credential to connect with wähle die Ollama-Credential aus, die du in Schritt 2 erstellt hast
- Im Feld Model trage ein:
phi3:mini
Was ist ein Sub-Node? n8n unterscheidet zwischen normalen Nodes (die in der Kette liegen) und Sub-Nodes (die an einen anderen Node "angedockt" werden). Der Ollama Chat Model ist ein Sub-Node — er wird nicht in den Datenfluss eingereiht, sondern an den AI Agent angehängt, um ihm zu sagen: "Nutze dieses Sprachmodell." Das ist wie ein Werkzeug, das du dem Agenten in die Hand gibst.
Schritt 5: Workflow testen!
- Klicke oben auf "Chat" (das Sprechblasen-Symbol) — es öffnet sich ein Chat-Fenster
- Schreibe eine Nachricht, z.B.:
Erkläre mir Docker in 3 Sätzen, als wäre ich 10 Jahre alt. - Warte kurz — das LLM denkt lokal auf deinem Rechner nach
- Die Antwort erscheint direkt im Chat!
💡 Probier diese Fragen im Chat:
Was ist der Unterschied zwischen einer VM und einem Container?Schreibe mir ein kurzes Python-Skript, das "Hallo Welt" ausgibt.Was sind die wichtigsten Vorteile von Workflow-Automation?
🎉 Du hast gerade deine erste KI-Automation gebaut — mit einer richtigen Chat-Oberfläche!
Teil 5 — Bonus-Challenges (wenn noch Zeit ist)
Challenge 1: Anderes Modell testen
docker exec ollama ollama pull phi4-mini
phi4-mini— Microsofts "Phi-4 Mini" mit 3,8 Milliarden Parametern. Gleiche Größe wie Phi-3, aber deutlich bessere Antwortqualität: Der direkte Nachfolger mit verbessertem Reasoning und Sprachverständnis.
Vergleiche die Antworten von Phi-3 und Phi-4 auf die gleiche Frage in Open WebUI. Wechsle dazu oben in der Chat-Oberfläche einfach das Modell.
Challenge 2: n8n-Workflow erweitern
- Ändere das Modell im Ollama Chat Model Sub-Node auf
Phi-4 Mini - Teste die gleichen Fragen erneut und vergleiche die Antworten mit Phi-3
- Probiere verschiedene System Messages aus, z.B.:
Du bist ein Experte für die Pharmaindustrie. Erkläre alles einfach und verständlich.
Challenge 3: Eigenes System-Prompt
Ändere die System Message im AI Agent Node zu:
Du bist ein Experte für die Pharmaindustrie. Erkläre das folgende Thema einfach und verständlich: Was ist ein ERP-System?
Was ist ein System-Prompt? Das ist die "Rollenbeschreibung" für das LLM. Du sagst ihm damit, wer es sein soll und wie es antworten soll — bevor es die eigentliche Frage bekommt. In Unternehmen werden System-Prompts genutzt, um KI-Assistenten auf bestimmte Aufgaben zu spezialisieren.
🧠 Was du gelernt hast
| Thema | Was du gemacht hast |
|---|---|
| Docker | Container gestartet, Docker Compose genutzt, Services verwaltet |
| LLM | Ein KI-Modell lokal geladen und im Chat genutzt |
| Automation | Einen n8n-Workflow gebaut, der ein LLM als Chat-Assistenten nutzt |
| AI Agent | Einen AI Agent mit Ollama Chat Model und Chat Trigger konfiguriert |
| Linux-Basics | Terminal-Befehle, Paketmanager, Dateien erstellen, Benutzerrechte |
🔧 Nützliche Befehle zum Nachschlagen
| Befehl | Was er tut |
|---|---|
docker ps |
Zeigt laufende Container (ps = process status) |
docker ps -a |
Zeigt alle Container, auch gestoppte |
docker compose up -d |
Startet alle Services im Hintergrund |
docker compose down |
Stoppt alle Services und entfernt die Container |
docker compose logs -f |
Zeigt Live-Logs aller Container (-f = follow, folgt neuen Einträgen) |
docker compose logs -f ollama |
Zeigt Live-Logs nur von Ollama |
docker exec ollama ollama list |
Zeigt alle installierten KI-Modelle |
docker exec ollama ollama pull <modell> |
Lädt ein neues Modell herunter |
docker exec ollama ollama rm <modell> |
Löscht ein Modell (spart Speicherplatz) |
docker stats |
Zeigt CPU- und RAM-Verbrauch aller Container live |
❓ Troubleshooting
Open WebUI zeigt kein Modell an? → Warte 1–2 Minuten, Ollama braucht Zeit zum Starten. Dann Seite neu laden.
n8n Chat zeigt keine Antwort / AI Agent schlägt fehl?
→ Prüfe ob die Ollama-Credential korrekt eingerichtet ist: Base URL muss http://ollama:11434 sein (nicht localhost — die Container sprechen sich über ihre Namen an).
→ Prüfe ob das Modell phi3:mini im Ollama Chat Model Node korrekt eingetragen ist.
→ Prüfe ob das Modell heruntergeladen wurde: docker exec ollama ollama list
Docker-Befehle brauchen sudo?
→ Du hast dich nach usermod nicht neu angemeldet. Einmal ausloggen und wieder einloggen.
"Permission denied" bei docker compose?
→ Prüfe mit groups ob "docker" in deiner Gruppenliste auftaucht. Falls nicht: Schritt 4 aus Teil 1 wiederholen und neu anmelden.
Laptop wird langsam?
→ Modelle brauchen RAM. Phi-3 Mini braucht ca. 3–4 GB. Schließe andere Programme.
→ Mit docker stats kannst du sehen, welcher Container wie viel Ressourcen verbraucht.
Container startet nicht?
→ docker compose logs -f <containername> zeigt dir die Fehlermeldung des Containers.