Private AI-Heim‑Server mit Tinybox Green v2 – Vollständig autonom & Zero‑Trust

In dieser Anleitung zeige ich dir, wie du aus dem leistungsstarken Tinybox Green v2 einen selbst‑gehosteten AI‑Server für Home‑Automation, Medien und Monitoring baust. Dabei nutzt du Docker‑Compose, Ollama, Open WebUI, Jellyfin, Home Assistant und Netdata – alles über Tailscale für sicheren Zugriff ohne Cloud‑Abhängigkeiten.

Hardware & Strom

• Hardware: Tinybox Green v2 mit 4 × Nvidia RTX 5090, 192 GB RAM, 64‑Core AMD EPYC, 2 × 1600 W PSU.
• Strom: Zwei separate Steckdosen; UK‑Standard 230 V reicht für 2 × 1600 W.

Netzwerk & Tailscale

Der Tinybox ist per Fiber‑ONT und Power‑line‑Adapter ans Heim‑Router angebunden. Du richtest eine statische IP ein, ohne Port‑Forwarding. Durch Tailscale erreichst du den Server mit der Domain tinybox.tailfxxxx.ts.net. Alle Services laufen über die Tailscale‑Netzwerkschnittstelle; so brauchst du keine offene Ports im Internet.

Sicherheit

• Root‑Login deaktiviert, nur SSH‑Schlüssel.
• UFW: Nur Verbindungen aus der festgelegten IP‑Range (z. B. Tailscale‑Clients) erlaubt.
• BMC wird über LAN gesteuert, Passwort geändert, VLAN‑Trennung empfohlen.

Docker‑Stack

Im /srv/stack/docker‑compose.yml definierst du folgende Services:

• Ollama – LLM‑Runtime, Modelle lokal per ollama pull verfügbar.
• Open WebUI – Chat‑Frontend, Multi‑User.
• Jellyfin – Medien‑Server, LAN‑Zugriff.
• Home Assistant – Heimautomation, Host‑Netzwerk.
• Netdata – Echtzeit‑Monitoring.

Alle Services starten mit docker compose up -d und sind über Tailscale erreichbar, außer Jellyfin, das öffentlich im LAN läuft.

Monitoring & Wartung

• Netdata liefert Container‑ und Systemstatistiken.
• Regelmäßige Backups der Docker‑Volumes in /srv sind empfehlenswert.

Erweiterungen

• VLAN‑Trennung für BMC, bessere Isolation.
• Agenten‑Services (z. B. Automatisierung, Long‑form‑Analysis).

Quelle: https://owain.bearblog.dev/turning-a-tinybox-green-v2-into-a-private-ai-home-server/