Lokales LLM‑Setup mit Proxmox & GPU für KMU und Gemeinden
Du willst KI im Alltag nutzen, ohne deine internen Dateien aus der Hand zu geben? Dann ist dieser Beitrag genau für dich. Ich zeige dir mein lokales LLM-Setup auf Proxmox mit OpenWebUI und Wissensdatenbank (RAG) inklusive Systemüberblick, Learnings aus der Praxis und einem Einstieg, der wirklich machbar ist.