Willst du ein eigenes ChatGPT auf deinem eigenen Server betreiben – ganz ohne Cloud und mit vollem Datenschutz? In diesem Snip zeige ich dir, wie du mit Open WebUI und einem Google Gemma Modell dein eigenes Open-Source-Chatbot-System auf einem deutschen Server installierst und einrichtest.
Ergebnis: Nach diesem Snip hast du erfolgreich ein eigenes Open WebUI Interface auf einem deutschen Hetzner-Server installiert und ein lokales, leistungsstarkes Open-Source-Sprachmodell von Google (Gemma) eingebunden. Damit kannst du deine eigene, datenschutzfreundliche AI-Chatlösung betreiben.
- Account bei Elastio erstellen und Free-Trial sichern.
- Neue Instanz erstellen:
- “Create a new Service” klicken.
- “Open WebUI” auswählen.
- Hetzner als Hostinganbieter wählen (z. B. Falkenstein).
- Kleinstes Paket auswählen, für das Tutorial ausreichend.
- Support-Level auf 1 lassen.
- Instanz starten und Admin-Oberfläche öffnen.
- Zugangsdaten aus dem Admin-Bereich kopieren und Login durchführen.
- Lokales Modell einbinden:
- In den Admin-Bereich wechseln.
- Unter “Modelle” neues Modell hinzufügen.
- Modell-Tag für Google Gemma aus der OLAMA Library auswählen.
- Modell installieren und aktivieren.
- Nutzung testen:
- Neues Chatfenster öffnen.
- Gemma Modell auswählen und Fragen stellen.
- Erweiterungen hinzufügen:
- Open WebUI Community öffnen.
- Funktionen (z. B. Web-Scraping Tool) auswählen und importieren.
- Funktionen aktivieren und verwenden.
- Zusätzliche Modelle (z. B. Perplexity) parallel installieren und vergleichen.
- Verstehen, wie man einen Open-Source-Chatbot lokal auf einem deutschen Server installiert.
- Erlernen der Nutzung und Einbindung von Google Gemma Modellen über OLAMA in Open Web UI.
- Bedienung der Admin-Oberfläche zur Verwaltung von Nutzern, Modellen und Funktionen.
- Verständnis der Vorteile lokaler KI-Modelle in puncto Datenschutz und Datenhoheit.
- Erweiterung der Open Web UI Funktionalität durch Community Plugins und Tool-Importe.
- Lokale KI-Assistenzsysteme in Unternehmen für vertrauliche Datenverarbeitung.
- Customizer Chatbots für Kundenservice mit eigenen Trainingsdaten.
- Forschung und Entwicklung von KI-Modellen ohne externe Datenteilung.
- Interaktive Lernplattformen mit datenschutzkonformen KI-Systemen.
- Private KI-Systeme für kreatives Schreiben oder Codieren ohne Cloud.
Als nächstes
