0Prompts an US-Clouds
100 %auf Ihrer Hardware
4Bausteine · 1 Ansprechpartner
Art. 4AI Act: Schulung inklusive
Was wir anbieten

Vier Bausteine, einzeln oder zusammen.

GPU
Lokale KI-Server
Sizing, Beschaffung und Betrieb von GPU-Servern, eingebunden in Ihre Proxmox-Umgebung. Offene Sprachmodelle laufen über Ollama oder vLLM, Ihre Mitarbeitenden arbeiten in einer Chat-Oberfläche im Browser. Anmeldung über Ihr bestehendes Benutzerverzeichnis.
RAG
KI auf Ihrem Firmenwissen
Fragen an Handbücher, Richtlinien, Verträge oder Tickets stellen und Antworten mit Quellenangabe bekommen. Die Dokumente bleiben auf Ihrem Server, Berechtigungen werden mitgedacht: Wer ein Dokument nicht sehen darf, bekommt auch keine Antwort daraus.
AGT
KI-Agenten & Automatisierung
Wiederkehrende Abläufe automatisieren: Eingänge sortieren, Entwürfe vorbereiten, Daten abgleichen. Jede Aktion nach außen braucht eine Freigabe durch einen Menschen, mit Protokoll und Not-Aus. So arbeiten wir auch intern.
EDU
Beratung & Schulung
Welche Anwendungsfälle lohnen sich, welche Daten dürfen in welches Modell, was verlangt der EU AI Act? Workshops für Geschäftsführung und Team, inklusive der KI-Kompetenz, die Art. 4 AI Act seit Februar 2025 von Unternehmen erwartet.
Vergleich

Cloud-KI oder lokale KI: was sich konkret unterscheidet

ThemaCloud-KI (z. B. ChatGPT, Copilot)Lokale KI
Wo landen Ihre Eingaben?Beim Anbieter, oft außerhalb der EUAuf Ihrem Server, nirgends sonst
Vertrauliche DokumenteNur mit Vertrags- und DatenschutzprüfungBleiben im eigenen Netz
ModellqualitätSpitzenmodelle, sehr breitOffene Modelle, für klar umrissene Aufgaben oft ausreichend
KostenPro Nutzer und Monat oder pro TokenHardware einmalig, danach Strom und Wartung
AbhängigkeitPreise und Bedingungen bestimmt der AnbieterOffene Software, Modelle austauschbar
VerfügbarkeitAbhängig von Internet und AnbieterLäuft auch ohne Internetverbindung
Wann passt das?

Wann lokale KI die richtige Wahl ist und wann nicht

✓
Sie arbeiten mit sensiblen Daten
Patientendaten, Personalakten, Konstruktionsdaten, Verträge, Verwaltungsvorgänge: alles, was nicht bei einem fremden Anbieter landen soll.
✓
Es gibt klar umrissene Aufgaben
Zusammenfassen, Suchen im eigenen Wissen, Texte vorformulieren, Daten aus Dokumenten ziehen. Hier liefern offene Modelle auf eigener Hardware gute Ergebnisse.
✓
Viele Mitarbeitende sollen KI nutzen
Statt Lizenzen pro Kopf trägt eine Plattform das ganze Unternehmen. Ob sich das rechnet, prüfen wir im Erstgespräch mit Ihren Zahlen.
✕
Sie brauchen das stärkste verfügbare Modell
Für sehr breite Aufgaben auf höchstem Niveau sind die großen Cloud-Modelle weiterhin vorn. Das sagen wir offen, und oft ist eine Mischung sinnvoll.
✕
Es gibt noch keinen Anwendungsfall
„Wir sollten auch etwas mit KI machen“ ist kein Projekt. Dann starten wir mit einem Workshop statt mit Hardware.
Vorgehen

Vom Anwendungsfall zum laufenden Betrieb in vier Schritten.

01
Anwendungsfälle & Daten
Workshop mit den Fachbereichen: Wo kostet heute Zeit, was sich mit KI lösen lässt? Welche Daten sind dafür nötig, und wer darf was sehen?
02
Pilot
Ein Anwendungsfall, ein Team, echte Dokumente. Wir messen, ob die Antworten taugen, bevor größere Hardware gekauft wird.
03
Ausbau & Sizing
GPU-Server passend zu Modellgröße und Nutzerzahl, eingebunden in Monitoring und Backup. Anmeldung, Berechtigungen und Protokollierung wie bei jedem anderen System.
04
Schulung & Betrieb
Schulung für alle Nutzenden, Updates von Modellen und Software, auf Wunsch laufend über unseren Full IT Service.

Aus dem eigenen Betrieb: Wir setzen lokale KI und eine eigene Agenten-Plattform selbst ein, auf eigener Hardware und mit Freigabe durch einen Menschen bei jeder Aktion nach außen. Was wir Ihnen empfehlen, haben wir vorher bei uns selbst aufgebaut.

FAQ

Häufige Fragen zu lokaler KI

Offene Sprachmodelle, deren Gewichte frei verfügbar sind, zum Beispiel aus den Familien Llama, Mistral, Qwen oder Gemma. Welches Modell passt, hängt von Aufgabe, Sprache und Hardware ab. Wir testen das im Pilot mit Ihren Daten. Modelle lassen sich später austauschen, ohne die Plattform neu zu bauen.
Für sehr breite Aufgaben sind die großen Cloud-Modelle weiterhin stärker. Für klar umrissene Aufgaben wie Zusammenfassen, Suchen in eigenen Dokumenten oder Texte vorformulieren reichen offene Modelle oft gut aus. Genau das prüfen wir im Pilot, bevor Sie in Hardware investieren.
Das hängt von der Modellgröße und davon ab, wie viele Personen gleichzeitig arbeiten. Entscheidend ist vor allem der Grafikspeicher. Wir rechnen das nach dem Pilot konkret aus und binden die Server in Ihre bestehende Proxmox-Umgebung ein, oder betreiben sie in unserem Housing.
Bei lokaler KI verlassen Ihre Daten das eigene Netz nicht, das vereinfacht die Datenschutzfragen erheblich. Der EU AI Act gilt trotzdem: Seit Februar 2025 müssen Unternehmen dafür sorgen, dass Mitarbeitende, die KI einsetzen, ausreichend geschult sind (Art. 4). Diese Schulung gehört bei uns zum Projekt.
Ein Workshop oder Pilot ist ein überschaubares Projekt zum Festpreis. Die Hardwarekosten hängen stark vom Anwendungsfall ab, deshalb nennen wir sie erst nach dem Pilot. Ein verbindliches Angebot bekommen Sie, sobald klar ist, was die KI leisten soll.

30 Minuten, und Sie wissen, ob lokale KI zu Ihnen passt.

Wir hören uns an, wo Sie KI einsetzen wollen und mit welchen Daten. Danach bekommen Sie eine ehrliche Einschätzung, auch wenn die heißt: Dafür reicht ein Cloud-Dienst.