Use Cases und Hardware-Dimensionierung
Wir wählen Modelle passend zu Ihren Anwendungsfällen, Nutzerzahlen und Antwortzeiten und dimensionieren GPU-Server für Kauf, Colocation oder Private Cloud.
KI auf Ihrer eigenen Infrastruktur
Wir betreiben Sprachmodelle und KI-Assistenten auf Servern in Ihrem Rechenzentrum oder Ihrer Private Cloud, damit Dokumente, Anfragen und Antworten in Ihrem Netzwerk und unter Ihrer Kontrolle bleiben.
Was wir tun
Leistungsumfang
GPU-Server und Plattform
Installation von GPU-Servern auf Bare Metal, Proxmox VE, VMware oder OpenShift, mit Kubernetes und dem NVIDIA GPU Operator, auch in Air-Gapped-Netzwerken.
Private Sprachmodelle
Open-Weight-Modelle wie Llama, Mistral, Qwen oder Gemma, bereitgestellt mit vLLM, Ollama oder NVIDIA Triton hinter einer OpenAI-kompatiblen API.
Suche in internen Dokumenten
Retrieval-Augmented Generation auf Ihren Netzlaufwerken, SharePoint und Datenbanken, mit lokalem Vektorspeicher und den Zugriffsrechten der Nutzer in jeder Antwort.
Assistenten und Integrationen
Chat-Assistenten mit Single Sign-on über Active Directory, Entra ID oder Keycloak sowie APIs, die KI in Ihre internen Anwendungen bringen.
Sicherheit und Betrieb
Netzwerkisolation, Audit-Logs, Monitoring von GPUs und Antwortqualität sowie geplante Modell-Updates, dokumentiert für DSGVO, NIS2 und den EU AI Act.
Technologien
Typische Technologien
Wir sind an keinen Anbieter gebunden: Wir arbeiten in Public und Private Clouds und richten uns nach Ihrer Umgebung, Ihren Lizenzen und den Kompetenzen Ihres Teams. Diese Werkzeuge setzen wir in diesem Bereich am häufigsten ein.
Rechenleistung und Orchestrierung
- NVIDIA GPU Operator
- Kubernetes
- Proxmox VE
- VMware
- OpenShift
Model Serving
- vLLM
- Ollama
- NVIDIA Triton
- llama.cpp
- LiteLLM
Modelle und Plattformen
- Llama
- Mistral AI
- Qwen
- Gemma
- Hugging Face
Vektorsuche und Retrieval
- pgvector
- Qdrant
- Milvus
- OpenSearch
Identitäten und Secrets
- Keycloak
- Microsoft Entra ID
- HashiCorp Vault
Monitoring und Observability
- Prometheus
- Grafana
- Langfuse
- OpenTelemetry
Verwandte Leistungen
Häufig kombiniert mit dieser Leistung
- OpenAI
- Claude
- Gemini
- Llama
KI- & Automatisierungs-Engineering
LLM-basierte Assistenten, Dokumentenverarbeitung und Prozessautomatisierung, integriert in Ihre Systeme.
- OpenAI
- Claude
- Gemini
- Llama
KI-Services
Von der KI-Strategie und dem Proof of Concept bis zur Produktion: generative KI- und ML-Lösungen, eingebettet in Ihre Produkte und Prozesse.
Sprechen wir über Ihr Projekt
Beschreiben Sie, wo Sie heute stehen und was Sie erreichen möchten. Wir schlagen Ihnen einen konkreten ersten Schritt vor und unterzeichnen auf Wunsch vor jedem technischen Gespräch eine NDA.