AI Engineering — KI, die in Produktion bleibt.
95 % aller Software-Engineers nutzen KI-Tools wöchentlich. Zwischen ‚funktioniert im Notebook‘ und ‚läuft DSGVO-konform für 10.000 Nutzer‘ liegt aber ein Engineering-Problem — kein Beratungs-Problem. Wir lösen es im Rahmen von Build Sprints. Folgende Engineering-Pakete sind typische Sprint-Inhalte.
Engineering-Pakete
Engineering-Pakete:
KI-Feature in Bestandsplattform
6–12 Tage. LLM-Integration in vorhandene SaaS-/Mittelstands-Plattform. NestJS oder Spring Boot Backend, Frontend-Anbindung, Eval-Pipeline, Production-Logging
Investition
Auf Anfrage
RAG-Wissensbasis
8–12 Tage. Ingestion-Pipeline, Vector-Store (Supabase pgvector), Retrieval-API, Goldset-Eval, Quellen-Zitation per Default
Investition
Auf Anfrage
LLM-Workflow-Automation
5–8 Tage. n8n + LLM-Schritte, 1–3 produktive Workflows, Logging und Cost-Caps
Investition
Auf Anfrage
Custom Agent
12–20 Tage. Tool-using Agent für klar definierte Domäne, Eval-Harness, Human-in-the-Loop UI, Production-Logging, Audit Trail
Investition
Auf Anfrage
AI-Act-Disclosure & Audit-Schicht
6–10 Tage. Disclosure-UX-Komponenten, Audit-Logging-Pipeline, Trainingsdaten-Dokumentation, Eval-Pipeline mit Bias-Indikatoren
Investition
Auf Anfrage
Souveränität
Souveränität:
Jedes Engineering-Paket wird mit EU-Default gebaut. US-Hyperscaler nur bei expliziter Kunden-Entscheidung mit Compliance-Begründung.
- Azure OpenAI in EU-Region
- Auftragsverarbeitung dokumentiert
- Keine Trainingsdaten-Weitergabe
- Optional Mistral/EU-Modelle
- Token-Kostentracking
- Prompt-Versionierung als Code
Reifegrad-Map 2026
Use-Cases nach Maturität.
Was 2026 produktionsreif ist, was eingeschränkt funktioniert, und was wir nicht empfehlen.
Reif für Produktion
- ·RAG über interne Dokumente (mit Quellen-Zitation)
- ·Klassifikation und Routing (E-Mails, Tickets, Dokumente)
- ·Extraktion strukturierter Daten aus unstrukturierten Quellen
- ·Übersetzung DE/EN, fachsprachlich justiert
- ·Code-Assistenz (Cursor, Claude Code, Copilot)
Etablierte Patterns, deterministische Anteile dominieren, Fehler sind erkennbar und korrigierbar.
Eingeschränkt empfehlenswert
- ·Mehrstufige Agent-Workflows (nur mit klarer Abbruchlogik und Audit-Trail)
- ·Function Calling auf produktive APIs (mit Idempotenz und Rollback)
Funktioniert, aber Failure-Modes sind subtil und schwer zu testen. Wir bauen nur mit Safeguards.
Aktuell nicht produktionsreif
- ·Vollautonome Agenten ohne Human-in-the-Loop
- ·Kreative Long-Form-Generierung als Hauptfunktion (Marketing-Texte, Verträge)
Halluzinations-Risiko zu hoch, Compliance-Druck zu groß, Kunden-Wahrnehmung zu fragil.
EU AI Act · DSGVO
Compliance-Layer.
EU AI Act und DSGVO konkret, nicht abstrakt.
Art. 4 KI-VO Schulungspflicht
KI-Anwender im Unternehmen müssen geschult sein. Schulungs-Modul deckt das ab, mit Teilnahme-Nachweis. (In Kraft.)
Art. 5 KI-VO Verbotene Praktiken
Sprint-Zero-Audit erkennt Verstöße (Social Scoring, biometrische Echtzeit-Identifikation, manipulative Systeme). (In Kraft.)
Transparenzpflichten Art. 50 (ab August 2026)
Kennzeichnung von KI-Interaktion und KI-generierten Inhalten. Disclosure-UX-Komponenten decken das ab.
Hochrisiko-Systeme (voraussichtlich Ende 2027)
Durch den Digital Omnibus auf voraussichtlich 02.12.2027 verschoben (formelle Verabschiedung ausstehend). Vorbereitungsfenster jetzt. Compliance-Dokumentation (Risikomanagement, Datenqualität, Logging, menschliche Aufsicht) als separater Posten, nicht im Build-Sprint inklusive.
DSGVO Auftragsverarbeitung
Vertrag mit Microsoft (Azure OpenAI EU) ist Standard-DPA. Keine Trainingsdaten-Weitergabe, vertraglich zugesichert. Kein US-Cloud-Act-Zugriff bei EU-Region.
Wenn KI nicht passt
Wann KI nicht die Antwort ist.
Anwendungsfall
Regel-basierte Workflows
Stattdessen
Klassische Logik. Schneller, billiger, deterministisch testbar.
Anwendungsfall
Einfache CRUD-Anwendungen
Stattdessen
Standard-Backend mit Validierung. Kein LLM für Eingabe-Verarbeitung nötig.
Anwendungsfall
Hochpräzise Berechnungen (Steuer, Finanzen)
Stattdessen
Code, kein Modell. LLMs rechnen falsch und tun so, als ob.
Anwendungsfall
Niedriges Volumen mit klaren Regeln
Stattdessen
Manueller Prozess plus Skript. KI-Setup übersteigt den Nutzen.
FAQ
FAQ AI Integration.
Können wir On-Premise hosten statt Azure?
Ja, mit Mistral oder Llama-Modellen auf eigener Infrastruktur. Aufwand höher, Latenz und Wartung in Ihrer Verantwortung. Sinnvoll bei strikter Datenklassifikation oder Air-Gap-Anforderung.
Wie verhindert ihr Halluzinationen in produktiven RAG-Systemen?
Quellen-Zitation per Default, Konfidenz-Schwellen, Fallback auf 'keine Antwort gefunden', Eval-Suite mit Goldset-Fragen. Kein RAG ohne Eval-Pipeline.
Welche Vector-Stores nutzt ihr?
Default: pgvector in Postgres (EU-Region). Bei größerem Volumen: Qdrant selfhosted oder Weaviate. Pinecone (US) nur bei expliziter Kunden-Entscheidung.
Wie geht ihr mit Mehrsprachigkeit (DE/EN) im RAG um?
Embedding-Modell mit Multilingual-Support (z.B. text-embedding-3-large). Indexierung pro Sprache getrennt, Query-Sprache via Detection bestimmt den Index. Kein automatisches Übersetzen im Index.
Was kostet ein typisches RAG-System im Monat im Betrieb?
Hängt stark von Nutzungsvolumen und Modellwahl ab. Wir bauen Token-Kostentracking und Budget-Limits per Default ein und liefern im Audit eine realistische Bandbreite für Ihren Use-Case.
AI Engineering im Build Sprint
KI als Engineering-Lieferung. Souverän per Default.
Engineering-Pakete laufen im Rahmen eines Build Sprints — kein separater Audit-Verkauf. Sprint Zero klärt Use-Case, Datenlage, AI-Act-Pflichten und Stack vor dem Build.