Vitalij Bojatschkin

Self-hosted KI für regulierte Branchen

Q: Reicht ein Auftragsverarbeitungsvertrag mit einem Cloud-Anbieter nicht aus?

Ein AVV regelt die Rechtsbeziehung, er reduziert nicht die Angriffsfläche. Bei besonderen Kategorien personenbezogener Daten nach Art. 9 DSGVO kommen je nach Branche Berufsgeheimnisse nach § 203 StGB und NIS2 hinzu. In der Praxis führt das dazu, dass die Daten die eigene Infrastruktur nicht verlassen dürfen, unabhängig davon welche Verträge existieren. Ob das in Ihrem Fall so ist, klären wir im Erstgespräch - manchmal ist Managed Cloud die richtigere und günstigere Antwort.

Q: Was kostet self-hosted im Vergleich zu einer Managed-Cloud-Lösung?

Mehr, und zwar vor allem im Betrieb. Backups, Restore-Drills, Zertifikats-Rotation, Monitoring und Log-Retention werden zu eigenen Arbeitspaketen statt zu Häkchen in einer Konsole. Wenn Ihr Rechtsrahmen Managed Cloud zulässt, sollten Sie sie nehmen. Self-Hosting lohnt sich, wenn die Alternative lautet: gar kein KI-Einsatz.

Q: Wie stellen Sie sicher, dass die KI keine unzulässigen Aussagen trifft?

Auf drei Ebenen. Erstens entstehen alle bewertungsnahen Ausgaben deterministisch in einer Regel-Engine, nicht im Sprachmodell. Zweitens prüft eine zentrale Output-Policy jede Antwort gegen die Wissensbasis und blockt ungegroundete Ausgaben. Drittens scannt ein Regressionstest Inhalte und Templates gegen unzulässige Formulierungen und bricht den Build bei einem Treffer. Die Grenze ist damit eine Eigenschaft des Codes, nicht eine Bitte an die Redaktion.

Q: Können wir das System danach selbst betreiben?

Ja, das ist der Normalfall und Teil des Auftrags. Sie bekommen Dokumentation, den Deployment-Weg und eine Betriebsanleitung. Wenn Sie danach Unterstützung wollen, geht das über einen Retainer - aber die Abhängigkeit ist nicht mein Geschäftsmodell.

Q: Wie fangen wir an, ohne gleich ein großes Projekt aufzusetzen?

Mit einem Erstgespräch zur Datenklasse und zum Rechtsrahmen, danach mit einem abgegrenzten Piloten auf genau einen Use-Case. Wenn der trägt, wird ausgebaut. Wenn nicht, haben Sie eine belastbare Antwort statt eines halbfertigen Systems.

Berufsgeheimnis nach § 203 StGB, besondere Datenkategorien nach Art. 9 DSGVO oder NIS2-Pflichten schließen die naheliegenden KI-Werkzeuge aus. Nicht weil die Technik fehlt, sondern weil die Daten das Haus nicht verlassen dürfen. Genau dieser Fall ist mein Arbeitsgebiet.

In regulierten Branchen scheitert KI selten an der Technik. Sie scheitert an der Frage, wer haftet, wenn die Daten das Haus verlassen - und daran, dass niemand belegen kann, wo die Grenze der Ausgabe liegt. Die üblichen Antworten helfen nicht weiter: Ein Auftragsverarbeitungsvertrag regelt die Rechtsbeziehung, er reduziert nicht die Angriffsfläche. Ein Systemprompt bittet das Modell um Zurückhaltung, er erzwingt sie nicht. Und eine Richtlinie im Wiki wird beim Onboarding gelesen und danach nie wieder.

Ich setze das System vollständig auf eigener Infrastruktur um und verankere die regulatorische Grenze im Code statt in einem Dokument. Personenbezogene Felder liegen verschlüsselt und bleiben trotzdem durchsuchbar. Alles, was einer Bewertung nahekommt, entsteht deterministisch in einer Regel-Engine - das Sprachmodell formuliert, es entscheidet nichts. Und ein Regressionstest bricht den Build, wenn eine unzulässige Formulierung auftaucht.

Referenzprojekt: LLM-Plattform für Daten der Art.-9-Klasse, von Architektur bis Produktionsbetrieb allein umgesetzt

7+ Jahre Cloud- und Backend-Erfahrung, unter anderem bei Audi und Lufthansa Industry Solutions