Eine lokale KI-Anwendung besteht nicht nur aus einem Modell. Sichere Systeme trennen Datenaufnahme, Speicher, Retrieval, Modellzugriff, Aktionsschnittstellen und Auditierung.
E-Mails, Webseiten und Dokumente sind untrusted input. Sie dürfen weder Systemregeln überschreiben noch ohne unabhängige Prüfung Aktionen auslösen.
Aha-Moment
Das Modell ist nicht die Sicherheitsgrenze. Die belastbare Grenze liegt in Identitäten, Datenfiltern, Aktionsgateway und Auditpfad.
1. Datenpfad und Vertrauenszonen
Dokumentieren Sie Quelle, Klassifikation, Aufbereitung, Index, Modellkontext, Ausgabe und Aufbewahrung.
- Quellsystem und Besitzer
- Datenklassen
- Herkunft und Berechtigung
- Speicher- und Löschfristen
2. Berechtigungsbewusstes Retrieval
Der Suchindex darf Rechte nicht aufheben. Treffer werden vor Übergabe an das Modell gegen Benutzer, Mandant und Dokumentberechtigung gefiltert.
3. Prompt Injection und Datenabfluss
Externe Inhalte gelten als Daten. Tool-Aufrufe nutzen feste Schemas, Allow-Lists und Ausgabelimits. Geheimnisse gehören nicht in Prompts.
- Systemregeln trennen
- Parameter validieren
- Ausgaben prüfen
- auffällige Anfragen protokollieren
4. Unabhängiges Aktionsgateway
Das Modell erzeugt einen Vorschlag. Ein Enforcer prüft Rolle, Scope, Zustand und Freigabe. Kritische Änderungen nutzen kurze Freigabefenster und idempotente Aktionen.
5. Betrieb und Evaluation
Tests prüfen Quellen, Halluzinationen, Datenisolation und verweigerte Aktionen. Monitoring erfasst Modell-, Prompt- und Policy-Version.
- erlaubte und verbotene Zugriffe testen
- Regression bei Modellwechsel
- Audit-ID je Aktion
- Not-Aus und manueller Rückfall
Weiterführende Informationen
- technische Vertiefungen: https://www.hamburger-it-service.de/it-sicherheit-themen-fuer-administratoren/
- prüfbare Maßnahmen: https://www.hamburger-it-service.de/2026/09/17/technische-sicherheitsbewertung-massnahmenplan/
Quellen und fachliche Grundlage
- https://www.bsi.bund.de/DE/Themen/Verbraucherinnen-und-Verbraucher/Informationen-und-Empfehlungen/Technologien_sicher_gestalten/Kuenstliche-Intelligenz/kuenstliche_intelligenz.html
- https://www.enisa.europa.eu/sites/default/files/2024-11/ENISA%20Threat%20Landscape%202024_0.pdf
- https://eur-lex.europa.eu/legal-content/EN-DE-ES/TXT/?uri=CELEX%3A32016R0679
Kurzüberblick
- lokale KI Architektur
- Evidenz statt Annahmen
- klare Verantwortlichkeiten
- regelmäßige Überprüfung
Unterstützung benötigt?
Hamburger IT-Service unterstützt bei Bestandsaufnahme, Priorisierung, Umsetzung und nachvollziehbaren Nachweisen.