Too Smart to Forget: Die Datenschutzfalle der KI

Was wäre, wenn digitale Informationen nie wirklich verschwinden? KI macht Unternehmenswissen in Sekunden zugänglich. Doch wer entscheidet, was sie wissen darf, wie lange und für wen? Enterprise Architecture hilft, die Grenzen zwischen Erinnern und Vergessen bewusst zu gestalten.

Wenn selbst eine digitale Kopie vergessen will

In William Gibsons Science-Fiction-Roman Neuromancer (1984) überlebt der Hacker Dixie Flatline als digitale Kopie seiner Persönlichkeit. Er hilft bei einem Auftrag und will danach gelöscht werden. Ist es Fortschritt, alles für immer zu speichern?

KI macht Wissen rasch zugänglich. Wer bestimmt, was KI sehen darf – und wer setzt das durch? Von der medizinischen Bildanalyse zu GenAI im Bankenumfeld lernte ich mit RAG-Prototypen und Modellarchivierung: Daten überleben oft ihre Anwendung.

Wenn sich ein Anti-Fraud-Szenario ändert

Ein Datenfeed verspätet sich, Quellen fehlen oder Anti-Fraud-Schwellenwerte ändern sich. Ein Alert-Kandidat muss korrigiert oder zurückgezogen werden. Doch Scores und Profile bauen bereits darauf auf. Philip K. Dicks The Minority Report erinnert uns: Eine Prognose ist kein Beweis.

Aus Datenpipelines weiss ich: Eine Korrektur hat Folgen; Prüfnachweise bleiben nötig.

In der Quelle gelöscht – in KI noch vorhanden?

Assistenten mit Retrieval-Augmented Generation (RAG) können Textstellen, Embeddings oder Antworten in Indizes und Caches behalten. Open Worldwide Application Security Project (OWASP) empfiehlt, Löschungen und Rechteänderungen auch dort umzusetzen. Trainings- oder Fine-Tuning-Daten können Modellgewichte prägen; normale Abfragen meist nicht. Rekonstruktionen sind teilweise möglich, nicht zwingend. Machine Unlearning ist schwer nachzuweisen, Neutraining teuer, wie der Europäische Datenschutzbeauftragte erläutert.

Eine begründete Löschung muss deshalb auch abgeleitete Informationen prüfen, nicht nur die Quelldatei.

Diagramm: Was bleibt nach der Löschung von Quelldaten und wie wird es architektonisch gesteuert?
Abbildung: Quelldaten hinterlassen unterschiedliche Spuren in Suchindizes, Modellgewichten, Scores und geschützten Prüfnachweisen. Diagramm mit ChatGPT erstellt.

Manchmal müssen Unternehmen erinnern

Das Geldwäschereigesetz verlangt für bestimmte Unterlagen zehn Jahre Aufbewahrung – nicht für jedes Modell. Auch Patientendossiers müssen teils lange aufbewahrt werden, aber nicht für jede KI zugänglich sein. Bei Betreibungen erlischt das Einsichtsrecht Dritter grundsätzlich fünf Jahre nach Verfahrensabschluss. Was, wenn ein Eintrag Profile weiter prägt? Der Eidgenössische Datenschutz- und Öffentlichkeitsbeauftragte (EDÖB) erläutert Grenzen. Auch Blockchains erschweren das Löschen.

Aufbewahrung, Zugriff und KI-Nutzung sind verschiedene Entscheidungen.

Was Enterprise Architecture konkret beiträgt

Eine Richtlinie löscht keinen Suchindex. Enterprise Architecture (EA) verbindet Prozesse, Daten, Applikationen und Verantwortung. Vier Kernbereiche zählen:

Transparenz: Datenlandkarten und Data- und Model-Lineage verbinden Quellen, Indizes, Modelle und Alerts. In Integrationsprojekten habe ich ihren Wert erlebt.

Architekturprinzipien: Need-to-know gilt auch für KI. RAG muss bei jeder Anfrage Berechtigungen prüfen, bevor vertrauliche Textstellen zum Modell gelangen. Rollenwechsel müssen sich auf den Abruf auswirken.

Informationslebenszyklus: Datenverantwortliche definieren Zweck, Klassifikation und Fristen. Plattformteams setzen Korrektur, Löschung und Rechteentzug in Quellen, Indizes und Caches um; Unlearning braucht eine dokumentierte Prüfung.

Governance und Betriebsmodell: Fachbereiche, Legal, Datenschutz, Sicherheit, KI-Architekten und Plattformteams entscheiden gemeinsam. EA harmonisiert Regeln und prüft Vorhaben früh. Roth und Wettach setzen auf wirksame Entscheide statt Modelle um ihrer selbst willen.

Shadow AI: Kultur gehört zur Architektur

Sind freigegebene Tools umständlich, nutzen Mitarbeitende vielleicht private KI-Dienste mit vertraulichen Daten. Shadow AI umgeht Kontrollen; das Bundesamt für Cybersicherheit (BACS) warnt vor «Oversharing». Als Entwickler weiss ich, wie wichtig brauchbare Alternativen und klare Regeln sind. EA muss echte Arbeitsabläufe sehen, nicht nur Diagramme.

Fazit: Vergessen braucht Architektur

Für mich bedeutet gute Unternehmens- und KI-Architektur nicht, ein perfektes Unternehmensgedächtnis aufzubauen. Vielmehr geht es darum, bewusste Grenzen zu setzen: Bewahren, was nötig ist. Schützen, was vertraulich bleibt. Und sicherstellen, dass veraltete Informationen nicht nur dort gelöscht werden, wo es angebracht ist, sondern auch keinen Einfluss mehr auf zukünftige Entscheidungen haben.

Meine Erfahrungen mit Datenintegration, RAG-Prototypen und der Archivierung von Analysemodellen haben mir gezeigt, dass solche Entscheidungen selten rein technischer Natur sind. Zwischen technischer Machbarkeit, regulatorischen Anforderungen und wirtschaftlichem Aufwand entstehen Zielkonflikte. Genau hier sehe ich den Mehrwert von Enterprise Architecture: Sie schafft einen gemeinsamen Rahmen, um diese Spannungsfelder zu bewältigen und Verantwortung über Systemgrenzen hinweg wahrzunehmen. Denn eine verantwortungsvolle KI zeichnet sich nicht nur dadurch aus, was sie weiss, sondern auch dadurch, was sie nicht mehr wissen oder verwenden sollte.

Quellen und weiterführende Literatur

KI eingesetzt für: Rechercheunterstützung, Ideen/Sparring, Struktur/Textentwurf, Sprache/Korrektur, Bildgenerierung.

Carlos Correa Shokiche

Carlos Correa Shokiche ist ein AI/Software Engineer im Bankwesen und bloggt aus dem Unterricht des CAS Enterprise Architecture. In seiner Freizeit diskutiert er leidenschaftlich gerne in seinem Berner Sci-Fi-Lesekreis und entdeckt mit einem kleinen Teleskop von seinem Balkon aus die Geheimnisse des Universums.

Alle Beiträge ansehen von Carlos Correa Shokiche →

Schreibe einen Kommentar