Probleme mit KI-Gesetz und Datenschutz

Dieser Text zeigt Probleme für Firmen bei den Gesetzen für KI und Daten. Er zeigt auch Lösungen.

5. Alte Daten, neuer Zweck: Das Problem mit Wiederverwendung

Das KI-Gesetz sagt in Artikel 20, Absatz 4: Firmen sollen Daten aus der nationalen KI-Datenbank nutzen, teilen und wiederverwenden. Das ist für Forschung, Training, Tests und Innovation. Die Idee ist: Daten sind wie neues Öl. Je mehr man Daten wiederverwendet, desto mehr Wert entsteht.

Aber das Datenschutz-Gesetz sagt in Artikel 3 und Artikel 9 etwas anderes: Die Nutzung von Daten muss einen klaren und konkreten Zweck haben. Die Zustimmung muss für jeden Zweck extra sein. Man darf nicht sagen: Du musst auch anderen Zwecken zustimmen.

Das ist ein großes logisches Problem. Beispiel: Eine Firma sammelt im Jahr 2026 Daten für Zweck A, zum Beispiel für besseren Online-Handel. Sie weiß noch nicht, dass sie im Jahr 2028 dieselben Daten für Zweck B nutzen will, zum Beispiel für das Training eines KI-Modells über Kauf-Trends. Wenn Zweck B kommt, muss sie Millionen Menschen wieder um Zustimmung bitten.

Das ist fast unmöglich. Viele Nutzer nutzen die Plattform nicht mehr. Und es kostet sehr viel Geld:

• Kosten für Kontakt, zum Beispiel Briefe und Anrufe
• Kosten für Mitarbeiter
• Kosten für Speicherung und Verarbeitung von Daten

Ein Beispiel ist die Bank T. Sie hat circa 18 Millionen Kunden. Sie muss circa 90 Milliarden Dong nur dafür bezahlen, um wieder um Zustimmung zu bitten. Die Kosten sind im Durchschnitt 5.000 Dong pro Kunde.

Experten für die europäische DSGVO nennen das "purpose limitation paradox". Das heißt auf Deutsch: Paradox der Zweck-Begrenzung. Je genauer und enger man den Zweck beschreibt, desto schwerer kann man die Daten nutzen. Aber wenn man den Zweck zu breit beschreibt, zum Beispiel "für Geschäftszwecke", dann verletzt man das Schutz-Gesetz.

Meine persönliche Meinung: In der Praxis schreiben viele Firmen am Anfang sehr breite und unklare Texte für die Zustimmung. Sie spielen mit Worten. Aber das funktioniert nicht. Das zeigt die Erfahrung aus Europa: Gerichte können diese Texte für ungültig erklären, weil sie nicht klar und konkret sind. Die bessere Lösung ist: Die Behörden müssen den Begriff "kompatibler Zweck" regeln. Man darf Daten wiederverwenden, wenn der neue Zweck logisch zum alten Zweck passt und wenn es für die Person keinen Nachteil gibt.

6. Wenn KI selbst persönliche Daten macht

Das ist ein sehr neues und graues Feld. Wenige Menschen in Recht und Technik kennen es. Das KI-Gesetz sagt in Artikel 3: KI denkt mit Eingabe-Daten und macht daraus Ergebnisse wie Vorhersagen, Inhalte und Empfehlungen. Und das Dekret 356 sagt in Artikel 10, Absatz 2: Wenn Ergebnisse von KI eine konkrete Person bestimmen können, dann muss man diese Daten wie persönliche Daten schützen.

Hier ist ein Beispiel: Ein Start-up entwickelt eine KI. Die KI analysiert öffentliche Posts in sozialen Netzwerken. Persönliche Infos sind schon entfernt. Die Eingabe ist also völlig anonym. Aber die KI denkt weiter und sagt: "Dieses Konto gehört wahrscheinlich einer Frau von 30 bis 35 Jahren. Sie lebt im Bezirk Cau Giay, arbeitet im Marketing und hat ein kleines Kind." Plötzlich ist das Ergebnis ein persönliches Datum, auch wenn der Entwickler das nicht wollte.

Das Problem: Die Firma kann vorher nicht um Zustimmung bitten, weil die Eingabe keine persönlichen Daten sind. Aber in dem Moment, wenn die KI fertig denkt, verarbeitet die Firma persönliche Daten ohne Rechtsgrundlage.

Meine persönliche Meinung: Dieses graue Feld wird immer größer. Generative KI-Modelle und besonders Sprach-Modelle werden stärker. Sie können besser denken als erwartet. Und die Nutzung wird billiger. Ich denke, das Gesetz muss klarer sagen: Die Pflicht zum Schutz beginnt in dem Moment, wenn die Daten persönlich werden, nicht schon beim Sammeln. Denn beim Sammeln hat die Firma persönliche Infos schon nach dem Gesetz entfernt. Die Firma ist vor diesem Moment nicht verantwortlich, wenn sie ein gutes System hat. Das System muss das Problem erkennen und richtig handeln, zum Beispiel das Ergebnis blockieren.

7. Konflikt über das Leben von Daten

Das KI-Gesetz sagt: Anbieter von KI mit hohem Risiko müssen technische Dokumente und Protokolle machen, aktualisieren und speichern. Das ist nötig für die Prüfung vor und nach der Nutzung. Ich finde den Grund dafür richtig: Wenn etwas passiert, zum Beispiel eine falsche KI-Entscheidung mit Schaden, dann müssen die Behörden die Ursache finden.

Aber das Prinzip der Minimalisierung im Datenschutz-Gesetz, nach Dekret 356, sagt: Man darf nur so wenige Daten sammeln und speichern wie nötig. Und man muss sie löschen, wenn der Zweck fertig ist. Hier ist der Widerspruch: Für die Prüfung der KI muss die Firma die Prompts speichern. Prompts sind die Befehle der Nutzer an das System. Aber diese Prompts haben oft sehr sensible Infos:

• Ein Nutzer gibt seine Krankenakte in eine medizinische KI und fragt nach Symptomen
• Eine Firma gibt ihren Finanzbericht in eine Analyse-KI und sucht nach Risiken
• Eine Person gibt Infos über Familie und Beziehungen in eine psychologische Beratungs-KI

Wenn die Firma das volle Protokoll speichert, verletzt sie die Minimalisierung. Wenn sie es nicht speichert, verletzt sie die Pflicht zur Kontrolle von Hochrisiko-KI. Was sollen Start-ups mit KI-Apps also richtig machen?

Und Artikel 23 im KI-Gesetz sagt noch: Inhalte von KI müssen ein Wasserzeichen haben. Das hilft gegen Deepfake und Betrug. Aber für das Zeichen und die Herkunft muss die Firma viele Meta-Daten über Nutzer speichern. Das geht gegen das Prinzip der geringen Sammlung im Daten-Gesetz.

Meine persönliche Meinung: Die Firma muss jetzt zwei gegensätzliche Rollen spielen. Sie ist Kontrolleur, sie kontrolliert Nutzer gegen Betrug. Und sie ist Verteidiger, sie schützt absolut die Privatsphäre der Nutzer. Das ist unmöglich. Ich denke, eine technische Lösung aus westlichen Ländern kann helfen: Alle Protokolle von Hochrisiko-KI müssen end-zu-end verschlüsselt sein. Nur ein Gericht kann die Öffnung befehlen. Das balanciert beide Ziele. Aber wir brauchen noch klare Regeln: In welchen Fällen darf das Gericht die Daten sehen? So vermeiden wir Missbrauch des Prüfungs-Rechts.