Probleme für Firmen mit dem KI-Gesetz und dem Datenschutzgesetz - Teil 2

Dies ist der zweite Teil. Im ersten Teil [siehe Link] ging es auch um Probleme für Firmen mit dem KI-Gesetz und dem Datenschutzgesetz. Dieser Teil zeigt weitere Probleme und Ideen für Lösungen.

5. Alte Daten, neues Ziel: Das Problem der Wiederverwendung von Daten

Das KI-Gesetz in Artikel 20, Absatz 4 sagt: Wir sollen Daten aus der nationalen Datenbank für KI nutzen, teilen und wiederverwenden. Zum Beispiel für Forschung, für das Training, für Tests und für neue Ideen. Die Idee ist: "Daten sind das neue Öl". Je mehr wir Daten wiederverwenden, desto mehr Wert schaffen wir.

Aber das Datenschutzgesetz in Artikel 3 und Artikel 9 sagt etwas anderes. Die Arbeit mit Daten muss ein "konkretes und klares Ziel" haben. Die Zustimmung der Person muss "für jedes Ziel extra" gegeben werden. Man darf nicht sagen: Du musst für alle Ziele gleichzeitig Ja sagen.

Hier gibt es einen großen logischen Konflikt. Ein Beispiel: Eine Firma sammelt im Jahr 2026 Daten für Ziel A, zum Beispiel um den Online-Shop besser zu machen. Im Jahr 2028 will die Firma dieselben Daten für Ziel B nutzen, zum Beispiel um ein KI-Modell zu trainieren, das das Kaufverhalten vorhersagt. Für Ziel B braucht die Firma eine neue Zustimmung von Millionen von Personen.

Das ist fast unmöglich. Viele Nutzer benutzen die Plattform nicht mehr. Und es kostet sehr viel Geld. Die Kosten sind zum Beispiel: Geld für Kontakt (Briefe, Anrufe), Geld für Mitarbeiter, Geld für das Speichern und Arbeiten mit Daten. Ein Beispiel ist Bank T. Sie hat circa 18 Millionen Kunden. Sie muss circa 90 Milliarden Dong bezahlen, nur um wieder die Zustimmung zu bekommen. Das sind im Durchschnitt 5.000 Dong pro Kunde.

Recht auf Widerspruch gegen automatische Entscheidungen kann eine Lücke schaffen. Foto: Magnific.

Experten für die europäische Datenschutz-Regel GDPR nennen das "purpose limitation paradox" (Paradox der Ziel-Begrenzung). Das bedeutet: Je genauer und enger du das Ziel definierst, desto schwerer kannst du den Wert der Daten nutzen. Aber wenn du das Ziel zu breit definierst (zum Beispiel "für alle Geschäftsziele"), dann verletzt du das Datenschutzgesetz.

Persönliche Meinung: In der Praxis werden viele Firmen am Anfang versuchen, mit Worten zu spielen. Sie schreiben sehr breite und unklare Texte für die Zustimmung. Aber die Erfahrung aus der Europäischen Union zeigt: Das funktioniert nicht. Gerichte können diese Texte für ungültig erklären, weil sie nicht "klar und konkret" sind. Die bessere Lösung ist: Die Regierung muss den Begriff "kompatibles Ziel" definieren. Das bedeutet: Man darf Daten wiederverwenden, wenn das neue Ziel logisch zum alten Ziel passt und wenn es für die Person keinen Nachteil gibt.

6. Wenn KI selbst persönliche Daten erzeugt

Das ist eine sehr neue Grauzone. Viele Menschen im Bereich Recht und Technologie kennen sie noch nicht. Das KI-Gesetz in Artikel 3 sagt: KI ist ein System, das "aus Eingabedaten Schlüsse zieht und Ergebnisse wie Vorhersagen, Inhalte oder Empfehlungen erzeugt". Und die Verordnung 356 in Artikel 10, Absatz 2 sagt: "Daten aus Ergebnissen von KI-Schlüssen müssen wie persönliche Daten geschützt werden, wenn man mit ihnen eine konkrete Person identifizieren kann oder helfen kann, sie zu identifizieren".

Ein Beispiel: Ein Start-up entwickelt eine KI. Die KI analysiert öffentliche Posts in sozialen Medien. Die Posts haben keine persönlichen Informationen mehr. Die Eingabe ist also anonym. Aber die KI kann schlussfolgern: "Dieser Account gehört mit hoher Wahrscheinlichkeit zu einer Frau, 30-35 Jahre alt, sie wohnt im Bezirk Cau Giay, sie arbeitet im Marketing und hat ein kleines Kind." In diesem Moment wird das Ergebnis der KI plötzlich zu normalen persönlichen Daten. Und das passiert, obwohl der Entwickler das nicht wollte.

Das Problem ist: Die Firma kann vorher keine Zustimmung holen. Bei der Sammlung waren es ja keine persönlichen Daten. Aber direkt nach dem Schluss der KI arbeitet die Firma plötzlich "mit persönlichen Daten ohne rechtliche Basis". Denn das Ergebnis beschreibt doch eine konkrete Person.

Persönliche Meinung: Diese Grauzone wird immer häufiger. Besonders weil generative KI und große Sprachmodelle immer stärker werden. Sie können besser schlussfolgern als erwartet und ihre Nutzung wird billiger. Ich denke, das Gesetz muss klarer sein: Die Pflicht zum Schutz beginnt in dem Moment, in dem die Daten zu persönlichen Daten werden. Nicht schon bei der Sammlung - denn damals hat die Firma die persönlichen Informationen nach dem Gesetz schon entfernt. Und die Firma hat vor diesem Moment keine Verantwortung, wenn sie ein System hat, das solche Fälle erkennt und richtig behandelt (output guardrail - Kontrolle des Ergebnisses).

7. Der Konflikt über die Lebensdauer von Daten

Das KI-Gesetz sagt: Anbieter von KI-Systemen mit hohem Risiko müssen "technische Unterlagen und Protokolle erstellen, aktualisieren und speichern". Das ist notwendig, um zu prüfen, ob das System korrekt ist, und um es nach der Einführung zu kontrollieren. Ich stimme dem Grund dafür zu. Wenn ein Problem passiert (zum Beispiel: Die KI trifft eine falsche Entscheidung und verursacht Schaden), dann müssen die Behörden die Ursache finden können.

Aber das Prinzip der Datenminimierung im Datenschutzgesetz (nach Verordnung 356) sagt etwas anderes: Man darf nur so viele Daten sammeln und speichern "wie notwendig" und man muss sie löschen, wenn das Ziel erreicht ist.

Wo ist der konkrete Widerspruch? Für die Kontrolle der KI muss die Firma die Prompts (die Befehle der Nutzer) speichern. Aber diese Prompts enthalten oft sehr sensible Informationen:

• Ein Nutzer gibt seine Krankenakte in einen medizinischen ChatGPT ein und fragt nach Symptomen;

Dieser Konflikt ist noch nicht gelöst. Das KI-Gesetz will lange speichern für die Kontrolle. Das Datenschutzgesetz will wenig speichern und schnell löschen.