KI und Datenschutz: 10 Probleme für Unternehmen (Teil 2)

Dies ist der zweite Teil. Der Artikel zeigt Probleme, die Unternehmen bei der Umsetzung des KI-Gesetzes und des Datenschutzgesetzes haben, und schlägt Lösungen vor.

5. Alte Daten, neue Zwecke: Das Problem bei der Wiederverwendung von Daten

Das KI-Gesetz (Artikel 20, Absatz 4) fördert die Nutzung, das Teilen und die Wiederverwendung von Daten aus der nationalen KI-Datenbank für Forschung, Training, Tests und Innovation. Das ist der Geist von „Daten sind das neue Öl“: Je mehr Daten wiederverwendet werden, desto mehr neuen Wert schaffen sie.

Aber das Datenschutzgesetz (Artikel 3 und 9) verlangt, dass die Datenverarbeitung einem „bestimmten, klaren Zweck“ dienen muss. Die Einwilligung muss für jeden Zweck einzeln gegeben werden. Es ist nicht erlaubt, die Einwilligung für andere Zwecke zu verlangen.

Das ist ein großes logisches Problem: Wenn ein Unternehmen im Jahr 2026 Daten für Zweck A sammelt (zum Beispiel um das Einkaufserlebnis zu verbessern), kann es nicht wissen, dass es diese Daten im Jahr 2028 nutzen möchte, um ein KI-Modell zu trainieren, das Konsumtrends vorhersagt (Zweck B). Wenn Zweck B auftaucht, muss das Unternehmen Millionen von Menschen erneut um ihre Einwilligung bitten.

Das ist fast unmöglich, weil viele Nutzer die Plattform nicht mehr nutzen. Außerdem entstehen hohe Kosten: Kosten für Kontaktaufnahme (Briefe, Telefonate), Personalkosten, Kosten für Speicherung und Verarbeitung. Zum Beispiel: Eine große Bank (wie Bank T) mit etwa 18 Millionen Kunden müsste etwa 90 Milliarden VND ausgeben, nur um die Einwilligung neu einzuholen. Das sind durchschnittlich 5.000 VND pro Kunde.

Das Recht, gegen automatisierte Entscheidungen Einspruch zu erheben, könnte eine Lücke schaffen. Bild: Magnific.

Experten für die DSGVO nennen das das „Zweckbindungsparadoxon“: Je genauer und enger Sie den Zweck definieren, desto schwieriger ist es, den Wert der Daten zu nutzen. Wenn Sie den Zweck aber zu weit fassen (zum Beispiel „für geschäftliche Zwecke“), verstoßen Sie gegen den Geist des Datenschutzgesetzes.

Persönliche Meinung: Ich glaube, viele Unternehmen werden versuchen, mit sehr weiten und unklaren Einwilligungsklauseln zu arbeiten. Aber die EU hat gezeigt, dass das nicht funktioniert: Gerichte können solche Klauseln für ungültig erklären, weil sie nicht „klar und konkret“ sind. Eine bessere Lösung: Die Behörden sollten den Begriff „kompatibler Zweck“ einführen. Dann darf man Daten wiederverwenden, wenn der neue Zweck logisch mit dem ursprünglichen Zweck zusammenhängt und die betroffene Person nicht benachteiligt wird.

6. Wenn KI selbst personenbezogene Daten erzeugt

Das ist ein sehr neues, graues Gebiet, das viele – auch Juristen und Techniker – nicht erkennen. Das KI-Gesetz (Artikel 3) beschreibt KI als ein System, das „aus Eingabedaten Schlussfolgerungen zieht, um Ausgaben wie Vorhersagen, Inhalte oder Empfehlungen zu erzeugen“. Das Dekret 356 (Artikel 10, Absatz 2) sagt: „Daten aus den Schlussfolgerungen der KI, die verwendet werden können, um eine bestimmte Person zu identifizieren, müssen geschützt werden.“

Ein Beispiel: Ein Start-up entwickelt eine KI, die öffentliche Beiträge in sozialen Medien analysiert (ohne persönliche Informationen), um Trends vorherzusagen. Die Eingaben sind völlig anonym. Aber die KI kann schlussfolgern: „Dieses Konto gehört wahrscheinlich einer Frau zwischen 30 und 35 Jahren, die im Bezirk Cau Giay lebt, im Marketing arbeitet und kleine Kinder hat.“ Plötzlich wird die Ausgabe der KI zu personenbezogenen Daten, auch wenn der Entwickler das nicht beabsichtigt hat.

Das Problem: Das Unternehmen kann nicht im Voraus um Einwilligung bitten (weil die Eingaben keine personenbezogenen Daten sind). Aber sobald die KI ihre Schlussfolgerung zieht, verarbeitet das Unternehmen personenbezogene Daten ohne rechtliche Grundlage – denn die Daten gehören keiner bestimmten Person.

Persönliche Meinung: Dieses graue Gebiet wird immer größer, weil generative KI-Modelle stärker werden, besser schlussfolgern können und billiger sind. Ich denke, das Gesetz sollte klarer sagen: Die Pflicht zum Schutz entsteht in dem Moment, in dem Daten zu personenbezogenen Daten werden – nicht beim Sammeln. Denn beim Sammeln hat das Unternehmen die persönlichen Informationen bereits entfernt. Und das Unternehmen sollte vor diesem Zeitpunkt keine Verantwortung haben, wenn es einen Mechanismus hat, um solche Ausgaben zu erkennen und richtig zu behandeln (Output-Guardrail).

7. Der Konflikt um den Lebenszyklus von Daten

Das KI-Gesetz verlangt, dass Anbieter von Hochrisiko-KI-Systemen „technische Unterlagen und Betriebsprotokolle erstellen, aktualisieren und aufbewahren, soweit dies für die Bewertung der Konformität und für Kontrollen nach der Inbetriebnahme erforderlich ist“. Ich stimme dem völlig zu, denn wenn etwas passiert (zum Beispiel eine falsche KI-Entscheidung mit Schaden), müssen die Behörden die Ursache finden können.

Aber das Prinzip der Datenminimierung im Datenschutzgesetz (Dekret 356) verlangt: Nur Daten sammeln und speichern, die „notwendig“ sind, und sie löschen, wenn der Zweck erreicht ist. Der Konflikt: Um KI-Aktivitäten prüfen zu können, müssen Unternehmen die Prompts (Befehle) speichern, die Nutzer in das System eingeben. Diese Prompts enthalten oft sehr sensible Informationen:

• Ein Nutzer gibt seine Krankenakte in eine medizinische ChatGPT ein, um nach Symptomen zu fragen;

• Ein Mitarbeiter fragt ein KI-Tool nach Vertragsentwürfen mit Geschäftsgeheimnissen;

• Ein Kunde gibt seine Steuer-ID in einen KI-Chatbot ein, um Hilfe bei der Steuererklärung zu bekommen.

Das Unternehmen muss diese Prompts speichern, um die KI zu prüfen. Aber das verstößt gegen das Prinzip der Datenminimierung. Das ist ein klarer Widerspruch zwischen den beiden Gesetzen.

Persönliche Meinung: Ich denke, der Gesetzgeber sollte eine Ausnahme machen: Für die Prüfung von KI-Systemen darf man Daten länger speichern, aber nur für diesen Zweck. Man sollte die Daten verschlüsseln und den Zugriff streng kontrollieren. Und man sollte die Daten löschen, sobald die Prüfung abgeschlossen ist. So kann man beide Ziele erreichen: Sicherheit und Datenschutz.