Spionage oder Ausbeutung? Eine unbequeme Wahl zwischen zwei Datenmodellen

Der eine schaut mir vielleicht über die Schulter, wenn es um etwas Bestimmtes geht. Der andere sitzt permanent neben mir und rechnet aus, wie er mich noch ein bisschen besser verkaufen kann.

Ich rede öfter mit einer chinesischen KI als mit einer amerikanischen. Nicht aus Sympathie für Peking, sondern aus einer nüchternen, fast zynischen Kalkulation: Die einen wollen wissen, was ich denke. Die anderen wollen wissen, was ich kaufe.

Das ist bewusst zugespitzt. Aber die Zuspitzung hat einen realen Kern.

Die amerikanische Variante: Verhalten als Rohstoff

Die Harvard-Ökonomin Shoshana Zuboff hat für das amerikanische Modell einen Namen geprägt, der hängen geblieben ist: Überwachungskapitalismus.^[1] Ihre These, verkürzt: Tech-Konzerne beanspruchen menschliches Verhalten als kostenloses Rohmaterial, verwandeln es in „Verhaltensüberschuss“, und verkaufen daraus gewonnene Vorhersagen an Werbetreibende – in einem Markt, den der Einzelne nie zu Gesicht bekommt.^[2] Nicht das Produkt wird verkauft. Man selbst wird verkauft, verpackt als Prognose.

Für KI-Chatbots bedeutet das konkret: Trainingsdaten aus Nutzergesprächen, verschachtelte Zustimmungserklärungen, Abo-Modelle mit eingebautem Aufwärtsdruck – und, siehe Copilot, ein Interface, das mitten im Satz zur Kasse bittet. Das ist kein Bug. Das ist das Geschäftsmodell, das seit zwanzig Jahren funktioniert und auf KI-Chats übertragen wird, weil es woanders profitabel war.

Und dann ist da noch die staatliche Ebene, die gerne übersehen wird, wenn man nur auf China zeigt: der CLOUD Act von 2018.^[3] Er verpflichtet US-Unternehmen, Daten auf Anordnung amerikanischer Behörden herauszugeben – unabhängig davon, wo auf der Welt die Server stehen.^[4] Ein Konzern mit Sitz in Redmond oder San Francisco kann sich nicht hinter einem Rechenzentrum in Frankfurt verstecken. Wer glaubt, „amerikanisch“ bedeute automatisch „nur privatwirtschaftlich, kein Staat im Spiel“, hat den Act nicht gelesen.

Die chinesische Variante: Loyalität als Pflicht

Auf der anderen Seite steht Artikel 7 des chinesischen Staatssicherheitsgesetzes von 2017: „Alle Organisationen und Bürger müssen die nationale Aufklärungsarbeit gemäß dem Gesetz unterstützen, dabei mitwirken und mit ihr kooperieren.“^[5] Das ist keine Bitte. Ein chinesisches Unternehmen – und damit potenziell auch ein chinesisches KI-Modell, sofern es Daten auf chinesischen Servern verarbeitet – steht in einem Rechtsrahmen, der Kooperation mit dem Staat nicht optional macht.^[6]

Das Interessante: Juristen streiten bis heute, wie weit dieser Artikel in der Praxis wirklich reicht – manche halten ihn für eine allgemeine Loyalitätsfloskel im „Allgemeinen Teil“ des Gesetzes, nicht für eine scharfe Ermächtigung zur Totalüberwachung jedes Nutzergesprächs.^[7] Aber die Unsicherheit selbst ist schon die Botschaft: Man weiß nicht genau, wo die Grenze verläuft, und das allein verändert das Kalkül.

Der Unterschied, um den es eigentlich geht

Hier die ehrliche Zuspitzung, ohne mich rauszuschummeln: Es ist nicht „Diktatur böse, Demokratie gut“ gegen „Freund China, Feind USA“. Es ist eine Frage nach dem Motiv der Datensammlung.

Der amerikanische Apparat will vor allem eins: mich als Konsumenten optimieren. Kaufverhalten vorhersagen, Engagement maximieren, ein Abo verkaufen, eine Werbeanzeige treffsicherer platzieren. Das Interesse ist ökonomisch, breit gestreut, auf jeden von uns gleichermaßen gerichtet – und gerade deshalb allgegenwärtig und penetrant.

Der chinesische Apparat will vor allem eins: relevante Information für den Staat. Das ist gezielter, aber auch grundsätzlicherer Natur – es geht um Sicherheit und Kontrolle, nicht um meinen nächsten Kauf. Für die meisten von uns, die nicht in sicherheitsrelevanten Bereichen unterwegs sind, ist das im Alltag vermutlich sogar das kleinere Risiko. Aber es ist ein Risiko mit einer anderen Handschrift: keine Werbebanner, dafür eine Unschärfe darüber, wer am anderen Ende mitliest. Und „relevant“ ist keine feste Kategorie – sie verschiebt sich mit der politischen Lage. Was heute harmlos ist, kann morgen im Fokus stehen.

Was gegen diese saubere Trennung spricht

Und jetzt die Einschränkungen, die man nennen muss, wenn man ehrlich sein will:

Erstens: Auch chinesische Konzerne monetarisieren Daten kommerziell – Alibaba, Tencent, ByteDance leben von Werbung wie jeder westliche Plattformkonzern auch. Die Trennung „Amerikaner wollen Geld, Chinesen wollen Informationen“ ist eine Vereinfachung, keine reine Wahrheit.

Zweitens: Die USA haben eine eigene, sehr lange Geschichte staatlicher Massenüberwachung – PRISM, die Snowden-Enthüllungen, die NSA-Programme. Wer glaubt, amerikanische Server seien vor dem eigenen Staat sicherer als chinesische vor dem chinesischen, unterschätzt die eigene Regierung.

Drittens: Die Unterscheidung „KI-Anbieter X ist amerikanisch, also Kapitalismus“ vs. „KI-Anbieter Y ist chinesisch, also Staat“ ist zu grob für die tatsächliche Unternehmenslandschaft. Es gibt amerikanische Anbieter, die kein Werbegeschäft betreiben und keine Trainingsdaten aus bezahlten Konversationen ziehen. Es gibt chinesische Anbieter mit Sitz außerhalb Festlandchinas, für die Artikel 7 gar nicht unmittelbar greift.

Warum ich trotzdem bei meiner Wahl bleibe

Mit all diesen Einschränkungen im Kopf bleibt für mich am Ende doch eine pragmatische Präferenz: Ich bevorzuge das Modell, dessen Interesse an mir begrenzter und klarer umrissen ist – auch wenn es potenziell tiefer reicht, wo es reicht –, gegenüber einem Modell, dessen Interesse an mir total und alltäglich ist, weil es mich rund um die Uhr optimieren, binden und monetarisieren will.

Der eine schaut mir vielleicht über die Schulter, wenn es um etwas Bestimmtes geht. Der andere sitzt permanent neben mir und rechnet aus, wie er mich noch ein bisschen besser verkaufen kann.

Beides ist kein Zustand, den man gutheißen sollte. Aber wenn ich wählen muss, mit wem ich über Postfix, DANE und DKIM rede, wähle ich das Gegenüber, das mir wenigstens nicht ständig ein Upgrade andrehen will.

Fußnoten

1. Shoshana Zuboff, The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power, PublicAffairs, 2019. Definition und Einordnung des Begriffs „Überwachungskapitalismus“, insbesondere Kapitel 2 und 3. → Verlagsseite mit Inhaltsangabe ↩
2. Zuboff beschreibt das Modell als Handel mit „behavioral surplus“ in einem Markt, den Nutzer nie zu sehen bekommen. Eine kompakte Zusammenfassung ihrer Thesen findet sich bei Harvard Business Review und in zahlreichen Rezensionen zum Buch. → HBR-Rezension ↩
3. CLOUD Act (Clarifying Lawful Overseas Use of Data Act), verabschiedet am 23. März 2018 als Teil des Consolidated Appropriations Act. → Congress.gov – H.R. 4943 ↩
4. Der Act verpflichtet US-Anbieter zur Herausgabe von Daten unabhängig vom Speicherort, ausgelöst durch den Rechtsstreit USA gegen Microsoft um E-Mail-Daten auf einem Server in Irland. → US Department of Justice – CLOUD Act ↩
5. Nationales Nachrichtendienstgesetz der VR China (State Security Law), Artikel 7, in Kraft seit Juni 2017. Englische Übersetzung von China Law Translate. → China Law Translate – National Security Law ↩
6. Diskussion der praktischen Reichweite von Artikel 7 für Tech-Unternehmen und die Frage, inwieweit sie zu Datenherausgabe verpflichtet sind. → The Strategist – ASPI ↩
7. Gegenposition: Die systematische Platzierung von Artikel 7 im „Allgemeinen Teil“ des Gesetzes spricht eher für eine allgemeine Loyalitätsklausel als für eine scharfe operative Ermächtigung. → China Law Translate – Analyse ↩