China überwacht seine 1,4 Milliarden Bürger lückenlos. Möglich macht das ein KI-Modell, das Peking etwa nach Russland exportiert. Die Russen seien sich der Gefahr der Technologie bewusst, sagt Experte Michael Rochlitz. Noch gefährlicher werde es, wenn US-Präsident Trump sie für sich entdecke.

ntv.de: Wie kam es, dass autoritäre Staaten KI für ihre Zwecke entdeckt haben?

Michael Rochlitz: China ist da der Vorreiter gewesen. Es hat angefangen mit dem asiatischen Spiel Go, das viel komplexer ist als Schach. Das Londoner Startup DeepMind hatte 2016 die erste KI entwickelt, die in Go besser war als asiatische Spieler, auch jene aus China. Dieses Team ist nach Seoul geflogen, die KI hat dort gegen den koreanischen Weltmeister Lee Sedol gespielt und vier von fünf Spielen gewonnen. Das war der Aha-Moment für die Chinesen: Westliche Computerexperten waren plötzlich stärker als Asiaten in diesem sehr asiatischen Spiel. Aus Angst, ins Hintertreffen zu geraten, hat der chinesische Staat dann massiv in KI investiert. Große Mengen an Daten über die chinesische Bevölkerung hatte China sowieso bereits gesammelt, unter anderem durch das Social Credit System…

… das staatliche Sozialkreditsystem, das Bürger und Unternehmen anhand ihres Verhaltens und ihrer Einhaltung von Gesetzen und Vorschriften bewertet und eine Punktzahl zuweist.

Überall in China sind mittlerweile Kameras mit Gesichtserkennung installiert, die das möglich machen. Es gibt in China sogar neue Wohnungen ohne Schlüssel, die nur durch Gesichtserkennung aufgeschlossen werden. Peking bündelt inzwischen detaillierte Daten seiner Bürger, um damit Kontrolle auszuüben. Chinesische Firmen bekommen vom Staat große Mengen dieser Daten, um ihre KI zu trainieren. Die Firmen entwickeln dann Überwachungssysteme, die an regionale Regierungen weitergegeben werden. Wo das geschieht, gibt es einen messbaren Rückgang an öffentlichen Protesten gegen die Regierung. Gleichzeitig haben diese Firmen durch die große Menge an Trainingsdaten einen Standortvorteil gegenüber westlichen Konkurrenten, was zu höherem Wirtschaftswachstum führt. So entsteht eine Art Win-Win-Situation für den autoritären Staat: Konjunkturaufschwung und gleichzeitig bessere Überwachung der Bevölkerung.

Und davon lernen andere Autokraten?

China exportiert dieses Modell durch die neue Seidenstraße, an der über 60 Länder teilnehmen. Andere Staaten können das Modell unter dem Namen Safe City Solutions kaufen. Abnehmer sind zum Beispiel Russland, die Golfstaaten und Kasachstan. Ich besuche mit einer Forschungsgruppe jedes Jahr Kasachstan. Bereits letztes Jahr gab es da überall Kameras mit Gesichtserkennung - an Unigebäuden, Bussen und sogar in der Seilbahn im Gebirge. Man bezahlt mit dem Gesicht. Das ist praktisch, kann aber auch negative Folgen haben. Technologisch kann für bestimmte Personen so der Zugang zu Gebäuden oder zum Nahverkehr gesperrt werden. Auf diese Weise können zum Beispiel Proteste verhindert werden. Die Leute bleiben dann zu Hause.

Russland hat Chinas KI-Modell also gekauft und nutzt es?

Russland hat sowohl chinesische Lösungen gekauft, als auch eigene Systeme mit chinesischer Technologie entwickelt. Diese wurden noch nicht flächenmäßig eingeführt, aber die Moskauer Metro zum Beispiel hat es schon. In der Moskauer Metro bezahlt man mit seinem Gesicht, wird also einfach von der Gesichtserkennung gescannt, wenn man reinläuft. Angenommen, jemand bekommt einen Brief vom Rekrutierungsbüro für eine Musterung, um in der Ukraine zu kämpfen - und erscheint dort nicht. Falls derjenige dann Metro fährt, wird sein Gesicht erkannt und er kann festgenommen werden.

Ist Russland damit auf dem Weg in die Totalüberwachung und entwickelt ein eigenes Social Credit System?

Russland hat ein System für staatliche Dienste entwickelt, die digitale Platform "Gosuslugi". Es ist äußerst fortgeschritten. Russen können es nutzen, um Steuern zu bezahlen, medizinische Dienste in Anspruch zu nehmen oder das Kind im Kindergarten anzumelden. Mittlerweile werden auch Einberufungsbescheide über Gosuslugi verschickt. In Kasachstan gibt es ein ähnliches System. Falls ein Staat diese Karten mit dem Polizeiregister verbindet, hat er ein unglaublich leistungsfähiges Werkzeug, um Menschen zu überwachen.

Was halten die Russen von diesem System?

Wir haben Menschen für eine Studie in verschiedenen Ländern gefragt, was sie von solchen Systemen halten - in Russland, Kasachstan, Estland, Deutschland, der Türkei und den USA. Es gab zwei Gruppen. Einer Gruppe wurde das System mit dem Satz vorgestellt, es könne die Regierungsarbeit viel effizienter machen. Über alle Länder hinweg akzeptierten dann 60 bis 70 Prozent der Befragten dieses System. Der zweiten Gruppe haben wir aber noch eine zusätzliche Information gegeben: Das System ist zwar effizient, aber die Regierung kann es auch verwenden, um Sie zu überwachen und Proteste zu unterbinden. Dadurch sinkt in allen Ländern die Akzeptanz des Systems im Durchschnitt um die 5 bis 10 Prozentpunkte. Die einzige Ausnahme: Russland, wo die Akzeptanz um 25 Prozentpunkte sank.

Ausgerechnet in Russland?

Wir haben die Umfrage im Oktober 2022 durchgeführt und in Russland 2462 Menschen befragt. Unsere Einschätzung ist, dass die Russen nach dem Kriegsbeginn besonders Angst vor dem Kreml hatten. Wir haben die Umfrage einen Monat nach der partiellen Mobilisierung und ein paar Monate nach Beginn der Invasion in die Ukraine durchgeführt. In Russland waren zu diesem Zeitpunkt alle oppositionellen Fernsehsender abgeschaltet worden und Alexej Nawalny war im Gefängnis. Es war die Wendung hin zu einem völlig autoritären Staat ohne jegliche Freiheiten.

Die Russen sind sich also völlig bewusst darüber, wie gefährlich der autoritäre Staat ist, in dem sie leben?

Ja, es scheint ein Bewusstsein über die unterschwellige Gefahr zu geben. Wenn man die russischen Befragten ein bisschen anstupst und auf die potenzielle Gefahr eines solchen technischen Systems hinweist, lehnen viele es ab. Zugleich ist jegliche Form von Protest in Russland unmöglich geworden, vor allem aufgrund der Polizeipräsenz überall. Es gibt keine Form von Zivilgesellschaft mehr, die sich gegen die Einführung solcher Systeme auflehnen kann. Deswegen ist es in Russland einfacher, sowas einzuführen, als in demokratischen Staaten wie Deutschland.

Und was passiert in Staaten, die solche KI-Technologien zur Überwachung einführen?

Wenn die Technologie einmal eingeführt ist, stützt sie die Autokratie - und ein Wandel zurück zur Demokratie wird schwieriger. In vielen Ländern gab es Pendelbewegungen, mal hin zur Demokratie, mal hin zur Autokratie. Nach den Protesten des Arabischen Frühlings etwa schlug das Pendel in diesen Ländern in Richtung Demokratie aus, dann durch neue Diktatoren wieder in die autokratische Richtung. Wenn ein Diktator diese Technologie einführt, kann er Menschen, die protestieren wollen, leichter hinter Schloss und Riegel setzen. Dann bleiben die Länder autokratisch. Stellen wir uns das in den USA vor, wenn Präsident Donald Trump sagt: Für eine effiziente Regierung wird jetzt dieses KI-System eingeführt. Dann verliert er die nächste Wahl und akzeptiert das nicht. Falls Menschen dagegen auf die Straße gehen wollen, können sie das aufgrund der Überwachung nicht mehr.

Die USA sind neben China Spitzenreiter, wenn es um die Entwicklung von KI geht. Wird Trump das Potenzial erkennen und für sich nutzen?

Die USA sind führend bei der absoluten Spitzenforschung, aber nicht im Bereich Überwachungstechnologie. Da haben die Chinesen die Nase vorn. Die USA haben noch nicht diese Möglichkeit, dass der Staat gebündelt einfach die Daten aller Amerikaner für die Überwachung nutzt. Und Trump steht sich vermutlich selbst im Weg, weil er sich jeden Tag für etwas anderes interessiert. Jetzt will er erstmal dieses Flugzeug aus Katar, morgen etwas anderes. Da fehlt die langfristige Strategie. Aber im Silicon Valley wird viel geforscht. Und die Tech-Milliardäre in Trumps Umfeld erkennen das Potenzial von KI.

Wenn nicht Trump selbst, könnten also die US-Tech-Milliardäre auf die totale Kontrolle durch KI hinarbeiten?

Im Hintergrund gibt es bestimmt Leute, die eine langfristige Strategie verfolgen, zum Beispiel in den konservativen Think Tanks. Die könnten denken: Wir haben jetzt diese Technologie und müssen sie nur noch einführen. Menschen wie Elon Musk haben das Potenzial von KI längst erkannt. Solche Leute könnten sagen: Schön und gut, dann bekommt Trump heute sein Flugzeug - aber in fünf oder zehn Jahren wollen wir auch mal an der Macht sein. Dann macht es für sie Sinn, KI-Systeme zur Überwachung einzuführen.

Mit Michael Rochlitz sprach Lea Verstl

Haftungsausschluss: Das Urheberrecht dieses Artikels liegt bei seinem ursprünglichen Autor. Der Zweck dieses Artikels besteht in der erneuten Veröffentlichung zu ausschließlich Informationszwecken und stellt keine Anlageberatung dar. Sollten dennoch Verstöße vorliegen, nehmen Sie bitte umgehend Kontakt mit uns auf. Korrektur Oder wir werden Maßnahmen zur Löschung ergreifen. Danke