Datenschutzaktivistin: "Big Data verstärkt die Macht-Asymmetrie"

Der Sonntag: Der Begriff "Algorithmus" geht auf den Namen eines persisch-arabischen Mathematikers aus dem 9. Jahrhundert zurück und beschreibt eindeutige Handlungsanweisungen. Was meinen Sie, wenn Sie heute von Algorithmen sprechen, Frau Tangens?

Ich meine auch Handlungsanweisungen, die meist durch Software in Computern verarbeitet werden. Es sind Anweisungen, wie bestimmte Dinge zu bearbeiten sind und was damit geschieht. Zum Beispiel ein Suchalgorithmus, der bestimmte Zeichenkombinationen findet.

Der Sonntag: Da kommt mittlerweile auch häufig Künstliche Intelligenz ins Spiel. Oder würden Sie die Felder getrennt betrachten?

Ja, denn "Künstliche Intelligenz" ist ein populäres Schlagwort, mit dem vor allem Politikerinnen und Politiker um sich werfen. Wissenschaftlerinnen und Wissenschaftler, die damit arbeiten, nennen es "machine learning" [Englisch für "maschinelles Lernen", d. Red.]. Bei Künstlicher Intelligenz wird es unübersichtlich. Da sagen Firmen dann tatsächlich hinterher: "Wir haben auch keine Ahnung, wie der Computer jetzt zu diesem Ergebnis gekommen ist. Der lernt halt aus den Daten, die ihm vorgelegt wurden."

Der Sonntag: Man kann sich also schnell aus der Verantwortung ziehen?

Ja, es dient sehr oft dazu, sich aus der Verantwortung zu ziehen. Aber es ist möglich, Algorithmen so zu programmieren, dass nachvollziehbar ist, was sie da tun. Dafür muss man sich aber schon beim Programmieren entscheiden. Und das halte ich für absolut geboten. Es muss möglich sein, getroffene Entscheidungen nachvollziehen zu können; Betroffene müssen Informationen bekommen können, warum eine Entscheidung so oder so getroffen wurde. Es muss möglich sein, die Kriterien offen zu legen und gegebenenfalls muss so eine Entscheidung auch korrigiert werden.

Der Sonntag: Beispielsweise, wenn der Algorithmus einer Bank einen nicht für kreditwürdig befunden hat?

Genau. Das eine ist also nachvollziehbarer Code und das andere – Information, Offenlegung und Korrekturmöglichkeit – sind Regeln, die in Gesetzte gefasst werden müssen. Ich würde aber noch etwas Grundsätzlicheres hinzufügen: Nämlich eine Debatte darüber, welche Entscheidungen wir Algorithmen überhaupt überlassen wollen. Wir sollten es nicht als naturgegeben annehmen sondern wir sollten uns bewusst machen, dass es menschengemacht ist. Dass es etwas ist, wo wir ein Mitspracherecht haben. Und das sollten wir auch ausüben.

Der Sonntag: Sie kritisieren auch, dass es bisher nicht "wir", alle Betroffenen, sind, die bestimmen, was ein Algorithmus tut, sondern nur eine kleine Gruppe von Menschen.

Ja, hier muss man ganz klar sehen, dass es sich um ein Machtverhältnis handelt. Datenbanken und der Zugriff auf die darin gesammelten Daten konstituieren ein Machtverhältnis. Big Data verstärkt die Macht-Asymmetrie zwischen Bürgerinnen und Staat, Verbrauchern und Wirtschaft und Arbeitnehmerinnen und Arbeitgebern. Und Freiheit leidet nicht nur, wenn wir überwacht werden oder wenn vertrauliches Material über uns veröffentlicht wird. Sie leidet auch, wenn massenhaft, detailliert und über einen langen Zeitraum beiläufig Daten über uns gesammelt werden. Aus denen lässt sich unser Verhalten tatsächlich analysieren und das ist vielen Leuten nicht so klar.

Der Sonntag: Oder sie sagen: "Ich habe nichts zu verbergen."

Diese Aussage ist extrem unsolidarisch und kurzsichtig. Kurzsichtig weil sie auch ein Versprechen bedeutet: "Ich werde auch in Zukunft nichts zu verbergen haben. Auch, wenn sich beispielsweise die Regierung ändert." Dann liegt ja schon alles offen, man kann gar nicht mehr anders. Und unsolidarisch, weil die Aussage impliziert, dass Menschen, die anders handeln als ich, offenbar etwas zu verbergen haben – und das ist mies. Es geht ja nicht um Mord und Totschlag. Es gibt Fehler, die keinen Schaden anrichten und aus denen man vielleicht etwas lernt. Wenn man sagt: "Ich habe nichts zu verbergen", tut man so, als spräche man über sich selbst, aber gleichzeitig tritt man einen Schritt weg von den anderen.

Der Sonntag: So schließt sich der Kreis zu den sogenannten Filterblasen, die auch durch Algorithmen erzeugt werden.

Ja. In den USA kann man etwas beobachten, das nennt sich "the big sort", das große Aussortieren – die Leute sortieren sich selbst. Dort werden Häuser selten gemietet, meist kauft man sie. Bevor man eine solche Investition tätigt, möchte man natürlich wissen, wer die Nachbarn sind. Es gibt offene Datenbanken mit Angaben dazu, wer sich als Wähler registriert hat und welcher Partei sich die Person nahe fühlt – das muss man bei der Registrierung angeben. Das führt dazu, dass beispielsweise ein Republikaner eher nicht in eine Gegend zieht, wo die Mehrheit Demokraten wählt und so entmischt es sich immer weiter. Und so wird es immer unfriedlicher und intoleranter.

Der Sonntag: Ihr Rezept dagegen?

Immer, wenn man jemanden Anspricht, macht man irgendwo ein kleines Luftloch in so eine Filterblase (lacht) .