Freiheit und Kalkül. Die Politik der Algorithmen. Sabine Müller-Mall
Читать онлайн книгу.
begonnen hat und seitdem weiter fortschreitet, sondern eine allmähliche, schleichende Veränderung der Bedeutung von Algorithmen für die soziale Welt. Im Falle der Algorithmen verdichten sich verschiedene Entwicklungen mit bemerkenswerter Gleichzeitigkeit. Algorithmen lassen sich immer komplexer bauen, da die Rechnerkapazität sowie die Geschwindigkeit der Datenverarbeitung zunehmen und die Möglichkeiten der Vernetzung immer umfassender werden. Techniken maschinellen Lernens differenzieren sich aus. Das heißt, Algorithmen sind mittlerweile häufig in der Lage zu lernen – sie können ihre Fähigkeit, Probleme zu lösen oder Entscheidungen zu treffen, in einem bestimmten Sinne verbessern. Je mehr Daten solche lernenden Algorithmen zur Verfügung gestellt bekommen, je häufiger sie Datensätze durchlaufen und trainieren, desto schneller und genauer können sie Daten in einen Zusammenhang bringen.
Vor allem (jedoch nicht nur) wegen dieser Fähigkeit, eigenständig zu lernen, wurde der Begriff ›Algorithmen‹ zentral, um die Form vielfältiger Techniken künstlicher Intelligenz zu beschreiben. Gleichzeitig wurde der Begriff damit zu einer Chiffre für Techniken künstlicher Intelligenz in einem sehr weiten Sinne, obwohl dieser Begriff sie nur teilweise beschreibt: Die neuen Techniken greifen zwar immer auf algorithmische Strukturen zurück, sind als Algorithmen aber nicht vollständig erfasst. Trotz dieser Einschränkung verwende ich den Begriff der Algorithmen der Verständlichkeit halber in diesem übergreifenden Sinne, nämlich als Chiffre für Techniken künstlicher Intelligenz.
Computerisierung, Mobilisierung und Algorithmisierung verstärken sich als Entwicklungen wechselseitig. Sie beschleunigen die Entwicklung der jeweils anderen Stränge und bündeln Kapazitäten. Der Begriff der Digitalisierung, so die hier unterlegte These, beschreibt diese sich selbst verstärkende und in alle Bereiche der sozialen Welt ausgreifende Bündelung von Computerisierung, Mobilisierung und Algorithmisierung.
Im Folgenden wird es darum gehen, jene Spur zu verfolgen, die die Entwicklungen mit dem Eintritt in die soziale Welt hinterlassen, und zwar dort, wo das Soziale sich formiert und ordnet, wo es Verbindlichkeiten herstellt und Handlungsräume strukturiert, wo es sich also an die Zukunft richtet, kurz: wo das Soziale politisch wird.
Anlass und Motiv für diese Überlegungen bildet einerseits die Annahme, dass Digitalisierung genau an diesen Orten eine besondere, eine politische Relevanz entfaltet. Diese Relevanz zeigt sich nicht nur darin, dass die technische Entwicklung zum Gegenstand von Politik wird, sondern vor allem darin, dass Digitalisierung selbst sich als politischer Prozess verstehen lässt. In den gegenwärtigen Debatten um und gesellschaftlichen Auseinandersetzungen mit Techniken künstlicher Intelligenz ist außerdem zu beobachten, dass ethische, haftungsrechtliche und ökonomische Fragen zwar durchaus behandelt werden, die politische Dimension dieser Techniken aber kaum Beachtung findet.
Der hier zugrunde gelegte Begriff des Politischen wird dabei weit gefasst: Er setzt weder den Staat voraus noch ist er notwendige Voraussetzung für den Begriff des Staates. ›Das Politische‹, so verstehe ich den Begriff hier, beschreibt einen bestimmten Blick auf das Soziale. Wir nehmen diese Perspektive dann ein, wenn es um die Gestaltung, Formierung, Anordnung oder Veränderung des Sozialen geht. Im Unterschied etwa zu einem soziologischen Blick, der Strukturen, Bedingungen, Formen und Funktionen des Sozialen untersucht, konzentriert sich die Perspektive des Politischen auf Vorstellungen, Strategien, Verfahren und Konstellationen der Veränderung des Sozialen. So verstanden orientiert sich das Politische in die Zukunft und ist dann nicht notwendiger-, aber möglicherweise ein Begriff der Herrschaft, der Macht oder der Ordnung.
Ich gehe im Folgenden davon aus, dass von den drei genannten Prozessen weniger die Ausbreitung des Computers oder seine Mobilisierung grundlegend bestimmen und verändern, wie das Soziale politisch wird, sondern Algorithmen. Denn mit den Algorithmen schreiben wir mehr als eine binäre Codierung, mehr als ein Netz aus Datennutzungen und mehr als ein Prinzip der Mustererkennung in unsere soziale Welt ein.
Algorithmen entspringen vor allem einer Logik der Berechnung, die nicht nur von Anweisungsfolgen handelt, sondern mit eben diesen Anwendungsformen eine bestimmte Idee davon etabliert, wie wir Zukunft denken können, nämlich als ein über Schrittfolgen erreichbares, eindeutig bestimmbares Ziel. Sollten wir daran scheitern, mangels Wissen oder Verständnis einen Algorithmus zur Lösung einer Frage der Zukunft zu formulieren und in Programmiersprache zu übersetzen, helfen uns Techniken künstlicher Intelligenz. Sie können Algorithmen optimieren oder sogar erst finden. Dabei greifen sie – wiederum algorithmisch – auf große Mengen an Daten zurück, an denen sie gleichermaßen lernen, eben diese Daten zu sortieren, zu klassifizieren, zu hierarchisieren und auch, die Algorithmen für diese Vorgänge zu verbessern.
Ein Beispiel: Wir können nicht genau wissen und im Vorhinein auch nicht genau verstehen, wann eine Pandemie wie jene durch Covid-19 ausgelöste entsteht, wie sie sich verbreitet und welche Maßnahmen zu ihrer Eindämmung geeignet sind. Wir können für solche Probleme nur Modelle erstellen. Lernende Algorithmen, die ständig durch neue Informationen verbessert werden und mit gewaltigen Datenmengen zurechtkommen, sind in ihren Modellbildungen nicht nur besonders schnell, sondern auch besonders präzise. Die kanadische KI-Firma BlueDot etwa konnte mithilfe lernender Algorithmen, die Nachrichten, Blogs und Foren im Internet analysieren, den Ausbruch der Covid-19-Pandemie in Wuhan und die weiteren Verbreitungswege früher (im Dezember 2019) und präzise vorhersagen. Aber auch Risikovorhersagen (Wie groß ist mein Risiko unter bestimmten Umständen, mich anzustecken? Wie groß ist das Risiko eines schweren Verlaufs?) oder die Entwicklung von Medikamenten und Diagnoseverfahren werden durch lernende Algorithmen unterstützt.
Techniken künstlicher Intelligenz fügen der Logik der Berechnung ein weiteres Prinzip hinzu, um fehlendes Wissen über die Zukunft im Hinblick auf ihre Bestimmung aufzufangen: Sie arbeiten mit Wahrscheinlichkeiten. KI-Techniken entwickeln in ihrem Rückgriff auf algorithmische Strukturen kein echtes (gesichertes) Wissen über die Zukunft, über gute und wichtige Entscheidungen, über das Kommende, sondern ein Wissen über Wahrscheinlichkeiten, mit denen das Zukünftige in einer bestimmten Form eintreten könnte.
Diese Prinzipien der Berechnung und der Wahrscheinlichkeit handeln also wesentlich von der Frage, wie wir Zukunft denken und gestalten: wie wir als Gesellschaft zu Vorstellungen über die Zukunft gelangen und welche Gestaltungsideen wir aus diesen Vorstellungen entwickeln. Genau diese Fragen beschreiben nun in einem grundlegenden Sinne die Perspektive des Politischen. Wie wir normative und institutionelle Ordnungen, Freiheit, Gleichheit und Herrschaftsverhältnisse organisieren, zentrale Fragen nach der Politik also, sind lediglich differenzierte Versionen der Frage, wie wir die Zukunft (des Zusammenlebens) gestalten wollen. Algorithmen sind also politisch. Sie schreiben sich in die soziale Welt auf eine Weise ein, die wir politisch nennen müssen.
Im Folgenden wird es darum gehen, wie sich die Politik der Algorithmen genauer beschreiben lässt und wie wir als Gesellschaft mit den entsprechenden Problemen umgehen können. Die Algorithmisierung transformiert Gesellschaften fundamental. Erst wenn wir diese Veränderungen besser verstehen, können wir politisch selbstbestimmt auf die entsprechenden Herausforderungen reagieren, ihre Potenziale erkennen und verantwortungsvoll handeln.
Was bedeutet es nun, Algorithmen politisch zu denken? Und wie sieht eine Politik der Algorithmen konkret aus, worin liegen ihre Besonderheiten? Diese Fragen werden im Folgenden untersucht. Zielpunkt der Überlegungen sind zwei zentrale Fragen: Wie gehen wir mit dieser Politik der Algorithmen um? Und wie und wo verhandeln wir diese Fragen?
Das Politische der Algorithmen
Was heißt es, Algorithmen politisch zu denken?
Aristoteles (384–322 v. Chr.) bezeichnete den Menschen als Zoon politikon, als soziales und politisches Wesen.2 Das sind Algorithmen natürlich nicht. Selbst wenn man in dem, was der Begriff des Algorithmus beschreibt, mehr sieht als bloße Schrittfolgen, die, sofern man sie abarbeitet oder von einer Maschine abarbeiten lässt, zu Ergebnissen, zu Lösungen, zu Handlungsanweisungen, zu einem Output führen –, selbst dann können wir sie kaum als Wesen, die in einem essenziellen Sinne politisch sind, begreifen. Dies dürfte allerdings weniger daran liegen, dass sie keine politischen Eigenschaften haben. Vielmehr hängt diese Schwierigkeit, Algorithmen als politisch zu verstehen, damit zusammen, dass es sich (jedenfalls ursprünglich) um Techniken, jedoch nicht um Akteure handelt.