Parlamente für Plattformen

Faire Regulierung für Online-Kommunikationsräume

Können Plattformräte dazu beitragen, große Kommunikationsplattformen wie Twitter oder Facebook demokratischer zu gestalten und auf öffentliche Werte auszurichten? Im Kooperationsprojekt „Plattform://Demokratie“ untersuchen Wissenschaftler und Wissenschaftlerinnen des Leibniz-Instituts für Medienforschung (Hans-Bredow-Institut, HBI), des Humboldt-Instituts für Internet und Gesellschaft in Berlin und des Instituts für Theorie und Zukunft des Rechts an der Universität Innsbruck Best-Practice-Modelle für solche Beiräte. Ziel der Forschung ist unter anderem herauszufinden, wie die Nutzerinnen und Nutzer besser an Entscheidungen über die Regeln für Plattformen beteiligt werden können. Matthias C. Kettemann ist Forschungsprogrammleiter am HBI, er hat auch eine Professur für Innovationsrecht an der Universität Innsbruck. Koautor Martin Fertmann und Koautorin Josefa Francke sind Junior Researcher am HBI. Das Projekt „Plattform://Demokratie“ wird von der Stiftung Mercator gefördert.

epd „Mehr Freiheit“ versprach Elon Musk, als er ankündigte, Twitter kaufen zu wollen. Weniger Regeln soll es geben; alles, was legal ist, soll gesagt werden dürfen. Diese Ankündigung, die vor allem die sich online - entgegen allen empirischen Befunden - von den großen Plattformen verfolgt fühlende amerikanische Rechte freute, zeigt die Macht auf, die einzelne reiche Menschen über Online-Kommunikationsräume haben, in denen Millionen Menschen kommunizieren, ihre Meinungen bilden, debattieren, ihre Rechte verwirklichen, demokratische Diskurse pflegen und Memes teilen. Ist es vertretbar, dass ein Elon Musk, ein Mark Zuckerberg so viel Macht über die Regeln haben, nach denen online kommuniziert wird? Ginge es besser?

Erprobte demokratische Prinzipien lassen sich nicht ohne weiteres übersetzen, um die Teilhabe der Nutzerinnen an der Gestaltung privater Selektionsalgorithmen und Moderationspraktiken zu ermöglichen. Die Plattformen selbst sind zum Regelsetzer, Regeldurchsetzer und zur Richterin über ihre Entscheidungen geworden. Gewaltenteilung und -trennung sieht anders aus. Zu viel Kommunikationsmacht ohne demokratische Kontrolle, also das Fehlen von checks und balances, führt zu Spannungen im gesellschaftlichen Diskursgewebe.

Mehr Gewaltenteilung in Onlineräumen

Die Kommunikationsräume und die kommunikativen Infrastrukturen demokratischer Öffentlichkeiten sind erheblichen Wandlungsprozessen ausgesetzt. In zunehmend von digitalen Plattformen algorithmisch optimierten und rechtlich gestalteten Räumen werden Grundfragen unserer Gesellschaft ausverhandelt. Doch die Staaten leisten Widerstand über Gesetze und Gerichte. Im wachsenden Ausmaß wirken private normative Ordnungen und staatliche Rechtsordnungen zusammen in unterschiedlichen, weder allein privatwirtschaftlichen noch staatlichen, sondern hybriden Formen der Governance von Onlinekommunikation. Diese Entwicklung ist folgerichtig: Der Interessenausgleich auf Plattformen ist sowohl eine öffentliche Angelegenheit als auch das Ergebnis der Produktgestaltung der Plattformanbieter.

Im Auftrieb sind derzeit institutionelle Lösungsansätze, die gleich einem verlängerten Arm der pluralen Gesellschaft Verbesserungen in den hybriden Ordnungssystemen anstoßen sollen. In ihrer gemeinsamen Stellungnahme zu Digitalisierung und Demokratie forderten etwa die Akademien der Wissenschaften kürzlich eine Verpflichtung von Plattformbetreibern, „ein von ihnen finanziertes, jedoch unabhängiges und pluralistisch besetztes Gremium mit verbindlicher Entscheidungsbefugnis zu schaffen, “das aus Vertreterinnen und Vertretern staatlicher und zivilgesellschaftlicher Stellen sowie aus Nutzerinnen und Nutzern besteht„ und “an den Entscheidungen über Prinzipien und Verfahren der Kuratierung von Inhalten" beteiligt werden sollte.

Diese Diskussionen um die gesellschaftliche Rückbindung der Regeln und Entscheidungen von Plattformen (ungenau auch als „(Re)Demokratisierung“ der Plattformen beziehungsweise der privaten Online-Räume bezeichnet) werden unter dem Stichwort „Plattformräte“ oder „Social Media Councils“ geführt. Es ist leicht, nach neuen „Institutionen“, neuen Gremien oder Beiräten zu rufen, die bessere Regeln für komplexe hybride Regulierungsregime entwickeln und durchsetzen sollen, ohne empirisch untersucht zu haben, welche Modelle denkbar und sinnvoll sind.

Die Fragen, die sich vor diesem Hintergrund abheben, sind so bedeutsam wie aktuell - und sie sind politisch brisant. So hat sich die Bundesregierung im aktuellen Koalitionsvertrag ins Pflichtenheft geschrieben, über die Zukunft der Onlineregeln nachzudenken. Da liest man, die Bundesregierung möchte „den Aufbau von Plattformräten“ vorantreiben. In einem im April gestarteten Forschungsprojekt wollen wir hierfür die Grundlagen legen und global bestehende Modelle gesellschaftlicher Rückbindung von privaten und hybriden Normenordnungen sichten.

Das derzeitige Recht reguliert Plattformen mit einer Vielzahl unterschiedlicher Ziele und Instrumente, der Schutz der Kommunikationsinfrastrukturen, der kommunikativen Prozesse und der Kommunikate ist aber noch ausbaufähig.

Das Netzwerkdurchsetzungsgesetz (NetzDG) in Deutschland setzte zunächst auf einen bußgeldbasierten Ansatz, um Entscheidungen über Inhalte auf Plattformen zu regulieren. Dieser wurde seitdem durch Beschwerdeverfahren (sogenannte Gegenvorstellungsverfahren) und Einrichtungen (wie „Einrichtungen Regulierter Selbstregulierung“ und außergerichtliche „Schlichtungsstellen“) erweitert, um stärker auf die internen Entscheidungsstrukturen der Unternehmen Einfluss zu nehmen (epd 45, 51-52/19, 8/20, 14/21). Das österreichische Kommunikationsplattformen-Gesetz (KoPl-G) verfolgt einen ähnlichen Ansatz.

Nachträglicher Rechtsschutz

Kernprobleme dieser bisherigen Ansätze sind, dass die hochkarätig besetzten Gremien nur Entscheidungen über die Rechtswidrigkeit einzelner vorgelegter Posts treffen. Sie dienen weder der Diskussion von Maßnahmen, die über die Grenzen strafrechtlicher Verbote hinausgehen (gegenüber sogenanntem lawful, but awful content), noch können sie systemische Fragen adressieren, die einen vorgelegten Einzelfall übersteigen (etwa nach der Ausgestaltung unternehmensinterner Überprüfungsverfahren und Kuratierungsalgorithmen). Auch die Gerichte halten sich zurück, sich inhaltlich mit den Ordnungen der Plattformen und ihren Wirkungszusammenhängen auseinanderzusetzen, und fokussieren auf nachträglichen Rechtsschutz.

Das Gesetzgebungspaket aus Digital Services Act (DSA) und Digital Markets Act (DMA) als zukünftiger Rahmen für Plattformregulierung in Europa setzt auch Akzente auf die Zugänglichkeit von Informationen über die Gestaltung der Plattformen und die Prinzipien der Kuratierung und will so zu einem informierten zivilgesellschaftlichen Diskurs über die Rahmenbedingungen der Meinungsbildung im Internet beitragen (epd 17, 19/22). Unmittelbare Teilhabemöglichkeiten der Bürgerinnen und Nutzer an diesen Systemen werden aber nicht geschaffen. Die Regulierungsstruktur setzt vielmehr auf eine starke Rolle der Kommission sowie nationaler Aufsichtsbehörden, die als Digital Services Coordinators tätig werden.

Nationale Regulierungsbestrebungen und aktuelle Vorschläge auf europäischer Ebene adressieren drängende Fragen demokratischer Rückbindung und institutioneller Ausdifferenzierung hybrider Online-Ordnungen derzeit nicht. Bisherige Vorschläge für Plattformräte, die insbesondere von der Menschenrechtsorganisation Article 19 und David Kaye in seiner damaligen Rolle als UN-Sonderberichterstatter für Meinungsfreiheit in die Diskussion eingebracht wurden, haben bisher erst zu praktischen institutionellen Experimenten seitens Plattformen, aber noch nicht durch Staaten oder die Zivilgesellschaft geführt.

Abgesehen von früheren Experimenten mit Nutzerinnenabstimmungen über Regeln stellt das Facebook (Meta) Oversight Board, das unter anderem über das Deplatforming Trumps entschieden hat (beziehungsweise die Entscheidung an Facebook/Meta zurückgespielt hat), den bislang konkretesten Ansatz zur freiwilligen Öffnung des privaten Entscheidungssystems einer kommerziellen Plattform nach außen dar.

Spektakulärer Einzelfall

Dieses „Außen“, also die Zivilgesellschaft, aber in einer Weise zu formieren und in Stellung zu bringen, die systemische Verbesserungen für Nutzer und Nutzerinnen nicht nur verspricht, sondern über den - im Fall von Trump spektakulären - Einzelfall hinaus tatsächlich anstößt, bleibt eine Herausforderung. Zwar hat das Oversight Board in seiner bisherigen Entscheidungspraxis seine eigene Position im Ordnungsgefüge des Unternehmens selbstbewusst definiert, zugleich ist aber offen, wie gut die - in Ermangelung harter Durchsetzungsmechanismen entscheidende - Kooperationsbeziehung zwischen dem Gremium und Unternehmen tatsächlich funktioniert.

Im Zuge der Enthüllungen der Whistleblowerin Frances Haugen untersucht das Board etwa derzeit Hinweise, dass vorherige Stellungnahmen des Unternehmens gegenüber dem Board im Hinblick auf Ungleichbehandlungen unterschiedlicher Nutzer (sogenanntes Cross-Check-Programm) nicht wahrheitsgemäß beziehungsweise zumindest unvollständig waren. Ob und inwieweit damit der plattformspezifische freiwillige, auf öffentlichen Druck und ein globales Expertengremium setzende Ansatz dieser Institution sich bewährt, ist derzeit noch völlig offen.

Auch Tiktok hat kürzlich mehrere regionale Beiräte eingerichtet, Twitter betreibt seit längerem einen Trust and Safety Council, ebenso Spotify, und auch die Streaming-Plattform Twitch hat kürzlich einen gleichnamigen Beirat eingeführt. Diese Selbstregulierungsinitiativen sind im Vergleich zum Oversight Board zwar noch deutlich weicher (also beratend) und zielen stärker auf das Beisteuern unverbindlicher Stellungnahmen als auf verbindliche Entscheidungen der Mitglieder, lassen aber deutlich einen Trend hin zur institutionellen Ausdifferenzierung und Verantwortungsdelegation innerhalb privater Ordnungen digitaler Plattformen erkennen. Dieser Trend ist kritisch zu begleiten und vor dem Hintergrund erfolgreicher Initiativen zur Rückbindung privater oder hybrider Ordnungen an gesellschaftliche Werte zu reflektieren.

Legitime Online-Regeln

Demokratien können aber die institutionelle Beschränkung der Plattformmacht und die Verbesserung der Legitimität von Ordnungen und algorithmisch-menschlichen Regelungs- und Durchsetzungsarrangements nicht den Plattformen überlassen. Vielmehr sollten, wie die Nationale Akademie der Wissenschaften forderte, „innovative Partizipationsideen gezielt gefördert werden, da etablierte Plattformbetreiber und Diensteanbieter ihren gängigen Geschäfts- und Beteiligungsmodellen verhaftet sein dürften, was die Unterstützung demokratiefreundlicher, kommerziell weniger verwertbarer Formate von privatwirtschaftlicher Seite behindern könnte“.

Zunächst gilt es, innovative Partizipationsideen überhaupt erst zu entwickeln und in einen konkreten Ausgestaltungsvorschlag zu überführen. Eine ergebnisoffene Herangehensweise an die Entwicklung dieser institutionellen Struktur setzt internationale Offenheit voraus, sowohl konzeptuell im Hinblick auf potenzielle Lehren aus anderen Weltregionen für den deutschen und europäischen Kontext als auch zur Beurteilung der internationalen und regionalen Anschlussfähigkeit von Plattformratsmodellen, die in ihrer geografischen Zuständigkeit über einzelne Nationalstaaten hinausgehen.

Das Projekt „Plattform://Demokratie“ will empirisch erforschen, wie private Ordnungen und Regelungssysteme, die gesellschaftliche Relevanz haben, stärker an gesellschaftliche Werte gebunden werden können. Dabei werden die Plattformräte untersucht, aber auch andere Modelle gesellschaftlicher Rückbindung wie Fernsehräte in Ländern mit öffentlich-rechtlichem Fernsehen, Jugendmedienräte wie in Deutschland, KI-Räte wie in Finnland und Internetregulierungsräte wie in Brasilien. Die global angelegte, ergebnisoffene Erhebung soll empirisch untersuchen, welche Akteure einbezogen werden müssen und welche Rolle die Räte im Organisationsgefüge haben müssen, um das gewünschte Legitimationsplus sicherzustellen. Damit will das Projekt den Boden bereiten für die Pilotierung guter Modelle für die demokratische Kontrolle von privaten Ordnungsregimen, wie sie bei Plattformen aktuell besonders wirkmächtig sind.

Ganz so leicht wird es Elon Musk übrigens nicht fallen, „mehr Freiheit“ und weniger Moderation auf Twitter zu verwirklichen. Zumindest innerhalb der Europäischen Union ist er an das bestehende und das kommende Plattformrecht gebunden, das ihm engere Ketten anlegt. Man kann trefflich über die Details der europäischen Plattformregulierung streiten, es findet sich wohl keiner, der den grundsätzlichen Ansatz - mehr Verantwortung und mehr Transparenz - für verfehlt hält. Hier sieht man das demokratische (und demokratisierende) Potenzial von Plattformregeln - bis hin zu einem Check der Werte, auf die die Empfehlungsalgorithmen optimiert sind. Unser Ziel ist herauszufinden, wie viel nachhaltiger sich die Plattformen entwickeln können, wenn eine noch breitere Gruppe von Bürgerinnen integriert wird.

Aus epd medien 25/22 vom 24. Juni 2022

Matthias C. Kettemann, Martin Fertmann und Josefa Francke