Become a Patron!
True Information is the most valuable resource and we ask you to give back.

http://www.berndpulch.org

THE ONLY WEBSITE WITH THE LICENSE TO SPY!

By Jacob Mchangama, the executive director of Justitia, a Copenhagen based think tank focusing on human rights, and Joelle Fiss

Jacob Mchangama is the executive director of Justitia, a Copenhagen based think tank focusing on human rights and the rule of law and author of the forthcoming book Free Speech: A History From Socrates to Social Media.

Joelle Fiss is a human rights expert, researcher and analyst based in Geneva, Switzerland, and a member of the OSCE/ODIHR Panel of Experts on Freedom of Religion or Belief. Joelle has worked for Human Rights First and for the Alliance of Liberals and Democrats in the European Parliament. 

An anti-hate speech law written in Berlin has been copy-pasted by authoritarian regimes from Caracas to Moscow.

Ein in Berlin verfasstes Anti-Hassrede-Gesetz wurde von autoritären Regimen von Caracas bis Moskau kopiert.

…

Since the adoption of the new German law, at least 13 countries—in addition to the European Commission—have adopted or proposed models of intermediary liability broadly similar to the act’s matrix. According to Freedom House’s 2019 assessment of freedom on the internet, four of those countries are ranked as being “not free” (Venezuela, Vietnam, Russia and Belarus, Honduras is not surveyed but is ranked as “not free” on press freedom), five are ranked “partly free” (Kenya, India, Singapore, Malaysia, and the Philippines), and only three are ranked “free” (France, the United Kingdom, and Australia). With the exception of India, Kenya, Vietnam, and Australia, all these countries—as well as the European Commission—have explicitly referred to the Network Enforcement Act as an inspiration or justification for their models of intermediary liability.

Moreover, several of these countries, including Venezuela, Vietnam, India, Russia, Malaysia, and Kenya, require intermediaries to remove vague categories of content that include “fake news,” “defamation of religions,” and “anti-government propaganda,” and many of them include overly broad definitions of hate speech that go much further than the German law. A Russian bill signed into law by President Vladimir Putin in March is a good example. 

Seit der Verabschiedung des neuen deutschen Gesetzes haben mindestens 13 Länder – neben der Europäischen Kommission – Modelle der Vermittlerhaftung übernommen oder vorgeschlagen, die der Matrix des Gesetzes weitgehend ähnlich sind. Laut Freedom Houses Einschätzung der Freiheit im Internet von 2019 werden vier dieser Länder als „nicht frei“ eingestuft (Venezuela, Vietnam, Russland und Weißrussland, Honduras wird nicht befragt, aber als „nicht frei“ in Bezug auf Pressefreiheit eingestuft), fünf werden als „teilweise frei“ eingestuft (Kenia, Indien, Singapur, Malaysia und die Philippinen), und nur drei werden als „frei“ eingestuft (Frankreich, Großbritannien und Australien). Mit Ausnahme von Indien, Kenia, Vietnam und Australien haben sich alle diese Länder – ebenso wie die Europäische Kommission – ausdrücklich auf den Network Enforcement Act als Inspiration oder Rechtfertigung für ihre Modelle der Vermittlerhaftung bezogen.

Darüber hinaus verlangen mehrere dieser Länder, darunter Venezuela, Vietnam, Indien, Russland, Malaysia und Kenia, dass Vermittler vage Kategorien von Inhalten entfernen, darunter „Fake News“, „Diffamierung von Religionen“ und „Anti-Regierungs-Propaganda“. und viele von ihnen enthalten zu weit gefasste Definitionen von Hassrede, die weit über das deutsche Gesetz hinausgehen. Ein gutes Beispiel dafür ist ein russisches Gesetz, das Präsident Wladimir Putin im März unterzeichnet hat.

“Socially significant information disseminated under the guise of reliable messages, which creates a threat to life and (/or) the health of citizens or property, the threat of mass disturbance of public order and (/or) public safety, or the threat of creating or impairing the proper operation of vital elements of transport or social infrastructure, credit institutions, energy facilities, industry or communications.”

Any controversial opinion or criticism of the government could plausibly be covered by this overly broad and vague definition, which falls considerably short of international human rights standards.

The explanatory report of the Russian bill explicitly referred to the Network Enforcement Act, and, responding to criticism, Kremlin representatives argued that false information “is regulated fairly harshly in many countries of the world including Europe. It is therefore of course necessary to do it in our country too.” This is a clear example of how Germany’s internet law provides cover for authoritarian states attempting to restrict online content.

„Unter dem Deckmantel zuverlässiger Nachrichten verbreitete gesellschaftlich bedeutsame Informationen, die eine Gefahr für das Leben und (/oder) die Gesundheit von Bürgern oder Eigentum, die Gefahr einer Massenstörung der öffentlichen Ordnung und (/oder) der öffentlichen Sicherheit oder die Gefahr von Schaffung oder Beeinträchtigung des ordnungsgemäßen Funktionierens lebenswichtiger Elemente der Verkehrs- oder sozialen Infrastruktur, von Kreditinstituten, Energieanlagen, der Industrie oder der Kommunikation.“

Jede kontroverse Meinung oder Kritik an der Regierung könnte plausibel durch diese zu weite und vage Definition abgedeckt werden, die deutlich hinter den internationalen Menschenrechtsstandards zurückbleibt.

Der erläuternde Bericht des russischen Gesetzentwurfs bezog sich ausdrücklich auf das Netzdurchsetzungsgesetz, und als Reaktion auf die Kritik argumentierten Kreml-Vertreter, dass falsche Informationen „in vielen Ländern der Welt, einschließlich Europa, ziemlich streng reguliert werden. Deshalb ist es natürlich auch in unserem Land notwendig, dies zu tun.“ Dies ist ein klares Beispiel dafür, wie das deutsche Internetrecht autoritären Staaten Schutz bietet, die versuchen, Online-Inhalte einzuschränken.

In May, Singapore adopted the wide-ranging Protection from Online Falsehoods and Manipulation Bill. The law includes a vague definition of “false statements of fact,” authorizing a minister to issue directions to internet intermediaries that must correct or disable content. Prior to the adoption of the bill, a preliminary report referenced the German law. What might constitute false statement of facts? A 2018 report by the policy forum of Singapore’s ruling People’s Action Party highlighted a Human Rights Watch report critical of press freedom restrictions in Singapore as based on “deliberate falsehoods” used to “advocate political change.” In other words, the law may well be used to target human rights and civil society groups shining a critical light on the Singaporean government.

However, both the Russian and Singaporean laws pale in comparison to the sweeping category of illegal content covered by Vietnam’s draconian Law on Cybersecurity, which passed in 2018 and prohibits: “propaganda against the Socialist Republic of Vietnam,” “distortion or defamation of the people’s administrative authorities,” “psychological warfare … causing division or hatred between [Vietnamese] ethnic groups, religions and people of all countries,” “insulting the [Vietnamese] people, the national flag, national emblem, national anthem, great men, leaders, famous people or national heroes,” and “invented or untruthful contents causing confusion amongst the Citizens.”

Im Mai verabschiedete Singapur das weitreichende Gesetz zum Schutz vor Online-Fälschungen und Manipulationen. Das Gesetz enthält eine vage Definition von „falschen Tatsachenbehauptungen“, die einen Minister ermächtigt, Internetvermittlern Anweisungen zu erteilen, die Inhalte korrigieren oder deaktivieren müssen. Vor der Verabschiedung des Gesetzentwurfs wurde in einem Vorbericht auf das deutsche Recht verwiesen. Was könnte eine falsche Tatsachenbehauptung darstellen? Ein Bericht des Politikforums der regierenden People’s Action Party in Singapur aus dem Jahr 2018 hob einen Bericht von Human Rights Watch hervor, der die Beschränkungen der Pressefreiheit in Singapur kritisiert, die auf „absichtlichen Unwahrheiten“ basieren, die verwendet werden, um „politischen Wandel zu befürworten“. Mit anderen Worten, das Gesetz kann durchaus dazu verwendet werden, Menschenrechts- und Zivilgesellschaftsgruppen anzugreifen, die ein kritisches Licht auf die singapurische Regierung werfen.

Allerdings verblassen sowohl die russischen als auch die singapurischen Gesetze im Vergleich zu der umfassenden Kategorie illegaler Inhalte, die unter das drakonische Gesetz zur Cybersicherheit von Vietnam fallen, das 2018 verabschiedet wurde und Folgendes verbietet: „Propaganda gegen die Sozialistische Republik Vietnam“, „Verzerrung oder Diffamierung der Volksrechte“ Verwaltungsbehörden“, „psychologische Kriegsführung … die Spaltung oder Hass zwischen [vietnamesischen] ethnischen Gruppen, Religionen und Menschen aller Länder hervorruft“, „Beleidigung des [vietnamesischen] Volkes, der Nationalflagge, des nationalen Emblems, der Nationalhymne, großer Männer, Führer, berühmte Persönlichkeiten oder Nationalhelden“ und „erfundene oder unwahre Inhalte, die unter den Bürgern Verwirrung stiften“.

It is also problematic that some states, including Russia and Vietnam, have established (or proposed to establish) governmental entities responsible for notifying and ordering intermediaries to remove illegal content without any independent review or complaint mechanisms. When you combine the sweeping nature of the prohibited content with the lack of meaningful oversight, it is clear that these laws will serve to further entrench tight government control over an already restrictive online sphere.

Several of the laws or proposals we identified, including in the U.K. and India, don’t merely rely on a notification and takedown regime. They establish a “duty of care” requiring intermediaries to actively police and preventively remove illegal or undesirable content. Such a step may encourage automated moderation or filtering of user content through artificial intelligence and upload filters. This essentially poses the risk of reintroducing government-mandated prepublication censorship enforced by private tech companies. In the 18th and 19th centuries, European censors lost the struggle to keep up with clandestine publications and increasingly sophisticated printing presses. Consequently, pre-publication censorship all but died in the second half of the 19^th century, only to be revamped and revitalized by totalitarianism in the 20^th century. But in the digital age, censorship may ultimately be able to search and destroy undesirable content at a scale previously unimaginable.

All these developments suggest that the Network Enforcement Act has provided an important impetus for, and legitimacy to, models of intermediary liability that violate freedom of expression as set out in Article 19 of the International Covenant on Civil and Political Rights. This development contributes significantly to the weakening of the already perilous state of internet freedom around the world.

The adverse consequences of the Network Enforcement Act were certainly not intended by the German government. In conjunction with the German constitution and commitment to the rule of law, the act provides safeguards absent from the most draconian laws subsequently adopted by other states. Indeed, several of the countries that have mimicked the German law had already implemented severe restrictions of online freedom prior to the German initiative and would likely have tightened their grip irrespective of the Network Enforcement Act.

Yet, the act seems to have provided several states with both the justification and the basic model for swift and decisive action. Unwittingly, Europe’s most influential country has contributed to the erosion of global internet freedom by developing and legitimizing a prototype of online censorship that can readily be adapted to serve the ends of authoritarian states.

In a world where both online and offline speech is under systematic global attack, democracies have a special obligation to err on the side of free speech. Succumbing to the ever-present temptation of fighting illiberal ideas with illiberal laws is shortsighted and irresponsible. Once democracies cede the high ground, authoritarians will rush in, creating a regulatory race to the bottom. This entails severe and negative consequences for free speech, independent media, vibrant civil society, and political pluralism, without which authoritarianism cannot be defeated, nor democracy defended.

Problematisch ist auch, dass einige Staaten, darunter Russland und Vietnam, staatliche Stellen eingerichtet haben (oder deren Einrichtung vorgeschlagen haben), die dafür verantwortlich sind, Vermittler zu benachrichtigen und anzuweisen, illegale Inhalte ohne unabhängige Überprüfungs- oder Beschwerdemechanismen zu entfernen. Wenn man die weitreichende Natur der verbotenen Inhalte mit dem Fehlen einer sinnvollen Aufsicht kombiniert, wird klar, dass diese Gesetze dazu dienen werden, eine strenge staatliche Kontrolle über eine bereits restriktive Online-Sphäre weiter zu verankern.

Mehrere der von uns identifizierten Gesetze oder Vorschläge, darunter in Großbritannien und Indien, beruhen nicht nur auf einem Benachrichtigungs- und Deaktivierungsregime. Sie begründen eine „Sorgfaltspflicht“, die Vermittler verpflichtet, illegale oder unerwünschte Inhalte aktiv zu überwachen und präventiv zu entfernen. Ein solcher Schritt kann eine automatisierte Moderation oder Filterung von Benutzerinhalten durch künstliche Intelligenz und Upload-Filter fördern. Dies birgt im Wesentlichen das Risiko der Wiedereinführung der von der Regierung vorgeschriebenen Vorab-Zensur, die von privaten Technologieunternehmen durchgesetzt wird. Im 18. und 19. Jahrhundert verloren die europäischen Zensoren den Kampf, mit geheimen Veröffentlichungen und immer ausgefeilteren Druckereien Schritt zu halten. Infolgedessen starb die Zensur vor der Veröffentlichung in der zweiten Hälfte des 19. Jahrhunderts praktisch aus, um im 20. Aber im digitalen Zeitalter kann Zensur letztendlich in der Lage sein, unerwünschte Inhalte in einem bisher unvorstellbaren Ausmaß zu durchsuchen und zu zerstören.

All diese Entwicklungen legen nahe, dass das Netzdurchsetzungsgesetz einen wichtigen Impuls und Legitimität für Modelle der Haftung von Vermittlern gegeben hat, die die Meinungsfreiheit gemäß Artikel 19 des Internationalen Pakts über bürgerliche und politische Rechte verletzen. Diese Entwicklung trägt maßgeblich dazu bei, den ohnehin schon lebensgefährlichen Zustand der Internetfreiheit weltweit zu schwächen.

Die nachteiligen Folgen des NetzDG waren von der Bundesregierung sicherlich nicht beabsichtigt. In Verbindung mit der deutschen Verfassung und dem Bekenntnis zur Rechtsstaatlichkeit bietet das Gesetz Garantien, die von den drakonischsten Gesetzen, die später von anderen Staaten verabschiedet wurden, fehlen. Tatsächlich hatten einige der Länder, die das deutsche Gesetz nachgeahmt haben, bereits vor der deutschen Initiative starke Einschränkungen der Online-Freiheit eingeführt und hätten ihre Kontrolle wahrscheinlich unabhängig vom Netzdurchsetzungsgesetz verschärft.

Dennoch scheint das Gesetz mehreren Staaten sowohl die Rechtfertigung als auch das Grundmodell für schnelles und entschlossenes Handeln geliefert zu haben. Unwissentlich hat Europas einflussreichstes Land zur Aushöhlung der weltweiten Internetfreiheit beigetragen, indem es einen Prototyp der Online-Zensur entwickelt und legitimiert hat, der leicht an autoritäre Staaten angepasst werden kann.

In einer Welt, in der sowohl die Online- als auch die Offline-Sprache systematisch weltweit angegriffen wird, haben Demokratien eine besondere Verpflichtung, auf der Seite der freien Meinungsäußerung zu irren. Der allgegenwärtigen Versuchung zu erliegen, illiberale Ideen mit illiberalen Gesetzen zu bekämpfen, ist kurzsichtig und verantwortungslos. Wenn Demokratien erst einmal die Oberhand verlieren, werden Autoritäre eingreifen und einen Regulierungswettlauf nach unten auslösen. Dies hat schwerwiegende und negative Folgen für die freie Meinungsäußerung, unabhängige Medien, eine lebendige Zivilgesellschaft und den politischen Pluralismus, ohne die der Autoritarismus nicht besiegt und die Demokratie nicht verteidigt werden kann.

https://foreignpolicy.com/2019/11/06/germany-online-crackdowns-inspired-the-worlds-dictators-russia-venezuela-india/