TERREG: uppladdningsfiltrens återkomst!

Sedan upphovsrättsdirektivet och artikel 13/17 klubbades för ett år sedan har vi redan krav på uppladdningsfilter – automatiserad förhandscensur – i europeisk rätt. Men inget land har ännu implementerat klart direktivet och just filterkravet är redan draget inför EU-domstolen.

Det är alltså ännu oklart ifall upphovsrättsdirektivets uppladdningsfilter kommer stå pall för närmare granskning. Men denna granskning kommer ta tid, och under tiden kan filter bli ett generellt standardkrav för internet.

TERREG introducerar krav på uppladdningsfilter som ska stoppa terrormaterial – notoriskt svårdefinierat – från att laddas upp till plattformar och tjänster på nätet. Kommentarsfält, videouppladdningar, profilbilder på sociala nätverk med mera kommer alla behöva ligga bortom filtrets censur.

”The Special Rapporteurs are also concerned that a general monitoring obligation will lead to the monitoring and filtering of user-generated content at the point of upload. This form of restriction would enable the blocking of content without any form of due process even before it is published, reversing the well-established presumption that States, not individuals, bear the burden of justifying restrictions on freedom of expression.”

FN:s särskilda rapportörer för yttrandefrihet, rätten till ett privatliv och skyddet för mänskliga rättigheter under kampen mot terrorism

Även i nästa stora lagförslag om internetreglering – Digital Services Act – verkar filter för internet vara en av de stora stridsfrågorna. För bara ett år sedan protesterade hundratusentals personer, framför allt unga, på europeiska gator och torg mot just internetfilter. Trots det vill kommissionen och medlemsländerna i EU introducera fler krav på filter – man ignorerar protesterna som om de aldrig hände.

”Should the Commission and Council decide to introduce mandatory upload filters against ’terrorist content’, these will be made mandatory as a standard measure against all ’illegal content’ in the upcoming Digital Services Act.”

Do we want an Internet with non-transparent censorship machines that decide against freedom of opinion in case of doubt? Do we want algorithms from global Internet companies to decide what we can say and read on the net? To prevent that is worth a new wave of protest.”

Patrick Breyer, tysk EU-parlamentariker för Piratpartiet. Han medverkar i förhandlingarna om TERREG och Digital Services Act.

Filter är ineffektiva och gör ofta fel

Uppladdningsfilter är ineffektiva. Flera icke-europeiska plattformar som lagrar terrormaterial kommer låta bli att installera dem – t.ex. 4chan, 8chan eller Gab. Det är enkelt att kringgå filtren om man verkligen vill sprida ett visst material. Som exempel har Facebook över tid behövt lägga till mer än 800 olika varianter av videon från Christchurch-attentatet i sin databas över terrormaterial. Tänk då hur många varianter som inte finns med där, och hur många nya varianter som kan skapas.

Uppladdningsfilter gör systematiska fel. Eftersom filtren inte kan bedöma kontexten som material laddas upp i kan de inte heller göra en bedömning av ifall materialet används på ett lagligt sätt eller inte. Syran Archive dokumenterar krigsbrott genom att använda sociala medier, men har redan idag stora problem med att plattformarna raderar deras material. Med ett generellt krav på automatisk censur av terrormaterial riskerar vi att gå miste om möjligheten till en öppen debatt om terrorism och krigsbrott.

”Upload filters are extremely error-prone and have already led to the deletion of evidence of war crimes or journalistic contributions in the past.”

Digital Society Association och flera andra medborgarrättsliga organisationer

Än värre. Kommissionen vill inte bara ha filter som jämför uppladdat innehåll med en databas av känt terrormaterial, utan vill också tvinga fram filter som ska upptäcka nytt, tidigare okänt terrormaterial. Detta kommer leda till katastrof. Även ett filter med träffsäkerhet nära 99% kommer radera otroligt mycket mer lagligt än olagligt material, eftersom faktiskt terrormaterial är så ovanligt jämfört med den enorma mängden lagligt material som dagligen laddas upp till internet. Och det finns ingen garanti att de filter som kommer appliceras kommer att ha så hög träffsäkerhet. Tvärtom visar en del undersökningar träffsäkerhet närmare 70-80%.

För varje 1 000 korrekt flaggade terroruppladdningar stoppar det här filtret 50 000 lagliga uppladdningar. Träffsäkerheten är satt till 99,5% och andelen terroruppladdningar 1 på 10 000.

Att överklaga filtren är svårt och kostsamt

Även om den som får sina lagliga uppladdningar har möjligheten att överklaga kommer det inte garantera att människors rättigheter skyddas. För det första vet vi från empirisk forskning att de flesta inte har tid eller kunskap nog att investera i att överklaga felaktiga censurbeslut. För det andra finns inga garantier att plattformars överklagningsprocesser är transparenta och rättssäkra.

Även om plattformar tvingas till rimliga överklagningsmekanismer eller TERREG modifieras till att innehålla möjligheten att överklaga till oberoende juridisk instans, så är inte det bra nog. En sådan process kan mycket väl ta månader. Efter så lång tid är frågan hur mycket av det som laddas upp till internet som fortfarande är relevant. Bryr du dig ifall din felaktigt censurerade Instagram-bild till slut får lov att existera, fyra månader efter att du lade upp den?

Det är också mycket tveksamt ur ett rättssäkerhetsperspektiv att ålägga den som laddat upp något att bevisa att det är lagligt. I en sund situation vore det den som kräver censur som skulle behöva bevisa materialets olaglighet.

If the EU’s Terrorist Content Regulation goes forward with the filtering mandates intact, that’s not just a threat to expression and information rights. It also raises serious questions about privacy/surveillance and about bias and disparate impact

Daphne Keller, expert på plattformsreglering vid Stanford Cyber Policy Center

Vad betyder uppladdningsfilter för dig?

  • Felbenägna filter kommer behöva godkänna allting du vill posta eller ladda upp till plattformar som Instagram, YouTube, Snapchat, Facebook, Tumblr, GitHub, WordPress.org, Wattpad, DeviantArt, SoundCloud, TikTok, Giphy, et cetera. Detta kommer innebära förseningar och misstag.
  • Filter kommer betrakta dig som skyldig tills du bevisat motsatsen, vilket garanterar att lagliga uppladdningar kommer censureras. Särskilt kommer det drabba kritik och journalistik som berör terrorism eller närliggande frågor.
  • Tjänster och plattformar du använder kommer antingen gå i konkurs för att de inte har råd med superdyra filter eller blockera europeiska användare.

Vad betyder det här för samhället?

  • Begränsad yttrandefrihet när internet förändras från en mötesplats öppen för allas bidrag till en plats där bidrag först måste passera automatiserade säkerhetskontroller. Vill vi att hemliga algoritmer ska avgöra vad vi kan säga och läsa på internet?
  • Journalistik, utbildning, konst, forskning, debatter och kampanjande som rör terrorism kommer begränsas.
  • Infrastrukturen för automatiserad förhandscensur som etableras med TERREG kommer expanderas till att även censurera annat än terrormaterial. I framtidens Digital Services Act är sannolikheten stor att allt illegalt material ska stoppas av automatiska internetfilter.
  • TERREG garanterar att inget nytt, europeiskt alternativ till de stora amerikanska nätföretagen någonsin kommer kunna etablera sig. De kommer inte ha råd och juridisk säkerhet att klara tvånget på censurfilter.

Läs mer om TERREG