Hooggerechtshof VS buigt zich over algoritmes YouTube: 'Cruciaal voor internet'

De rechtszaak is aangespannen door de nabestaanden van Nohemi Gonzalez, een 23-jarige Amerikaanse die in 2015 in Parijs bij een aanslag door moslimterroristen van de Islamitische Staat (IS) werd doodgeschoten. Door met zijn algoritmes video's van jihadisten aan te bevelen heeft YouTube volgens de nabestaanden steun verleend aan terrorisme. De videodienst, eigendom van Google, zou hebben bijgedragen aan het verspreiden van de boodschap van IS en het rekruteren van jihadistische strijders.

De nabestaanden willen dat het Hooggerechtshof de weg vrijmaakt voor het aanklagen van de techreus. Zo'n vonnis kan grote gevolgen hebben voor andere online-platforms waarop gebruikers zelf kunnen publiceren. "Dit wordt de belangrijkste zaak over internet ooit voor het Hooggerechtshof", aldus rechtenprofessor Alan Rozenshtein van de Universiteit van Minnesota. Bij een nederlaag voor Google verwacht hoogleraar rechten Eric Goldman van de Universiteit van Santa Clara een 'stortvloed' aan rechtszaken tegen online-platforms.

Sectie 230

Rechters wezen de rechtszaak eerder af door te verwijzen naar de omstreden Sectie 230 in de Amerikaanse telecomwet uit 1996. In die wet is een vorm van immuniteit voor internetbedrijven verankerd, waardoor de platforms niet aansprakelijk gesteld kunnen worden voor de inhoud die gebruikers online plaatsen. Volgens de wet kunnen 'interactieve computerdiensten' niet behandeld worden als een uitgever. 

De aanklagers vinden dat YouTube's algoritmes gezien kunnen worden als een eigen vorm van content, waarvoor Google wel aansprakelijk gesteld kan worden. Volgens Google zijn de algoritmes nodig, omdat YouTube anders onbruikbaar zou worden.

Juridisch mijnenveld

In een kort geding stelde Google dat een veroordeling van het bedrijf zou leiden tot een 'mijnenveld van rechtszaken' en dat zo’n vonnis de werking van het internet zou veranderen. Internet zou minder bruikbaar worden, de vrijheid van meningsuiting zou worden ondermijnd en de economie zou schade lijden, aldus de Google-advocaten.

De zaak kan volgens Google ook gevolgen hebben voor veel andere internetdiensten, zoals zoekmachines, websites met vacatures en productrecensies en sites die algoritmes gebruiken om gebruikers relevante liedjes, video’s of nieuwsartikelen aan te bevelen. Grote techpartijen zoals Facebook-moederbedrijf Meta, Microsoft, Reddit en Wikipedia-uitgever Wikimedia hebben als onderdeel van de rechtszaak het aanbevelingssysteem van Google verdedigd.

De regering van Joe Biden drong er eerder bij de rechters op aan om de zaak van de familie Gonzalez opnieuw te bekijken.

Politici kwamen er niet uit

Sectie 230 is al jaren omstreden. Volgens burgerrechtenorganisaties en anti-wapengroeperingen versterken online-platforms met hun algoritmes extremisme en haatzaaien. Republikeinse politici vinden dat de techbedrijven met hun systemen conservatieve standpunten onderdrukken. 

Voorstanders van de Sectie 230 wijzen erop dat de vrijheid van meningsuiting teveel zal worden beperkt als online-platforms makkelijker aansprakelijk zijn te stellen. De techbedrijven zouden dan sneller content van gebruikers gaan verwijderen. 

Zowel de Republikeinen als de Democraten vinden dat de wet moet worden aangepast, zodat techbedrijven makkelijker ter verantwoording geroepen kunnen worden. Maar over een wetsaanpassing is na jaren praten nog geen overeenstemming. "Het gebeurt vaker in Amerika dat het Hooggerechtshof een grote invloed heeft bij zulke moeilijke beslissingen. Denk ook aan de zaken over abortus en het homohuwelijk", zegt Dirk Visser, hoogleraar intellectueel eigendom aan de Universiteit Leiden.

Passage uit begintijd internet

Wat er uit de zaak gaat komen, is volgens Visser moeilijk te voorspellen. "De kwestie is lastig en daarom is het ook een zaak voor het Hooggerechtshof geworden. Die moet antwoord geven op principiële vragen over vrijheid van internet en de rol van tussenpersonen. Aan de ene kant heb je de telecomaanbieder, die niet aansprakelijk is voor wat er door zijn netwerk gaat, en aan de andere kant heb je uitgevers die wél aansprakelijk zijn voor wat er wordt gepubliceerd. Maar een partij als YouTube zit daar tussenin."

De Sectie 230 stamt uit een tijd dat internet nog in de kinderschoenen stond, zegt Visser. "In de begintijd van internet was het idee dat het beter was als online-platforms minder aansprakelijkheid zouden zijn en dat de persoon die iets online zette daar zelf verantwoordelijk voor was. Maar doordat gebruikers anoniem kunnen zijn, is hierdoor een soort monster ontwikkeld. Teveel blokkeren is echter ook niet goed omdat het ingrijpt op de vrijheid van meningsuiting." 

Strengere regels in EU

De Amerikaanse wet is volgens Visser 'erg ruim' met de immuniteit voor online-platforms, zeker vergeleken met de nieuwe, strengere Europese richtlijn DSA. "De Europese regels maken ook onderscheid in de verplichtingen voor kleine en grote platforms. De grote jongens moeten transparanter zijn over bijvoorbeeld hun algoritmes, ze moeten filteren op auteursrechtelijk materiaal en moeten sneller illegale content verwijderen. Terwijl een klein hosting bedrijf alleen hoeft te reageren op verzoeken om iets achteraf offline te halen. In de EU hebben wel veel specifieke regels en zijn we aan het micro-managen, maar dat is niet per se erg", aldus Visser.

Verplichte aanpassingen aan algoritmes kunnen een grote impact hebben op het gebruik van de diensten. "De algoritmes zijn ontwikkeld om mensen zo lang en vaak mogelijk te laten kijken", zegt Visser. "Een bedrijf als Meta heeft eerder in zijn algoritmes voorrang gegeven aan berichten waar mensen boos over werden, omdat dit voor meer interactie zorgde, waardoor mensen langer actief bleven. Extreme zaken trekken meer de aandacht en het is de techbedrijven te doen om de eyeballs: de aandacht van gebruikers." 

Het kan meerdere maanden duren voordat de negen rechters van het Hooggerechtshof eruit zijn en tot een vonnis komen. Visser: "In dit soort zaken kan dat wel een half jaar duren." 

Tonie van Ringelestijn

Luister ook: