DOI: 10.5553/TvCR/187966642022013004001

Tijdschrift voor Constitutioneel RechtAccess_open

Artikel

Het dossier microtargeting

Zelfregulering, Wpp, of lost de EU het op?

Trefwoorden microtargeting, verkiezingen, artikel 10 EVRM, gedragscode, transparantie
Auteurs
DOI
Toon PDF Toon volledige grootte
Samenvatting Auteursinformatie Statistiek Citeerwijze
Dit artikel is keer geraadpleegd.
Dit artikel is 0 keer gedownload.
Aanbevolen citeerwijze bij dit artikel
S. Maasbommel, 'Het dossier microtargeting', Tijdschrift voor Constitutioneel Recht 2022-4, p. 251-273

    Dit artikel bespreekt de ontwikkelingen omtrent regulering van microtargeting, die vorm moet gaan krijgen in de reeds lang aangekondigde, inmiddels ‘mythische’ Wet op de politieke partijen. Na een beknopte beschrijving van het fenomeen microtargeting (het met gebruik van persoonsgegevens toegesneden campagneberichten gericht tonen aan specifieke groepen kiezers) en de daaraan klevende risico’s, beoordeel ik eerst de inhoud en doelmatigheid van de inmiddels wel verschenen Nederlandse Gedragscode Transparantie Online Politieke Advertenties, en meer algemeen of zelfregulering in dezen een geëigend middel is. Vervolgens wordt de bewegingsruimte van de wetgever verkend in het licht van artikel 10 EVRM en de in Straatsburg ontwikkelde general measure-doctrine ten aanzien van politiekeadvertentieverboden. Ten derde wordt aandacht besteed aan de resterende toegevoegde waarde van nationale regels op dit gebied ten opzichte van de recent door de Europese Commissie voorgestelde Transparantieverordening. Betoogd wordt dat de Gedragscode een weinig waardevolle bijdrage levert, waardoor een wettelijke regeling wel degelijk in een behoefte voorziet. Hoewel Nederland op onderdelen door Europa wordt ingehaald, blijft er ruimte voor aanvullingen. De totstandkoming van een dergelijke wet is echter aan strenge zorgvuldigheidseisen gebonden.

Dit artikel wordt geciteerd in

    • 1 Inleiding

      In 1994 werd de eerste website van een Nederlandse politieke partij gelanceerd.1x Te weten die van GroenLinks. Voerman & De Graaf 1998, p. 242-243. Ruim een kwarteeuw later is het internet niet meer uit de verkiezingscampagne weg te denken en zijn met name de sociale media een electoraal jachtveld – in tijden van corona des te meer. Partijen maken dankbaar gebruik van de mogelijkheden die onlineplatformen als Facebook, Instagram, Google en YouTube bieden. Eén van die mogelijkheden is bijvoorbeeld om met gebruik van persoonsgegevens toegesneden campagneberichten gericht te tonen aan specifieke groepen kiezers, oftewel microtargeting. Dergelijke vormen van digitale campagnevoering zijn sinds het schandaal omtrent Cambridge Analytica – het Britse databedrijf dat in verband wordt gebracht met de Trumpcampagne van 2016 en de Brexitcampagne, en dat daarbij gebruik zou hebben gemaakt van de gegevens van miljoenen Facebookgebruikers – onderwerp van discussie.2x Overigens duurt het even voordat de kwestie de media haalt: in 2018 komt het Cambridge Analytica-schandaal aan het licht. Zie daarover onder meer Cadwalladr 2017 en Cadwalladr & Graham-Harrison 2018. Zie ook het relaas van Christopher Wylie, data-analist bij Cambridge Analytica en latere klokkenluider: Wylie 2019. Ook in Nederland staan digitale campagnes op de politieke agenda, onder meer door de zorgen die de Staatscommissie parlementair stelsel (commissie-Remkes) erover uitsprak.
      Aan regulering wordt al enige tijd gewerkt. Minister Ollongren, op dat moment van Binnenlandse Zaken en Koninkrijksrelaties (BZK), kondigde in 2019 aan te zullen komen met regels omtrent de transparantie van (digitale) politieke campagnes. Er zou, aldus de minister, sprake zijn van ‘digitale kwetsbaarheden’, zoals mogelijke aantasting van de kiezersautonomie door microtargeting.3x Kamerstukken II 2018/19, 34430, nr. 10 (kabinetsstandpunt over het advies van de staatscommissie parlementair stelsel), p. 2, 10-12. Regels omtrent politieke advertenties en microtargeting zouden geïntegreerd moeten worden in de voorgenomen Wet op de politieke partijen (Wpp),4x Over de voortgang van de voorbereiding van de Wpp, zie de brief van de minister van BZK van 11 juni 2020, Kamerstukken II 2019/20, 35300 VII, nr. 123. en zullen daarin waarschijnlijk de belangrijkste toegevoegde waarde vormen ten opzichte van de huidige, recent gewijzigde Wet financiering politieke partijen (Wfpp).5x De Evaluatiewet Wfpp heeft al de nodige wijzigingen aangebracht ten aanzien van het partijfinancieringsregime, dat waarschijnlijk als zodanig zal worden overgeheveld naar de Wpp. Broeksteeg & Gijsenbergh 2022, p. 213-214. Een ander beoogd onderdeel van de Wpp is een regeling inzake het partijverbod, dat thans valt onder de generieke regeling van verboden rechtspersonen ex art. 2:20 BW.
      De Wpp, of zelfs maar een concrete aanzet daartoe, laat alleen al een hele poos op zich wachten, en wordt in de Kamer inmiddels ‘mythische proporties’ toegedicht.6x In de debatten over de (inmiddels aangenomen) wijziging van de Wfpp. Handelingen II 2021/22, nr. 50, item 21, p. 14, 22, 42. Volgens Ollongrens opvolger Bruins Slot zal de inwerkingtreding op zijn vroegst in 2024 zijn.7x Handelingen II 2021/22, nr. 53, item 16, p. 25-26. Een houding van ‘eerst zien, dan geloven’ is in de huidige politieke situatie niet misplaatst, aangezien het te midden van de huidige crises maar zeer de vraag is of het kabinet in zijn huidige samenstelling de beoogde eindstreep van 2025 zal halen. De Wpp is eerder al over Tweede Kamerverkiezingen heen getild.8x De inwerkingtreding van de Wpp werd voorheen voorzien op 1 januari 2022. Kamerstukken II 2018/19, 34430, nr. 10 (kabinetsstandpunt over het advies van de staatscommissie parlementair stelsel), p 11. Het demissionaire kabinet-Rutte III besloot het wetsvoorstel evenwel niet in procedure te brengen: Kamerstukken II 2020/21, 35657, nr. 6, p. 2. In elk scenario zal het nog wel even duren, terwijl er in de nabije toekomst verscheidene verkiezingen op het programma staan.9x De Provinciale Staten-, waterschaps-, eilandsraads- en kiescollegeverkiezingen in 2023 en de ­Europese Parlementsverkiezingen in 2024, waarna de cyclus alweer opnieuw begint met de Tweede Kamerverkiezingen van 2025.
      Inmiddels is wél de Nederlandse Gedragscode Transparantie Online Politieke Advertenties (hierna: de Gedragscode) gepubliceerd.10x Bijlage bij de Kamerbrief van de minister van BZK, Kamerstukken II 2020/21, 30821, nr. 126. Dit document, dat in samenspraak met onlineplatformen en politieke partijen is opgesteld, bevat een aantal spelregels waaraan betrokkenen zich op vrijwillige basis committeren om de transparantie van politieke advertenties te bevorderen. Nu de Wpp voorlopig toekomstmuziek blijft, rijst de vraag of de Gedragscode in staat is om ‘in de tussentijd’ daadwerkelijk iets bij te dragen aan de transparantie van digitale campagnevoering, en daarmee aan de keuzevrijheid van kiezers. Vervolgvraag is of de toekomstige wettelijke regeling zich verdraagt met en dan met name de vrijheid van meningsuiting, aangezien politieke uitingen daaronder vergaande bescherming genieten. Ten slotte moet bezien of de Nederlandse wetgever niet ondertussen wordt ingehaald door ontwikkelingen op Europees niveau.
      Het voorgaande leidt tot de volgende onderzoeksvraag: is de Gedragscode geschikt om de risico’s van microtargeting te ondervangen, en is de toekomstige wet rechtmatig in het licht van de vrijheid van meningsuiting? Het artikel is als volgt opgebouwd. Na een korte begrips- en probleembeschrijving (par. 2), wordt de totstandkomingsgeschiedenis van de Gedragscode beschreven (par. 3), en het resultaat beoordeeld op zowel inhoud als vorm (par. 4). Hierna wordt de houdbaarheid van een wettelijke regeling ten aanzien van grondrechten behandeld, alsmede de meerwaarde ten opzichte van (aankomende) EU-regulering (par. 5). Afgesloten wordt met een conclusie (par. 6).

    • 2 Begrips- en probleemomschrijving

      Hoewel microtargeting sinds het Cambridge Analytica-schandaal (zeker in verkiezingstijd) op belangstelling kan rekenen, heeft het soms nog iets weg van een modewoord en blijft de discussie erover, zeker in de publiciteit, enigszins in algemeenheden steken. Het fenomeen kan worden omschreven als het gebruik van data-analyse om een afgestemde boodschap op te stellen en over te brengen aan een specifiek publiek binnen het electoraat.11x Een staande definitie ontbreekt, maar in pogingen daartoe keren telkens dezelfde elementen terug. Vgl. Bodó, Helberger & De Vreese 2017 en Rubinstein 2014, p. 882. In de continentaal-Europese context vindt microtargeting doorgaans plaats via socialemediaplatformen. Anders dan in de VS ontberen politieke partijen hier meestal het budget om zelf de infrastructuur en organisatie hiertoe aan te leggen, en zijn zij aangewezen op socialemediaplatformen, wier verdienmodel bestaat uit het verzamelen van zo veel mogelijk persoonsgegevens en het aanbieden van advertenties op basis hiervan. Daarbij zijn er grofweg twee mechanismen te onderscheiden.
      Ten eerste maken Attribute-based Audiences het mogelijk om handmatig een doelgroep te selecteren voor een campagneboodschap, gebaseerd op de gegevens die een platform in handen heeft. Zo kan op Facebook bijvoorbeeld gericht worden op ‘in Barcelona woonachtige mannen tussen de 25 en 30 jaar, met interesse in politiek en religie’.12x Blasi Casagran & Vermeulen 2021, p. 349. Vervolgens verspreidt het platform de boodschap onder gebruikers die onder de doelgroep vallen.
      Een tweede techniek zijn de Personally Identifying Information Audiences (PII Audiences).13x Een dienst die bij platformen onder verschillende namen wordt aangeboden. Zo heeft Facebook Custom audiences, Google Customer Match Audiences, Twitter Tailored Audiences, LinkedIn Audience Match en Pinterest Audiences. Blasi Casagran & Vermeulen 2021, p. 349-352. Hierbij kunnen campagnevoerders op basis van hun bestaande contacten (bijvoorbeeld de leden van een politieke partij) een vergelijkbaar publiek bereiken. Door data als namen, mailadressen of telefoonnummers in te voeren op een platform, kan het platform op zoek naar corresponderende gebruikersprofielen. Wanneer deze zijn geïdentificeerd, zoekt het algoritme naar profielen met vergelijkbare eigenschappen. Anders dan bij Attribute-based Audiences, hoeft de gebruiker dus niet zelf een doelgroep met veronderstelde eigenschappen aan te leveren.
      Omdat persoonsgegevens binnen de EU beter beschermd zijn dan in de VS en niet zomaar commercieel verkrijgbaar, zijn de mogelijkheden beperkter dan aan gene zijde van de Atlantische Oceaan.14x Bennett 2018, p. 269-273. Aan microtargeting kleeft niettemin ook hier een aantal risico’s. Volgens de commissie-Remkes kan met name de autonomie van de kiezer in gevaar komen:

      ‘Fundamentele democratische en rechtsstatelijke waarden – vooral de autonomie van burgers om bij verkiezingen een eigen keuze te maken – komen in het geding als het publieke debat en de meningsvorming op een heimelijke en ondoorzichtige manier beïnvloed worden, door middel van marketingstrategieën die gebruikmaken van grote databestanden om een boodschap steeds beter op een bepaalde doelgroep te kunnen richten (microtargeting).’15x Lage drempels, hoge dijken 2018, p. 233.

      Remkes stelde als uitgangspunt ‘dat de individuele keuzevrijheid van burgers bewaakt moet worden. Burgers moeten bij verkiezingen kunnen stemmen met kennis van alle politieke keuzemogelijkheden die er zijn.’16x Ibidem, p. 234-235. Ook in dit tijdschrift is een regeling van politieke advertenties en microtargeting recent ‘een vergaande maar noodzakelijke stap’ genoemd, omdat dit type campagnevoering verkiezingen oneigenlijk kunnen beïnvloeden. ‘Door politieke advertenties op kleine doelgroepen te richten, wordt de verkiezingscampagne gedeeltelijk aan het oog onttrokken.’17x Broeksteeg & Gijsenbergh 2022, p. 213-214.
      Hoewel er meer potentiële dreigingen zijn te onderscheiden,18x Verschillen in campagnebudget kunnen een gelijk speelveld belemmeren, door het intransparante karakter van microtargeting wordt buitenlandse beïnvloeding eenvoudiger, en bovendien liggen privacyrechtelijke bezwaren op de loer. Voor een uitgebreidere probleemanalyse, zie Zuiderveen Borgesius e.a. 2019. is dat in de kern waar het om gaat. Kiezers kunnen een eenzijdig beeld krijgen van het publieke debat: zij krijgen in theorie immers slechts die informatie voorgeschoteld waarvoor zij op basis van hun profiel ontvankelijk zijn. Omdat voorts de communicatie min of meer een-op-een verloopt tussen afzender en ontvanger, is de informatie moeilijker controleerbaar door burgers zelf, de journalistiek en de wetenschap.19x Lage drempels, hoge dijken 2018, p. 233. In het ergste geval kan er sprake zijn van manipulatie, wanneer groepen kiezers verschillende, al dan niet tegenstrijdige of zelfs opruiende boodschappen krijgen. Een en ander kan ertoe leiden dat een kiezer zijn stem selectief of onjuist geïnformeerd uitbrengt, hetgeen de kiezersautonomie kan ondermijnen – en daarmee de legitimiteit van verkiezingsuitslagen. Regulering, of het nu de Gedragscode of de Wpp betreft, zou eraan kunnen bijdragen dat deze risico’s worden ondervangen, bijvoorbeeld door transparantieverplichtingen of door de mogelijkheden te beperken. par. 4 beschrijft een aantal wijzen waarop de Gedragscode dit tracht te doen, in par. 5 komt een aantal andere suggesties aan bod.

    • 3 Totstandkoming Gedragscode

      Bekend is dat zowel bij de Tweede Kamerverkiezingen van 201720x Dobber e.a. 2017. als die voor de gemeenteraad van 201821x Hazenberg e.a. 2018. partijen (ten minste) gebruikmaakten van gerichte Facebookadvertenties in hun campagnes. In aanloop naar de Kamerverkiezingen van 2021 nam het belang van de digitale campagnecomponent nog eens extra toe. Wegens de coronamaatregelen vonden conventionele, fysieke, onderdelen zoals langs de huizen gaan (ook wel ‘canvassen’) en bijeenkomsten in zalen en op pleinen niet of beperkt doorgang – uitzonderingen daargelaten.22x De campagne van Forum voor Democratie trok met de zogenoemde ‘vrijheidskaravaan’ het land door. Rutten 2021. Tonnen werden daarentegen uitgegeven op de sociale media. Zo gaf het CDA in de periode van 1 september 2020 tot en met eind maart 2021 tegen de acht ton uit aan Facebookadvertenties alleen.23x Ontleend aan het ‘dashboard’ van de UvA, zie https://politieke-advertenties.nl/22-2, geraadpleegd op 22 december 2021. De partij is hierbij mogelijk ontvangen door de enorme gift die zij vlak voor de verkiezingen ontving. ‘CDA onthult donateur waar Omtzigt naar verwees: ondernemer gaf 1,2 miljoen euro aan campagne’, de Volkskrant 14 juni 2021. Ter vergelijking: in 2017 gaf diezelfde partij in totaal €803.201 uit aan campagneactiviteiten in het kader van de in dat jaar gehouden Kamerverkiezingen.24x CDA Financieel verslag 2017. Daarnaast werd in 2016 ook al € 325.523 uitgegeven aan de voorbereiding van de verkiezingen van 2017, blijkens het Financieel verslag 2016.
      In het najaar van 2020 kondigde Ollongren aan met een Nederlandse gedragscode transparantie politieke advertenties te zullen komen.25x Brief van de minister van BZK van 16 november 2020 (Kamerstukken II 2020/21, 30821, nr. 119). Met die toezegging gaf zij invulling aan de motie van Kamerleden Middendorp (VVD) en Kuiken (PvdA).26x Kamerstukken II, 2020/21, 35570 VII, nr. 10. Die motie riep de regering onder meer op om:

      ‘voor de komende verkiezingen een regeling in te voeren, zodat tijdens de verkiezingscampagnes internetplatformen openbaar toegankelijke archieven met geplaatste politieke advertenties bijhouden en per social media bedrijf [sic] transparant wordt wat aan verificatie van wat een politieke advertentie is, wordt gedaan en wat aan verificatie van financiers van politieke advertenties wordt gedaan’.27x Verder werd de regering verzocht om vooruitlopend op het Europese Democratie Actieplan een definitie van ‘online politieke advertentie’ te komen en positie in te nemen over de competentie tussen Europa en lidstaten bij het bestrijden van digitale inmenging bij nationale verkiezingen.

      Een ‘regeling’ in de zin van een algemeen verbindend voorschrift werd het niet. Het voornemen was een gedragscode op te laten stellen door een onafhankelijke deskundige, in samenspraak met zowel internetplatformen als politieke partijen. Tegenover de vaste Tweede Kamercommissie voor BZK lichtte de minister het voornemen toe. Zij stelde zich een gedragscode voor ‘die de transparantie van politieke advertenties duidt’ en daarin politieke partijen en socialemediabedrijven guidance geeft.28x Kamerstukken II 2020/21, 30821, nr. 120, p. 27. Daarbij werd gedacht aan vragen als:

      ‘Is het bijvoorbeeld duidelijk genoeg wie de afzender is van een politieke advertentie? Is het voor mensen duidelijk waarom zij een bepaalde politieke advertentie te zien krijgen? Hoe kunnen we ervoor zorgen dat burgers zelf op waarde kunnen schatten waarom ze bepaalde informatie krijgen? Hoe kunnen we voorkomen dat politieke advertenties een middel zijn om desinformatie te verspreiden?’29x Ibidem.

      In het commissiedebat, waarbij (slechts) Kamerleden van de PVV, VVD, CDA, SP en D66 aanwezig waren, bestond alleen bij eerstgenoemde partij weerstand, onder meer wegens de vermeende kans op censuur; de overige Kamerleden toonden belangstelling en drongen aan op haast.30x ‘Voorzitter. Ik zei al dat de Wet politieke partijen pas na de volgende verkiezingen door de Kamer zal gaan. De voorstellen voor transparantie over online politieke advertenties zullen nog voor de verkiezingen uitgevoerd moeten worden. Daarover is gisteren een motie van mij en de PvdA aangenomen. Hoe gaat de Minister in de tijd die zij tot aan de verkiezingen nog heeft daar handen en voeten aan geven?’, Kamerstukken II 2020/21, 30821, nr. 120, p. 3. Bijdrage van het lid Middendorp (VVD). In een schriftelijke beantwoording van vragen31x Kamerstukken II 2020/21, 30821, nr. 123. maakte de minister in januari 2021 bekend dat als deskundige werd aangewezen het International Institute for Democracy and Electoral Assistance (International IDEA).32x International IDEA is een intergouvernementele organisatie die wereldwijd duurzame democratie ondersteunt. Het overleg vond plaats achter de schermen.
      De deadline werd gehaald, zij het krap: op 9 februari werd de Gedragscode door de minister gepubliceerd.33x Bijlage bij Kamerstukken II 2020/21, 30821, nr. 126 (Kamerbrief). Met nog amper een maand te gaan tot de verkiezingen, mag dat rijkelijk laat heten, wanneer bedacht wordt dat partijen doorgaans reeds in een veel eerder stadium beginnen aan de voorbereiding van verkiezingscampagnes. Hoewel de campagne voor de Tweede Kamerverkiezingen van maart 2021 traag op gang kwam, was de Gedragscode niet meer van wezenlijke invloed op de feitelijke campagne – de plannen waren al rond.
      Bereidheid om mee te werken, was er: vanuit de politiek werd de Gedragscode ondertekend door GroenLinks, PvdA, PvdD, SP, ChristenUnie, D66, CDA, DENK, SGP, 50PLUS en VVD, namens de platformen door Snapchat, Facebook, Google (incl. YouTube) en TikTok.34x Kamerstukken II 2020/21, 30821, nr. 126 (Kamerbrief), p. 2. Alle partijen die op dat moment in de Kamer waren vertegenwoordigd (dus in de periode 2017-2021) hadden een uitnodiging gekregen tot onderhandelingsdeelname.35x Alleen de PVV en Forum voor Democratie bedankten voor onderhandelingsdeelname. Andere politieke partijen (bijv. de andere vierentwintig die meededen aan de verkiezingen) en platformen werden achteraf in de gelegenheid gesteld het document ondertekenen.

    • 4 De Gedragscode

      De Gedragscode kenschetst zichzelf als ‘leidraad voor goed gedrag’, werkt op vrijwillige basis en is als zodanig dan ook niet afdwingbaar.36x Gedragscode, p. 2. De code beoogt bij te dragen aan ‘de bescherming van verschillende kernwaarden rond online politieke advertenties en verkiezingen, waaronder transparantie, privacy, veiligheid, eerlijkheid, integriteit en gelijk speelveld.’37x Klaarblijkelijk vond men de titel ‘Nederlandse Gedragscode Transparantie, Privacy, Veiligheid, Eerlijkheid, Integriteit en Gelijk Speelveld Online Politieke Advertenties’ toch wat te lang.
      De Gedragscode kent drie categorieën gedragsnormen, onderverdeeld per normadressaat: normen gericht aan a) zowel partijen als platformen, b) politieke partijen en c) platformen. In deze paragraaf bespreek ik ten aanzien van een aantal kernbepalingen of deze bijdragen aan de transparantie van microtargeting. De overige inhoud van de Gedragscode blijft hier onbesproken: voor zover zich ook in Nederland gevallen hebben voorgedaan van fake accounts,38x Meijer 2019, Kooistra 2021. bots, trolling39x Kouwenhoven & Logtenberg 2017. en deepfakes,40x Hofman 2020. UvA-onderzoekers manipuleerden beeldmateriaal van CDA-politicus Sybrand van Haersma Buma om een filmpje te maken waarin deze een woordgrap maakte over de kruisiging van Jezus. Proefpersonen tuinden erin. Ook De Correspondent lanceerde een deepfake die in technisch opzicht zeer overtuigend was, al zeiden de journalisten dit er eerlijk bij. In de video is premier Mark Rutte te zien die Torentjestoespraak houdt over de urgentie van klimaatbeleid. Mommers, Nuyens & de Wit 2021, voor de verantwoording zie Mommers & Wijnberg 2021. betroffen dat óf niet al te geslaagde pogingen óf wettenschappelijke dan wel journalistieke experimenten.
      Het normstellende gedeelte van de Gedragscode begint met een drietal algemene regels, waaraan zowel politieke partijen als platformen worden geacht te voldoen. Beloofd wordt 1) ‘online politieke advertenties gewetensvol te gebruiken ter waarborging van de integriteit van verkiezingen’, 2) ‘transparantie van online politieke advertenties zoveel als mogelijk te bevorderen en na te leven’, en 3) ‘verspreiding van misleidende inhoud en berichten die aanzetten tot geweld of haatzaaien te vermijden’.41x Art. 1 t/m 3 Gedragscode. Deze drie hoofdregels, die schijnbaar de toon moeten zetten, bieden weinig helderheid: termen als ‘gewetensvol’ en ‘zoveel als mogelijk’ zijn bij uitstek open normen.

      4.1 Politieke partijen

      Een blik op wat de concrete gedragsnormen zouden moeten zijn, biedt nauwelijks meer duidelijkheid. Erg vrijblijvend is zo de instructie aan politieke partijen om ‘ethische grenzen aan te houden bij het koppelen van verschillende datasets en het uploaden ervan naar online platforms ten behoeve van microtargeting.’42x Art. 5 Gedragscode. Daarmee wordt het hiervoor beschreven PII Audiences bedoeld waarbij partijen persoonsgegevens die zij reeds in bezit hebben uploaden naar een platform om aldaar vergelijkbare doelgroepen te vinden. Op zich is dit een wezenlijk punt om afspraken over te maken, maar door partijen hieromtrent zelf een ethische afweging te laten maken, bezit de regel weinig overtuigingskracht.
      Een tweede techniek die aan bod komt is het gebruik van ‘psychologische profiling voor het targeten van politieke advertenties’.43x Art. 6 Gedragscode. Bij psychologisch profileren – in de Gedragscode niet nader omschreven – worden iemands persoonlijkheidskenmerken voorspeld op basis van diens persoonsgegevens,44x Die mogelijkheid – niet de toepassing daarvan in politieke campagnes – werd ontdekt door onderzoekers van de University of Cambridge. Zij onderzochten in hoeverre karaktereigenschappen van personen konden worden voorspeld aan de hand van hun Facebookgegevens. Kosinski, Stillwella & Graepe 2013. om vervolgens toon en inhoud van de boodschap hierop af te stemmen. Op die manier kan worden ingespeeld op bijvoorbeeld angst- of woedegevoelens van mensen. Het is dit meest vergaande type microtargeting waarvan Cambridge Analytica naar verluidt gebruikmaakte.45x Waarbij de OCEAN-schaal werd gebruikt, een letterwoord voor openness, conscientiousness, extroversion, agreeableness en neuroticism, de ‘big five’. Grassegger & Krogerus 2017. Zie over de trait theory binnen de psychologie ook Matthews, Deary & Whiteman 2003. Afhankelijk van hoe een individu ‘scoort’ op verschillende persoonlijkheidstrekken, kan een psychologisch profiel worden samengesteld, waarop toon, inhoud en frame kunnen worden afgesteld. De term mist in de Gedragscode enige toelichting. Waar een combinatie eigenschappen overgaat in een psychologisch profiel, blijft daardoor in het midden. Bovendien zijn de politieke partijen niet de meest voor de hand liggende normadressaat. In Nederland zijn zij als gezegd voor targeting aangewezen op platformen. Voor de hand liggender zou het dan ook zijn om de verantwoordelijkheid bij deze bedrijven te beleggen.
      Wat opvalt is dat de voorschriften aan het adres van politieke partijen verder gaan dan sec het bevorderen van transparantie.46x Trapman 2021. Met het ondertekenen van de Gedragscode, beloven zij ook daadwerkelijk van bepaalde gedragingen af te zien.

      4.2 Platformen

      Van platformen die politieke advertenties toestaan – waaronder bijvoorbeeld Twitter niet valt, nu dit platform deze mogelijkheid heeft stopgezet,47x Pauwe 2019. net zo min als TikTok48x Understanding our policies around paid ads, artikel op newsroom.tiktok.com, https://newsroom.tiktok.com/en-us/understanding-our-policies-around-paid-ads, geraadpleegd op 22 september 2022. – wordt verwacht dat zij relevante transparantiemechanismen ontwikkelen en toepassen.49x Art. 14 Gedragscode. Meer specifiek moeten zij relevante gegevens over adverteerders en advertenties aanbieden in publiek toegankelijke ‘bibliotheken’, waaruit gegevens eenvoudig zijn te downloaden en te vergelijken.50x Art. 15 Gedragscode. Dit mechanisme is bij de grote platformen inmiddels in de een of andere vorm gerealiseerd. Zij hebben tegenwoordig een archief waarin terug is te vinden welke politieke advertenties zijn afgenomen. Facebook bijvoorbeeld heeft een digitale ‘advertentiebibliotheek’ in werking, waarin alle advertenties worden gearchiveerd die betrekking hebben op ‘maatschappelijke kwesties, verkiezingen of politiek’.51x Ad Library van Facebook, te vinden via www.facebook.com/ads/library/?active_status=all&ad_type=political_and_issue_ads&country=NL. Daarbij wordt informatie verschaft over de uitgaven, het bereik en de identiteit van de betalende partij. Bij Google is een transparantierapport raadpleegbaar met daarin de afgenomen politieke advertenties ‘waarin een politieke partij, een huidige verkozen ambtsdrager, of een kandidaat voor het Europese parlement, voor een verkozen nationale overheidsfunctie binnen een EU-lidstaat of voor het parlement van het Verenigd Koninkrijk voorkomt’, alsmede advertenties over referenda.52x Politieke advertenties op Google, https://transparencyreport.google.com/political-ads/region/NL?hl=nl, geraadpleegd op 23 september 2022.
      Er is in zijn algemeenheid nog wel het een en ander aan te merken op de bestaande bibliotheken. Veel onduidelijkheid bestaat over de afbakening (welke advertenties worden opgenomen?), het verificatieproces (wat is de identiteit van de afzender?) en de documentatie van targetingpraktijken (welke informatie wordt vrijgegeven?). Hoewel de opkomst van advertentiebibliotheken op zichzelf een goede ontwikkeling mag heten, is er nog veel te winnen.53x Leerssen e.a. 2019. De Gedragscode lijkt op deze punten geen verbetering te brengen. Datzelfde geldt voor de vormgeving van advertentiebibliotheken. Waar de archieven van Facebook en Google tamelijk gebruiksvriendelijk en overzichtelijk zijn, kan dat niet worden gezegd van dat van Snapchat. In de Snap Political Ads Library zijn jaaroverzichten te downloaden van politieke advertenties in voor de gemiddelde sterveling totaal onleesbare spreadsheets.54x Snap Politieke Advertenties Bibliotheek, www.snap.com/nl-NL/political-ads, geraadpleegd op 23 september 2022.
      Van betekenis had ook de regel kunnen zijn dat van platformen verlangd wordt dat zij transparantie bieden over online politieke advertenties, met inbegrip van uitgaven en bereik.55x Art. 19 Gedragscode. In combinatie met transparantie over de identiteit van de afzender zouden burgers c.q. kiezers zo inzage kunnen krijgen in de cruciale vraag: wie bereikt, tegen welke prijs, welk publiek?56x Zie ook Maasbommel 2021. Rapportagestandaarden ontbreken echter in de Gedragscode, en dat wreekt zich in de huidige praktijk. Uitgaven per advertentie worden op Facebook bijvoorbeeld bij benadering gegeven (bijv. tussen 500-1000), en de verschafte informatie over het ‘bereik’ is zeer summier. Volstaan wordt met gegevens over de mate waarin wordt gericht op leeftijd, geslacht en geografische spreiding (ook wel resp. leeftijds-, gender- en geotargeting). Over de mate waarin wordt aangesloten op de kennelijke interesses van ontvangers, wordt niet gerept. Dat is een gemis, want we weten dat het platform die mogelijkheid biedt en dat politieke partijen hiervan gebruik maken.

      Een voorbeeld: ‘Om onze doelgroepen te bereiken met onze advertenties richten we ons op verschillende interesse-categorieën zoals Europa, Europese politiek, politiek, Nederlandse politieke partijen en op onderwerpen zoals duurzaamheid, klimaat en onderwijs’, deelt Volt mee op de partijwebsite.57x Zo vermeldde voorheen de partijwebsite van Volt Nederland, https://voltnederland.org/advertenties, geraadpleegd op 22 december 2021. Inmiddels is de partij hiermee gestopt: ‘Wij richten ons, in tegenstelling tot voorgaande verkiezingen, niet op interesse-categorieën’, is nu op de pagina te lezen, geraadpleegd op 23 september 2022.

      Zolang het in nevelen gehuld blijft op welke data platformen zich precies baseren bij het richten van advertenties, is het lastig te zeggen in welke mate en met welke intensiteit microtargeting plaatsvindt in Nederland. Op dit punt is meer sturing nodig, waarin de Gedragscode niet voorziet.

      4.3 Zelfregulering in het algemeen belang?

      Duidelijk wordt dat het weinig heldere karakter van de Gedragscode voorshands weinig bijdraagt aan transparantie. En dat is geen bedrijfsongeval: aan de mist zijn de onderhandelaars zelf debet. Sam van der Staak, die namens IDEA de onderhandelingen leidde, schetst het beeld van een zwaarbevochten compromis. In NRC Handelsblad spreekt hij over ‘breuklijnen’ bij sommige partijen, waardoor de inhoud niet expliciet is geworden.58x Van Loon & Wassens 2021. ‘Tussen die uitersten hebben we het midden moeten zoeken. De ‘ethische grenzen’ is de formulering geworden om te zeggen dat iedereen er verschillend naar kijkt hoe acceptabel het is. Maar het zegt ook dat iedereen het met een ethische blik benadert’, aldus Van der Staak. Een niet-afdwingbaar document op vrijwillige basis, vol open normen waarvan de interpretatie aan de individuele ondertekenaar zelf wordt gelaten. Het is allemaal nogal gratuit, en daarmee weinig geschikt het gedrag te normeren.
      De vraag is ook of het waarborgen van democratische waarden belegd zou moeten worden bij de betrokken actoren zelf. Anders dan in sommige landen is (voorlopig) gekozen voor een gedragscode en daarmee voor een vorm van zelfregulering. Zo wijzigde men in Frankrijk in 2018 onder meer de kieswet om desinformatie tegen te gaan in campagnetijd,59x Journal officiel de la République française, nr. 0297, 23 december 2018, nr. 2. en voerde Duitsland het omstreden Netzwerkdurch­setzungsgesetz60x Bundesgezetsblatt, Jahrgang 2017, Teil I, Nr. 61, 7 september 2017. in ter bestrijding van illegale inhoud op het internet. Die wetten richten zich niet (althans niet expliciet en exclusief) op de transparantie van online politieke advertenties, maar zijn wel in zoverre vergelijkbaar met de Nederlandse Gedragscode dat zij uitlatingen op internetplatformen aan regels binden. In tegenstelling tot ‘het Nederlandse model’, geschiedt dit wettelijk en daardoor handhaafbaar; beide werken met punitieve sancties.61x Zie voor een beknopte rechtsvergelijking Maasbommel & Munneke 2020. De Gedragscode lijkt in aanpak sterk op de EU-brede praktijkcode betreffende desinformatie.62x EU-brede praktijkcode betreffende desinformatie: https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=59122.
      In het geval van de Gedragscode is sprake van zelfregulering in opdracht, ook wel co-regulering of geconditioneerde zelfregulering:63x KCBR, Integraal afwegingskader voor beleid en regelgeving, ‘Index beleidsinstrumenten. Gedragscode’, laatst gewijzigd op 2 oktober 2021. de overheid richt zich voor een door haar gesignaleerd probleem tot de relevante actoren in ‘de sector’. De invloed van de minister op het eindproduct hield op bij het formuleren van de opdracht en de aanwijzing van International IDEA als deskundige. In het Integraal afwegingskader voor beleid en regelgeving (hierna: IAK) van het Kenniscentrum voor beleid en regelgeving (hierna: KCBR), onderdeel van het ministerie van Justitie en Veiligheid,64x Tot november 2021 bekend als het Kenniscentrum Wetgeving en Juridische zaken (KCWJ). wordt een gedragscode omschreven als:

      ‘een middel om gedrag in organisaties of binnen bijvoorbeeld een beroepsgroep te reguleren. Het is een document dat de basale verantwoordelijkheden jegens belanghebbenden aangeeft en daarvoor een aantal waarden, normen of regels formuleert voor de gehele organisatie of beroepsgroep.’65x IAK, ‘Index beleidsinstrumenten. Gedragscode’.

      Het IAK noteert als voordelen van gedragscodes dat deze de overheid houvast bieden ‘als specifiek kader voor wat gebruikelijk is in een branche’, veel sneller tot stand kunnen komen dan een wet die hetzelfde regelt, kunnen leiden tot afname van de regeldruk voor de centrale overheid en minder toezichts- en handhavingsinspanning vergen.66x Ibidem. Houvast biedt de Gedragscode echter niet: de normstelling is zoals hiervoor beschreven – bewust – vaag gehouden. Snel was de totstandkoming wel, maar nauwelijks op tijd voor de Tweede Kamerverkiezingen. En je kunt je afvragen of afname van regeldruk, toezicht en handhaving wel pluspunten zijn wanneer het om het bevorderen van de integriteit van verkiezingen gaat. Een gebrek aan sturingsmogelijkheden is in dit geval wellicht juist een nadeel; zeker wanneer in herinnering wordt gebracht dat minister Ollongren zich tegenover de Kamer eerder ontevreden had getoond over het gebrek aan consequenties van de hiervoor genoemde EU-brede praktijkcode betreffende desinformatie, zoals aansprakelijkheid bij niet-naleving.67x Kamerstukken II 2020/21, 30821, nr. 118, p. 4-5 (Brief van de minister van BZK van 12 oktober 2020). Die code gaat weliswaar minder specifiek over politieke inhoud, maar normeert wel vergelijkbare – digitale – materie, eveneens op vrijwillige basis. Dat er onder regie van diezelfde minister een evenmin afdwingbaar document verscheen, wekt verbazing.
      Een keuze voor zelfregulering kán principieel zijn. Rechtsfilosoof Witteveen stelde dat men ‘waar dit kan aan zelfregulering de voorkeur [moet] geven boven regulering, om zo de autonomie van de burgers (als zelfwetgevers) te bevorderen.’68x Witteveen 2015, p. 38. Daarin ligt de premisse besloten dat autonomie het ideaal is.69x Ibidem, p. 339-340. De vraag moet gesteld of dit hier ook geldt.70x Ook volgens het standaardwerk Wetgeven is zelfregulering het uitgangspunt. Voor de vraag of zelfregulering is aangewezen, is veel belangrijker dan de voor- en nadelen ‘dat zelfregulering voor het te reguleren onderwerp of de te reguleren sector uitdrukking geeft aan een bepaalde visie op de verhouding tussen overheid en samenleving waarin de vervulling van de publieke taak niet alleen aan de overheid wordt toegedacht’. Van Ommeren 2012, p. 153-154, 210-215. Het doel van deze regulering was tenslotte niet om de handel in politieke advertentieruimte ordentelijk en efficiënt te doen verlopen en de belangen van politieke partijen en platformen over en weer af te stemmen; het was te doen om de integriteit van Nederlandse verkiezingen.
      Als de uitkomst van autonoom opgestelde regels niet daadwerkelijk van invloed is op het gedrag, dan is het de vraag of autonomie het antwoord is. Zelfregulering is een geëigend middel wanneer het de wens is om duidelijke spelregels te formuleren voor de actoren onderling, minder voor het dienen van een algemeen belang dat buiten de gereguleerde sector ligt. Het lijkt bijvoorbeeld hoogst onverstandig om, ter bescherming van de volksgezondheid, slagers te vragen gezamenlijk regels op te laten stellen omtrent voedselveiligheid. Zo is het ook de vraag of het waarborgen van de democratie belegd zou moeten worden bij onderhandelaars wier belangen in belangrijke mate van commerciële respectievelijk electorale aard zijn.
      Het uitgangspunt dat autonomie het ideaal is, gaat in dit geval dan ook niet op. Zelfregulering heeft hier niet enkel gevolgen voor de spelers onderling, maar ook voor kiezers en de integriteit van verkiezingen. Het lijkt moeilijk te rechtvaardigen dat politieke partijen en platformen, die in zekere zin ‘poortwachters’ tussen kiezer en verkiezingen zijn maar primair hun eigenbelang dienen, in dezen autonoom de regels zouden mogen bepalen. Juist de autonomie van burgers om bij verkiezingen een eigen keuze te maken, is immers in het geding.71x Lage drempels, hoge dijken 2018, p. 233. Let wel: het is hier in het geheel niet de bedoeling politieke partijen, onlineplatformen, slagers of welke beroepsgroep dan ook in diskrediet te brengen. Het is nu eenmaal moeilijk om het algemeen belang boven het individuele te stellen.

    • 5 Houdbaarheid en meerwaarde van een wet

      Zelfregulering blijkt dus niet het meest geëigende middel om het gewenste doel te bereiken, en de inhoud van de Gedragscode kan dit niet compenseren. Als de wil om de transparantie van online politieke advertenties te bevorderen overeind blijft, is het wachten daarmee op een wet. Daarvoor zijn de ogen zijn gericht op de Wpp. Hierop vooruitblikkend, verdient ook de keuze voor een wettelijke regeling van digitale campagnevoering nadere beschouwing. De vraag moet namelijk gesteld of deze niet op gespannen voet staat met grondrechten, in het bijzonder de vrijheid van meningsuiting.72x Natuurlijk is bij elke regulering aan het adres van politieke partijen ook de vrijheid van vereniging ex art. 8 Grondwet en art. 11 EVRM in het geding, en is ook recht op privéleven ex art. 10 Grondwet en art. 8 EVRM van relevantie in verband met (de openbaarmaking van) persoonsgegevens. Anders dan bij zelfregulering, is er bij wetgeving immers sprake van een overheid die van bovenaf dwingende regels oplegt en daarmee inmengt in het politieke discours. Politieke meningsuiting geniet de hoogste bescherming onder de vrijheid van meningsuiting ex artikel 10 EVRM.73x EHRM 10 juli 2003, r.o. 67 (Murphy). In die zin was de zelfreguleringsroute dus ‘veiliger’ dan wetgeving. Dit wil echter niet zeggen dat een wet de grondrechtelijke toets niet zou kunnen doorstaan. Gelet op de omvang zal ik een bespreking van artikel 7 Grondwet achterwege laten. Hier volstaat te zeggen dat deze bepaling met het competentievoorschrift ‘behoudens ieders verantwoordelijkheid voor de wet’, voor de rechter in mindere mate voor problemen zal zorgen.74x Al valt dit natuurlijk verder te problematiseren: dat de rechter bij de aanwezigheid van een wet in formele zin met lege handen staat, betekent niet dat de wetgever hiermee een vrijbrief in handen heeft. ‘In het algemeen mag in geen enkele beperkingsbevoegdheid de bevoegdheid worden gelezen het betreffende grondrecht illusoir te maken’, formuleerde kabinet-Den Uyl de ondergrens voor de formele wetgever tijdens de parlementaire behandeling van de grondrechtensystematiek zoals die met de algehele grondwetswijziging van 1983 zou worden ingevoerd: zie Kamerstukken II 1976/77, 13872, nr. 7 (MvA), p. 33. Daarnaast biedt het censuurverbod ex art. 7 lid 1 Grondwet mogelijk aanvullende bescherming: zie bijv., over mogelijke implicaties van het censuurverbod op filterverplichtingen voor platformen, Julicher 2019.

      5.1 De general measure-doctrine

      Artikel 10 EVRM daarentegen beperkt de bewegingsruimte van de wetgever danig. De voorvraag of digitale campagnemiddelen als microtargeting onder de materiële reikwijdte van artikel 10 vallen, lijkt zonder al te veel moeite bevestigend beantwoord te kunnen worden. Volgens het EHRM is het ‘publiceren van informatie met het doel om kiezers te beïnvloeden’ een uitoefening van de vrijheid van meningsuiting.75x EHRM 19 februari 1988, r.o. 47 (Bowman/VK). Voorts heeft het Hof reeds geoordeeld dat onder meer betaalde campagnespots op radio en televisie onder de beschermingssfeer van artikel 10 vallen,76x EHRM 22 april 2013, r.o. 117 (Animal Defenders International/VK) en EHRM 11 december 2008, r.o. 78 (TV Vest). evenals flyers77x EHRM 14 oktober 2010, r.o. 42 (Andrushko/Rusland). en posters.78x EHRM 6 november 2008, r.o. 70 (Kandzhov/Bulgarije).
      Bij de bekende trits in de EVRM-beperkingssystematiek – voorzien bij wet, een legitiem doel dienend en noodzakelijk in een democratische samenleving – zit het venijn doorgaans in de laatste horde. Om een inschatting te maken of de Wpp-regels over digitale campagnevoering een kans van slagen zouden kunnen hebben in Straatsburg, moet gekeken worden naar ’s Hofs jurisprudentie inzake politieke advertenties. Door de jaren heeft het zich driemaal gebogen over verboden van politieke advertenties, waarvan slechts in het derde geval de Staat in het gelijk werd gesteld. In een Zwitserse79x EHRM 28 juni 2001 (VgT Verein gegen Tierfabriken Schweiz/Zwitserland). en een Noorse80x EHRM 11 december 2008 (TV Vest AS & Rogaland Pensjonistparti/Noorwegen). zaak, respectievelijk uit 2001 en 2008, achtte het Hof aldaar geldende verboden op politieke tv-reclame niet proportioneel.
      Maar in het arrest Animal Defenders International/VK (hierna: ADI) liet Straatsburg in 2013 het Britse algehele verbod81x Het verbod ex art. 319 lid 2(g) en art. 321 lid 2 Communications Act 2003. op politieke advertenties op radio en televisie wél in stand.82x EHRM 22 april 2013 (Animal Defenders International/VK). Daartoe introduceerde het een nieuwe doctrine, namelijk die van de general measure, een maatstaf die in de eerdere zaken nog niet op deze manier werd aangelegd.83x Het Hof verwijst hierbij zelf naar EHRM 16 maart 2006, r.o. 112-115 (Ždanoka/Letland). Daar spreekt het Hof van ‘general policy schemes by way of legislative measures whereby a certain category or group of individuals is treated differently from others, provided that the interference with the rights of the statutory category or group as a whole can be justified under the Convention.’ Dergelijke algemene maatregelen ‘apply to pre-defined situations regardless of the individual facts of each case even if this might result in individual hard cases’.84x EHRM 22 april 2013, r.o. 106 (Animal Defenders International/VK). De proportionaliteit van een algemene maatregel moest volgens het Hof aan een drietrapsraket worden onderworpen, waarbij het keek naar:

      1. the ‘quality’ of the parliamentary and judicial review of the necessity of the measure;

      2. the ‘legislative choices’ underlying the general measure; and

      3. any ‘risk of abuse’ if a general measure is relaxed.85x Vgl. R. Ó Fataigh 2014, p. 226 e.v.

      De Britse wet kon de toets doorstaan. Als het precedent van ADI wordt doorgetrokken, hoeft regulering van politieke advertenties via een bepaald medium niet bij voorbaat te rekenen op afkeuring in Straatsburg. Kort gezegd: hoe algemener de maatregel en zorgvuldiger de totstandkoming daarvan, des te hoger de kans van slagen.86x Een voorbeeld van procedural rationality oftewel procedurele toetsing door het EHRM. In geval van procedurele toetsing legt het Hof een minder zware nadruk op zijn eigen inhoudelijke beoordeling van nationale beslissingen, en meer op het deliberatieproces dat daaraan voorafging. Vgl. Huijbers 2018, p 77-78. Aangezien een algeheel verbod, zoals in het arrest aan de orde was, waarschijnlijk de zwaarst denkbare beperking van een grondrecht is, is het a fortiori goed denkbaar dat ook andere, lichtere beperkingen wellicht de toets kunnen doorstaan. Daar komt bij dat het in ADI ging om politieke advertenties op tv, waarvan het de impact op de publieke opinie groter acht dan die van het internet.87x EHRM 22 april 2013, r.o. 119 (Animal Defenders International/VK). Specifieke regels aangaande bijvoorbeeld het uploaden van mailadressen of gebruik van psychologische profilering, zijn minder vergaand dan het verbieden van een belangrijk campagnemiddel zoals televisiereclame en zouden daarmee aan de general measure-criteria kunnen voldoen.

      5.2 Andere maatregelen

      Een lichtere ingreep is niet het geheel verbieden van (aspecten van) microtargeting, maar slechts gedeeltelijk zoals door een beperking van de schaal, het bereik en de omvang ervan.88x Van Hoboken e.a. 2019, p. 50-51. Microtargeting blijft dan toegestaan, maar slechts onder vastgestelde maxima. Een voorbeeld van een dergelijke maximering is door de Staatscommissie parlementair stelsel geopperd. Remkes adviseerde

      ‘om wettelijk te regelen dat een politieke advertentie op sociale mediaplatforms slechts tot een bepaald maximumpercentage gericht mag worden aangeboden aan een bepaalde groep gebruikers. Voor het resterende percentage moet de advertentie aan willekeurige gebruikers worden getoond die niet aan de geselecteerde kenmerken voldoen.’89x Lage drempels, hoge dijken, p. 239.

      De onderliggende ratio, die in het rapport overigens niet uit de doeken wordt gedaan, lijkt te zijn dat op deze manier controle kan plaatsvinden van buiten de ‘bubbel’.90x Trapman is kritisch op deze aanpak. De efficiëntie van campagnevoeren zou worden aangetast, terwijl de toegevoegde waarde van een deel willekeurig gerichte advertenties discutabel is. Trapman 2020, p. 12-14, zie ook Schutgens & Sillen 2019, p. 127-129. Een andere mogelijkheid is om de schaal in te perken door het aan microtargeting uit te geven bedrag te maximeren. Op die manier kan een gelijk speelveld worden bevorderd, zonder het communicatiemiddel geheel uit de gereedschapskist te nemen. Bovendien zijn uitgavelimieten geen fremdkörper binnen de jurisdictie van het Hof: het Verenigd Koninkrijk bijvoorbeeld werkt al lange tijd met campagnefinancieringsregulering waarin de campagnekosten wettelijk gemaximeerd zijn.91x Ewing 2001.
      Hoe zit het dan met transparantieverplichtingen, waarschijnlijk de minst ingrijpende en tegelijkertijd meest voor de hand liggende maatregel?92x Trapman 2020. Voor het EHRM is het vooralsnog niet gekomen tot een rechtszaak over de verenigbaarheid van transparantieverplichtingen met artikel 10. Wel hebben andere aan de Raad van Europa gelieerde organen in officiële documenten het belang van transparantie inzake politieke advertenties actief uitgedragen.93x Van Hoboken e.a. 2019, p. 51-53. Het Comité van Ministers ried in 1999 aan regels op te stellen voor bewustwording van het publiek wanneer een boodschap uitmaakt van een politieke advertentie,94x Recommendation No. R (99) 15 of the Committee of Ministers to member States on measures concerning media coverage of election campaigns, 9 September 1999. en beval in 2007 aan te regelen dat betaalde politieke advertenties als zodanig te herkennen moeten zijn.95x Recommendation CM/Rec(2007)15 of the Committee of Ministers to member states on measures concerning media coverage of election campaigns, 7 November 2007, sectie I.6. De Venetiëcommissie gaf in datzelfde jaar aan te vinden dat staten zouden moeten verplichten dat politieke advertenties ‘clearly labeled’ zijn.96x European Commission for Democracy Through Law, Compilation of Venice Commission Opinions and Reports concerning Media and Elections, CDL-PI(2018)006, 4 July 2018, p. 14. Recenter, in 2019, benadrukte de Venetiëcommissie het belang van ‘accountability’ van internettussenpersonen in het kader van transparantie en toegang tot gegevens over de uitgaven aan politieke advertenties.97x Joint Report of the Venice Commission and of the Directorate of Information Society and Action against Crime of the Directorate General of Human Rights and Rule of Law (DGI) on Digital Technologies and Elections, CDL-AD(2019)016, 24 June 2019, p. 39. Uit het feit dat het Hof dergelijke documenten aanhaalt,98x EHRM 22 april 2013, r.o. 73-75 (Animal Defenders International/VK); EHRM 21 februari 2017, r.o. 53 (Orlovskaya Iskra/Rusland). kan worden afgeleid dat het ook zelf achter het bestaan van transparantieregels staat, of in ieder geval dat ze daarmee niet in strijd met het EVRM moeten worden geacht. ‘De transparantieregels voor politieke advertenties zijn in overeenstemming met artikel 10 EVRM wanneer zij strikt gericht, voldoende duidelijk geformuleerd en evenredig zijn’, concludeert een IvIR-studie.99x Van Hoboken e.a. 2019, p. 59. Aan wettelijke transparantiestandaarden, bijvoorbeeld dat bij elke gerichte advertentie de afzender, kosten en gebruikte gegevens worden vermeld, lijkt artikel 10 derhalve niet in de weg te staan.
      Een wet die digitale campagnevoering reguleert, is dus niet op voorhand onrechtmatig in het licht van de vrijheid van meningsuiting. Integendeel, mits voldaan wordt aan een aantal voorwaarden, is een evenwichtige wet waarschijnlijk kansrijk. Democratiebevordering ‘doet het goed’ in Straatsburg. Democratie is tenslotte, zo herhaalt het Hof door de jaren ettelijke malen, ‘the only political model contemplated by the Convention and, accordingly, the only one compatible with it’.100x Onder meer EHRM 30 januari 1998 (United Communist Party/Turkije); EHRM 31 juli 2001 (Refah Partisi (the Welfare Party) e.a./Turkije); EHRM 14 februari 2006 (Democratic People’s Party/Moldova); EHRM 7 april 2009 (Hyde Park and Others/Moldova); EHRM 10 juli 2012 (SGP/Nederland).

      5.3 Europees voorbijgestreefd?

      Tot slot nog het volgende. Anders dan de Nederlandse, heeft de EU-wetgever vaartgemaakt op het gebied van digitale campagnevoering. In aanvulling op de Digital Services Act101x Verordening van het Europees Parlement en de Raad betreffende een eengemaakte markt voor digitale diensten (wet inzake digitale diensten) en tot wijziging van Richtlijn 2000/31/EG. kwam de Europese Commissie in november 2021 met een voorstel voor een verordening betreffende transparantie en gerichte politieke reclame (de Transparantieverordening).102x COM(2021)731, Voorstel voor een Verordening van het Europees Parlement en de Raad betreffende transparantie en gerichte politieke reclame. Het voorstel beoogt de regels op dit gebied te harmoniseren, en doet dat met zevenmijlslaarzen.
      Zo is er al een (ruime) definitie van ‘politieke reclame’ geformuleerd, namelijk ‘de productie, plaatsing, promotie, publicatie of verspreiding, op welke wijze dan ook, van een boodschap: a) door, voor of namens een politieke actor, tenzij het om een zuiver particuliere of commerciële boodschap gaat; of b) die van invloed kan zijn op het resultaat van een verkiezing of referendum, een wetgevings- of regelgevingsproces of stemgedrag’.103x Art. 2 Transparantieverordening.
      Politieke reclame zal, wanneer de Transparantieverordening tot stand komt, in het vervolg aan de nodige transparantieregels zijn gebonden. Elke politieke reclameboodschap moet onder andere als zodanig worden aangeduid, helderheid bieden over de afzender en ‘de bredere context van de politieke reclame en de doelstellingen ervan’, de periode waarin de advertentie wordt getoond, de uitgaven en de sponsor, en vergezeld gaan (indien van toepassing) van ‘een vermelding van de verkiezingen of referenda waarmee de reclameboodschap verband houdt’.104x Art. 7 Transparantieverordening.
      Naast deze transparantieverplichtingen stelt het Commissievoorstel paal en perk aan hoe ver microtargeting mag gaan. Targeting- en amplificatietechnieken – technieken om de impact en verspreiding van reclameboodschappen te vergroten – worden beperkt. Zo wordt het verboden om gebruik te maken van bijzondere persoonsgegevens zoals etnische afkomst, religieuze overtuiging of seksuele oriëntatie,105x Art. 12(a) Transparantieverordening. behoudens de expliciete toestemming van de persoon in kwestie.106x Art. 12(b) Transparantieverordening. Wanneer persoonsgegevens worden gebruikt, moet informatie worden verstrekt op basis waarvan de betrokkene kan ‘begrijpen wat de onderliggende logica en de belangrijkste kenmerken van die techniek zijn en of er gebruik is gemaakt van gegevens van derden en van aanvullende analysetechnieken.’107x Art. 12(c) Transparantieverordening. De informatie omvat ingevolge Bijlage II van de verordening onder meer de kenmerken die worden gebruikt om ontvangers te bepalen, de categorieën gebruikte persoonsgegevens, de ‘doeleinden, mechanismen en logica van de targeting en amplificatie’, de periode van verspreiding en het aantal ontvangers.
      Indien het voorstel in deze vorm aangenomen wordt – wat niet onwaarschijnlijk is108x Kreijger 2022, p. 50. De auteur wijst erop dat een meerderheid van de EU-lidstaten, Nederland incluis, voorstander is. –, betekent dit een grote stap. De definitie van politieke reclame is ruim: elke boodschap die van invloed kan zijn op verkiezingen of referenda, zou eronder vallen. Hier zijn vraagtekens bij te zetten: het vergt een glazen bol en laat daarmee aan voorzienbaarheid en rechtszekerheid te wensen over. Wat daar ook van zij;109x De in theorie onbegrensde reikwijdte moet kritisch benaderd worden, vgl. Lindroos-Hovinheimo 2022. Overweging 17 van de voorgestelde verordening stelt dat, om te bepalen of er sprake kan zijn van invloed, rekening moet worden gehouden ‘met alle relevante factoren, zoals de inhoud van de boodschap, de taal waarin de boodschap is gesteld, de context waarin de boodschap wordt overgebracht, het doel van de boodschap en de wijze waarop de boodschap wordt gepubliceerd of verspreid’. Betoogd is dat ‘het brede vangnet dat de Europese Commissie uitwerpt een vergaande, onwenselijke en onnodige bemoeienis betekent met het verloop van nationale verkiezingen’. Trapman 2022, p. 2419. de systematiek waarin de verplichtingen worden opgehangen aan de aard van de boodschap en niet aan de identiteit van de afzender, is te prefereren boven wat de Nederlandse regering voor ogen staat. Door het vraagstuk te willen regelen in de Wpp, lijkt zij politieke partijen tot normadressaten van de regulering te kiezen. Dit veronderstelt dat zij de enige actoren zijn die stemgedrag beïnvloeden, hetgeen – zeker anno 2021 – niet het geval is: ook burgers, bedrijven en belangengroepen kunnen de kiezer bewegen tot het uitbrengen van een bepaalde stem en daarbij gebruikmaken van microtargeting.110x Maasbommel 2020.
      Men zou zich kunnen afvragen of de EU zich in dezen niet te veel terrein opeist. Politieke reclame is, behoudens allicht waar het de campagne voor de Europese Parlementsverkiezingen betreft, een aangelegenheid die zich in de eerste plaats op nationaal niveau afspeelt. Het subsidiariteitsbeginsel111x Vastgelegd in art. 5 lid 3 Verdrag betreffende de Europese Unie (VEU). permitteert slechts EU-optreden indien en voor zover de doelstellingen wegens omvang en gevolgen beter op Europees dan op nationaal niveau kunnen worden verwezenlijkt. Het voorstel vindt zijn grondslag in artikel 114 van het Verdrag betreffende de werking van de Europese Unie (VWEU) en is daarmee in de sfeer van de interne markt geplaatst.112x Daarnaast is zij gebaseerd op art. 16 VWEU (bescherming persoonsgegevens). De Commissie bekijkt het ook, blijkens de toelichting, primair door die bril.
      Zij ziet de verordening als instrument om een ‘lappendeken’ aan nationale regels en versnippering tegen te gaan. Dit zou de doeltreffende uitoefening van de vrijheden van vestiging en dienstverrichting ondermijnen, en bovendien zouden grensoverschrijdende activiteiten, ook in de onlineomgeving, aanzienlijke uitdagingen meebrengen voor zuiver nationale regelgeving. Harmonisatie zou onder meer leiden tot rechtszekerheid voor aanbieders van politieke advertenties, nalevingskosten van grensoverschrijdende dienstverlening wegnemen en het risico van niet-naleving verminderen.113x COM(2021)731, p. 7-8. De Nederlandse regering sluit zich hierbij aan en beoordeelt de subsidiariteit eveneens positief: aanbieders en uitgevers van politieke reclame zijn vaak in meerdere landen actief en politieke reclame is niet aan landsgrenzen gebonden, hetgeen met name rondom de Europese verkiezingen zichtbaar wordt. ‘Een goede interne markt is gebaat bij een gelijk speelveld waarbij wetgeving met betrekking tot transparantie van politieke reclame gelijkwaardig is. Optreden op EU-niveau is daarom gerechtvaardigd.’114x Kamerstukken II 2021/22, 36013, nr. 2, p. 8.
      Deze benadering getuigt van een fixatie op de interne markt, die vanuit het Unieperspectief voor de hand ligt maar tegelijkertijd de bijzondere constitutionele betekenis die verkiezingen toekomt in de nationale rechtsorde onderbelicht laat. Campagnevoering is meer dan een economische, al dan niet grensoverschrijdende activiteit: het kan niet zo zijn dat de verordening in het leven wordt geroepen ter vergemakkelijking van buitenlandse bemoeienis met binnenlandse verkiezingen.115x Het voorstel is, zo wordt en passant opgemerkt, mede geplaatst in het Europees actieplan voor democratie. COM(2021)731, p. 5. Bovendien zijn er, zoals hiervoor besproken, grondrechten in het geding. De verordening geeft rekenschap van de mogelijke beperkingen van de vrijheid van meningsuiting, eerbiediging van privéleven en bescherming van persoonsgegevens. Die beperkingen worden in het voorstel ‘bescheiden’ en ‘evenredig’ genoemd, en zouden niet verder gaan dan het noodzakelijke minimum. Ten aanzien van de uitingsvrijheid wordt het volgende opgemerkt: ‘Het initiatief bevat vereisten inzake transparantie, maar is niet van invloed op de eigenlijke inhoud van politieke boodschappen.’116x COM(2021)731, p. 13-14. Dat is te volgen: zolang de voorgeschreven informatie wordt bijgesloten, kan iedere boodschap alsnog worden gecommuniceerd (behoudens strafrechtelijke grenzen).117x Trapman betoogt dat de transparantieverplichtingen wél raken aan de inhoud, nu de vrijheid van meningsuiting ook de vrijheid omvat ‘om een mening niet te uiten.’ Onder de uiting schaart hij ook de metagegevens bij een boodschap onder ‘politieke meningsuiting’, omdat politieke partijen met de beschikbaarstelling daarvan in feite inzage zouden geven in hun campagnestrategie. Partijen zouden dan verplicht worden tot meningsuiting. Een interessante argumentatie waar heel wel iets voor te zeggen is, maar die mijns inziens echter niet tot de conclusie leidt dat de beperking disproportioneel zou zijn. De roep om microtargetingregulering is ontstaan uit het verlangen meer inzicht te krijgen over de gevolgde campagnestrategieën, althans waar het gaat om de gerichte benadering van kiezers. Trapman 2022, p. 2422. Al is Europees ingrijpen in het nationale politieke debat bepaald niet iets om al te lichtvaardig toe over te gaan, en is het marktperspectief nogal beperkt; transparantieverplichtingen baten in beginsel meer dan zij schaden en zijn ook hiervoor in grondrechtelijke zin geduid als een relatief lichte ingreep op dit gebied. Nu de platformen over het gehele continent actief zijn, valt een Europese stroomlijning te rechtvaardigen. Het gaat tenslotte om slechts een (micro-)aspect van het politieke proces.118x Subsidiariteit kan in het geding zijn wanneer bijvoorbeeld de daadwerkelijke organisatie van verkiezingen onderwerp van harmonisatie is. De Tweede Kamer nam recent de motie-Leijten c.s. aan, waarin wordt uitgesproken dat de Kamer een voorstel voor de wijziging van de Europese Kiesakte – waarin onder meer regels zouden worden gesteld over briefstemmen en de dag waarop de EP-verkiezingen zouden moeten worden gehouden – niet in overeenstemming acht met het beginsel van subsidiariteit. Kamerstukken II 2021/22, 36104, nr. 5.
      Het voorgaande doet de vraag rijzen of er voor de Wpp nog iets overblijft om te regelen omtrent digitale campagnes. In het BNC-affiche waarin het kabinet zijn standpunt aangaande de verordening uit de doeken doet, wordt vastgehouden aan het voornemen om alsnog met nationale wetgeving op dit gebied te komen.119x Kamerstukken II 2021/22, 36013, nr. 2. Welnu, als die ambitie blijft staan, is er nog wel degelijk ruimte voor aanvullingen. Advertentiebibliotheken worden niet expliciet verplicht, noch uitgavelimieten of het maximumpercentage zoals voorgesteld door de commissie-Remkes (zie hiervoor par. 4.2). Of de Wpp daartoe de meest aangewezen plek is, is een tweede: het ligt misschien niet voor de hand om daarin de handelswijze van platformen te reguleren.120x Of er moet al geopteerd worden voor een Wet op de politieke partijen en platformen: Wppp.

    • 6 Conclusie

      Digitale campagnemiddelen zoals microtargeting kunnen de integriteit van verkiezingen aantasten. Hoewel de daadwerkelijke effecten van microtargeting op kiesgedrag nog nader moeten worden onderzocht,121x Al lijkt onderzoek aan te tonen dat richten op persoonlijkheidskenmerken kan bijdragen aan overtuigingskracht. Zarouali e.a. 2020. en campagnetechnieken op basis van persoonsgegevens niet altijd zo geavanceerd zijn als vaak wordt gedacht,122x Kefford e.a. 2022. is het gelet op de risico’s goed om regels te stellen; voor nu en later.
      De Gedragscode levert hieraan een weinig waardevolle bijdrage. Dat politieke partijen en onlineplatformen in groten getale hebben willen meewerken, heeft niet kunnen verhelpen – of er juist zelfs aan bijgedragen – dat de daarin vervatte gedragsnormen de benodigde scherpte missen om transparantie te bevorderen. Technische voorschriften worden op een hoog abstractieniveau en zonder toelichting verwoord en daarbovenop nog eens afhankelijk gesteld van de morele standaarden van individuele ondertekenaars. Ook een in beginsel concretere norm, zoals het in werking stellen van advertentiebibliotheken, draagt weinig bij indien er summiere en onduidelijke eisen worden gesteld aan de inhoud daarvan. De indruk wordt gewekt dat de Gedragscode de status quo vastlegt, opdat die verder ongewijzigd blijft.
      De instrumentkeuze is een ongelukkige. Gekozen is, hetgeen enkel gezien de tijdsdruk verklaarbaar is, voor een vorm van zelfregulering. Het resultaat en de onderhandelingen illustreren dat zelfregulering in dit geval wellicht niet het meest geëigende instrument is om te komen tot gedragsverandering. De normstelling is bewust vaag gehouden, enerzijds omdat men het niet eens kon worden over de exacte inhoud, anderzijds om de eigen speelruimte open te laten. Een wassen neus is het gevolg.
      Wanneer iets fundamenteels in het geding is als het democratische proces en er consensus bestaat over de wil dit te beschermen, dan ligt het meer voor de hand om regels te gieten in helder geformuleerde, afdwingbare wetgeving. Wanneer de wetgever regels formuleert omtrent (specifieke vormen van) campagnevoering, is de vrijheid van de meningsuiting in het geding. Gelet op jurisprudentie van het EHRM hoeft regulering van microtargeting echter niet per definitie een schending van artikel 10 EVRM op te leveren. Een zwaardere inmenging heeft Straatsburg eerder ‘overleefd’. Wel stelt de general measure-doctrine hoge eisen aan de wetgever wat betreft zorgvuldigheid.
      Bij wet kan het gedrag daadwerkelijk effectief worden genormeerd, gecontroleerd en indien nodig afgedwongen. Dit pad is met de aankondiging van de Wpp inmiddels ingeslagen. Laat de politiek bij de behandeling van die wet over de inhoud daarvan, en over de resterende meerwaarde ten opzichte van de aanstaande EU-regels, intensief het debat aangaan – graag in de openbaarheid van de Kamers der Staten-Generaal.

    • Literatuurlijst
    • Bennet 2016
      C.J. Bennet, ‘Voter databases, micro-targeting, and data protection law: can political parties campaign in Europe as they do in North America?’, International Data Privacy Law (6) 2016, afl. 4, p. 261-275.

    • Blasi Casagran & Vermeulen 2021
      C. Blasi Casagran & M. Vermeulen, ‘Reflections on the murky legal practices of political micro-targeting from a GDPR perspective’, International Data Privacy Law (11) 2021, afl. 4, p. 348-359.

    • Bodó, Helberger & De Vreese 2017
      B. Bodó, N. Helberger & C.H. de Vreese, ‘Political micro-targeting: a Manchurian candidate or just a dark horse?’, Internet Policy Review (6) 2017, afl. 4.

    • Broeksteeg & Gijsenbergh 2022
      J.L.W. Broeksteeg & J. Gijsenbergh, ‘De Evaluatiewet Wfpp: tussenstation of voorlopig eindstation?’, TvCR 2022/3, p. 200-218.

    • Cadwalladr 2017
      C. Cadwalladr, ‘The great British Brexit robbery: how our democracy was hijacked’, The Observer 7 mei 2017.

    • Cadwalladr & Graham-Harrison 2018
      C. Cadwalladr & E. Graham-Harrison, ‘Revealed: 50 million Facebook profiles harvested for Cambridge Analytica in major data breach’, The Observer 17 maart 2018.

    • Dobber e.a. 2017
      T. Dobber e.a., ‘Two crates of beer and 40 pizzas: the adoption of innovative political behavioural targeting techniques’, Internet Policy Review (6) 2017, afl. 4.

    • Ewing 2001
      K.D. Ewing, ‘Transparency, Accountability and Equality: The Political Parties, Elections and Referendums Act 2000’, Public Law 2001.

    • Grassegger & Krogerus 2020
      H. Grassegger & M. Krogerus, ‘The Data That Turned the World Upside Down. How Cambridge Analytica used your Facebook data to help the Donald Trump campaign in the 2016 election’, Vice.com 2017, www.vice.com/en_us/article/mg9vvn/how-our-likes-helped-trump-win, geraadpleegd op 23 september 2022.

    • Hazenberg e.a. 2018
      H. Hazenberg e.a., Micro-Targeting and ICT media in the Dutch Parliamentary system. Technological changes in Dutch Democracy, Delft: TU Delft 2018.

    • Hofman 2020
      F. Hofman, ‘Ook Nederlandse kijkers trappen in nepvideo met politicus’, NRC Handelsblad 24 augustus 2020.

    • Huijbers 2018
      L.M. Huijbers, ‘Procedurele toetsing, het EHRM en rechtseenheid en diversiteit’, AA 2018, afl. 1, p. 77-85.

    • Julicher 2019
      M.M. Julicher, ‘Red het censuurverbod: schaf het af!’, TvCR 2019/3.

    • Kefford e.a. 2022
      G. Kefford e.a., ‘Data-driven campaigning and democratic disruption: Evidence from six advanced democracies’ Party Politics april 2022.

    • Kooistra 2021
      M. Kooistra, ‘GroenLinks-raadslid geeft toe dat hij achter nep-accounts op Facebook zat’, Algemeen Dagblad 17 februari 2021.

    • Kosinski, Stilwella & Graepe 2013
      M. Kosinski, D. Stillwella & T. Graepe, ‘Private traits and attributes are predictable from digital records of human behavior’, Proceedings of the National Academy of Sciences of the United States of America 2013.

    • Kouwenhoven & Logtenberg 2017
      A. Kouwenhoven & H. Logtenberg, ‘Hoe Denk met “trollen” politieke tegenstanders monddood probeert te maken’, NRC Handelsblad 10 februari 2017.

    • Kreijger 2022
      P.J. Kreijger, ‘De Verordening transparantie en gerichte politieke reclame – een eerste verkenning’, Mediaforum 2022, afl. 2, p. 46-58.

    • Leerssen e.a. 2019
      P. Leerssen e.a., ‘Platform ad archives: promises and pitfalls’, Internet Policy Review (8) 2019, afl. 4.

    • Lindroos-Hovinheimo 2022
      S. Lindroos-Hovinheimo, ‘The Proposed EU Regulation on Political Advertising Has Good Intentions, But Too Wide a Scope’, European Law Blog 23 februari 2022, https://europeanlawblog.eu/2022/02/23/the-proposed-eu-regulation-on-political-advertising-has-good-intentions-but-too-wide-a-scope, geraadpleegd op 23 september 2022.

    • Maasbommel & Munneke 2020
      S. Maasbommel & S.A.J Munneke, ‘Kleine doelen, grote gevolgen’, in L.F.M. Besselink (red.), De Economische Constitutie. Beginselen van de Democratische Rechtsstaat tussen Globalisering en Europeanisering, Nijmegen: WLP 2020, p. 101-124.

    • Maasbommel 2020
      S. Maasbommel, ‘#TK2021: Microtargeting en doelgericht reguleren’, blog op nederlandrechtsstaat.nl, www.nederlandrechtsstaat.nl/tk2021-microtargeting-en-doelgericht-reguleren, geraadpleegd op 23 september 2022.

    • Maasbommel 2021
      S. Maasbommel, ‘Gedragscode politieke advertenties blog #2: een veelbelovende code. Maar zijn beloftes genoeg?’, blog op nederlandrechtsstaat.nl, www.nederlandrechtsstaat.nl/forum/id356/04-03-2021/gedragscode-politieke-advertenties-blog-2-een-veelbelovende-code-maar-zijn-beloftes-genoeg?.html, geraadpleegd op 23 september 2022.

    • Matthews, Deary & Whiteman 2003
      G. Matthews, I.J. Deary & M.C. Whiteman, Personality Traits. Second Edition, Cambridge: Cambridge University Press 2003.

    • Meijer 2019
      E. Meijer, ‘Koen Kegel (D66) valt keihard door de mand’, vlaardingen24.nl 10 maart 2019, www.vlaardingen24.nl/nl/nieuws/politiek/koen-kegel-d66-valt-keihard-door-de-mand/24557, geraadpleegd op 23 september 2022.

    • Mommers, Nuyens & De Wit 2018
      J. Mommers, A. Nuyens & R. de Wit, ‘Beste Mark Rutte, zo klink je als je #klimaatleiderschap toont’, decorrespondent.nl 28 oktober 2018, https://decorrespondent.nl/12847/beste-mark-rutte-zo-klink-je-als-je-klimaatleiderschap-toont/1415855023-2bf2a907, geraadpleegd op 23 september 2022.

    • Mommers & Wijnberg 2021
      J. Mommers & R. Wijnberg, Verantwoording: ‘Hoe onze deepfake klimaattoespraak van Mark Rutte tot stand kwam (en waar die op is gebaseerd)’, De Correspondent 28 oktober 2021, https://decorrespondent.nl/12846/verantwoording-hoe-onze-deepfake-klimaattoespraak-van-mark-rutte-tot-stand-kwam-en-waar-die-op-is-gebaseerd, geraadpleegd op 23 september 2022.

    • Ó Fataigh 2014
      R. Ó Fataigh, ‘Political Advertising and Freedom of Expression’, Greek Public Law Journal (26) 2014, p. 226 e.v.

    • Pauwe 2019
      C. Pauwe, ‘Twitter stopt wereldwijd met politieke advertenties’, NRC Handelsblad 31 oktober 2019.

    • Rubinstein 2014
      I. Rubinstein, ‘Voter Privacy in the Age of Big Data’, Wisconsin Law Review 2014/5, p. 861-936.

    • Rutten 2021
      R. Rutten, ‘Op pad met de Forum-karavaan wordt aan alles getwijfeld’, NRC Handelsblad 15 maart 2021.

    • Schutgens & Sillen 2019
      R.J.B. Schutgens & J.J.J. Sillen, ‘Lage drempels, hoge dijken. Democratie en rechtsstaat in balans. Een bespreking van de belangrijkste aanbevelingen uit het rapport van de Staatscommissie parlementair stelsel’, RMThemis 2019, afl. 3, p. 118-131.

    • Lage drempels, hoge dijken 2018
      Staatscommissie parlementair stelsel, Lage drempels, hoge dijken. Democratie en rechtsstaat in balans (eindrapport), Amsterdam: Boom 2018.

    • Trapman 2020
      L.S.A. Trapman, ‘Regulering van microtargeting volgens de Staatscommissie parlementair stelsel: een verkenning’, TvCR 2020/1, p. 4-19.

    • Trapman 2021
      L.S.A. Trapman, ‘Gedragscode Politieke Advertenties Blog #1’, blog op nederlandrechtsstaat.nl, www.nederlandrechtsstaat.nl/forum/id355/03-03-2021/gedragscode-politieke-advertenties-blog-1.html, geraadpleegd op 23 september 2022.

    • Trapman 2022
      L.S.A. Trapman, ‘Online verkiezingscampagnes, transparantie en de EU. Op zoek naar de “onderliggende logica”’, NJB 2022/30, p. 2417-2424.

    • Van Hoboken e.a. 2019
      J. van Hoboken e.a., Het juridisch kader voor de verspreiding van desinformatie via internetdiensten en de regulering van politieke advertenties, Amsterdam: IViR 2019.

    • Van Loon & Wassens 2021
      W. van Loon & R. Wassens, ‘De rode roos maakt plaats voor het online filmpje’, NRC Handelsblad 23 februari 2021.

    • Van Ommeren 2012
      F.J. van Ommeren, ‘Wetgevingsbeleid: remedies en instrumenten’, in: S.E. Zijlstra (red.), Wetgeven. Handboek voor de centrale en decentrale overheid, Deventer: Kluwer 2012, p. 149 e.v.

    • Voerman & De Graaf 1998
      G. Voerman & J.D. de Graaf, ‘De websites van de Nederlandse politieke partijen, 1994-1998’, in: Jaarboek 1997 Documentatiecentrum Nederlandse Politieke Partijen, Groningen: DNPP 1998, p. 238-269.

    • Witteveen 2015
      W. Witteveen, De Wet als Kunstwerk. Een andere filosofie van het recht, Amsterdam: Boom 2015.

    • Wylie 2017
      C. Wylie, Mindf*ck. Cambridge Analytica and the plot to break America, New York: Random House 2019.

    • Zarouali e.a. 2020
      B. Zarouali e.a., ‘Using a Personality-Profiling Algorithm to Investigate Political Microtargeting: Assessing the Persuasion Effects of Personality-Tailored Ads on Social Media’, Communication Research oktober 2020.

    • Zuiderveen Borgesius e.a. 2019
      F.J. Zuiderveen Borgesius e.a., ‘Online politieke microtargeting. Een zegen of een vloek voor de democratie?’, NJB 2019/10, p. 662-669.

    Noten

    • * Dank gaat uit naar prof. dr. G. Voerman, prof. mr. dr. S.A.J. Munneke en mr. J.R. Trox voor hun waardevolle commentaar op eerdere versies van dit artikel.
    • 1 Te weten die van GroenLinks. Voerman & De Graaf 1998, p. 242-243.

    • 2 Overigens duurt het even voordat de kwestie de media haalt: in 2018 komt het Cambridge Analytica-schandaal aan het licht. Zie daarover onder meer Cadwalladr 2017 en Cadwalladr & Graham-Harrison 2018. Zie ook het relaas van Christopher Wylie, data-analist bij Cambridge Analytica en latere klokkenluider: Wylie 2019.

    • 3 Kamerstukken II 2018/19, 34430, nr. 10 (kabinetsstandpunt over het advies van de staatscommissie parlementair stelsel), p. 2, 10-12.

    • 4 Over de voortgang van de voorbereiding van de Wpp, zie de brief van de minister van BZK van 11 juni 2020, Kamerstukken II 2019/20, 35300 VII, nr. 123.

    • 5 De Evaluatiewet Wfpp heeft al de nodige wijzigingen aangebracht ten aanzien van het partijfinancieringsregime, dat waarschijnlijk als zodanig zal worden overgeheveld naar de Wpp. Broeksteeg & Gijsenbergh 2022, p. 213-214. Een ander beoogd onderdeel van de Wpp is een regeling inzake het partijverbod, dat thans valt onder de generieke regeling van verboden rechtspersonen ex art. 2:20 BW.

    • 6 In de debatten over de (inmiddels aangenomen) wijziging van de Wfpp. Handelingen II 2021/22, nr. 50, item 21, p. 14, 22, 42.

    • 7 Handelingen II 2021/22, nr. 53, item 16, p. 25-26.

    • 8 De inwerkingtreding van de Wpp werd voorheen voorzien op 1 januari 2022. Kamerstukken II 2018/19, 34430, nr. 10 (kabinetsstandpunt over het advies van de staatscommissie parlementair stelsel), p 11. Het demissionaire kabinet-Rutte III besloot het wetsvoorstel evenwel niet in procedure te brengen: Kamerstukken II 2020/21, 35657, nr. 6, p. 2.

    • 9 De Provinciale Staten-, waterschaps-, eilandsraads- en kiescollegeverkiezingen in 2023 en de ­Europese Parlementsverkiezingen in 2024, waarna de cyclus alweer opnieuw begint met de Tweede Kamerverkiezingen van 2025.

    • 10 Bijlage bij de Kamerbrief van de minister van BZK, Kamerstukken II 2020/21, 30821, nr. 126.

    • 11 Een staande definitie ontbreekt, maar in pogingen daartoe keren telkens dezelfde elementen terug. Vgl. Bodó, Helberger & De Vreese 2017 en Rubinstein 2014, p. 882.

    • 12 Blasi Casagran & Vermeulen 2021, p. 349.

    • 13 Een dienst die bij platformen onder verschillende namen wordt aangeboden. Zo heeft Facebook Custom audiences, Google Customer Match Audiences, Twitter Tailored Audiences, LinkedIn Audience Match en Pinterest Audiences. Blasi Casagran & Vermeulen 2021, p. 349-352.

    • 14 Bennett 2018, p. 269-273.

    • 15 Lage drempels, hoge dijken 2018, p. 233.

    • 16 Ibidem, p. 234-235.

    • 17 Broeksteeg & Gijsenbergh 2022, p. 213-214.

    • 18 Verschillen in campagnebudget kunnen een gelijk speelveld belemmeren, door het intransparante karakter van microtargeting wordt buitenlandse beïnvloeding eenvoudiger, en bovendien liggen privacyrechtelijke bezwaren op de loer. Voor een uitgebreidere probleemanalyse, zie Zuiderveen Borgesius e.a. 2019.

    • 19 Lage drempels, hoge dijken 2018, p. 233.

    • 20 Dobber e.a. 2017.

    • 21 Hazenberg e.a. 2018.

    • 22 De campagne van Forum voor Democratie trok met de zogenoemde ‘vrijheidskaravaan’ het land door. Rutten 2021.

    • 23 Ontleend aan het ‘dashboard’ van de UvA, zie https://politieke-advertenties.nl/22-2, geraadpleegd op 22 december 2021. De partij is hierbij mogelijk ontvangen door de enorme gift die zij vlak voor de verkiezingen ontving. ‘CDA onthult donateur waar Omtzigt naar verwees: ondernemer gaf 1,2 miljoen euro aan campagne’, de Volkskrant 14 juni 2021.

    • 24 CDA Financieel verslag 2017. Daarnaast werd in 2016 ook al € 325.523 uitgegeven aan de voorbereiding van de verkiezingen van 2017, blijkens het Financieel verslag 2016.

    • 25 Brief van de minister van BZK van 16 november 2020 (Kamerstukken II 2020/21, 30821, nr. 119).

    • 26 Kamerstukken II, 2020/21, 35570 VII, nr. 10.

    • 27 Verder werd de regering verzocht om vooruitlopend op het Europese Democratie Actieplan een definitie van ‘online politieke advertentie’ te komen en positie in te nemen over de competentie tussen Europa en lidstaten bij het bestrijden van digitale inmenging bij nationale verkiezingen.

    • 28 Kamerstukken II 2020/21, 30821, nr. 120, p. 27.

    • 29 Ibidem.

    • 30 ‘Voorzitter. Ik zei al dat de Wet politieke partijen pas na de volgende verkiezingen door de Kamer zal gaan. De voorstellen voor transparantie over online politieke advertenties zullen nog voor de verkiezingen uitgevoerd moeten worden. Daarover is gisteren een motie van mij en de PvdA aangenomen. Hoe gaat de Minister in de tijd die zij tot aan de verkiezingen nog heeft daar handen en voeten aan geven?’, Kamerstukken II 2020/21, 30821, nr. 120, p. 3. Bijdrage van het lid Middendorp (VVD).

    • 31 Kamerstukken II 2020/21, 30821, nr. 123.

    • 32 International IDEA is een intergouvernementele organisatie die wereldwijd duurzame democratie ondersteunt.

    • 33 Bijlage bij Kamerstukken II 2020/21, 30821, nr. 126 (Kamerbrief).

    • 34 Kamerstukken II 2020/21, 30821, nr. 126 (Kamerbrief), p. 2.

    • 35 Alleen de PVV en Forum voor Democratie bedankten voor onderhandelingsdeelname.

    • 36 Gedragscode, p. 2.

    • 37 Klaarblijkelijk vond men de titel ‘Nederlandse Gedragscode Transparantie, Privacy, Veiligheid, Eerlijkheid, Integriteit en Gelijk Speelveld Online Politieke Advertenties’ toch wat te lang.

    • 38 Meijer 2019, Kooistra 2021.

    • 39 Kouwenhoven & Logtenberg 2017.

    • 40 Hofman 2020. UvA-onderzoekers manipuleerden beeldmateriaal van CDA-politicus Sybrand van Haersma Buma om een filmpje te maken waarin deze een woordgrap maakte over de kruisiging van Jezus. Proefpersonen tuinden erin. Ook De Correspondent lanceerde een deepfake die in technisch opzicht zeer overtuigend was, al zeiden de journalisten dit er eerlijk bij. In de video is premier Mark Rutte te zien die Torentjestoespraak houdt over de urgentie van klimaatbeleid. Mommers, Nuyens & de Wit 2021, voor de verantwoording zie Mommers & Wijnberg 2021.

    • 41 Art. 1 t/m 3 Gedragscode.

    • 42 Art. 5 Gedragscode.

    • 43 Art. 6 Gedragscode.

    • 44 Die mogelijkheid – niet de toepassing daarvan in politieke campagnes – werd ontdekt door onderzoekers van de University of Cambridge. Zij onderzochten in hoeverre karaktereigenschappen van personen konden worden voorspeld aan de hand van hun Facebookgegevens. Kosinski, Stillwella & Graepe 2013.

    • 45 Waarbij de OCEAN-schaal werd gebruikt, een letterwoord voor openness, conscientiousness, extroversion, agreeableness en neuroticism, de ‘big five’. Grassegger & Krogerus 2017. Zie over de trait theory binnen de psychologie ook Matthews, Deary & Whiteman 2003.

    • 46 Trapman 2021.

    • 47 Pauwe 2019.

    • 48 Understanding our policies around paid ads, artikel op newsroom.tiktok.com, https://newsroom.tiktok.com/en-us/understanding-our-policies-around-paid-ads, geraadpleegd op 22 september 2022.

    • 49 Art. 14 Gedragscode.

    • 50 Art. 15 Gedragscode.

    • 51 Ad Library van Facebook, te vinden via www.facebook.com/ads/library/?active_status=all&ad_type=political_and_issue_ads&country=NL.

    • 52 Politieke advertenties op Google, https://transparencyreport.google.com/political-ads/region/NL?hl=nl, geraadpleegd op 23 september 2022.

    • 53 Leerssen e.a. 2019.

    • 54 Snap Politieke Advertenties Bibliotheek, www.snap.com/nl-NL/political-ads, geraadpleegd op 23 september 2022.

    • 55 Art. 19 Gedragscode.

    • 56 Zie ook Maasbommel 2021.

    • 57 Zo vermeldde voorheen de partijwebsite van Volt Nederland, https://voltnederland.org/advertenties, geraadpleegd op 22 december 2021. Inmiddels is de partij hiermee gestopt: ‘Wij richten ons, in tegenstelling tot voorgaande verkiezingen, niet op interesse-categorieën’, is nu op de pagina te lezen, geraadpleegd op 23 september 2022.

    • 58 Van Loon & Wassens 2021.

    • 59 Journal officiel de la République française, nr. 0297, 23 december 2018, nr. 2.

    • 60 Bundesgezetsblatt, Jahrgang 2017, Teil I, Nr. 61, 7 september 2017.

    • 61 Zie voor een beknopte rechtsvergelijking Maasbommel & Munneke 2020.

    • 62 EU-brede praktijkcode betreffende desinformatie: https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=59122.

    • 63 KCBR, Integraal afwegingskader voor beleid en regelgeving, ‘Index beleidsinstrumenten. Gedragscode’, laatst gewijzigd op 2 oktober 2021.

    • 64 Tot november 2021 bekend als het Kenniscentrum Wetgeving en Juridische zaken (KCWJ).

    • 65 IAK, ‘Index beleidsinstrumenten. Gedragscode’.

    • 66 Ibidem.

    • 67 Kamerstukken II 2020/21, 30821, nr. 118, p. 4-5 (Brief van de minister van BZK van 12 oktober 2020). Die code gaat weliswaar minder specifiek over politieke inhoud, maar normeert wel vergelijkbare – digitale – materie, eveneens op vrijwillige basis.

    • 68 Witteveen 2015, p. 38.

    • 69 Ibidem, p. 339-340.

    • 70 Ook volgens het standaardwerk Wetgeven is zelfregulering het uitgangspunt. Voor de vraag of zelfregulering is aangewezen, is veel belangrijker dan de voor- en nadelen ‘dat zelfregulering voor het te reguleren onderwerp of de te reguleren sector uitdrukking geeft aan een bepaalde visie op de verhouding tussen overheid en samenleving waarin de vervulling van de publieke taak niet alleen aan de overheid wordt toegedacht’. Van Ommeren 2012, p. 153-154, 210-215.

    • 71 Lage drempels, hoge dijken 2018, p. 233.

    • 72 Natuurlijk is bij elke regulering aan het adres van politieke partijen ook de vrijheid van vereniging ex art. 8 Grondwet en art. 11 EVRM in het geding, en is ook recht op privéleven ex art. 10 Grondwet en art. 8 EVRM van relevantie in verband met (de openbaarmaking van) persoonsgegevens.

    • 73 EHRM 10 juli 2003, r.o. 67 (Murphy).

    • 74 Al valt dit natuurlijk verder te problematiseren: dat de rechter bij de aanwezigheid van een wet in formele zin met lege handen staat, betekent niet dat de wetgever hiermee een vrijbrief in handen heeft. ‘In het algemeen mag in geen enkele beperkingsbevoegdheid de bevoegdheid worden gelezen het betreffende grondrecht illusoir te maken’, formuleerde kabinet-Den Uyl de ondergrens voor de formele wetgever tijdens de parlementaire behandeling van de grondrechtensystematiek zoals die met de algehele grondwetswijziging van 1983 zou worden ingevoerd: zie Kamerstukken II 1976/77, 13872, nr. 7 (MvA), p. 33. Daarnaast biedt het censuurverbod ex art. 7 lid 1 Grondwet mogelijk aanvullende bescherming: zie bijv., over mogelijke implicaties van het censuurverbod op filterverplichtingen voor platformen, Julicher 2019.

    • 75 EHRM 19 februari 1988, r.o. 47 (Bowman/VK).

    • 76 EHRM 22 april 2013, r.o. 117 (Animal Defenders International/VK) en EHRM 11 december 2008, r.o. 78 (TV Vest).

    • 77 EHRM 14 oktober 2010, r.o. 42 (Andrushko/Rusland).

    • 78 EHRM 6 november 2008, r.o. 70 (Kandzhov/Bulgarije).

    • 79 EHRM 28 juni 2001 (VgT Verein gegen Tierfabriken Schweiz/Zwitserland).

    • 80 EHRM 11 december 2008 (TV Vest AS & Rogaland Pensjonistparti/Noorwegen).

    • 81 Het verbod ex art. 319 lid 2(g) en art. 321 lid 2 Communications Act 2003.

    • 82 EHRM 22 april 2013 (Animal Defenders International/VK).

    • 83 Het Hof verwijst hierbij zelf naar EHRM 16 maart 2006, r.o. 112-115 (Ždanoka/Letland). Daar spreekt het Hof van ‘general policy schemes by way of legislative measures whereby a certain category or group of individuals is treated differently from others, provided that the interference with the rights of the statutory category or group as a whole can be justified under the Convention.’

    • 84 EHRM 22 april 2013, r.o. 106 (Animal Defenders International/VK).

    • 85 Vgl. R. Ó Fataigh 2014, p. 226 e.v.

    • 86 Een voorbeeld van procedural rationality oftewel procedurele toetsing door het EHRM. In geval van procedurele toetsing legt het Hof een minder zware nadruk op zijn eigen inhoudelijke beoordeling van nationale beslissingen, en meer op het deliberatieproces dat daaraan voorafging. Vgl. Huijbers 2018, p 77-78.

    • 87 EHRM 22 april 2013, r.o. 119 (Animal Defenders International/VK).

    • 88 Van Hoboken e.a. 2019, p. 50-51.

    • 89 Lage drempels, hoge dijken, p. 239.

    • 90 Trapman is kritisch op deze aanpak. De efficiëntie van campagnevoeren zou worden aangetast, terwijl de toegevoegde waarde van een deel willekeurig gerichte advertenties discutabel is. Trapman 2020, p. 12-14, zie ook Schutgens & Sillen 2019, p. 127-129.

    • 91 Ewing 2001.

    • 92 Trapman 2020.

    • 93 Van Hoboken e.a. 2019, p. 51-53.

    • 94 Recommendation No. R (99) 15 of the Committee of Ministers to member States on measures concerning media coverage of election campaigns, 9 September 1999.

    • 95 Recommendation CM/Rec(2007)15 of the Committee of Ministers to member states on measures concerning media coverage of election campaigns, 7 November 2007, sectie I.6.

    • 96 European Commission for Democracy Through Law, Compilation of Venice Commission Opinions and Reports concerning Media and Elections, CDL-PI(2018)006, 4 July 2018, p. 14.

    • 97 Joint Report of the Venice Commission and of the Directorate of Information Society and Action against Crime of the Directorate General of Human Rights and Rule of Law (DGI) on Digital Technologies and Elections, CDL-AD(2019)016, 24 June 2019, p. 39.

    • 98 EHRM 22 april 2013, r.o. 73-75 (Animal Defenders International/VK); EHRM 21 februari 2017, r.o. 53 (Orlovskaya Iskra/Rusland).

    • 99 Van Hoboken e.a. 2019, p. 59.

    • 100 Onder meer EHRM 30 januari 1998 (United Communist Party/Turkije); EHRM 31 juli 2001 (Refah Partisi (the Welfare Party) e.a./Turkije); EHRM 14 februari 2006 (Democratic People’s Party/Moldova); EHRM 7 april 2009 (Hyde Park and Others/Moldova); EHRM 10 juli 2012 (SGP/Nederland).

    • 101 Verordening van het Europees Parlement en de Raad betreffende een eengemaakte markt voor digitale diensten (wet inzake digitale diensten) en tot wijziging van Richtlijn 2000/31/EG.

    • 102 COM(2021)731, Voorstel voor een Verordening van het Europees Parlement en de Raad betreffende transparantie en gerichte politieke reclame.

    • 103 Art. 2 Transparantieverordening.

    • 104 Art. 7 Transparantieverordening.

    • 105 Art. 12(a) Transparantieverordening.

    • 106 Art. 12(b) Transparantieverordening.

    • 107 Art. 12(c) Transparantieverordening. De informatie omvat ingevolge Bijlage II van de verordening onder meer de kenmerken die worden gebruikt om ontvangers te bepalen, de categorieën gebruikte persoonsgegevens, de ‘doeleinden, mechanismen en logica van de targeting en amplificatie’, de periode van verspreiding en het aantal ontvangers.

    • 108 Kreijger 2022, p. 50. De auteur wijst erop dat een meerderheid van de EU-lidstaten, Nederland incluis, voorstander is.

    • 109 De in theorie onbegrensde reikwijdte moet kritisch benaderd worden, vgl. Lindroos-Hovinheimo 2022. Overweging 17 van de voorgestelde verordening stelt dat, om te bepalen of er sprake kan zijn van invloed, rekening moet worden gehouden ‘met alle relevante factoren, zoals de inhoud van de boodschap, de taal waarin de boodschap is gesteld, de context waarin de boodschap wordt overgebracht, het doel van de boodschap en de wijze waarop de boodschap wordt gepubliceerd of verspreid’. Betoogd is dat ‘het brede vangnet dat de Europese Commissie uitwerpt een vergaande, onwenselijke en onnodige bemoeienis betekent met het verloop van nationale verkiezingen’. Trapman 2022, p. 2419.

    • 110 Maasbommel 2020.

    • 111 Vastgelegd in art. 5 lid 3 Verdrag betreffende de Europese Unie (VEU).

    • 112 Daarnaast is zij gebaseerd op art. 16 VWEU (bescherming persoonsgegevens).

    • 113 COM(2021)731, p. 7-8.

    • 114 Kamerstukken II 2021/22, 36013, nr. 2, p. 8.

    • 115 Het voorstel is, zo wordt en passant opgemerkt, mede geplaatst in het Europees actieplan voor democratie. COM(2021)731, p. 5.

    • 116 COM(2021)731, p. 13-14.

    • 117 Trapman betoogt dat de transparantieverplichtingen wél raken aan de inhoud, nu de vrijheid van meningsuiting ook de vrijheid omvat ‘om een mening niet te uiten.’ Onder de uiting schaart hij ook de metagegevens bij een boodschap onder ‘politieke meningsuiting’, omdat politieke partijen met de beschikbaarstelling daarvan in feite inzage zouden geven in hun campagnestrategie. Partijen zouden dan verplicht worden tot meningsuiting. Een interessante argumentatie waar heel wel iets voor te zeggen is, maar die mijns inziens echter niet tot de conclusie leidt dat de beperking disproportioneel zou zijn. De roep om microtargetingregulering is ontstaan uit het verlangen meer inzicht te krijgen over de gevolgde campagnestrategieën, althans waar het gaat om de gerichte benadering van kiezers. Trapman 2022, p. 2422.

    • 118 Subsidiariteit kan in het geding zijn wanneer bijvoorbeeld de daadwerkelijke organisatie van verkiezingen onderwerp van harmonisatie is. De Tweede Kamer nam recent de motie-Leijten c.s. aan, waarin wordt uitgesproken dat de Kamer een voorstel voor de wijziging van de Europese Kiesakte – waarin onder meer regels zouden worden gesteld over briefstemmen en de dag waarop de EP-verkiezingen zouden moeten worden gehouden – niet in overeenstemming acht met het beginsel van subsidiariteit. Kamerstukken II 2021/22, 36104, nr. 5.

    • 119 Kamerstukken II 2021/22, 36013, nr. 2.

    • 120 Of er moet al geopteerd worden voor een Wet op de politieke partijen en platformen: Wppp.

    • 121 Al lijkt onderzoek aan te tonen dat richten op persoonlijkheidskenmerken kan bijdragen aan overtuigingskracht. Zarouali e.a. 2020.

    • 122 Kefford e.a. 2022.

Dank gaat uit naar prof. dr. G. Voerman, prof. mr. dr. S.A.J. Munneke en mr. J.R. Trox voor hun waardevolle commentaar op eerdere versies van dit artikel.

Print dit artikel