In deze bijdrage staat centraal de oplegging van bestuurlijk boetes aan overheden, in het bijzonder door de privacytoezichthouder: welke mogelijkheden en beperkingen kent het Nederlands recht hiervoor in algemene zin, welke mogelijkheden en beperkingen golden en gelden in het bijzonder voor de Nederlandse privacytoezichthouder en in hoeverre heeft deze toezichthouder in het recente en verdere verleden boetes aan overheden opgelegd.

Welke effecten kunnen we op termijn verwachten als inspecteurs op basis van data risicogebaseerd gaan werken? We hebben een agentgebaseerd model ontwikkeld waarmee we verschillende scenario’s kunnen testen. Het model bevestigt het potentieel van datagedreven toezicht op de effectiviteit voor inspecties. Maar het waarschuwt ook voor bias, omdat met datagedreven toezicht alleen data van risicovolle bedrijven worden verkregen. Een beperkt aantal willekeurige inspecties kan de datakwaliteit al fors doen toenemen. Daarmee waarschuwen we voor te veel optimisme over de efficiëntie van datagedreven risicogebaseerd toezicht. Bovendien reiken we een model aan waarmee een optimum tussen datagedreven en willekeurige inspecties te bepalen is.

Voor deze aflevering van het estafette-interview spraken Elianne van Steenbergen en Frans van Bruggen namens de redactie van Tijdschrift voor Toezicht met Monique Verdier, sinds 1 februari 2019 vicevoorzitter in de raad van bestuur en Katja Mur, sinds 1 januari 2019 lid van de raad van bestuur. Mede naar aanleiding van de suggesties van Martijn Snoep, bestuurslid van de Autoriteit Consument en Markt (ACM), die we interviewden voor nummer 2020-3 van Tijdschrift voor Toezicht, spraken wij met Katja en Monique over hoe privacy zich verhoudt tot andere publieke waarden en de rol die privacy speelt in de coronacrisis.

Een scherpe stijging in het aantal drones en snelle vorderingen in dronetechnologie creëren nieuwe mogelijkheden en risico’s voor veiligheid en privacy. Door een beperkte toezichtcapaciteit is er behoefte aan gedragsinterventies die spontane naleving stimuleren. Het huidige onderzoek beschrijft psychologische factoren, zoals weerstand, die het regelnalevingsgedrag van dronepiloten beïnvloeden omtrent vliegen in no fly zones (gebieden waar men niet met een drone mag vliegen). De gemodelleerde antwoorden van 843 dronepiloten laten zien dat twee typen weerstand, inertie en scepticisme, invloed hebben op het gedrag van dronepiloten. Dit artikel beschrijft hoe deze inzichten door toezichthouders kunnen worden gebruikt om gewenst gedrag te bevorderen.

Voor risicogerichte handhaving van regelnaleving door bedrijven is het niet alleen van belang inzicht te verkrijgen in hoe vaak een bedrijf de regels overtreedt, maar ook welke regels worden overtreden. Patronen in de aard van regelovertreding kunnen indicatief zijn voor de achterliggende oorzaak van regelovertreding en daarmee nuttige kennis opleveren voor het vormgeven van effectieve handhavingsstrategieën. In deze studie brengen we patronen in de aard van regelovertreding in kaart voor 494 Nederlandse Brzo-bedrijven die vallen onder de Europese Seveso III-richtlijn. We maken hiervoor gebruik van zowel de diversiteitsindex als latenteklasseanalyse. Onze resultaten laten zien dat diversiteit in regelovertreding sterk samenhangt met de frequentie waarmee bedrijven regels overtreden. Regelovertredende bedrijven blijken doorgaans geen specialisten, maar generalisten. Implicaties voor toezicht en handhaving worden besproken.

In Nederland is de herziene vierde anti-witwasrichtlijn (AMLD5) geïmplementeerd in onder andere de Wet ter voorkoming van witwassen en terrorismefinanciering (Wwft). De herzieningen zijn per 21 mei 2020 van kracht geworden. Een van de belangrijkste wijzigingen die in de Wwft is doorgevoerd betreft de uitbreiding van de reikwijdte van de wet naar twee typen aanbieders van cryptodiensten, te weten aanbieders van wisseldiensten voor het wisselen tussen crypto’s en fiat geld en aanbieders van custodian wallets. De Nederlandse Bank (DNB) is toezichthouder op deze nieuwe aanbieders en heeft er daarmee een nieuwe taak bij.

De Inspectie Justitie en Veiligheid (Inspectie JenV) houdt toezicht op de politie. In dit artikel kijken we of dat toezicht voldoet aan daaraan te stellen eisen van selectiviteit, responsiviteit en prudentie. Aan de hand van de zaak Hümeyra concluderen we dat de Inspectie JenV kennelijk niet heeft overwogen om de evaluatie over te laten aan interne of (andere) externe toezichthouders en zich ook niet heeft gebaseerd op een voorafgaande risicoanalyse (selectiviteit). Daarnaast heeft de Inspectie JenV haar onderzoek maar zeer beperkt in dialoog en interactie met de politie uitgevoerd en niet (ook) het perspectief vanuit de politie in beeld gebracht (responsiviteit). Bovendien heeft de Inspectie JenV geen rekening gehouden met de bijzondere positie van de politie (prudentie).

In deze notenkraker staat een uitspraak centraal over de vraag, of een franchisegever (de Drie Notenboomen B.V.) in de zorg, verantwoordelijk kan worden gehouden voor handelingen van de franchisenemers (de zorglocaties). Aanleiding vormde een veiligheidsincident op één van de zorglocaties. De Afdeling oordeelt dat in deze situatie de franchisegever niet als overtreder kan worden aangemerkt, omdat deze – kort gezegd – voornamelijk zou toezien op de franchiseformule en niet op de feitelijke zorglevering. Naast een bespreking van de uitspraak wordt ingegaan op de mogelijkheid om een partij, wanneer die niet geldt als overtreder, als ‘medepleger’ aan te merken.

Artificiële intelligentie (AI) is een revolutionaire technologie die een grote impact heeft op ons leven. Naast de aanzienlijke voordelen die AI ons oplevert, gaan ook significante risico’s met deze ontwikkeling gepaard. Tegen deze achtergrond zien we dat steeds meer toezichthouders zich aantoonbaar bezighouden met AI. De hamvraag voor veel toezichthouders is hoe zij zich moeten verhouden tot AI. Dit is geen eenvoudige zoektocht. Met onze bijdrage hopen wij deze zoektocht te faciliteren door de risico’s die gepaard gaan met AI-toepassingen overzichtelijk op een rijtje te zetten en vervolgens een zestal handvatten aan te reiken die toezichthouders kunnen gebruiken bij het inrichten van hun toezicht op AI.

De populariteit van zelflerende algoritmes heeft zorgen gewekt bij academici en mededingingstoezichthouders over het mogelijk prijsverhogende effect van algoritmes voor prijszetting. Experts waarschuwen dat zelflerende algoritmes stilzwijgend zouden kunnen samenspannen en hogere prijzen kunnen bewerkstelligen (colluderen). Aan de andere kant zijn er auteurs die stellen dat coördinatie zelfs voor algoritmes te complex is om zonder verboden informatie-uitwisseling te bereiken. Wij overbruggen het gat tussen theoretische zorgen en dit praktisch scepticisme. In dit artikel analyseren wij mechanismes die ervoor zorgen dat zelflerende algoritmes in een setting met concurrentie relatief hoge prijzen kunnen bereiken, met een onderscheid tussen vorming en stabiliteit van stilzwijgende samenspanning. We analyseren de praktische toepasbaarheid van deze mechanismes. Stabiliteit-bevorderende mechanismes kunnen vóórkomen, maar we vinden het minder aannemelijk dat ook de prijsverhogende mechanismes in de praktijk kunnen worden gerealiseerd, vanwege de aanzienlijke kosten van experimentatie met prijzen, die essentieel is voor deze mechanismes. We concluderen dat het gebruik van AI (Artifical Intelligence) voor prijszetting mechanismes biedt die het risico op algoritmische collusie verhogen, maar de praktische belemmeringen betekenen dat het risico op dit moment beperkt lijkt te zijn tot specifieke markten of samenloop van omstandigheden.

Voor deze aflevering van het estafette-interview spraken Marije Batting en Martijn Groenleer namens de redactie van Tijdschrift voor Toezicht met Martijn Snoep, sinds 1 september 2018 bestuursvoorzitter van de ACM.¹x Het gesprek vond begin november 2019 plaats. Mede naar aanleiding van de suggesties van Hanzo van Beusekom, bestuurslid van de Autoriteit Financiële Markten (AFM), die we interviewden voor nummer 2019-3 van Tijdschrift voor Toezicht, spraken wij met Martijn over de elementen van een goede toezichtstrategie en over de balans tussen handhaven en beïnvloeden.

Noten

• 1 Het gesprek vond begin november 2019 plaats.

Automatische en Intelligente Systemen (IEEE, 2018) rukken steeds verder op in de samenleving. De toepassing ervan is echter niet onomstreden. Er is veel politieke en maatschappelijke onrust, met name over het gebruik van deze systemen door de overheid. Vooral toezichthouders liggen daarbij onder vuur. Snel wordt vergeten dat het gebruik van algoritmes kansen biedt voor het werk van toezichthouders. Daarom is een verantwoorde implementatie van artificial intelligence van groot belang, waarbij de toezichthouder zich verdiept in de werking van de technologie en de eisen die eraan gesteld moeten worden, welke kansen technologie biedt en wat nodig is om deze te realiseren. De toezichthouder moet oog hebben voor de gevolgen van technologie voor de positie van burgers en andere belanghebbenden, voor de veranderingen in verhouding tussen toezichthouder en burgers, en open oog voor (soms onvoorziene) rollen en bijpassende verantwoordelijkheden die op de toezichthouder afkomen als gevolg van het toepassen van technologie.

Algoritmen helpen om op grote schaal beslissingen te nemen. Het is echter lastig om achteraf toe te zien op de kwaliteit van deze beslissingen. Toezicht zou zich met name moeten richten op het wordingsproces van algoritmes: de stappen die genomen worden om te komen van probleemomschrijving tot een geïmplementeerd algoritme. In dit proces worden immers de principiële keuzes gemaakt die bepalend zijn voor de manier waarop het algoritme zal handelen en de wijze waarop het uitwerking heeft op de maatschappij. Door deze keuzes expliciet en onder de juiste overwegingen te maken verkleint het risico op misdragingen. Toezichthouders en ontwikkelaars van algoritmen tezamen kunnen hier een handreiking voor opstellen.

De overheid maakt in toenemende mate gebruik van systemen die taken verrichten die eerst door ambtenaren werden uitgevoerd. Denk aan het verlenen en uitbetalen van uitkeringen, het opleggen van boetes, bedienen van ophaalbruggen enzovoort. Bij de inzet van deze systemen wordt niet altijd onderkend dat hierbij voldaan moet worden aan de regels die voor de overheid gelden. Bovendien brengt de inzet van deze systemen – algoritmen – nieuwe, deels voorzienbare en deels onvoorzienbare risico’s met zich mee. Daarom wordt steeds vaker gevraagd om meer toezicht op algoritmen. Om dit toezicht effectief te laten zijn zou er een zorgplicht moeten worden ingevoerd.

Nederland transformeert naar een datagedreven samenleving. De politie, de Belastingdienst en uitkeringsinstanties experimenteren met Big Data; private partijen, zoals sociale media, banken, en medische organisaties gebruiken algoritmes en profielen om beleidskeuzes te maken. Daarbij worden beleidskeuzes steeds meer geautomatiseerd. Uit de substantiële hoeveelheden data die worden verzameld worden patronen, correlaties en waarschijnlijke verbanden tussen verschillende datapunten gedestilleerd. De profielen die op basis daarvan worden vervaardigd worden gebruikt om keuzes te maken over toekomstige gevallen. Hierdoor wordt het besluit- en beleidsvormingsproces in toenemende mate gestandaardiseerd. De hoop is dat de door data-analyse geïnformeerde besluiten kwalitatief beter zullen zijn en dit de uitvoering van het beleid effectiever en efficiënter zal maken. In onderzoek dat is verricht in opdracht van het ministerie van Justitie en veiligheid wordt geconcludeerd dat tien veranderingen aan het Nederlands recht nodig zijn om deze transitie in goede banen te leiden.

Datawetenschap is voor het recht van groot belang. De daaruit voortvloeiende voorspellende algoritmische modellen kunnen worden gebruikt om toezicht uit te oefenen, bijvoorbeeld of geen uitkeringsfraude wordt gepleegd. Vaak leveren de inzichten uit de datawetenschap goede voorspellingen op over mogelijke fraudegevallen. In de praktijk zijn er toch problemen, bijvoorbeeld met de steekproef en de data op basis waarvan voorspellingen worden gedaan. Dat probleem is sterker aanwezig naarmate de gebruikte modellen complexer zijn. In deze bijdrage wordt op deze problemen ingegaan en wordt betoogd dat menselijk handelen van groot belang is wanneer gebruik wordt gemaakt van voorspellende modellen.

De wereldeconomie is na 2001 snel verder geïntegreerd. De globalisatie heeft een extra dimensie gekregen door de opkomst van platformbedrijven. Het gaat hier feitelijk om virtuele ondernemingen die zich betrekkelijk eenvoudig aan de fiscale regels kunnen onttrekken. Ook de financiële sector is sterk geglobaliseerd, maar het toezicht op deze sector is nog steeds grotendeels voorbehouden aan lokale autoriteiten. Om effectief toezicht te kunnen houden zouden de natiestaten bevoegdheden moeten overdragen aan supranationale autoriteiten. Dat staat echter op gespannen voet met de mogelijkheid om op basis van een lokaal democratische legitimatie beleid te voeren. In deze bijdrage worden een aantal casusposities geanalyseerd en verschillende oplossingsrichtingen besproken.

Op 18 december 2018 heeft het College van Beroep voor het Bedrijfsleven zich in een drietal procedures over bestuurlijke boetes op grond van de Meststoffenwet uitgesproken over de door de Minister van LNV gehanteerde geheime marges. Het College acht het gebruik van dergelijke marges bij boeteprocedures niet geoorloofd en vernietigt de besluiten. Het College baseert de vernietiging duidelijk op het verdedigingsbeginsel en niet op eisen rond voorzienbaarheid van gedrag en strafbaarheid, waardoor de gevolgen beperkt blijven.