Voor risicogerichte handhaving van regelnaleving door bedrijven is het niet alleen van belang inzicht te verkrijgen in hoe vaak een bedrijf de regels overtreedt, maar ook welke regels worden overtreden. Patronen in de aard van regelovertreding kunnen indicatief zijn voor de achterliggende oorzaak van regelovertreding en daarmee nuttige kennis opleveren voor het vormgeven van effectieve handhavingsstrategieën. In deze studie brengen we patronen in de aard van regelovertreding in kaart voor 494 Nederlandse Brzo-bedrijven die vallen onder de Europese Seveso III-richtlijn. We maken hiervoor gebruik van zowel de diversiteitsindex als latenteklasseanalyse. Onze resultaten laten zien dat diversiteit in regelovertreding sterk samenhangt met de frequentie waarmee bedrijven regels overtreden. Regelovertredende bedrijven blijken doorgaans geen specialisten, maar generalisten. Implicaties voor toezicht en handhaving worden besproken.

In Nederland is de herziene vierde anti-witwasrichtlijn (AMLD5) geïmplementeerd in onder andere de Wet ter voorkoming van witwassen en terrorismefinanciering (Wwft). De herzieningen zijn per 21 mei 2020 van kracht geworden. Een van de belangrijkste wijzigingen die in de Wwft is doorgevoerd betreft de uitbreiding van de reikwijdte van de wet naar twee typen aanbieders van cryptodiensten, te weten aanbieders van wisseldiensten voor het wisselen tussen crypto’s en fiat geld en aanbieders van custodian wallets. De Nederlandse Bank (DNB) is toezichthouder op deze nieuwe aanbieders en heeft er daarmee een nieuwe taak bij.

De Inspectie Justitie en Veiligheid (Inspectie JenV) houdt toezicht op de politie. In dit artikel kijken we of dat toezicht voldoet aan daaraan te stellen eisen van selectiviteit, responsiviteit en prudentie. Aan de hand van de zaak Hümeyra concluderen we dat de Inspectie JenV kennelijk niet heeft overwogen om de evaluatie over te laten aan interne of (andere) externe toezichthouders en zich ook niet heeft gebaseerd op een voorafgaande risicoanalyse (selectiviteit). Daarnaast heeft de Inspectie JenV haar onderzoek maar zeer beperkt in dialoog en interactie met de politie uitgevoerd en niet (ook) het perspectief vanuit de politie in beeld gebracht (responsiviteit). Bovendien heeft de Inspectie JenV geen rekening gehouden met de bijzondere positie van de politie (prudentie).

In deze notenkraker staat een uitspraak centraal over de vraag, of een franchisegever (de Drie Notenboomen B.V.) in de zorg, verantwoordelijk kan worden gehouden voor handelingen van de franchisenemers (de zorglocaties). Aanleiding vormde een veiligheidsincident op één van de zorglocaties. De Afdeling oordeelt dat in deze situatie de franchisegever niet als overtreder kan worden aangemerkt, omdat deze – kort gezegd – voornamelijk zou toezien op de franchiseformule en niet op de feitelijke zorglevering. Naast een bespreking van de uitspraak wordt ingegaan op de mogelijkheid om een partij, wanneer die niet geldt als overtreder, als ‘medepleger’ aan te merken.

Artificiële intelligentie (AI) is een revolutionaire technologie die een grote impact heeft op ons leven. Naast de aanzienlijke voordelen die AI ons oplevert, gaan ook significante risico’s met deze ontwikkeling gepaard. Tegen deze achtergrond zien we dat steeds meer toezichthouders zich aantoonbaar bezighouden met AI. De hamvraag voor veel toezichthouders is hoe zij zich moeten verhouden tot AI. Dit is geen eenvoudige zoektocht. Met onze bijdrage hopen wij deze zoektocht te faciliteren door de risico’s die gepaard gaan met AI-toepassingen overzichtelijk op een rijtje te zetten en vervolgens een zestal handvatten aan te reiken die toezichthouders kunnen gebruiken bij het inrichten van hun toezicht op AI.

Binnen de overheid neemt semigeautomatiseerde besluitvorming toe. Parallel daaraan is er steeds meer aandacht voor eisen aan onderliggende algoritmes. Een daarvan is dat algoritmes die de overheid gebruikt bij (deels) geautomatiseerde besluitvorming, transparant en uitlegbaar horen te zijn. Dat past bij een transparante overheid en is ook het recht van individuele burgers voor wie een besluit potentieel rechtsgevolgen heeft. Een gemeente zal een betrokkene bijvoorbeeld moeten informeren waarom hij of zij wordt ‘geprofileerd’ als mogelijke uitkeringsfraudeur. Bij het transparant maken van algoritmes kan niet altijd worden volstaan met een beroep op de kennis van direct betrokkenen, zoals programmeurs. Dit artikel betoogt dat daarom ‘iets’ van gebruikte algoritmes opgenomen zal moeten worden in het archief van de organisatie en moeten worden beheerd in lijn met de Archiefwet. Voor wat dat dan concreet betekent, worden enkele richtingen verkend maar er is nog veel uit te zoeken. De Inspectie Overheidsinformatie en Erfgoed ziet hier, als toezichthouder op de Archiefwet, ook voor zichzelf een rol en zal de ontwikkelingen nader volgen.

De populariteit van zelflerende algoritmes heeft zorgen gewekt bij academici en mededingingstoezichthouders over het mogelijk prijsverhogende effect van algoritmes voor prijszetting. Experts waarschuwen dat zelflerende algoritmes stilzwijgend zouden kunnen samenspannen en hogere prijzen kunnen bewerkstelligen (colluderen). Aan de andere kant zijn er auteurs die stellen dat coördinatie zelfs voor algoritmes te complex is om zonder verboden informatie-uitwisseling te bereiken. Wij overbruggen het gat tussen theoretische zorgen en dit praktisch scepticisme. In dit artikel analyseren wij mechanismes die ervoor zorgen dat zelflerende algoritmes in een setting met concurrentie relatief hoge prijzen kunnen bereiken, met een onderscheid tussen vorming en stabiliteit van stilzwijgende samenspanning. We analyseren de praktische toepasbaarheid van deze mechanismes. Stabiliteit-bevorderende mechanismes kunnen vóórkomen, maar we vinden het minder aannemelijk dat ook de prijsverhogende mechanismes in de praktijk kunnen worden gerealiseerd, vanwege de aanzienlijke kosten van experimentatie met prijzen, die essentieel is voor deze mechanismes. We concluderen dat het gebruik van AI (Artifical Intelligence) voor prijszetting mechanismes biedt die het risico op algoritmische collusie verhogen, maar de praktische belemmeringen betekenen dat het risico op dit moment beperkt lijkt te zijn tot specifieke markten of samenloop van omstandigheden.

Voor deze aflevering van het estafette-interview spraken Marije Batting en Martijn Groenleer namens de redactie van Tijdschrift voor Toezicht met Martijn Snoep, sinds 1 september 2018 bestuursvoorzitter van de ACM.¹x Het gesprek vond begin november 2019 plaats. Mede naar aanleiding van de suggesties van Hanzo van Beusekom, bestuurslid van de Autoriteit Financiële Markten (AFM), die we interviewden voor nummer 2019-3 van Tijdschrift voor Toezicht, spraken wij met Martijn over de elementen van een goede toezichtstrategie en over de balans tussen handhaven en beïnvloeden.

Noten

• 1 Het gesprek vond begin november 2019 plaats.

Automatische en Intelligente Systemen (IEEE, 2018) rukken steeds verder op in de samenleving. De toepassing ervan is echter niet onomstreden. Er is veel politieke en maatschappelijke onrust, met name over het gebruik van deze systemen door de overheid. Vooral toezichthouders liggen daarbij onder vuur. Snel wordt vergeten dat het gebruik van algoritmes kansen biedt voor het werk van toezichthouders. Daarom is een verantwoorde implementatie van artificial intelligence van groot belang, waarbij de toezichthouder zich verdiept in de werking van de technologie en de eisen die eraan gesteld moeten worden, welke kansen technologie biedt en wat nodig is om deze te realiseren. De toezichthouder moet oog hebben voor de gevolgen van technologie voor de positie van burgers en andere belanghebbenden, voor de veranderingen in verhouding tussen toezichthouder en burgers, en open oog voor (soms onvoorziene) rollen en bijpassende verantwoordelijkheden die op de toezichthouder afkomen als gevolg van het toepassen van technologie.

Algoritmen helpen om op grote schaal beslissingen te nemen. Het is echter lastig om achteraf toe te zien op de kwaliteit van deze beslissingen. Toezicht zou zich met name moeten richten op het wordingsproces van algoritmes: de stappen die genomen worden om te komen van probleemomschrijving tot een geïmplementeerd algoritme. In dit proces worden immers de principiële keuzes gemaakt die bepalend zijn voor de manier waarop het algoritme zal handelen en de wijze waarop het uitwerking heeft op de maatschappij. Door deze keuzes expliciet en onder de juiste overwegingen te maken verkleint het risico op misdragingen. Toezichthouders en ontwikkelaars van algoritmen tezamen kunnen hier een handreiking voor opstellen.

Het bestuursrecht is niet alleen van belang voor de vraag aan welke normen overheidstoezicht met behulp van autonome (zelflerende) systemen is onderworpen, maar ook voor de vraag wie deze normen stelt en effectueert. Niettemin lijkt de dominante opvatting momenteel dat het bestuursrecht onvoldoende in staat zou zijn om het gebruik van zelflerende systemen adequaat te reguleren. Dit essay schetst hoe de rechtsontwikkeling ten aanzien van autonoom overheidstoezicht vorm kan krijgen als een (zelflerend) proces van laveren tussen analoog en digitaal bestuursrecht, waarbij de bestuursrechtelijke verworvenheden van het analoge toezicht worden geconfronteerd met de uitdagingen van het digitale toezicht.