De populariteit van zelflerende algoritmes heeft zorgen gewekt bij academici en mededingingstoezichthouders over het mogelijk prijsverhogende effect van algoritmes voor prijszetting. Experts waarschuwen dat zelflerende algoritmes stilzwijgend zouden kunnen samenspannen en hogere prijzen kunnen bewerkstelligen (colluderen). Aan de andere kant zijn er auteurs die stellen dat coördinatie zelfs voor algoritmes te complex is om zonder verboden informatie-uitwisseling te bereiken. Wij overbruggen het gat tussen theoretische zorgen en dit praktisch scepticisme. In dit artikel analyseren wij mechanismes die ervoor zorgen dat zelflerende algoritmes in een setting met concurrentie relatief hoge prijzen kunnen bereiken, met een onderscheid tussen vorming en stabiliteit van stilzwijgende samenspanning. We analyseren de praktische toepasbaarheid van deze mechanismes. Stabiliteit-bevorderende mechanismes kunnen vóórkomen, maar we vinden het minder aannemelijk dat ook de prijsverhogende mechanismes in de praktijk kunnen worden gerealiseerd, vanwege de aanzienlijke kosten van experimentatie met prijzen, die essentieel is voor deze mechanismes. We concluderen dat het gebruik van AI (Artifical Intelligence) voor prijszetting mechanismes biedt die het risico op algoritmische collusie verhogen, maar de praktische belemmeringen betekenen dat het risico op dit moment beperkt lijkt te zijn tot specifieke markten of samenloop van omstandigheden.

Voor deze aflevering van het estafette-interview spraken Marije Batting en Martijn Groenleer namens de redactie van Tijdschrift voor Toezicht met Martijn Snoep, sinds 1 september 2018 bestuursvoorzitter van de ACM.¹x Het gesprek vond begin november 2019 plaats. Mede naar aanleiding van de suggesties van Hanzo van Beusekom, bestuurslid van de Autoriteit Financiële Markten (AFM), die we interviewden voor nummer 2019-3 van Tijdschrift voor Toezicht, spraken wij met Martijn over de elementen van een goede toezichtstrategie en over de balans tussen handhaven en beïnvloeden.

Noten

• 1 Het gesprek vond begin november 2019 plaats.

Automatische en Intelligente Systemen (IEEE, 2018) rukken steeds verder op in de samenleving. De toepassing ervan is echter niet onomstreden. Er is veel politieke en maatschappelijke onrust, met name over het gebruik van deze systemen door de overheid. Vooral toezichthouders liggen daarbij onder vuur. Snel wordt vergeten dat het gebruik van algoritmes kansen biedt voor het werk van toezichthouders. Daarom is een verantwoorde implementatie van artificial intelligence van groot belang, waarbij de toezichthouder zich verdiept in de werking van de technologie en de eisen die eraan gesteld moeten worden, welke kansen technologie biedt en wat nodig is om deze te realiseren. De toezichthouder moet oog hebben voor de gevolgen van technologie voor de positie van burgers en andere belanghebbenden, voor de veranderingen in verhouding tussen toezichthouder en burgers, en open oog voor (soms onvoorziene) rollen en bijpassende verantwoordelijkheden die op de toezichthouder afkomen als gevolg van het toepassen van technologie.

Algoritmen helpen om op grote schaal beslissingen te nemen. Het is echter lastig om achteraf toe te zien op de kwaliteit van deze beslissingen. Toezicht zou zich met name moeten richten op het wordingsproces van algoritmes: de stappen die genomen worden om te komen van probleemomschrijving tot een geïmplementeerd algoritme. In dit proces worden immers de principiële keuzes gemaakt die bepalend zijn voor de manier waarop het algoritme zal handelen en de wijze waarop het uitwerking heeft op de maatschappij. Door deze keuzes expliciet en onder de juiste overwegingen te maken verkleint het risico op misdragingen. Toezichthouders en ontwikkelaars van algoritmen tezamen kunnen hier een handreiking voor opstellen.

De overheid maakt in toenemende mate gebruik van systemen die taken verrichten die eerst door ambtenaren werden uitgevoerd. Denk aan het verlenen en uitbetalen van uitkeringen, het opleggen van boetes, bedienen van ophaalbruggen enzovoort. Bij de inzet van deze systemen wordt niet altijd onderkend dat hierbij voldaan moet worden aan de regels die voor de overheid gelden. Bovendien brengt de inzet van deze systemen – algoritmen – nieuwe, deels voorzienbare en deels onvoorzienbare risico’s met zich mee. Daarom wordt steeds vaker gevraagd om meer toezicht op algoritmen. Om dit toezicht effectief te laten zijn zou er een zorgplicht moeten worden ingevoerd.

Nederland transformeert naar een datagedreven samenleving. De politie, de Belastingdienst en uitkeringsinstanties experimenteren met Big Data; private partijen, zoals sociale media, banken, en medische organisaties gebruiken algoritmes en profielen om beleidskeuzes te maken. Daarbij worden beleidskeuzes steeds meer geautomatiseerd. Uit de substantiële hoeveelheden data die worden verzameld worden patronen, correlaties en waarschijnlijke verbanden tussen verschillende datapunten gedestilleerd. De profielen die op basis daarvan worden vervaardigd worden gebruikt om keuzes te maken over toekomstige gevallen. Hierdoor wordt het besluit- en beleidsvormingsproces in toenemende mate gestandaardiseerd. De hoop is dat de door data-analyse geïnformeerde besluiten kwalitatief beter zullen zijn en dit de uitvoering van het beleid effectiever en efficiënter zal maken. In onderzoek dat is verricht in opdracht van het ministerie van Justitie en veiligheid wordt geconcludeerd dat tien veranderingen aan het Nederlands recht nodig zijn om deze transitie in goede banen te leiden.

Datawetenschap is voor het recht van groot belang. De daaruit voortvloeiende voorspellende algoritmische modellen kunnen worden gebruikt om toezicht uit te oefenen, bijvoorbeeld of geen uitkeringsfraude wordt gepleegd. Vaak leveren de inzichten uit de datawetenschap goede voorspellingen op over mogelijke fraudegevallen. In de praktijk zijn er toch problemen, bijvoorbeeld met de steekproef en de data op basis waarvan voorspellingen worden gedaan. Dat probleem is sterker aanwezig naarmate de gebruikte modellen complexer zijn. In deze bijdrage wordt op deze problemen ingegaan en wordt betoogd dat menselijk handelen van groot belang is wanneer gebruik wordt gemaakt van voorspellende modellen.

De wereldeconomie is na 2001 snel verder geïntegreerd. De globalisatie heeft een extra dimensie gekregen door de opkomst van platformbedrijven. Het gaat hier feitelijk om virtuele ondernemingen die zich betrekkelijk eenvoudig aan de fiscale regels kunnen onttrekken. Ook de financiële sector is sterk geglobaliseerd, maar het toezicht op deze sector is nog steeds grotendeels voorbehouden aan lokale autoriteiten. Om effectief toezicht te kunnen houden zouden de natiestaten bevoegdheden moeten overdragen aan supranationale autoriteiten. Dat staat echter op gespannen voet met de mogelijkheid om op basis van een lokaal democratische legitimatie beleid te voeren. In deze bijdrage worden een aantal casusposities geanalyseerd en verschillende oplossingsrichtingen besproken.

Op 18 december 2018 heeft het College van Beroep voor het Bedrijfsleven zich in een drietal procedures over bestuurlijke boetes op grond van de Meststoffenwet uitgesproken over de door de Minister van LNV gehanteerde geheime marges. Het College acht het gebruik van dergelijke marges bij boeteprocedures niet geoorloofd en vernietigt de besluiten. Het College baseert de vernietiging duidelijk op het verdedigingsbeginsel en niet op eisen rond voorzienbaarheid van gedrag en strafbaarheid, waardoor de gevolgen beperkt blijven.

Gemeenteraden worstelen met hun controlerende taak, zeker ten aanzien van de grote regionale samenwerkingsverbanden zoals de Veiligheidsregio, de GGD en de Omgevingsdienst. De kwaliteit van de informatievoorziening over prestaties van die verbanden is een belangrijk knelpunt. Bij nadere beschouwing blijkt dat Rijksinspecties en de provincies in hun rol als interbestuurlijk toezichthouder regelmatig onderzoek doen naar gemeenten en hun samenwerkingsverbanden dat voor gemeenteraden uiterst bruikbaar is. Gemeenteraden lijken daar weinig gebruik van te maken, deels doordat zij niet worden geïnformeerd over de onderzoeken en de resultaten ervan. Dat moet veranderen: er moet bij toezichthouders meer oog komen voor het belang van gemeenteraden als eerste controleur van het gemeentebestuur.

De integriteit van het lokaal bestuur en het versterken van de integriteitscultuur in gemeenten staan hoog op de landelijke politiek-bestuurlijke agenda. De minister stelt dat het huidige instrumentarium van het generieke toezicht tekortschiet en er behoefte is aan meer middelen en instrumenten. Daarom verkent ze nieuwe vormen van interbestuurlijk toezicht vanuit het Rijk en de provincie. Dit artikel betoogt dat zulke maatregelen al snel op gespannen voet staan met de lokale autonomie, die een belangrijke pijler vormt van de gedecentraliseerde eenheidsstaat, en dat het daarom passender is om eerst binnen het lokaal bestuur op zoek te gaan naar innovatieve vormen van toezicht.

Nederland was een van de eerste landen die het zogenoemde horizontaal toezicht (HT) introduceerde. Sindsdien hebben belastingdiensten over de gehele wereld dat voorbeeld gevolgd en is HT ingevoerd in andere toezichtdomeinen zoals de zorg en de voedselveiligheid. In Nederland is het HT in tegenstelling tot andere landen sinds de introductie niet wezenlijk veranderd, terwijl HT al sinds het begin vragen oproept en er regelmatig kritiek doorklinkt. In dit artikel inventariseren en analyseren we de (wetenschappelijke) onderzoeken die inmiddels op het gebied van HT zijn gedaan en concluderen we dat een herijking van HT, zoals de Nederlandse Belastingdienst momenteel uitvoert, niet alleen logisch is, gezien het feit dat Nederland een voorloper op dit terrein was, maar ook noodzakelijk is gezien de vragen en kritiek die er zijn. We concluderen ook dat het lastig is om tegemoet te komen aan een modernisering in lijn met internationale ontwikkelingen omdat landen binnen het concept van HT ieder een eigen weg lijken te kiezen en van een gezamenlijke ontwikkeling geen sprake lijkt te zijn.

Het fusietoezicht in de zorg staat al jaren ter discussie. Dit artikel gaat in op (1) de invoering van en ervaringen met de zorgspecifieke fusietoets en (2) de ontwikkelingen in het mededingingstoezicht op zorgfusies. Bij de zorgspecifieke fusietoets valt te betwijfelen of de voordelen opwegen tegen de nadelen. Dit pleit voor een herbezinning op nut en noodzaak van deze toets. Het mededingingstoezicht op zorgfusies is lange tijd te toegeeflijk geweest. Er lijkt sprake van een kentering, maar deze komt te laat om in sommige zorgsectoren en regio’s dominante machtposities te voorkomen. Vandaar dat sterker optreden tegen machtsposities geboden is.

Bij publieke evenementen en gebouwen is sprake van een gedeelde verantwoordelijkheid voor orde en veiligheid tussen de private organisator en de burgemeester. Convenanten waarin partijen gezamenlijk afspraken maken over veiligheid kunnen een nuttige aanvulling op de vergunningverlening zijn. In het geval van het incident met de Vreugdevuren in Scheveningen heeft de gemeente afspraken met de bouwers in een convenant neergelegd, in plaats van een vergunning. Uit het onderzoek van de OVV zal moeten blijken welke rol het convenant heeft gespeeld bij de ontstane onveilige situaties en wat die conclusies betekenen voor het gebruik van convenanten in het brede veiligheidsdomein.

In het arrest van 12 februari 2019 oordeelt het Gerechtshof Den Haag dat de digitale werkwijze van de ACM voldoende waarborgen voor effectieve rechtsbescherming biedt bij bestuursrechtelijk toezicht aan de hand van digitale gegevens.