Artificiële intelligentie (AI) is een revolutionaire technologie die een grote impact heeft op ons leven. Naast de aanzienlijke voordelen die AI ons oplevert, gaan ook significante risico’s met deze ontwikkeling gepaard. Tegen deze achtergrond zien we dat steeds meer toezichthouders zich aantoonbaar bezighouden met AI. De hamvraag voor veel toezichthouders is hoe zij zich moeten verhouden tot AI. Dit is geen eenvoudige zoektocht. Met onze bijdrage hopen wij deze zoektocht te faciliteren door de risico’s die gepaard gaan met AI-toepassingen overzichtelijk op een rijtje te zetten en vervolgens een zestal handvatten aan te reiken die toezichthouders kunnen gebruiken bij het inrichten van hun toezicht op AI.

Recentelijk heeft de Raad van State gewaarschuwd dat het primaat van de wetgever wordt uitgehold door het regeren bij akkoord, gebruik van kaderwetgeving, experimentwetgeving en private regelgeving. Dat zou leiden tot een opmars van rechtsvorming door de rechter waardoor het primaat van de wetgever nog verder wordt aangetast. In deze bijdrage wordt echter verdedigd dat herstel van het primaat van de wetgever waarschijnlijk onmogelijk is en dat een grotere nadruk op rechterlijke rechtsvorming in het licht van de democratietheorie van Rosanvallon evengoed kan worden gezien als een zegen voor de democratie.

Met het Achmea/Rijnberg-arrest van de Hoge Raad leek een doorbraak te zijn bereikt inzake de doorwerking van private regelgeving in het recht. Wanneer partijen het onderling eens zijn over de toepasselijkheid van bijvoorbeeld gedragscodes, toetst de Hoge Raad er ook aan zonder de juridische status ervan te beoordelen. De vraag wat te doen wanneer de relevantie van private regelgeving tussen partijen wordt betwist, blijkt echter een veel lastiger te nemen hobbel. Recente jurisprudentie over normalisatienormen toont aan dat het in zo’n geval buitengewoon complex is om te bepalen welke rechtsgevolgen aan private regels moeten worden verbonden. Wettelijke (h)erkenningsregels die de rechter behulpzaam kunnen zijn bij het kwalificeren en waarderen van private regels worden in die situatie node gemist. Hier ligt ook een taak voor wetgevingsjuristen. De vraag is alleen of één algemeen wettelijk kader voor uiteenlopende vormen van private regelgeving momenteel al haalbaar is. Werken met experimenteerbepalingen zou wel eens vruchtbaarder kunnen blijken te zijn. Dergelijke bepalingen zullen alleen werken wanneer wetgevingsjuristen, die ze moeten opstellen, zich eerst verdiepen in de schaduwwereld van private normen waarop deze bijdrage enig licht probeert te werpen.

Op 15 december 2016 is de Governancecode Zorg 2017 aangeboden aan de cliëntenorganisaties binnen de zorg. De auteurs van dit artikel houden deze Code tegen het licht en vergelijken deze met de Zorgbrede Governancecode 2010 en de Corporate Governancecode 2016. Voorts beantwoorden zij de volgende vragen: (a) draagt de Code op een adequate wijze bij aan de vier speerpunten van het beleid van de minister van VWS; (b) hoe vernieuwend is de Code; (c) wat moet er in de bestuurskamer en de kamer van de raad van toezicht veranderen; en (d) vergroot de Code het aansprakelijkheidsrisico voor bestuurders en leden van de raad van toezicht?