Onder druk blijken onze democratische rechten minder belangrijk dan we zo dachten. Een corona-app bleek opeens een digitaal paspoort te zijn. Geen app, geen internetverbinding of geen geldig digitaal coronabewijs, en allerlei toegangen werden je ontzegd. Doe zelf normaal is de titel van een geslaagd essay. De vragen die Februari vanuit zijn filosofenzetel aan de politiek stelt zijn zeer actueel. De titel is ontleend aan de korte woordenwisseling in een debat tussen premier Rutte en PVV-voorman Wilders.
Wilders: Doe eens normaal man.
Rutte: Doe zelf eens normaal man.
Normaal! Wat is dat precies? Want over normen (en waarden) daar gaat het recht onder andere over.
Recht
Een essay over privacy (deels), over het stellen van eisen aan algoritmes (ook, deels) en deels over recht als technologie. Recht vastgelegd in een aantal vastomlijnde regels die geprogrammeerd kunnen worden, consequenties helder van zijn, straffen direct vast te stellen. Over een rechtssysteem (en onze rechten) dus dat onder druk staat.
Traag
Eeuwenlange ontwikkelingen van onze democratische rechtstaat en de burgerlijke verworvenheden (rechten en plichten) komen zomaar in het geding door het inzetten AI en data. Politiek en wetgeving reageren doorgaans traag op technologische ontwikkelingen. Februari geeft het voorbeeld van druk twitterende Tweede Kamerleden, snelle nieuwsbytes op Facebook en TikTok. Tegelijkertijd laten wetgeving om op te treden tegen fake news, goede privacywetgeving en regelgeving rondom AI op zich wachten. Wie controleert de AI-regels die bij de Belastingdienst, DUO en Veiligheidsdiensten worden geprogrammeerd. Etnisch profileren, daar zien we bij de Toeslagenaffaire de gevolgen van.
Zeggenschap
Wie heeft zeggenschap over data? Wie controleert AI-regels van vaak private partijen (maar bij de overheid gaan ook dingen mis)? Waar kun je als burger naartoe? Hoe krijg je inzicht in wat die regels voor gevolgen kunnen hebben?
Eigen rechter
Maar het werkt ook de andere kant op, belangenverenigingen die elkaar online vinden, groepen mensen die online voor eigen rechter gaan spelen. Andere fenomenen zijn de aanleg van Digitale Twins, van bijvoorbeeld steden. De data komt van onder andere het Kadaster en de Waterschappen, maar ook van Google en Meta. Op basis van deze bronnen en functionaliteiten worden voorspellingen gedaan en beleid ontwikkeld. Waar kun je terecht als die gegevens niet blijken te kloppen? Of je niet wilt dat die niet gebruikt worden in de context van een Digitale Twin?
Schuiven
Het zijn allemaal relevante vraagstukken waar je stil bij moet staan. Ontegenzeggelijk gaat de democratie schuiven onder invloed van digitale technologieën. Een aantal deskundige ex-Tweede Kamerleden hebben daar belangwekkende boeken over geschreven: Datamacht en tegenkracht door Kathelijne Buitenweg en zeer recent Democratie crasht van Kees Verhoeven.
Deskundigheid
Februari stelt ook belangrijke vragen over de deskundigheid op technologisch vlak bij wetgever, parlementsleden en rechters. Niet alleen bij burgers maar bij al deze partijen die ons rechtssysteem handhaven en vormgeven is veel meer kennis nodig. De Wetenschappelijke Raad voor het Regeringsbeleid (WRR) noemt dit in 2021 AI-wijsheid.
Het ontbreekt bijvoorbeeld aan opleidingen, een AI – register en – certificering voor ontwerpers, en wetgeving om burgers te beschermen tegen misbruik van hun data door bedrijven. De WRR adviseert te komen tot een AI-coördinatiecentrum voorzien van politieke verankering middels een ministeriële onderraad. Februari geeft niet alleen verantwoordelijken maar juist ons, burgers in een democratisch rechtssysteem voer om na te denken.
Over Bertrand Weegenaar
Bertrand Weegenaar is als hogeschooldocent HBO-ICT werkzaam op Windesheim. Zijn voorliefde ligt bij de onderwerpen strategie, marketing, geschiedenis; biografieën en internet; e-business.
