In dit dossier proberen we de belangrijke ontwikkelingen op het gebied van digitalisering, privacy en grondrechten te signaleren.
2021
Algemene Rekenkamer wil vanuit ethisch perspectief naar algoritmen kijken
(januari 2021) In haar rapport Aandacht voor algoritmes gaat de Algemene Rekenkamer in op de kansen en bedreigingen van algoritmes. De Rekenkamer staat stil bij de spanningen de uitvoering van de wetten, omdat de behoeften van overheid en burgers verschillen. Die spanning wil ze verder verkennen om algoritmen te laten voldoen aan zowel de behoeften van de overheid als haar burgers.
De Rekenkamer heeft een toetsingskader ontwikkeld om de kwaliteit en verantwoorde inzet van algoritmes in de praktijk te kunnen beoordelen. Startpunt is dat er vanuit ethisch perspectief naar algoritmen wordt gekeken. Vervolgens onderscheidt de Rekenkamer een viertal ‘perspectieven’:
- Sturing en verantwoording met een eenduidig doel
- Model en data in lijn met doelstellingen
- Privacy-waarborg op basis van een wettelijk verplicht register
- Controle over toegang tot systeem en back-ups omgegaan
Ombudsman over gebruik data en algoritmen door de overheid
(maart 2021) In het rapport Een burger is geen dataset zegt de Nationale Ombudsman dat het voor burgers duidelijk moet zijn wat zij van de overheid mogen verwachten als er gebruik wordt gemaakt van data en algoritmen. Het feit dat dit niet altijd zichtbaar is, heeft invloed op het vertrouwen van burgers in de overheid.
De Nationale Ombudsman roept de overheid op om bij het gebruik van data en algoritmen drie uitgangspunten te hanteren:
- Wees duidelijk
door het gebruik van data en algoritmen en het doel daarvan in kaart te brengen
door vooraf te bepalen wie wanneer en hoe wordt betrokken
door actief, begrijpelijk en toegankelijk te informeren over het gebruik van data en algoritmen
door juridische en ethische kaders te hanteren en de verantwoordelijkheden vast te leggen - Wees toegankelijk
door te weten welke burger zich achter de data bevindt en voor hem/haar bereikbaar te zijn
door open te staan voor vragen en klachten over data en algoritmen
door als 1 overheid op te treden - Wees oplossingsgericht
door vooraf te bepalen waar data en algoritmen wel en niet voor worden ingezet
door een ‘stopknop’ in te bouwen
door altijd de mogelijkheid voor maatwerk en persoonlijk contact te bieden
door continu in gesprek te blijven en te leren van fouten
Het gevaar is volgens de Ombudsman dat de overheid bij het gebruik van data en algoritmen in een 'black box' verandert. De burger weet op zo’n moment niet meer weet wie hij voor zich heeft.
Ombudsman Reinier van Zutphen zei hierover bij de presentatie van de ombudsvisie:
Niemand wil dat burgers slachtoffer worden van een systeem waarin de overheid gebruikmaakt van data en algoritmen. Of dat zij worden geconfronteerd met ongewenste resultaten. Toch worden burgers nog nauwelijks betrokken bij het gebruik van data en algoritmen door de overheid. Daar kun je als overheid verandering in brengen door de drie uitgangspunten uit deze ombudsvisie te hanteren.
Enschede kreeg boete voor gebruik wifitracking
(april 2021) De Autoriteit Persoonsgegevens heeft de gemeente Enschede in april 2021 een boete van 600.000 euro opgelegd, omdat in de binnenstad wifitracking werd gebruikt waarmee mensen in de binnenstad konden worden gevolgd.
Om de drukte in de binnenstad van Enschede te kunnen meten werden in de winkelstraten meetkastjes geplaatst die de wifisignalen van de passerende mobiele telefoons konden worden opvangen. Het systeem registreerde elke telefoon met een eigen code.
De bedoeling was dat je door steeds de telefoons te tellen in de gaten kon houden hoe druk het in de stad was. De Autoriteit Persoonsgegevens stelde in haar besluit echter vast dat als er over een langere periode wordt vastgelegd welke telefoon langs welk meetkastje komt, dit ‘tellen’ verandert in het volgen van mensen en dat op dat moment de privacy van burgers niet goed is gewaarborgd. Het gaat er dan gegevens niet om of de gemeente echt burgers wilden volgen, het hier inzetten van wifitracking is op zichzelf al een overtreding van de Algemene Verordening Gegevens, aldus Monique Verdier van de Autoriteit Persoonsgegevens:
Het is niet de bedoeling dat iemand kan volgen welke winkel, arts, kerk of moskee we bezoeken. Dat is privé en dat moet privé blijven. Zodat mensen zichzelf kunnen zijn, zonder zich geremd te voelen door mogelijke registratie. Een gemeente moet dit grondrecht van haar inwoners voorop stellen. Om drukte in de binnenstad te meten moet een systeem mensen téllen, niet volgen.
De gemeente Enschede was op het moment van de boete al enige tijd gestopt met wifitracking.
Raad voor het Openbaar Bestuur adviseert over legitimiteit van sturen met data
(mei 2021) In mei 2021 verscheen het advies Sturen of gestuurd worden?' van de Raad voor het Openbaar Bestuur. De raad wijst in haar advies volksvertegenwoordigers, bestuurders en de betrokken ambtenaren op het belang van legitimiteit bij het gebruiken van algoritmes. Sturen met data kan buitengewoon effectief en efficiënt mits gebruik ervan legitiem is, aldsu de raad.
De Raad voor het Openbaar Bestuur heeft in haar advies drie criteria geformuleerd wanneer het voor de overheid toegestaan is om op data te mogen sturen:
- De betrokken instellingen moeten democratisch kunnen worden gecontroleerd.
- Machtsmisbruik en corruptie van deze partijen moet kunnen worden tegengegaan.
- Op basis van het sturen met data moet het leervermogen van het openbaar bestuur kunnen worden versterkt.
Raad van State vult toetsingskader digitaliseringswetgeving aan
(juni 2021) Het toenemende gebruik van digitalisering stelt steeds hogere eisen aan onze wetten en regels. Daarom heeft de Afdeling Advisering van de Raad van State haar toetsingskader hierop aan.
Zelf zegt de Raad van State hierover:
Wat voor alle wetgeving geldt, geldt voor digitaliseringswetgeving in het bijzonder: een verantwoorde uitvoering begint met een zorgvuldige invoering.
Regeerakkoord Rutte IV wil algoritmetoezichthouder
(december 2021) In het coalitieakkoord Omzien naar elkaar, vooruitkijken naar de toekomst dat VVD, D66, CDA en ChristenUnie op 15 december 2021 presenteerden, staat dat het Kabinet Rutte IV een algoritmetoezichthouder in het leven wil roepen die wordt ondergebracht bij de Autoriteit Persoonsgegevens.
Letterlijk zegt het akkoord hierover (pag. 30):
We erkennen fundamentele burgerrechten online. We versterken daarom veilige digitale communicatie en passen geen gezichtsherkenning toe zonder strenge wettelijke afbakening en controle. We investeren in een sterke positie van de Autoriteit Persoonsgegevens en versterken samenwerking en samenhang tussen de diverse digitale toezichthouders. We regelen wettelijk dat algoritmes worden gecontroleerd op transparantie, discriminatie en willekeur. Een algoritmetoezichthouder bewaakt dit. De overheid geeft het goede voorbeeld door niet meer data te verzamelen en onderling te delen dan nodig en ontwikkelt regels voor data ethiek in de publieke sector. We geven mensen een eigen ‘online’ identiteit en regie over hun eigen data.
Met dit plan loopt het kabinet vooruit op Europese voorstellen om tot regelgeving te komen. Deze zullen naar verwachting nog wel even op zich zullen laten wachten.
Onderdeel van het nieuwe beleid zou een nationaal algoritmeregister kunnen zonn dat burgers kunnen raadplegen. De gemeente Amsterdam heeft al zo'n register waarmee inwoners de gemeente kunnen controleren op het gebruik van data, onder andere om de geautomatiseerde parkeercontrole te controleren.
2022
Europese Commissie wil een Europese Verklaring over digitale rechten
(januari 2022) Eurocommissaris Margrethe Vestager voor Mededinging heeft eind januari 2022 het ontwerp voor de Europese Verklaring over digitale rechten en beginselen voor het digitale decennium ingediend bij het Europees Parlement.
In het concept staat dat de mens en niet de technologie centraal moet staan in het digitale tijdperk. Een verdere digitalisering van de maatschappij biedt veel kansen en uitdagingen, maar deze digitalisering moet de kwaliteit van het leven voor iedereen en op een eerlijke en duurzame manier verhogen.
Iedereen heeft het recht op een betaalbare, snelle en veilige internetverbinding, zegt de verklaring. Alle rechten en vrijheden die in de EU wettelijk zijn verankerd moeten zowel offline als online worden gerespecteerd. Gebruikers moeten controle kunnen houden over hun persoonlijke gegevens.
De Europese Commissie hoopt dat de Europese Verklaring over de Digitale Rechten nog voor de zomer door de lidstaten en het Europees Parlement zal worden ondertekend.
Belangrijke bronnen
- Corien Prins, 'Discriminerende algoritmes', Nederlands juristenblad, 18 mei 2021
- Kabinetsreactie rapport Algoritmes en grondrechten, aangeboden aan de Tweede Kamer, kenmerk 2019-0000133127
- Max Vetzo, Janneke Gerards, Remco Nehmelman, Algoritmes en grondrechten, Universiteit Utrecht, Boom Juridisch, Den Haag, 2018, ISBN 978 94 6290 541 2 (ook als e-book: ISBN 978 94 6274 922 1)
Dit rapport is gemaakt naar aanleiding van de onderzoeksopdracht van het ministerie van Binnenlandse Zaken; aangeboden aan de Tweede Kamer als bijlage bij: Kamerstukken II 2017/18, 26643, nr. 553.
Interessante websites
- https://privacy-web.nl
Naast een betaald gedeelte kent deze site een gratis deel met veel informatie plus een gratis nieuwsbrief.