Data-ethiek voor gemeenten: hoe dan?

Onderwerpen in dit artikel:

• Kansen en mogelijke ongelukken bij datagedreven werken
• Data-ethiek: waar te beginnen?
• Initiatieven die je helpen
• Waarom zelf ethische richtlijnen opstellen?
• Start met een workshop data-ethiek
• Maak data-ethiek meetbaar in 3 stappen
• Richt je blik op de praktijk
• Ethiek is waardevol
• Stap voor stap meer grip op data-ethiek

Kansen en mogelijke ongelukken bij datagedreven werken

Als gemeente verwerk je een enorme berg aan gegevens. En ook via bronnen als bijvoorbeeld data.overheid.nl zijn er veel gegevens beschikbaar. Daarmee wil je graag je dienstverlening en bedrijfsvoering verbeteren, transparantere besluiten nemen en grote maatschappelijke vraagstukken oppakken. Maar als je meer met data gaat werken, liggen zaken als ongewenst profileren, privacyschendingen en medewerkers die zich achter IT-systemen verschuilen op de loer. En dat wil je juist niet. Door ethische richtlijnen voor datagebruik op te stellen (en daarnaar te handelen) maak je de kans op dat soort ongelukken een flink stuk kleiner.

Terug naar boven

Data-ethiek: waar te beginnen?

Data-ethiek is een breed onderwerp met vele haken en ogen. Allereerst heb je de vraag wat je als gemeentelijke organisatie ethisch vindt en wat niet. Dat is geen gemakkelijke vraag en in discussies daarover met inwoners of medewerkers kunnen de emoties snel hoog oplopen. En als je consensus hebt bereikt over wat je als gemeente voor je dienstverlening wel en wat niet acceptabel vindt, is het nog niet zo gemakkelijk die waarden te vertalen naar praktische handvatten voor het handelen van medewerkers, het gebruik van data en de instructies in je algoritmes.

Terug naar boven

Initiatieven die je helpen

Gelukkig hoef je als gemeente niet helemaal vanaf nul te beginnen als je serieus met data-ethiek aan de slag wilt. Verschillende organisaties hebben hiervoor al handreikingen en richtlijnen opgesteld, met daarin basisprincipes die je kunt gebruiken. We zetten er een paar voor je op een rij, waarbij je gelijk ziet dat ze best veel op elkaar lijken:

Tada.city

Manifest (op initiatief van de gemeente Amsterdam) voor een verantwoorde digitale stad, van èn voor iedereen. In het kort:

• Onze digitale stad is inclusief.
• Data en technologie moeten bijdragen aan de vrijheid van bewoners.
• Data en algoritmes hebben niet het laatste woord.
• Bewoners en gebruikers hebben zeggenschap over de vormgeving van onze digitale stad.
• We zijn transparant over welke data we verzamelen, waarvoor en wat de uitkomsten en resultaten van onze algoritmes zijn.
• Data die overheden, bedrijven en andere organisaties uit de stad genereren en over de stad verzamelen zijn gemeenschappelijk bezit.

Richtlijnen voor AI van de Europese Commissie

De Europese Commissie heeft 7 richtlijnen geformuleerd als basis voor betrouwbare AI. In het kort:

• AI-systemen moeten rechtvaardige samenlevingen mogelijk maken doordat de mens invloed uitoefent en de grondrechten worden ondersteund.
• Betrouwbare AI heeft behoefte aan algoritmes die veilig, betrouwbaar en robuust zijn gedurende de gehele levensduur.
• Burgers moeten volledige controle hebben over hun eigen gegevens, en gegevens die met hen te maken hebben mogen niet worden gebruikt om hen te schaden of te discrimineren.
• De traceerbaarheid van AI-systemen moet zijn gewaarborgd.
• AI-systemen moeten rekening houden met het hele scala van menselijke capaciteiten, vaardigheden en eisen, en ze moeten toegankelijk zijn.
• AI-systemen moeten worden gebruikt om positieve sociale veranderingen te bevorderen en de duurzaamheid en ecologische verantwoordelijkheid te vergroten.
• Er moeten mechanismen worden ingevoerd om de verantwoordelijkheid en verantwoordingsplicht voor AI-systemen en de resultaten daarvan te waarborgen.

DEDA – De Ethische Data Assistent

Een poster en handleiding (ontwikkeld door de Utrecht Data School) om data-analisten, projectmanagers en beleidsmakers te helpen samen ethische problemen te herkennen:

Handreiking Digitale Ethiek van de VNG

Tips en aandachtspunten voor het opstellen van je eigen ethische richtlijnen en voor het inbedden van die richtlijnen in je organisatie en software. Inclusief enkele praktische voorbeelden.

Terug naar boven

Waarom zelf ethische richtlijnen opstellen?

Hoe nuttig deze initiatieven voor omgaan met data ook zijn, ze zijn uiteindelijk vooral een startpunt. Ze geven geen, of beperkt, antwoord op vragen als: Wat vinden wij als gemeentelijke organisatie in de dagelijkse praktijk oké en wat niet? Hoe weet ik als gemeenteambtenaar of de data die ik gebruik en de algoritmes die ik ermee voed, voldoen aan ons moreel kompas? Daar zul je je medewerkers in de organisatie, en bijvoorbeeld de leveranciers van je software, echt nog iets verder mee moeten helpen. De eerste stap daarvoor is voor je organisatie richtlijnen rond data-ethiek op te stellen. Vervolgens moet je manieren bedenken om te bepalen of je je aan die richtlijnen houdt.

Ethische waarden veranderen

Behalve dat eigen richtlijnen voor data-ethiek je medewerkers helpen de algoritmes en de data die ze daarbij gebruiken te beoordelen, zijn er nog meer redenen waarom je als gemeente je eigen ethische richtlijnen moet opstellen. Die hebben ermee te maken dat ethische waarden geen vast gegeven zijn. Wat we ethisch vinden en wat niet, verandert in de loop van de tijd. En binnen een tijdperk kan de mening daarover tussen groepen mensen sterk verschillen.

Verschil tussen mogen en willen

Die wisseling van ethische waarden door de tijd en tussen groepen mensen, maakt dat je als gemeentelijke organisatie er niet zomaar van uit kunt gaan dat medewerkers daarover allemaal hetzelfde denken en globaal genomen wel doen wat bij je organisatie past. Je zult moeten verwoorden wat je als organisatie ethisch vindt en wat niet. Temeer omdat je als organisatie misschien niet altijd wilt wat wettelijk misschien wel mag. In je eigen ethische richtlijnen is dan ook zeker ruimte voor lokaal dominante opvattingen, maar uiteraard wel altijd binnen de kaders van die landelijke wetten en regels.

Autonomie en verantwoording

Bovendien ben je als gemeente een autonome bestuurslaag. Je moet verantwoording afleggen over je doen en laten. Als je zelf duidelijke ethische richtlijnen opstelt, kun je verantwoording afleggen over zowel de inhoud ervan als over de vraag of je je als gemeente eraan houdt. Daarnaast maak je het toekomstige besturen gemakkelijker het datagebruik van de organisatie te beoordelen (en eventueel aan te passen) als je expliciet verwoordt welke ethische waarden je daarbij nu als basis neemt.

Terug naar boven

Start met een workshop data-ethiek

Voor het opstellen van de ethische richtlijnen voor datagebruik binnen een gemeente is een workshop data-ethiek met bestuurders een goede start. De reden is dat je ervan uit mag gaan dat deze lokale bestuurders goed aanvoelen welke ethische waarden dominant zijn in de lokale gemeenschap. Zij zullen hun keuzes in ieder geval moeten laten goedkeuren door de gemeenteraad. Het doel van de workshop data-ethiek is het opstellen van een ethisch profiel van de gemeente. Als basis daarvoor kun je prima de eerdere genoemde initiatieven gebruiken. Wil je meer weten over de workshop? Vraag dan meer informatie aan. We vertellen je er graag meer over.

Conflicterende principes

Wat je in de workshop data-ethiek gaat merken, is dat het grootste deel van de deelnemers veel waarden met elkaar deelt. Dat is niet zo gek. We leven allemaal in dezelfde tijd en in een Westers land. Maar in de praktijk kunnen sommige waarden soms met elkaar in conflict zijn. Zo willen we allemaal graag een transparante overheid. Maar we vinden ook allemaal dat we recht hebben op privacy. Welke van de twee geef je nu voorrang als deze twee principes met elkaar in conflict raken? Over dat soort vragen gaan in je workshop interessante discussies ontstaan.

---

Zweden verkiest transparantie boven privacy

Een bekend voorbeeld waaruit blijkt dat je met min of meer dezelfde ethische waarden toch tot andere richtlijnen kunt komen, is de manier waarop ze in Zweden met belastingaangiftes omgaan. Die zijn er namelijk allemaal openbaar. Transparantie gaat daar boven privacy. En eerlijk bijdragen ook. Want de kans is groot dat mensen er iets van vinden als hun buurvrouw met een enorm huis, dure auto en veel fancy spullen bijna geen belasting betaalt. In Nederland echter vinden we over het algemeen dat anderen daar niets mee te maken hebben. Wij zien belastingaangiftes als iets privé.

---

Terug naar boven

Maak data-ethiek meetbaar in 3 stappen

Uiteindelijk moeten de discussies in de workshops leiden tot een lijst van verschillende ethische uitgangspunten voor je gemeente. De volgende stap is dan het meetbaar maken van je prestaties voor die verschillende uitgangspunten. Want het is mooi dat je organisatie staat voor inclusiviteit, transparantie en een menselijke toets bij iedere beslissing. Maar wat versta je precies onder inclusiviteit, transparantie en een menselijke toets? En hoe weet je nu of je als organisatie die uitgangspunten niet alleen in je woorden, maar ook in je daden waarmaakt?

Stap 1: Benoem indicatoren

Om te weten of een proces, dataset of algoritme voldoet aan je ethische uitgangspunten heb je indicatoren nodig. Stel je wilt graag transparant zijn. Dan zul je vragen moeten beantwoorden als:

• Weet je welke data worden gebruikt en hoe betrouwbaar en accuraat die bronnen zijn?
• Kun je controleren welk gewicht bepaalde data hebben in de uitkomst?
• Is er een permanent proces waarin belanghebbenden kunnen bepalen of de doelen van een algoritme en de effecten ervan nog passen bij de ethische uitgangspunten van de gemeente?
• Is er een openbaar toegankelijke bron (bijvoorbeeld website) waarop een algoritme wordt gepubliceerd en toegelicht?

Stap 2: Bepaal de ambitieniveaus

Aan de hand van deze indicatoren formuleer je vervolgens de ambitieniveaus voor je ethische uitgangspunten. Weer een voorbeeld (uit de losse pols) voor transparantie. Stel je kiest voor een schaal van 1 tot 4, waarbij 4 het hoogste niveau is:

• Ambitieniveau 1 (absoluut noodzakelijk):
  • Je weet welke data worden gebruikt.
  • Je weet hoe betrouwbaar en accuraat de bronnen zijn.
  • Je kunt controleren welk gewicht bepaalde data hebben in de uitkomst.
  • Belanghebbenden kunnen bepalen of de doelen van een algoritme en de effecten ervan passen bij de ethische uitgangspunten van de gemeente.
• Ambitieniveau 2
  • Er is een permanent proces waarin belanghebbenden bepalen of de doelen van een algoritme en de effecten ervan nog passen bij de ethische uitgangspunten.
• Ambitieniveau 3
  • Er is een openbaar toegankelijke bron (bijvoorbeeld website) waarop een algoritme wordt gepubliceerd en toegelicht.
• Ambitieniveau 4
  • Inwoners en andere belanghebbenden worden actief uitgenodigd die openbare bron te (laten) bekijken en reacties te geven.

Stap 3: Stel je gewenste ambitieniveaus vast

Heb je voor de verschillende ethische uitgangspunten de indicatoren vastgesteld en deze ingedeeld naar ambitieniveau? Dan kun je afspreken op welke niveaus je als gemeente wilt acteren. Bijvoorbeeld (op basis van de TADA-principes en weer met een schaal van 1 tot 4, waarbij 4 het hoogste niveau is):

• Inclusief: 3
• Van iedereen – voor iedereen: 2
• Zeggenschap: 3
• Menselijke maat: 4
• Open en transparant: 3
• Legitiem en gecontroleerd: 3

Stel een ethisch team samen

Het opstellen van de indicatoren en ze bij een bepaald ambitieniveau onderbrengen is een lastige klus. Maar wel een belangrijke, want uiteindelijk gaan ze voor een groot deel bepalen hoe je ethische richtlijnen in de praktijk zullen uitpakken. Ons advies is om hiervoor een ethisch datateam samen te stellen met daarin voldoende kennis van de techniek, vakprocessen en ethiek en met een verantwoordelijke vanuit het bestuur.

Laat de gemeenteraad het ethisch profiel vaststellen

Uiteindelijk leidt het opstellen van je ethische uitgangspunten, het bedenken van de indicatoren en het bepalen van je ambitieniveaus tot een ethisch profiel voor je gemeente. Leg hierover verantwoording af door het voor te leggen aan de gemeenteraad. Met een vastgesteld ethisch profiel voorkom je dat iedereen in de organisatie ethische data-keuzes telkens voor zichzelf moet maken. En het helpt de samenhang te benadrukken, zodat je niet zomaar het ene uitgangspunt kunt gebruiken om een ander uitgangspunt terzijde te schuiven omdat dit je in een bepaalde situatie toevallig net even beter uitkomt.

Terug naar boven

Richt je blik op de praktijk

Heb je als gemeente je ethisch profiel vastgesteld, dan is het tijd om naar de praktijk te kijken. Dit doe je niet door je organisatie in zijn geheel te beoordelen en een cijfer te geven. In plaats hiervan zul je voor ieder proces, dataset en algoritme moeten beoordelen of je score voor de verschillende rubrieken past bij de ambities van je gemeente. De score van een algoritme ziet er bijvoorbeeld zo uit:

Als je als gemeente je eigen ethisch dataprofiel serieus neemt, zal dit specifieke algoritme voor een deel weer terug naar de ontwerptafel moeten. Op de punten ‘menselijke maat’, ‘open en transparant’ en ‘van iedereen – voor iedereen’ haalt het namelijk niet het ambitieniveau van je gemeente.

Maak de ethische toets onderdeel van je ontwerpprocessen

Voor nieuwe processen, datasets, algoritmes en andere software geldt uiteraard dat je al tijdens het ontwerpen ervan wilt zorgen dat ze voldoen aan het ethisch profiel van je gemeente. Hiervoor moet je de toetsing een plek geven in je productieproces. In onderstaande afbeelding een voorbeeld zoals die bij een gemeente zijn tegengekomen:

Terug naar boven

Ethiek is waardevol

Inbedding van een ethische toets in je ontwerpprocessen is overigens niet alleen van praktisch belang. Het helpt ook medewerkers bewust te maken dat ethisch omgaan met data waarde toevoegt aan je processen, algoritmes en andere software. Van oudsher wordt data-ethiek (net als bijvoorbeeld informatieveiligheid) nog te veel gezien als iets wat je erbij doet. Iets dat je beperkt in de mogelijkheden die moderne technische middelen je bieden. Ethisch handelen (en de mogelijkheden creëren voor controle en verantwoording) is echter geen beperking, maar een belangrijke waarde voor je processen, data, algoritmes en andere software.

Blijf ook je ethisch profiel evalueren

Met de indicatoren controleer je in hoeverre je processen, datasets en algoritmes voldoen aan je ethisch profiel. Maar hoe slim je ze ook opstelt, ze blijven onderdeel van een model en kunnen daarmee nooit de hele werkelijkheid omvatten. Bovendien verandert die werkelijkheid continu, omdat de maatschappij verandert en er technologische mogelijkheden bijkomen. Daarom is het belangrijk dat je ook die indicatoren zelf weer periodiek onder de loep neemt. Ondersteunen ze je ethische uitgangspunten nog voldoende? Idealiter zou ieder nieuw college van B&W moeten kijken of het ethisch profiel nog bij de gemeente past.

Een ethisch profiel is niet bedoeld om je achter te verschuilen

Een belangrijke vraag voor bij je evaluaties is: zijn er geen onbedoelde neveneffecten? Want zelfs als je de ambities uit je ethisch profiel waarmaakt, kun je te maken krijgen met effecten die je niet had voorzien. Sluit je ogen daar niet voor en ga dan opnieuw met je profiel en de indicatoren aan de slag. Gebruik een ethisch profiel om jezelf te verantwoorden en te kijken of het eventueel beter kan of moet. Gebruik je ethisch profiel nooit om jezelf achter te verschuilen.

Terug naar boven

Stap voor stap meer grip op data-ethiek

Data-ethiek is en blijft complex en is diep geworteld in de filosofie. Een wetenschap die al eeuwen gestoeld is op het uitwisselen van gedachten en meningen. Ook tijdens onze opdrachten bij gemeenten delen we onze ervaringen en leren we weer bij. Uiteindelijk gaat het erom dat je als gemeente duidelijk maakt wat je wel en niet oké vindt en dat je je aan je eigen richtlijnen houdt. En dat je medewerkers bewust maakt dat data-ethiek geen beperkende factor is, maar juist iets is dat waarde toevoegt aan je processen, datasets en algoritmes.

Terug naar boven