Hoe kan je publieke waarden weer een plek geven in technologie?

Dit is deel 1 in een reeks artikelen over de Masterclass Netpolitiek 2022.

Deze casus lag op tafel in de eerste Masterclass Netpolitiek, georganiseerd door de Waag (Amsterdam). In acht bijeenkomsten belichten sprekers van verschillende organisaties (o.a. Amnesty International, Bits of Freedom, Internet Society en Netwerk Democratie) de werking van het digitale stelsel en de impact daarvan op de maatschappij en het dagelijkse leven. Zodat je geïnformeerde keuzes kunt maken over inzet van technologie.

De circa twintig deelnemers aan deze masterclass hebben verschillende achtergronden: van adviseur of beleidsmedewerker bij de gemeente, provincie of ander overheidsorgaan, onderzoeker tot tech-journalist. Tussen de deelnemers zijn veel ‘linking pins’ – zoals eerdere samenwerking aan IRMA tussen Informaat en de gemeente Amsterdam.

We kennen allemaal recente voorbeelden van ongewenste impact van technologie: van inbreuken op privacy door datalekken, discriminatie bij gebruik van algoritmes tot manipulatie bij verkiezingen door bots. Maar hoe kan je de wereld achter digitale diensten nou inzichtelijk maken en wel ‘neutrale’ technologie ontwerpen?

De Waag heeft als hulpmiddel hiervoor de zogeheten public stack methode ontwikkeld. Uitgangspunt is dat een digitale dienst is opgebouwd uit verschillende lagen, met elk een eigen functie:

1. De fundering (onderliggende waarden en uitgangspunten).
2. Het ontwerpproces (open of gesloten).
3. De technologie zelf (open of gesloten).
4. Het perspectief op de gebruiker (consument, object of burger).

In de methode wordt het ideaal, een Public Stack, afgezet tegen twee andere types: een State Stack en Private Stack. Bij een Public Stack staan publieke waarden centraal, is het ontwerpproces open, is de technologie open en wordt de gebruiker behandeld als burger met bijbehorende rechten. Een State Stack en een Private Stack worden gedreven door resp. overheidscontrole en winst/commerciële belangen.

In de masterclass ontstond een leuke discussie over het onderscheid en de omschrijvingen van de drie stacks. De stacks zijn zwart-wit opgesteld en matchen daardoor niet met de grijze praktijk. Zo kan een groot bankbedrijf technologie ontwikkelen voor commerciële doeleinden, maar naast winstoogmerk ook publieke waarden, zoals inclusie, toegankelijkheid of duurzaamheid meenemen.

De toegevoegde waarde van de Waag-methode zit ‘m denk ik vooral in het stellen van kritische vragen over de vier lagen van een digitale dienst. Neem het eerdergenoemde voorbeeld van de gemeente die een drone wil inzetten voor een digitale kopie van een wijk:

1. Wat zijn de onderliggende (publieke) waarden waarop de keuze voor inzet van een drone is gebaseerd? Kostenbesparing? Duurzaamheid?
2. Zijn inwoners uit de wijk (voldoende) betrokken geweest bij het besluit? Zijn er alternatieven voorgelegd?
3. (Hoe lang en waar) worden de dronebeelden opgeslagen? Wie heeft toegang tot deze beelden? Zijn ze toegankelijk/opvraagbaar voor inwoners?
4. Zijn digitale burgerrechten voldoende gewaarborgd?

In een break-out room werd vervolgens met een kleine groep gediscussieerd waarom het zo lastig is binnen de overheid diensten te ontwikkelen volgens de Public Stack methode. Een deelnemer werkzaam bij de overheid vertelde dat publieke waarden bij de keuze voor software in feite een non-issue zijn, 'het wordt als gezeur gezien'. De focus ligt op compliancy (uitvoering binnen de kaders van de wet) en op kostenbeperking - hetgeen vaak al ingewikkeld genoeg is.

Een oplossing kan liggen in meer design thinking binnen de overheid, wettelijke vastlegging van publieke waarden in technologie en assessments binnen keuzeprocessen voor bepaalde technologie toepassen. Inbedding hiervan is niet makkelijk: veel overheidsorganisaties zijn groot en log en besluitvorming gaat over allerlei schijven. Maar tegelijkertijd kan de overheid niet langer heen om burgers en organisaties, zoals Waag of Bits of Freedom, die meer openheid eisen en kritische vragen stellen.

In een volgende sessie van de masterclass staat het bestuur van de digitale infrastructuur op de agenda. Welke organisaties hebben het internet vormgegeven en trekken nu aan de touwtjes? En wat is het effect daarvan op het internet zelf en op onze maatschappij? Boeiende materie, waarvan ik (en velen met mij?) nog weinig weet omdat internet governance zo onzichtbaar is.