Welke advertenties krijg jij voorgeschoteld op internet en wat moet jij betalen voor je autoverzekering? Algoritmes nemen steeds meer beslissingen voor ons. Hoe zorgen we ervoor dat dit op een inclusieve manier gebeurt? Drie gasten, elk op hun eigen manier bezig met kunstmatige intelligentie, gaven een lezing over inclusieve algoritmes. Sennay Ghebreab, neuroinformaticus aan de Universiteit van Amsterdam, vertelde over de kentering in ons denken van algoritmes als bedreiging, naar algoritmes als oplossing voor een inclusieve samenleving. Mediakunstenaar Roos Groothuizen sprak over het demystificeren van de werking van algoritmes door middel van kunst. Tot slot ging filosoof Lotje Siffels, promovendus bij onderzoekscentrum iHub van de Radboud Universiteit, in op de vraag of onze democratische samen kunnen gaan met de groeiende invloed van ‘big tech’. Marcel Becker, universitair hoofddocent Ethiek aan de Radboud Universiteit, ging vervolgens met de drie sprekers in gesprek. Algemeen belang Kunnen we algoritmen inzetten voor het algemene belang, om zo discriminatie en ongelijkheid te bestrijden? Deze vraag is Ghebreab de afgelopen jaren vaak gesteld. Volgens hem illustreert de vraag een noodzakelijke verschuiving in ons denken over artificiële intelligentie. Vooralsnog zijn het de grote techbedrijven die bepalend zijn voor de invloed van AI op ons leven, zonder dat ze daarbij algemeen belang dienen. Dat kan en moet anders, stelde Ghebreab. Er bestaat nog wat scepticisme over inclusieve algoritmes, vertelde hij, maar dit zal voorbij zijn zodra ‘we algoritmen voor het publieke domein ontwikkelen, gezamenlijk en openlijk, gericht op de behoeften en talenten van iedereen.’ Aan die openheid en betrokkenheid valt wel nog het een en ander te schaven. Burgers, maar ook wetenschappers, spelen nauwelijks een rol in de ontwikkeling en toepassing van inclusieve algoritmes. Voor Ghebreab is het cruciaal dat daar middelen voor vrij worden gemaakt. Ook is het belangrijk om de tijd en ruimte te hebben om hierbij fouten te maken. Juist hierdoor, en door daar transparant over te zijn, worden de algoritmes beter voor iedereen. Het is volgens Ghebreab van groot belang voor onze samenleving om iedereen, en vooral ook jongeren, te onderwijzen in digitale geletterdheid. We bezitten nu nog niet de benodigde kennis om zelf te beoordelen wat algoritmen doen. Iedereen moet daarom digitaal geletterd en gecijferd zijn om in de opkomende algoritmische wereld eigenaarschap te ontwikkelen. ‘Dat wordt net zo belangrijk als lezen en schrijven,’ aldus Ghebreab. Tastbaar maken Roos Groothuizen richt zich in haar werk op de interactie tussen mens en technologie. Vanuit haar achtergrond in grafisch ontwerp denkt zij na over digitale mensenrechten. Met haar kunst probeert ze technologie tastbaar te maken en van zijn abstractie en onzichtbaarheid te ontdoen. Ze vertelde dat ze dit doet door de technologie, achter bijvoorbeeld algoritmes, te plaatsen in een nieuwe context en ons zo te confronteren met het effect ervan. Daarbij schuwt ze niet het gevoel van mensen aan te spreken: ‘Welke emoties roept AI bij ons op, bijvoorbeeld over de maatschappelijke en politieke consequenties ervan of over de ethische dilemma’s die het oproept? Wat voelen we als onze privacy geschonden wordt?’ Groothuizen gaf als voorbeeld haar project Black Box Bellagio, een casino waar bezoekers extra fiches kregen, wanneer ze digitale informatie over zichzelf prijsgaven. Van banksaldo’s tot gênante Whatsapp-gesprekken, alles kwam voorbij op de pokertafel, vertelde Groothuizen. Duizenden mensen bezochten het casino en in totaal waren er slechts drie mensen die weigerden om digitale informatie prijs te geven. Democratische waarden Ook filosoof Lotje Siffels gaf aan dat algoritmes, ook al zijn ze al een aantal jaren onder ons, nog grotendeels niet inzichtelijk zijn. Daarom vroeg ze zich af hoe we deze ‘technologieën waarmee we samenleven’ zo kunnen ontwerpen dat ze ons en de democratische waarden van morgen respecteren. De waarden in onze samenleving zijn constant in verandering, dus de vraag is hoe die nieuwe waarden vertegenwoordigd zijn in de technologie van morgen. Maar misschien wel nog belangrijker is in hoeverre de algoritmes van ‘big tech’, waar wij nu nog weinig invloed op hebben, onze democratische waarden uitdragen. Om dit te kunnen waarborgen is het volgens Siffels belangrijk dat algoritmes transparant worden en dat inspraak en toezicht mogelijk worden. We moeten ons volgens Siffels wel realiseren dat de algoritmes van de ‘big tech’ gebaseerd zijn op het feit dat wij niet weten wat ze doen en waarin ze zitten. Daarnaast denken organisaties die gebruik maken van algoritmes in beginsel vaak alleen maar na over de efficiëntie ervan. Over democratische waarden wordt vaak pas aan het einde nagedacht. Dat is bijvoorbeeld pijnlijk zichtbaar in de toeslagenaffaire van de Belastingdienst: bijna niemand wist wat het algoritme precies deed en wat de negatieve bijeffecten ervan waren. Een oplossing voor dit soort misères is dat codes inzichtelijk zijn en dat onze democratische waarden al worden meegenomen in het ontwerpproces Regulatie In gesprek met Marcel Becker spraken de drie gasten over het reguleren van AI als oplossing. Dat staat volgens Ghebreab op gespannen voet met de benodigde vrijheid voor een goed ontwerpproces. Regulering is misschien mogelijk in bepaalde sectoren, maar we kunnen niet alles reguleren, stelde Ghebreab. Dan hebben ontwikkelaars namelijk niet de vrijheid om de fouten te maken die nodig zijn in een ontwerpproces. Volgens Siffels beschermen we door te reguleren weliswaar bepaalde individuele rechten, maar dat is niet toereikend. We nemen daarmee namelijk slechts een aantal opvattingen van privacy in acht. Er zou dus eerst gesproken moeten worden over wat welke waarden we door middel van regulering willen waarborgen. Groothuizen keerde zich tegen de opvatting dat mensenrechten en innovatie niet samen kunnen gaan. Het ene sluit het andere niet uit. Ook Ghebreab was het daarmee eens. Juist inclusieve algoritmes kunnen volgens hem soms betere keuzes maken voor individuen dan dat mensen dat zelf kunnen. Het recht om gelijk behandeld te worden, is bij voor dit soort algoritmes minder spannend. Zorgdragen voor het recht om anders behandeld te worden, juist daar liggen de kansen en uitdagingen voor eerlijkere en inclusievere AI. Tekst: Inge de Vries. Dit is het verslag van een lezing van Radboud Reflects. Foto: Markus Spiske via Unsplash.