3min Security

“Blijf alert op risico’s van algoritmes”

“Blijf alert op risico’s van algoritmes”

“De datahonger van de overheid lijkt nog nauwelijks ingedamd,” is de vrees van Aleid Wolfsen. Hij is voorzitter van de Autoriteit Persoonsgegevens (AP). “Natuurlijk kunnen algoritmes en kunstmatige intelligentie (AI) ons ook veel goeds opleveren. Zoals efficiëntere werkprocessen voor overheidsorganisaties,” geeft hij aan. “Maar als samenleving moeten we steeds heel alert zijn op de risico’s van algoritmes, waaronder discriminatie. Zodat overheidsinstellingen niet opnieuw levens van mensen verwoesten en onze rechtsstaat en de bescherming van grondrechten overeind houden.” 

Discriminatie belangrijk thema

De voorzitter verwijst daarmee in het jaarverslag van de AP naar de toeslagenaffaire. In 2023 kwam deze misstand in een nieuwe fase met de verhoren van de parlementaire enquêtecommissie Fraudebeleid en Dienstverlening. Tegelijk werd pijnlijk duidelijk dat er nog bitter weinig veranderd is. Terwijl de enquêtecommissie de Autoriteit Persoonsgegevens (AP) in 2023 meermaals uitnodigde om uit te leggen hoe het in het verleden zo vreselijk heeft kunnen misgaan, speelden in datzelfde jaar algoritmes en discriminatie nog altijd de hoofdrol in het werk van de AP.

Eerder had de AP na onderzoek naar de toeslagenaffaire geconcludeerd dat de werkwijze van de Belastingdienst bij kinderopvangtoeslag onrechtmatig, discriminerend en in strijd met de privacywetgeving was. Toch heeft de AP de handen nog meer dan vol aan het toezicht op algoritmes en mogelijke discriminatie. “We zien maar het topje van de ijsberg,” stelt Wolfsen.

Samenwerking maakt het toezicht sterker, ook bij het toezicht op bigtechbedrijven. De AP werkt intensief samen met de andere Europese privacytoezichthouders, om samen een vuist te maken en ervoor te zorgen dat privacyschendende techbedrijven de dans niet ontspringen. Zo heeft de Ierse toezichthouder in 2023 een boete van 345 miljoen euro opgelegd aan TikTok. Dit gebeurde nadat de AP onderzoek had gedaan en vervolgens de Ierse privacytoezichthouder had gevraagd om verder onderzoek te doen, nadat TikTok een Europees hoofdkantoor opende in Ierland.

Soms is goede samenwerking ook: taken beleggen waar die thuishoren. Het valt de AP op dat de overheid bij eigen privacyschendingen steeds vaker private onderzoeksbureaus inhuurt. Terwijl de AP als onafhankelijke toezichthouder de aangewezen partij is om dit onderzoek te doen. 

Soms is zo’n privaat onderzoek een vlucht naar voren, soms het gevolg van de beperkte capaciteit van de AP. Maar het leidt niet zelden tot bijvoorbeeld dubbel werk, verspilling van belastinggeld en verwarring over het juiste toetsingskader. Bovendien heeft het tot gevolg dat private bureaus bij zo’n onderzoek soms toegang krijgen tot zeer gevoelige persoonlijke informatie.

Extra budget

Aleid Wolfsen: “Wij waarderen het dan ook zeer dat de parlementaire enquêtecommissie heeft aanbevolen de ‘waakhondfunctie’ van de AP te versterken, door het jaarbudget te verhogen naar minimaal 100 miljoen euro. Dat extra budget zou onder meer betekenen dat wij eindelijk adequaat kunnen gaan reageren op alle klachten, de benodigde onderzoeken kunnen uitvoeren naar privacyschendingen en dat er minder hoeft te worden ‘uitgeweken’ naar onderzoeken in opdracht. Zodat in ons land mensen de bescherming krijgen waar zij recht op hebben – het recht op bescherming van persoonsgegevens is niet voor niets een grondrecht.”