AP geeft inzicht in toezicht op AI en algoritmes
De Autoriteit Persoonsgegevens (AP) is als toezichthouder verantwoordelijk voor het toezicht op de verwerking van persoonsgegevens en daarmee ook op de toepassing van AI en algoritmes waarbij persoonsgegevens worden gebruikt. Op 17 februari 2020 heeft de AP een document gepubliceerd waarin het toezicht op AI en algoritmes op hoofdlijnen wordt toegelicht.
Volgens de AP bieden algoritmes veel kansen, maar kleven er ook serieuze risico's aan. "In een democratische rechtsstaat heb je bijvoorbeeld recht op een begrijpelijke motivering voor een voor jou nadelige beslissing. Anders kun je je niet verdedigen en kan een rechter dat niet toetsen. Daarom is transparantie zo cruciaal", zegt AP-voorzitter Aleid Wolfsen. Wanneer algoritmes persoonsgegevens verwerken gelden er verschillende basisvoorwaarden.
In het document wordt een aantal randvoorwaarden uitgelicht zoals de grondslag voor de verwerking van gegevens, normen rond de opslag en beveiliging. Ook wordt de Data Protection Impact Assessment (DPIA) uitgelicht. In de DPIA moet de verwerkingsverantwoordelijke onderbouwen waarom hij bepaalde gegevens gebruikt in een algoritme, wat het doel van het gebruik van een algoritme is en waarom het nodig is te werken met dat algoritme. Wanneer deze risico's onvoldoende duidelijk worden beantwoord moet er voorafgaand advies bij de Autoriteit Persoonsgegevens worden gevraagd.
Voor meer informatie over de AVG en de DPIA, bekijk de Wegwijzer AI.
Verder licht de AP toe op welke punten het toezicht zich zal richten. Naast het reguliere toezicht zoals het beoordelen van voorafgaande raadplegingen, onderzoek en handhaving zal de AP bijvoorbeeld actief voorlichting geven aan de betrokkenen wiens persoonsgegevens in algoritmes worden verwerkt, aandacht geven aan bovengenoemde DPIA, maar ook de totstandkoming van sectorspecifieke gedragscodes op het terrein van de toepassing van AI stimuleren.