PEL stelt vragen over gebruik AI door de gemeente tijdens gesprekken met klant

(tekst: PEL)

COLLEGE VAN BURGEMEESTER & WETHOUDERS
POSTBUS 21000 8900 JA LEEUWARDEN

Onderwerp:
– Vragen over AI en
klantgesprekken Sociale Zaken

Leeuwarden, 15/10/2025

Geacht College,

Al enige tijd terug werden wij via ons klachtenspreekuur benaderd door cliënten van Sociale Zaken die bijgaande brief plus vragenlijst hadden ontvangen. (zie de bijlage)

Wij hebben hierover een aantal vragen en hopelijk kan Sociale Zaken deze beantwoorden.

VRAGEN:

1. We begrijpen dat de computer het gesprek met de klant opneemt maar dat dit geen letterlijke opname wordt, zoals een bandopname, maar dat met behulp van AI een samenvatting van het gesprek wordt gemaakt. Is dat juist?

2. Wie heeft het onderliggende algoritme voor deze AI gemaakt ofwel wie voert dit uit voor de gemeente? Voldoet dit aan de regels van de Europese ERDP en de ADP? (ERDP European regulatory data protection) (ADP Algemene Data Protectie)

3. Vraag: gaat u deze AI ook toepassen bij verdenkingen van bijstandsfraude? (Sociale Recherche)

4.  Heeft u het algoritme getest op ‘bias’? Met andere woorden: of er vooroordelen in de algoritmes zijn geslopen die discriminerende uitkomsten geven. Deze eis stelt de toezichthouder namelijk wel aan zulke systemen.

5. Kan de klant zonder consequenties weigeren om het gesprek te laten opnemen?

6. Heeft de klant ook het recht het gesprek zelf op te nemen? (bijv. via een app op de mobiel of een datarecorder)

7. Heeft de klant inzagerecht in het verslag, op verzoek recht op een geprinte kopie van het verslag en correctierecht?

8. Vraag over de vragenlijst zelf: Het heet dat de antwoorden niet zijn gekoppeld aan iemands gegevens, maar met behulp van een loterijtje voor een VVV-bon kan Sociale Zaken toch de koppeling leggen tussen de antwoorden op de vragen en de persoonlijke mening van de invuller. (Vragenformulier punt 6) Of kan dit niet?

9. Vraag: wordt de uitslag van de vragenlijst gebruikt als een soort stemming onder de klanten op basis waarbij zij dan zelf hebben aangegeven wat wel of niet mag? Onder het motto: de meeste stemmen gelden?

In afwachting van uw reactie teken ik, mede namens het Dagelijks Bestuur,

Met vriendelijke groet,

(secretaris)

Bijlage: Vragenlijst “Minder typen, meer luisteren”