De gemeente Leeuwarden heeft de Data-ethyk Kommisje Fryslân (DKF) gevraagd om een data-ethische reflectie op de inzet van de OmgevingsChat, een AI-ondersteunde tool die ambtenaren helpt bij vragen over de Omgevingswet. Het systeem genereert antwoorden op basis van wet- en regelgeving en is bedoeld als ondersteuning, zonder menselijke beoordeling volledig te vervangen. De reflectie richt zich op de data-ethische vraagstukken die deze vorm van generatieve AI met zich meebrengt, zoals privacy, autonomie en betrouwbaarheid.

Analyse
De DKF heeft de casus geanalyseerd aan de hand van zes kernwaarden: privacy, autonomie, menselijke waardigheid, rechtvaardigheid, transparantie en betrouwbaarheid. Hoewel de OmgevingsChat werkt met openbare wetteksten, kunnen gebruikers onbewust gevoelige informatie invoeren, wat in potentie risico’s met zich meebrengt op het gebied van dataveiligheid. Daarnaast wordt automation bias genoemd als aandachtspunt, waarbij mensen AI-gegenereerde antwoorden als feilloos beschouwen zonder kritische beoordeling. De commissie wijst op de noodzaak van transparante besluitvorming, menselijk toezicht en regelmatige kwaliteitscontroles.

Reflectie
De DKF benoemt dat de inzet van de OmgevingsChat kan bijdragen aan efficiëntere dienstverlening, mits er aandacht wordt besteed aan data-ethische aandachtspunten. De commissie geeft daarbij reflectiepunten mee, zoals het overwegen van periodieke audits, duidelijke richtlijnen voor dataverzameling en aandacht voor AI-geletterdheid onder ambtenaren om de mogelijkheid van automation bias te beperken. Deze aandachtspunten zijn bedoeld om het project te versterken en dragen bij aan de moresprudentie door een kader te schetsen voor de verantwoorde inzet van AI in gemeentelijke dienstverlening.

Reflectie
Nummer 3, februari 2025

Steekwoorden
OmgevingsChat, AI, privacy, autonomie, menselijke waardigheid, automation bias, transparantie, betrouwbaarheid, gemeentelijke dienstverlening, ethische AI.