Ai En Privacy: Uitdagingen En Innovaties In De Overheid

Samenvatting van het nieuws: Digitalisering overheid voor Week 42

• Overheid Benut Ai, Maar Negeert Risico's En Transparantie

  De overheid maakt gebruik van 433 AI-systemen, waaronder robothonden voor celinspecties en tools voor fraudepreventie door de Belastingdienst. Echter, uit onderzoek van de Algemene Rekenkamer blijkt dat bij meer dan de helft van deze systemen de risico's niet worden geëvalueerd. Slechts vijf procent van de AI-systemen staat geregistreerd in het openbare algoritmeregister, dat is opgezet na de toeslagenaffaire. Ewout Irrgang van de Rekenkamer waarschuwt dat de risico's vaak worden onderschat, met name bij systemen die als 'minimaal risico' zijn geclassificeerd. Dit kan leiden tot privacyschendingen en discriminatie. De overheid gebruikt AI om processen te verbeteren en personeelstekorten op te vangen, maar er is behoefte aan meer duidelijkheid over de inzet en risico's van deze technologie. Een verantwoorde toepassing van AI is cruciaal voor een goed functionerende overheid.

  bron: nos.nl

• Prioriteitenlijst Voor Digitalisering Van Gemeenten Gepresenteerd

  Zsolt Szabó, staatssecretaris van digitalisering, heeft een prioriteitenlijst gepresenteerd voor de digitalisering van gemeenten, met als doel de samenwerking tussen verschillende overheden te versterken. Tijdens de lancering van de Digitale Agenda Gemeenten 2028 benadrukte hij de noodzaak van een gezamenlijke focus om naar één digitale overheid toe te werken. Gemeenten hebben enthousiast gereageerd en acht prioriteiten geformuleerd, waaronder de bescherming van publieke waarden, gezamenlijke spelregels voor algoritmen en AI, en heldere afspraken over digitale veiligheid. De metafoor van het Huis van Thorbecke werd gebruikt om de noodzaak van samenwerking tussen verschillende overheidslagen te onderstrepen, waarbij wordt gepleit voor een meer geïntegreerde aanpak om kansen niet te laten liggen.

  bron: www.agconnect.nl

• Montferland Lanceert Ai-Chatbot Voor Verbeterde Dienstverlening

  De gemeente Montferland heeft op 14 oktober 2024 de chatbot Montferland AI (Mai) gelanceerd, met als doel de dienstverlening aan inwoners te verbeteren. Burgemeester Harry de Vries benadrukt dat dit een eerste stap is in het verantwoord inzetten van AI, waarbij ethische overwegingen centraal staan. De gemeente anticipeert op arbeidsmarktkrapte door vergrijzing en ziet AI als een manier om werkprocessen te automatiseren. Montferland heeft budget gekregen voor drie jaar om te pionieren met AI, en de beschrijvingen van de algoritmes zijn openbaar gemaakt in het Algoritmeregister. De gemeente streeft naar transparantie en openheid, en moedigt inwoners en raadsleden aan om vragen te stellen. De burgemeester ziet het als zijn verantwoordelijkheid om de balans tussen innovatie en zorgvuldigheid te bewaken. Montferland wil ook ervaringen delen met andere gemeenten om de transitie naar AI te versnellen.

  bron: www.digitaleoverheid.nl

• Ai In De Nederlandse Overheid: Voordelen En Onbekende Risico's

  Uit onderzoek van de Algemene Rekenkamer blijkt dat de Nederlandse overheid momenteel 433 AI-systemen gebruikt of test, met de Nationale Politie en het UWV als grootste gebruikers. Van deze systemen zijn er 120 in gebruik, terwijl 167 nog in experimentele fase zijn. AI wordt voornamelijk ingezet om interne processen te verbeteren en kosten te besparen, maar de risico's van deze toepassingen zijn vaak onbekend. Voor de helft van de AI-systemen is geen risicoafweging gemaakt, en bij een derde van de hoogrisicosystemen ontbreekt ook deze evaluatie. De toetsing van risico's gebeurt niet uniform, wat leidt tot inconsistenties. Staatssecretaris Zsolt Szabó heeft aangegeven dat de overheid werkt aan het screenen van AI-systemen op risico's, in lijn met de nieuwe Europese AI Act. Tegen het einde van het jaar moeten alle hoogrisicosystemen in het Algoritmeregister zijn opgenomen.

  bron: www.techzine.nl

• Rekenkamer Waarschuwt Voor Risico's Van Ai Bij De Overheid

  De Algemene Rekenkamer heeft geconstateerd dat Nederlandse overheidsorganisaties gebruikmaken van minstens 120 AI-systemen, waarvan bijna de helft zonder risicoanalyse is geïmplementeerd. Ewout Irrgang, lid van de Rekenkamer, benadrukt dat zonder een gedegen risico-inschatting, problemen zoals privacyschendingen en discriminatie ongemerkt kunnen optreden. De UWV en de politie zijn de grootste gebruikers van AI, met respectievelijk tien en 23 systemen. Hoewel sommige organisaties de risico's als minimaal inschatten, waarschuwt de Rekenkamer dat zelfs bij lage inschattingen risico's kunnen bestaan. Het onderzoek, dat voor het eerst het gebruik van AI bij de overheid in kaart brengt, toont ook aan dat de effectiviteit van 42 van de 120 systemen onbekend is. De Rekenkamer pleit voor een betere samenhang in risicoanalyses en waarschuwt dat sommige AI-systemen mogelijk onder toekomstige EU-regels verboden kunnen worden.

  bron: tpo.nl

• Overheid Negeert Risico's Van Ai-Systemen

  De overheid maakt steeds meer gebruik van AI-systemen, zoals robothonden voor celinspecties en kunstmatige intelligentie voor het opsporen van belastingfraude. Een onderzoek van de Algemene Rekenkamer onthult echter dat de risico's van deze systemen vaak niet worden ingeschat. Van de 433 AI-systemen die momenteel door de overheid worden gebruikt of getest, wordt bij meer dan de helft geen aandacht besteed aan mogelijke gevaren. Ewout Irrgang van de Algemene Rekenkamer legt in het programma Nieuws en Co uit hoe het komt dat de overheid deze risico's onderschat. Dit roept vragen op over de veiligheid en effectiviteit van de inzet van AI in overheidsprocessen.

  bron: www.nporadio1.nl

• Szabó: Digitale Overheid Kampt Met Versnippering En Traagheid

  Tijdens een debat in de Tweede Kamer heeft staatssecretaris Zsolt Szabó de overheid bekritiseerd vanwege de slechte toegankelijkheid van haar websites, ondanks eerdere wetgeving. Hij benadrukte dat de transparantie van algoritmes en het Algoritmeregister ook onvoldoende aandacht krijgen. Szabó pleit voor een minder vrijblijvende aanpak en overweegt wettelijke verplichtingen voor transparantie. Hij uitte zijn zorgen over de versnippering binnen de digitale overheid, waar ministeries niet als één geheel opereren. Szabó wil doorbraken forceren op gebieden zoals gegevensuitwisseling, soevereine cloud en datagedreven werken. Hij stelt dat de huidige digitalisering vaak beperkt is tot het vervangen van fysieke processen door digitale, terwijl er behoefte is aan een herontwerp van processen met moderne IT-toepassingen. Dit is cruciaal voor het bieden van kwalitatief goede en toegankelijke dienstverlening aan de burgers.

  bron: www.computable.nl