Rechters verwerpen asielbesluiten wegens mogelijk AI-gebruik
In dit artikel:
In juli vorig jaar oordeelde een rechter dat een plaatsingsbesluit van het Centraal Orgaan opvang asielzoekers (COA) ontoereikend gemotiveerd was omdat niet kon worden uitgesloten dat bij het redigeren van de tekst kunstmatige intelligentie was gebruikt. Het betrof een man die na een vechtpartij twee dagen onder toezicht in Ter Apel was geplaatst; tijdens het beroep stelde de rechter vast dat de onzekerheid over AI-gebruik het besluit juridisch zwak maakte, waarna het werd vernietigd. Het COA is in hoger beroep gegaan en wil vanwege die procedure verder niet inhoudelijk reageren.
Zaken waarbij advocaten vragen of overheidsinstanties AI of algoritmen hebben gebruikt komen steeds vaker voor in procedures rond asielbesluiten. De Immigratie- en Naturalisatiedienst (IND) zegt dat de aandacht “duidelijk toeneemt”: sinds mei vorig jaar hebben advocaten bij zeker veertien asielberoepen het gebruik van AI door de overheid betwijfeld. In minstens drie zaken afgelopen jaar leidde het onvermogen van de overheid om te bewijzen dat er géén AI was gebruikt tot een zogenoemd motiveringsgebrek; de besluiten werden door de rechter verworpen, en in twee van die zaken kwam daar ook inhoudelijke kritiek bij.
Centraal in veel disputen staat het door de IND gebruikte algoritme Case Matcher. Medewerkers gebruiken het om vergelijkbare asielaanvragen te zoeken en daarmee de behandeling te versnellen. De IND noemt het een eenvoudige, regelgebonden zoektool en geen zelflerend systeem; advocaten betwijfelen dat, mede omdat personeel een speciale – volgens de IND een korte online – cursus volgt. In een lopende zaak in Groningen moet de rechter nu vaststellen of Case Matcher inderdaad simpel is of dat sprake is van complexere, mogelijk zelflerende AI. Tot die uitspraak moet de IND expliciet vermelden wanneer het algoritme in besluitvorming is ingezet.
De praktijk leert dat gebrek aan concrete herinnering of registratie vaak doorslaggevend is: in zaken waarin een medewerker zich niet meer kon herinneren of Case Matcher was gebruikt, gebruikte de rechter die onzekerheid als reden om het besluit niet te vertrouwen. Asielrechtadvocaat Edwin Groenenberg zegt dat hij inmiddels standaard vraagt of er op enig moment AI of een algoritme is ingezet; onduidelijkheid leidt volgens hem rechtstreeks tot een motiveringsgebrek.
Bestuursrechtadvocaten juichen de terughoudendheid van rechters toe. Overheidsbesluiten moeten zodanig worden gemotiveerd dat ze controleerbaar zijn; de toeslagenaffaire ligt als waarschuwing op de achtergrond. Juristen wijzen erop dat bij ingrijpende beslissingen over kwetsbare mensen, zoals asielzoekers, de transparantie- en zorgvuldigheidseisen extra hoog liggen. Verwacht wordt dat deze lijn zich niet beperkt tot asielrecht maar zich zal uitbreiden naar andere vormen van geautomatiseerde of semigeautomatiseerde besluitvorming binnen het bestuursrecht. Transparantie over het gebruik van AI wordt daarmee steeds meer een vereist onderdeel van correcte besluitvorming.