Nauwelijks zicht op 'zwarte zoemende dozen' van overheid: 'Algoritmeregister wassen neus'
Nauwelijks zicht op 'zwarte zoemende dozen' van overheid: 'Algoritmeregister wassen neus'
Het register werd na de toeslagenaffaire opgericht en moet onthullen hoe overheden tot geautomatiseerde besluiten komen. 'Veel blijft onduidelijk.'
Ik heb zelf ook even in het register gekeken, maar ik denk niet dat iemand er iets mee kan. Er staat nul technische informatie over de algoritmes. Voor zelflerende algoritmes staat meestal juist niks over de data bronnen. En de meeste algoritmes die er in staan zijn vooral voor intern gebruik, en heeft het geen enkel effect op de inwoners. Voor zover ik nu kan zien is dit een grote verspilling van belastinggeld.
Ik ben het met je eens dat dit nu veel te beperkt is; maar verspilling wil ik het niet noemen. Er staat nu een basis die goed kan worden uitgebreid met meer technische info / referenties.
Maar er kritisch op zijn in deze vorm lijkt me een goede stimulans dit stevig te verbeteren.
Misschien dat ik nu net het enige goed gedocumenteerde algoritme er uit pak. Maar dit algoritme voor de verkeersimpact van brugopeningen heeft zelfs een wetenschappelijk artikel erbij over de implementatie, inclusief (een deel van) de code voor het trainen van het model, statistieken en details over de infrastructuur van de uiteindelijke applicatie.
Ja, echt teleurstellend. Wat moet je met deze troep? https://algoritmes.overheid.nl/nl/algoritme/33947772#algemeneInformatie
Zolang ze geen code of UML er in zetten zegt het niks.
Wat heb je bij dit voorbeeld aan code? In dit geval gaat het om een kentekendetectie algoritme. Gedetecteerde kentekens worden opgezocht in een database. Voordat een boete wordt uitgeschreven verifieert een persoon het ook nog middels een foto.
Lijkt me verder niet heel relevant hoe die kentekens precies worden gedetecteerd.
Voor kentekendetectie idd niet zo heel spannend, maar voor meer controversieele algoritmes (denk toeslagen) is het wel goed om te weten wat bijvoorbeeld de bron van het zelflerende algoritme is. De bias in dat soort datasets is echt lastig om goed mee om te gaan, zelfs met de beste bedoelingen.