Gaan algoritmes onze toekomst bepalen?

Voorspellende algoritmes worden al jaren gebruikt, bijvoorbeeld voor opsporing van criminaliteit , maar ook om te voorspellen of een leerling vroegtijdig school gaat verlaten. Computers zoeken verbanden in grote bergen data en komen zo tot bepaalde conclusies. Soms kunnen ze zelf beslissingen nemen, soms wordt de uitkomst eerst door een mens beoordeeld. Steeds meer organisaties gebruiken algoritmes: banken, zorginstellingen, boeren en uiteraard ook de overheid.

Algoritmes worden veel gebuikt om fraude op te sporen. Het zakelijke netwerk LinkedIn blokkeerde in slechts een half jaar tijd meer dan negentien miljoen nepaccounts al bij registratie. Van de nepaccounts werd 98 procent geblokkeerd of verwijderd door automatische systemen met behulp van kunstmatige intelligentie. Ook werden twee miljoen accounts verwijderd die wel door de registratie waren gekomen. Dat gebeurde voordat gebruikers ze konden rapporteren.

Ook andere sociale netwerken hebben last van nepprofielen en gebruiken algoritmes om die te verwijderen. Facebook verwijderde in slechts een kwartaal ruim twee miljard nepaccounts.

Het probleem met algoritmes is dat de uitkomst niet altijd klopt. Te veel organisaties vertrouwen op wat een computer zegt.