Bias in AI
Wat is Bias in AI?
Bias in AI ontstaat wanneer een model systematisch bepaalde groepen, uitkomsten of perspectieven bevoordeelt of benadeelt. Het model is niet ‘bevooroordeeld’ zoals een mens, maar het reproduceert patronen uit de data waarop het getraind is. Als die data scheef is, is het model scheef.
Voorbeelden: een recruitmentsysteem dat mannelijke kandidaten bevoordeelt omdat de trainingsdata voornamelijk uit mannelijke succesvolle plaatsingen bestond. Een kredietbeoordelingsmodel dat bepaalde postcodes benadeelt. Een gezichtsherkenningssysteem dat minder goed werkt bij mensen met een donkere huidskleur.
Bias kan op meerdere punten ontstaan: in de trainingsdata (niet representatief), in het modelontwerp (bepaalde patronen worden versterkt), in de toepassing (het model wordt gebruikt voor iets waarvoor het niet bedoeld is) of in de evaluatie (je meet niet of het eerlijk werkt).
De oplossing begint met bewustzijn. Test je model op eerlijkheid, gebruik diverse en gebalanceerde trainingsdata, en bouw controles in die structurele scheefheid detecteren.
Voorbeeld uit de praktijk
Visser Elektrotechniek besteedde gemiddeld twintig minuten aan de administratieve verwerking van elk inspectierapport. Met de AI-oplossing van Agentech worden rapporten nu automatisch geanalyseerd en naar de juiste afdeling doorgestuurd. Bij gebreken maakt het systeem ook een bestellijst met artikelnummers, aantallen en locaties. Binnen vijf minuten is de verwerking klaar, zonder handmatig overtypen.
Bekijk de case van Visser ElektrotechniekWat betekent dit voor jouw organisatie?
Agentech test elke AI-oplossing op eerlijkheid en representativiteit. Wij bouwen niet alleen slimme systemen maar ook eerlijke systemen die je als organisatie met vertrouwen kunt inzetten.