Vooringenomenheid is ook bij AI een probleem (leestijd: 8 minuten)

www.wired.com

Een nieuwe studie toont aan dat artificiële intelligentie bestaande stereotypen tussen mannen en vrouwen overnemen. Amerikaanse en Europese onderzoekers presenteerden de cloud image recognition service van Google foto's van leden van het Amerikaanse Congres. Uit de resultaten blijkt dat de AI van Google tot drie keer zoveel fysieke kenmerken labelt bij vrouwen dan bij mannen. Hetzelfde zagen de onderzoekers gebeuren bij concurrerende diensten van Microsoft en Amazon.

De grote schuldige van deze bias is input die het algoritme tijdens de opstart te verwerken krijgt. Mensen moeten in de opstartfase de artificiële intelligentie voeden met data zodat het na verloop van tijd voor zichzelf kan denken. Er werd al langer gedacht dat AI vooringenomen is. Dit en andere gelijkaardige onderzoeken bevestigen dat nu ook. Dat maakt het moeilijk om een van de grootste buzzwords in technologieland op dit moment al te omarmen. Natuurlijk zijn er toepassingen waarbij AI wel zijn nut al bewijst. Zo voorspelt het bijvoorbeeld bij je iPhone wat de optimale laadtijd is voor je batterij. Al zijn dat natuurlijk kleinere toepassingen met minder grote impact.

De diensten van Google, Amazon en Microsoft die onderzocht werden, kunnen op termijn ingezet worden om menselijk werk over te nemen. Denk daarbij bijvoorbeeld aan herkenning van personen of situaties door politiediensten. De grote voorwaarde daarvoor moet natuurlijk wel zijn dat die vooringenomenheid er niet is. Iets wat we ook verwachten van mensen die werken bij de politie, al weten we dat dat ook niet altijd het geval is.

Grote techbedrijven moeten dit onevenwicht nu zien weg te werken. Eén van de manieren om dat te doen, volgens de onderzoekers, is om de trainingsdata van de algoritmes te blijven verbeteren. Al is dit een intensief werk dat nog erg veel menselijke tussenkomsten vraagt. Tot dat opgelost is, moeten we misschien nog niet te hard schreeuwen dat AI de toekomst is.

Lees meer...
Linkedin

Wil je meer soortgelijke content ontvangen?