Kunstmatige intelligentie is niet eenvoudig en zelfs bij bedrijven met uitgebreide ontwikkelingservaring op dit gebied kunnen er problemen mee ontstaan. Het gebeurde ook met Amazone. Zoals het persbureau Reuters meldt: “Het bedrijf moest afzien van een project op basis van AI dat automatisch personeel selecteerde. Zijn grootste probleem is de onderdrukking van vrouwen."
In de meeste gevallen wordt AI-training gedaan door historische gegevens te analyseren. Hun veel voorkomende probleem is het uitvoeren van taken op basis van "vooroordelen". In dit geval was het "vooroordeel" een aanzienlijk aantal mannen die op IT-gebied werkten. De software heeft een algoritme ontwikkeld dat vragenlijsten rangschikt die vrouwencolleges vermelden en die het woord "vrouwen" op de laatste plaatsen in de beoordeling bevatten.
Lees ook: Amazon lanceert Echo Wall Clock met ondersteuning voor Alexa stemassistent
"Het ontwikkelingsteam heeft geprobeerd een programma te ontwikkelen dat uit 100 ingediende aanvragen de beste 5 selecteert, op basis van bepaalde criteria." - meldt een naamloze bron.
Lees ook: Amazon presenteert de vernieuwde Echo Show slimme speaker met een groot 10-inch display
Toen het bedrijf besefte dat het programma resultaten opleverde op basis van genderverschillen, besloot het de AI-algoritmen aan te passen. De reputatie van het project werd echter ondermijnd. Bovendien waren er geen garanties dat er geen andere "vooroordelen" in het programma zaten. Daarom besloot Amazon, zonder lang na te denken, het project tot betere tijden te dekken.
We kunnen alleen maar hopen dat het project zal worden gecorrigeerd en gebruikers zal blijven verrassen met eerlijke resultaten.
bron: de rand
Laat een reactie achter