Visto che le aziende si affidano sempre più a modelli di machine learning per gestire le proprie attività, è molto importante includere misure anti-bias per garantire che questi non formino ipotesi false o fuorvianti. Ecco perché ieri, durante l’evento re: Invent, Aws ha presentato Amazon SageMaker Clarify.
"Stiamo lanciando Amazon SageMaker Clarify, che consente di avere una visione approfondita dei tuoi dati e modelli durante il ciclo di vita del machine learning ", afferma Bratin Saha, VP Amazon e general manager del machine learning. “È progettato per analizzare i dati per il bias prima di iniziare la preparazione dei dati, in modo che si possano individuare questo tipo di problemi prima ancora di iniziare a costruire il proprio modello”.
Dopo aver creato il modello, è possibile eseguire nuovamente SageMaker Clarify per cercare fattori simili che potrebbero essersi “insinuati” nel modello durante la creazione. "Quindi si inizia facendo analisi statistiche di bias sui propri dati e poi, dopo il training, si può fare di nuovo analisi sul modello", spiega Bratin Saha.
Esistono diversi tipi di bias che possono entrare in un modello a causa del background dei data scientist che lo creano, della natura dei dati e del modo in cui i data scientist interpretano i dati attraverso il modello che hanno costruito. Sebbene ciò possa essere problematico, può anche portare all'estensione degli stereotipi razziali agli algoritmi. Per esempio, i sistemi di riconoscimento facciale si sono dimostrati abbastanza accurati nell'identificazione dei volti con la pelle chiara, ma molto meno quando si tratta di riconoscere le persone di colore.
Potrebbe essere difficile identificare questo tipo di bias con il software, visto che spesso ha a che fare con la tipologia del team e altri fattori che esulano dalle capacità di uno strumento software di analisi, ma Saha afferma che stanno cercando di rendere l'approccio software il più completo possibile.