Questo articolo è un seguito di tipi. Sei mesi fa abbiamo dato la notizia che Microsoft stava lavorando a una soluzione per il software di riconoscimento facciale ritenuto razzista. Ora, l'azienda stessa richiede che il riconoscimento facciale sia regolamentato per prevenire i pregiudizi. Quindi è stato impostato con software di parte e ora vogliono che l'intero settore sia regolamentato per impedire a chiunque altro di ottenere software di parte razziale.
Link veloci
Problema primario
Come riportato a giugno, l'API dell'interfaccia utente di Microsoft, basata su Azure, è stata criticata in un documento di ricerca. Il programma ha avuto difficoltà a riconoscere le persone di colore scuro o le donne. Il tasso di errore raggiungeva il 20.8%, ma con "volti maschili più chiari" il tasso di errore era pari allo zero%.
La ragione di questa differenza di riconoscimento è che l'IA deve essere programmata dalle persone. I risultati saranno buoni solo come le persone che hanno fatto la programmazione. I programmatori Microsoft non hanno utilizzato abbastanza persone con carnagioni più scure o abbastanza donne.
Microsoft ha risolto questo problema diversificando i suoi dati di addestramento e ha iniziato a testare i suoi sistemi internamente prima della distribuzione. Sono stati in grado di ridurre il tasso di errore per le persone di carnagione scura fino a venti volte e il tasso di errore per le donne di nove volte.
Pagare per la legislazione
Sei mesi dopo, ho chiesto Microsoft dai governi per approvare la legislazione che richiede il test della tecnologia di riconoscimento facciale in modo indipendente per garantire che sia accurato, per prevenire pregiudizi e per proteggere i diritti degli utenti.
"Il genio del riconoscimento facciale, per così dire, è appena uscito dalla bottiglia", ha affermato Brad Smith, consulente senior di Microsoft, in un post sul blog.
“Se non agiamo, rischiamo di svegliarci tra cinque anni e scoprire che i servizi di riconoscimento facciale sono proliferati in modi che esacerbano i problemi sociali. A quel punto, queste sfide saranno molto più difficili.
La società chiede che i risultati del riconoscimento facciale vengano esaminati dalle persone anziché essere lasciati ai computer.
"Ciò include i luoghi in cui le decisioni possono comportare rischi di danni fisici o emotivi per il consumatore, dove potrebbero esserci implicazioni per i diritti umani o i diritti fondamentali e dove la libertà personale o la privacy personale del consumatore potrebbero essere violate".
Inoltre, Smith ha suggerito che coloro che utilizzano il riconoscimento facciale devono "riconoscere di non essere stati sollevati dall'obbligo di rispettare le leggi che vietano la discriminazione contro singoli consumatori o gruppi di consumatori".
Voleva anche assicurarsi che l'uso del riconoscimento facciale da parte del governo non corrispondesse alle libertà democratiche e ai diritti umani delle persone.
"Dobbiamo assicurarci che l'anno 2024 non sembri una pagina del romanzo 1984", ha concluso.
Inoltre esso
Microsoft ha ragione, ovviamente. È interessante notare che sei mesi fa non hanno riconosciuto la necessità di stare attenti che i loro programmi non si distinguessero, e ora non solo se ne rendono conto, ma vogliono anche assicurarsi che nessun altro possa commettere gli stessi errori. Loro fecero.
Indipendentemente dal loro stato precedente, Microsoft ha il diritto di richiedere la legislazione e il controllo delle opzioni di riconoscimento facciale? Raccontaci i tuoi pensieri sull'ordine di Microsoft nella sezione commenti qui sotto.
