Amazon pronto a ribellarsi contro il riconoscimento facciale

Ricognizione Copyright dell'immagine
Amazon

Didascalia immagine

Il riconoscimento può abbinare le foto a database contenenti volti di milioni di persone

Si prevede che l'opposizione alla vendita della sua tecnologia di riconoscimento facciale da parte di Amazon alle forze di polizia statunitensi si dissiperà durante l'assemblea generale annuale di mercoledì.

Gli azionisti voteranno due volte sul problema.

In primo luogo, se la società dovrebbe smettere di offrire il proprio sistema di riconoscimento alle agenzie governative.

E poi, sulla desiderabilità di commissionare uno studio indipendente per determinare se la tecnologia stesse minacciando la società civile

La votazione non è vincolante, il che significa che i leader non devono intraprendere azioni specifiche, indipendentemente dal risultato.

Amazon ha cercato di bloccare i voti, ma la Securities and Exchange Commission ha detto loro che non avevano il diritto di farlo.

Copyright dell'immagine
Amazon

Didascalia immagine

Il riconoscimento dà una nota di fiducia sull'adeguatezza del volto di una persona.

"Speriamo di poter contare sul supporto di altri investitori, che incoraggeranno la società a non chiudere le vendite ai governi finché non saranno in grado di mitigare i rischi." Mary Beth Gallagher della Coalizione dei tre Stati per gli investimenti responsabili ha detto alla BBC.

"Ciò potrebbe consentire un monitoraggio massiccio, anche se la tecnologia era precisa a 100%, che, ovviamente, non lo è.

"Non lo facciamo." La polizia vorrà che le forze dell'ordine la usino a causa dell'impatto che avrà sulla società. Questo potrebbe limitare la volontà delle persone di andare negli spazi pubblici dove pensano di poter essere seguiti. "

Amazon ha chiesto ai suoi azionisti di votare contro le proposte dicendo che non ha ricevuto alcuna segnalazione che il sistema sia stato usato in modo pregiudizievole.

"[Riconoscimento è] uno strumento potente (...) per le forze dell'ordine e le agenzie governative per catturare criminali, prevenire il crimine e localizzare le persone scomparse" le sue note AGM indicano lo stato .

"N La nuova tecnologia non dovrebbe essere vietata o condannata a causa del suo potenziale uso improprio. "

Copyright dell'immagine
Amazon

Didascalia immagine

Amazon ha promosso la sua tecnologia come strumento per combattere il crimine.

Partite tra le facce

Rekognition è uno strumento online che funziona con entrambi i video e le immagini fisse. Permette agli utenti di abbinare i volti agli argomenti pre-scannerizzati in un database contenente fino a 20 milioni di persone.

In tal modo, dà un accenno di fiducia per quanto riguarda la precisione dell'identificatore.

Inoltre, può:

  • rilevare "contenuto non sicuro", ad esempio, se ci sono vestiti di nudità o "rivelatori"
  • suggerire se un soggetto è un uomo o una donna
  • deduci l'umore di una persona
  • individuare il testo nell'immagine e trascriverlo per l'analisi

Amazon raccomandare alle forze dell'ordine utilizzare solo il servizio se esiste un indice di confidenza superiore o uguale a 99% per una corrispondenza e affermando che dovrebbe essere trasparente per quanto riguarda il suo utilizzo.

Copyright dell'immagine
Amazon

Didascalia immagine

Il riconoscimento può essere utilizzato per segnalare "contenuti suggestivi".

Ma una forza che usa la tecnologia - l'ufficio dello sceriffo della contea di Washington a Hillsboro, Oregon - - ha detto al Washington Post che lo ha fatto senza imporre una soglia di confidenza minima, e ha avuto schizzi di polizia bianchi nel sistema, oltre alle foto.

Una seconda forza a Orlando, in Florida, ha anche testato il sistema . Ma Amazon non ha rivelato il numero di autorità pubbliche che l'hanno fatto.

Algoritmi alterati?

Parte del fascino di Rekognition è che è meno costoso da usare rispetto a molte altre tecnologie di riconoscimento facciale.

Ma uno studio pubblicato a gennaio I ricercatori del Massachusetts Institute of Technology e dell'Università di Toronto hanno suggerito che gli algoritmi di Amazon sono più prevenuti in termini di genere e razza rispetto a quattro prodotti concorrenti.

È stato affermato che Rekognition ha avuto un tasso di errore di 0% nella classificazione della pelle chiara. uomini come tali in un test, ma un tasso di errore di 31,4% nella categorizzazione delle donne con la pelle più scura.

Copyright dell'immagine
Amazon

Didascalia immagine

Amazon ha dichiarato di aver testato immagini di uomini e donne di sei origini etniche per verificare eventuali segni di parzialità

Amazon sfidato le conclusioni sostenendo che i ricercatori avevano usato "una versione obsoleta" del suo strumento e che i suoi stessi controlli avevano rivelato "nessuna differenza" nella classificazione di genere tra i gruppi etnici.

Même gruppi di libertà civili et centinaia di lavoratori amazzonici .

Gallagher ha detto che gli azionisti temevano che le vendite di Rekognition alla polizia continuassero. rischio di danneggiare lo status di Amazon come "una delle istituzioni più affidabili negli Stati Uniti".

Ma uno dei direttori di Amazon Web Services - la divisione responsabile - ha detto che spetta ai politici decidere se le restrizioni dovrebbero essere imposte.

Copyright dell'immagine
Amazon

Didascalia immagine

Il riconoscimento può dare una valutazione di fiducia per diverse caratteristiche.

"Le organizzazioni appropriate per affrontare il problema sono i responsabili del governo", ha detto Ian Massingham alla BBC.

"L'unica cosa che direi della tecnologia di deep learning è che gran parte della tecnologia si basa su risorse accademiche disponibili al pubblico. non puoi davvero rimettere il genio nella bottiglia.

"Una volta pubblicata la ricerca, è difficile" disinventare "qualcosa.

"Il nostro obiettivo è quindi quello di garantire il corretto governo e controlli legislativi. "

Questo articolo è apparso per primo https://www.bbc.com/news/technology-48339142