Un controverso database di riconoscimento facciale, utilizzato dai dipartimenti di polizia di tutta la nazione, è stato costruito in parte con 30 miliardi di foto che l’azienda ha prelevato da Facebook e altri utenti di social media senza il loro permesso, ha recentemente ammesso il CEO dell’azienda, creando ciò che i critici hanno definito una “polizia perpetua”. line-up”, anche per le persone che non hanno fatto nulla di male.
L’azienda, Clearview AI, vanta il suo potenziale per l’identificazione rivoltosi all’attacco del 6 gennaio al Campidoglio, salvando i bambini vittime di abusi o sfruttamenti e aiutando a scagionare le persone ingiustamente accusate di crimini. Ma i critici sottolineano arresti illeciti alimentati da identificazioni errate fatte dal riconoscimento facciale, compresi i casi in Detroit e Nuova Orleans.
Clearview ha scattato foto all’insaputa degli utenti, ha riconosciuto il suo CEO Hoan Ton-That in un’intervista il mese scorso con il BBC. Ciò ha consentito la rapida espansione dell’enorme database dell’azienda, che viene commercializzato sul suo sito Web alle forze dell’ordine come strumento “per rendere giustizia alle vittime”.
Ton-Che ha detto al BBC che la polizia statunitense ha avuto accesso al database di riconoscimento facciale di Clearview AI quasi un milione di volte dalla fondazione dell’azienda nel 2017, sebbene i rapporti tra le forze dell’ordine e Clearview AI rimangano oscuri e tale numero non possa essere confermato da Insider.
Cosa succede quando si verifica uno scraping non autorizzato
La tecnologia ha attirato a lungo critiche per la sua invadenza sia dai sostenitori della privacy che dalle piattaforme digitali, con le principali società di social media, tra cui Facebook, che hanno inviato lettere di cessazione e desistenza a Clearview nel 2020 per aver violato la privacy dei propri utenti.
“Le azioni di Clearview AI invadono la privacy delle persone, motivo per cui abbiamo bandito il loro fondatore dai nostri servizi e inviato loro una richiesta legale per interrompere l’accesso a qualsiasi dato, foto o video dai nostri servizi”, ha detto un portavoce di Meta in una e-mail a Insider, riferendosi a un dichiarazione rilasciata dalla società nell’aprile 2020 dopo che è stato rivelato per la prima volta che la società stava raschiando le foto degli utenti e collaborando con le forze dell’ordine.
Da allora, ha detto il portavoce a Insider, Meta ha “fatto investimenti significativi nella tecnologia” e dedica “sostanziali risorse del team alla lotta allo scraping non autorizzato sui prodotti Facebook”.
Quando viene rilevato uno scraping non autorizzato, la società può intraprendere azioni “come l’invio di lettere di cessazione e desistenza, disabilitazione degli account, intentare azioni legalio richiedere assistenza ai provider di hosting” per proteggere i dati degli utenti, ha affermato il portavoce.
Tuttavia, nonostante le politiche interne, una volta che una foto è stata ritagliata da Clearview AI, le impronte biometriche dei volti vengono create e confrontate nel database, legando le persone ai loro profili sui social media e ad altre informazioni identificative per sempre – e le persone nelle foto hanno poco ricorso per cercare di rimuovere se stessi.
I residenti dell’Illinois possono rinunciare alla tecnologia (fornendo un’altra foto che secondo Clearview AI verrà utilizzata solo per identificare quali foto archiviate rimuovere) dopo che l’ACLU ha fatto causa alla società ai sensi di una legge sulla privacy in tutto lo stato ed è riuscita a vietare la vendita di Clearview Tecnologia AI a livello nazionale per le imprese private. Tuttavia, i residenti di altri stati non hanno la stessa opzione e la società è ancora autorizzata a collaborare con le forze dell’ordine.
‘Un perpetuo schieramento di polizia’
“Clearview è un affronto totale ai diritti delle persone, punto e basta, e la polizia non dovrebbe essere in grado di utilizzare questo strumento”, ha affermato Caitlin Seeley George, direttore delle campagne e delle operazioni per Fight for the Future, un gruppo di difesa dei diritti digitali senza scopo di lucro. in un’e-mail a Insider, aggiungendo che “senza che le leggi li fermino, la polizia usa spesso Clearview senza che il loro dipartimento ne sia a conoscenza o senza il consenso, quindi Clearview si vanta di quante ricerche sono l’unica forma di ‘trasparenza’ in cui entriamo nell’uso diffuso del riconoscimento facciale È.”
Cnn ha riferito Clearview AI l’anno scorso affermando che i clienti dell’azienda includono “più di 3.100 agenzie statunitensi, tra cui l’FBI e il Dipartimento per la sicurezza interna”. BBC ha riferito che la polizia di Miami ha riconosciuto di utilizzare la tecnologia per tutti i tipi di crimini, dal taccheggio all’omicidio.
Il rischio di essere inclusi in quella che è funzionalmente una “schiera perpetua della polizia” si applica a tutti, comprese le persone che pensano di non avere nulla da nascondere, Matthew Guariglia, analista politico senior per il gruppo internazionale senza scopo di lucro per i diritti digitali Electronic Frontier Fund , ha detto a Insider.
“Non sai cosa devi nascondere”, ha detto Guariglia a Insider. “I governi vanno e vengono e le cose che non erano illegali diventano illegali. E all’improvviso, potresti finire per essere qualcuno che potrebbe essere retroattivamente arrestato e perseguito per qualcosa che non era illegale quando lo hai fatto”.
“Penso che l’esempio principale che stiamo vedendo ora sia l’aborto”, ha continuato, “in cui le persone che hanno ricevuto aborti in uno stato in cui all’epoca era legale, improvvisamente devono vivere nella paura di una sorta di azione penale retroattiva – e all’improvviso ciò che non pensavi di dover nascondere in realtà lo devi nascondere.”
Le foto possono provenire da qualsiasi punto del Web
Anche le persone che sono preoccupate per il rischio che le loro foto vengano aggiunte al database potrebbero finire incluse senza colpa loro, hanno detto sia Seeley George che Guariglia. Il fatto che le persone possano finire nel database di Clearview, nonostante le politiche di Facebook contro lo scraping o le proprie misure di sicurezza personali, è un indicatore del fatto che la privacy “è uno sport di squadra”, ha detto Guariglia a Insider.
“Penso che sia una delle cose nefande al riguardo”, ha detto Guariglia. “Poiché potresti essere molto consapevole di ciò che Clearview fa, e quindi impedire a Google di scansionare i tuoi profili di social media, per assicurarti che l’immagine che pubblichi non sia pubblicamente accessibile sul Web aperto, e pensi ‘questo potrebbe tenermi al sicuro.’ Ma il bello di Clearview è che riconosce le tue foto ovunque sul web”.
Ciò significa, ha detto, che se sei sullo sfondo di una foto di matrimonio, o un tuo amico pubblica una tua foto insieme al liceo, una volta che Clearview ha scattato una foto del tuo viso, creerà una stampa biometrica permanente del tuo volto da inserire nel database.
Clearview e forze dell’ordine
La ricerca nel database di Clearview è solo uno dei molti modi in cui le forze dell’ordine possono utilizzare i contenuti pubblicati sulle piattaforme dei social media per facilitare le indagini, inclusa la richiesta diretta alla piattaforma dei dati degli utenti. Tuttavia, l’uso di Clearview AI o di altre tecnologie di riconoscimento facciale da parte delle forze dell’ordine non è monitorato nella maggior parte degli stati e non è soggetto a regolamentazione a livello nazionale, anche se critici come Seeley George e Guariglia sostengono che dovrebbe essere vietato.
I rappresentanti dell’FBI, del Dipartimento per la sicurezza interna, del Dipartimento di polizia di Los Angeles e del Dipartimento di polizia di New York non hanno risposto immediatamente alle richieste di commento di Insider.
“Questo fa parte dell’opacità sia dei dipartimenti di polizia che di Clearview. Non abbiamo idea se debbano inserire un mandato per eseguire una query, cosa che probabilmente non fanno; non abbiamo idea se le loro richieste siano supervisionate da un supervisore”, ha detto Guariglia a Insider, aggiungendo che il programma viene spesso caricato direttamente sui telefoni degli agenti, spesso all’insaputa o all’insaputa del loro dipartimento.
Dopo l’Illinois causa intentata dall’ACLUClearview ha affermato che avrebbe posto fine alla pratica di offrire account di prova gratuiti a singoli agenti di polizia.
Guariglia ha aggiunto: “Penso che dobbiamo davvero chiederci: quanto rigorosamente vengono monitorate le domande che pongono? Vivi nella paura tutto il tempo di un agente di polizia che tira fuori il telefono durante una protesta, scruta i volti della folla, tutti all’improvviso ottenere i loro profili sui social media, ogni foto in cui sono mai stati, le loro identità – e la minaccia che rappresenta per le libertà civili e la vulnerabilità che si apre alle persone in termini di punizione o rappresaglia.